ZAO可能产生的潜在危险和不安全性,也是人工智能为社会提供产品的同时人们必然面临的挑战。
名为ZAO的AI换脸软件红遍网络,然而好景不长,一夜爆红“ZAO”的微信分享链接目前已经被停止访问了。关于“ZAO”刷屏后所带来的隐私焦虑与风险担忧,仍在蔓延。
实际上,ZAO软件就是一款经改造的换脸APP,2017年发源于美国,称Deepfakes,是深度机器学习(deep machine learning)和假照片(fake photo)的简称(合称),最生动的称呼是深度(照片)造假。
既然是造假,当然要禁止。它不仅可能产生因个人信息泄露带来的种种不安全,如果涉及犯罪,轻而易举的换脸操作也会让真假罪犯难辨,同时加大司法成本。当然,在一些国家,如美国,换脸还可能成为反恐的梦魇,既可以让恐怖分子很容易通过换脸作案和逃脱,也加大了安全部门反恐的难度。
所有这些问题都是ZAO和相似软件可能产生的潜在危险和不安全性,这也是人工智能为社会提供产品的同时人们必然面临的挑战。因此,如何监管才是最现实和最严峻的问题。
现在ZAO软件就面临着管理者禁与放的困难抉择。而对于换脸,美国欧盟等认为,即便是潜在的威胁,也极其严重,必须先出手防范。
今年1月28日,美国卡内基国际和平基金会专门发表文章《国家如何应对Deepfakes?》,指出,以Deepfakes为代表的换脸技术具有一系列潜在的危害,包括煽动政治暴力、破坏选举、扰乱外交关系、提供虚假证据并干扰司法、实施敲诈等,希望各国明确定义Deepfakes的不正当使用,亟须社会定义什么可以接受,什么不可以接受,这既有利于社会和法律的管理,也有利于社交媒体规范其平台,管理网上内容。
今年6月13日,美国众议院情报委员会对Deepfakes举行了听证会,会上该委员会主席、众议员亚当·希夫称,篡改视频的传播为2020年总统大选带来了一种“噩梦般的”场景,让议员、新闻媒体和公众“难以分辨什么是真实的,什么是虚假的”。因此,他和美国马里兰法学院教授达尼埃尔·西特龙建议国会考虑对《通信规范法》第230条(互联网服务不必为其用户的行为负责)进行修改,以打击Deepfakes,保护用户免受假新闻的误导。
针对Deepfakes换脸技术产生的具有破坏性的危险性内容,欧盟也在2019年初出台了应对指南,以帮助公众分辨某条信息的来源,信息是如何产生的以及信息是否值得信赖。
可以看到,对换脸技术的潜在危险极为重视的美国和欧盟现在还没有出台法律予以禁止,只是在进行论证。但迫于压力,美国的Reddit上关于换脸技术的讨论版被删除,换脸技术也在美国被全网封禁,其GitHub开源代码也被清除。
尽管目前看来,ZAO软件还没有造成实际上的危害,但是,正如网友所指出,一个潜在危害非常实在:“有手机号,有面部图像,通过技术合成,犯罪分子可以替你和你家人通话了。”因此,公众的担心并非杞人忧天,有必要及早以明确的法律条款予以规范。
上一篇:传呼机已经退出历史舞台了?事实恰恰相反
下一篇:1983款任天堂拆解:当年的电子技术为何如此优秀?
推荐阅读
史海拾趣
为了进一步扩大市场份额和影响力,CNC Tech公司积极实施全球化战略。公司通过参加国际展会、设立海外分支机构等方式,加强与全球客户的交流与合作。同时,CNC Tech还积极引进国际先进的技术和管理经验,不断提升自身的竞争力。在全球化战略的推动下,CNC Tech的产品和服务逐渐打入国际市场,赢得了全球客户的认可和信赖。
随着公司规模的扩大,ATO SOLUTION公司开始实施全球化战略布局。公司先后在多个国家和地区设立了研发中心和生产基地,充分利用当地资源和市场优势,提升整体竞争力。同时,公司还加强了与国际知名企业的合作,共同推动电子行业的发展和创新。
面对日益激烈的市场竞争,Chipcon AS公司积极寻求与其他企业的技术合作。通过与一家知名的半导体公司建立战略合作关系,双方共同研发了一款具有划时代意义的智能传感器芯片。这款芯片不仅集成了多种传感器功能,还具备高度集成和智能化的特点,为物联网领域的发展提供了有力支持。通过技术合作,Chipcon AS公司不仅提升了自身的技术实力,还拓展了市场份额。
在智能手机行业快速发展的背景下,某知名手机制造商面临着如何将更多功能集成到更小空间的挑战。通过引入DFX的设计理念,该公司成功实现了硬件的小型化,同时保持了高性能和可靠性。通过优化内部布局、采用先进封装技术和选用高性能元器件,该手机制造商在保持产品竞争力的同时,满足了消费者对轻薄、高性能手机的需求。
某半导体企业在生产过程中面临着生产效率低下、成本过高的问题。为了提高生产效率并降低成本,该企业引入了DFX的设计理念,对生产线进行了全面优化。通过改进设备布局、优化工艺流程和采用自动化生产技术等手段,该企业成功提高了生产效率并降低了成本,增强了市场竞争力。
身边有车的朋友越来越多,汽车已经成为许多中国人离开住所后最先进入的地方,这样看来,把汽车称作一个可以把人们护送到目的之地的“移动之家”亦不为过。人们希望在自己的家庭中感受到安全、温暖、舒适,愉快;推广开来,在离开家门进入爱车的时刻 ...… 查看全部问答∨ |
|
本帖最后由 paulhyde 于 2014-9-15 09:01 编辑 我是一名电子信息工程专业的大四学生,开学后马上要面临考研和工作的问题。 在假期经过几天的考虑,我觉得目前相对考研,如果先工作的话似乎能在两年的时间里学到更多贴近实际的知识和技术,到那时 ...… 查看全部问答∨ |
各位, 在wince6.0中,中断方式和查询方式有什么不同? 读EEPROM和摄像头一般是用什么方式? 在注册表里也有个默认的方式设置。 ;------------------------------------------------------------------------- ;------------ I2C Bus Driver - ...… 查看全部问答∨ |
我用8962的spi去驱动12864,为什么无论怎么配置都无法驱动成功啊,屏幕总是出雪花,一般这种情况我认为是传输太快造成的,有高手 驱动成功过吗??求教!… 查看全部问答∨ |
我做的是IMBE语音编码算法的移植,IMBE主程序已经编译通过 且运行正常 现在要做的就是来一段语音 模拟编码和解码一下 看看合成出的语音质量 还有编码速率。请问 我们老师说要下载一个wavread.c文件 来读入语音 可是 要怎么实现读入语音程序 ...… 查看全部问答∨ |