历史上的今天

今天是:2024年09月05日(星期四)

正在发生

2019年09月05日 | 好玩的AI换脸APP,潜在危险和不安全性不可小觑

发布者:红尘清梦 来源: eefocus关键字:ZAO  人工智能  深度机器学习 手机看文章 扫描二维码
随时随地手机看文章

ZAO可能产生的潜在危险和不安全性,也是人工智能为社会提供产品的同时人们必然面临的挑战。

  

名为ZAO的AI换脸软件红遍网络,然而好景不长,一夜爆红“ZAO”的微信分享链接目前已经被停止访问了。关于“ZAO”刷屏后所带来的隐私焦虑与风险担忧,仍在蔓延。

  

实际上,ZAO软件就是一款经改造的换脸APP,2017年发源于美国,称Deepfakes,是深度机器学习(deep machine learning)和假照片(fake photo)的简称(合称),最生动的称呼是深度(照片)造假。

  

既然是造假,当然要禁止。它不仅可能产生因个人信息泄露带来的种种不安全,如果涉及犯罪,轻而易举的换脸操作也会让真假罪犯难辨,同时加大司法成本。当然,在一些国家,如美国,换脸还可能成为反恐的梦魇,既可以让恐怖分子很容易通过换脸作案和逃脱,也加大了安全部门反恐的难度。

  

所有这些问题都是ZAO和相似软件可能产生的潜在危险和不安全性,这也是人工智能为社会提供产品的同时人们必然面临的挑战。因此,如何监管才是最现实和最严峻的问题。

  

现在ZAO软件就面临着管理者禁与放的困难抉择。而对于换脸,美国欧盟等认为,即便是潜在的威胁,也极其严重,必须先出手防范。

  

今年1月28日,美国卡内基国际和平基金会专门发表文章《国家如何应对Deepfakes?》,指出,以Deepfakes为代表的换脸技术具有一系列潜在的危害,包括煽动政治暴力、破坏选举、扰乱外交关系、提供虚假证据并干扰司法、实施敲诈等,希望各国明确定义Deepfakes的不正当使用,亟须社会定义什么可以接受,什么不可以接受,这既有利于社会和法律的管理,也有利于社交媒体规范其平台,管理网上内容。


今年6月13日,美国众议院情报委员会对Deepfakes举行了听证会,会上该委员会主席、众议员亚当·希夫称,篡改视频的传播为2020年总统大选带来了一种“噩梦般的”场景,让议员、新闻媒体和公众“难以分辨什么是真实的,什么是虚假的”。因此,他和美国马里兰法学院教授达尼埃尔·西特龙建议国会考虑对《通信规范法》第230条(互联网服务不必为其用户的行为负责)进行修改,以打击Deepfakes,保护用户免受假新闻的误导。

  

针对Deepfakes换脸技术产生的具有破坏性的危险性内容,欧盟也在2019年初出台了应对指南,以帮助公众分辨某条信息的来源,信息是如何产生的以及信息是否值得信赖。

  

可以看到,对换脸技术的潜在危险极为重视的美国和欧盟现在还没有出台法律予以禁止,只是在进行论证。但迫于压力,美国的Reddit上关于换脸技术的讨论版被删除,换脸技术也在美国被全网封禁,其GitHub开源代码也被清除。

  

尽管目前看来,ZAO软件还没有造成实际上的危害,但是,正如网友所指出,一个潜在危害非常实在:“有手机号,有面部图像,通过技术合成,犯罪分子可以替你和你家人通话了。”因此,公众的担心并非杞人忧天,有必要及早以明确的法律条款予以规范。


关键字:ZAO  人工智能  深度机器学习 引用地址:好玩的AI换脸APP,潜在危险和不安全性不可小觑

上一篇:传呼机已经退出历史舞台了?事实恰恰相反
下一篇:1983款任天堂拆解:当年的电子技术为何如此优秀?

推荐阅读

   由于人脸识别需要在手机正面放很多的零部件,导致了刘海屏设计的产生,加上消费者的审美疲劳,使得不少手机厂商开始重视起屏幕指纹技术来,像魅族16、OPPO R17、vivo X23等都采用了该技术,就连安卓霸主三星也有推出使用屏幕指纹技术手机的计划,然而却一个大厂例外。这个大厂便是Face ID人脸识别的开创者苹果,在知名供应链分析师郭铭琪的最新报...
据《南华早报》报道,北京大学教授、半导体业资深人士周治平称,中国至少需要“5到10年时间”才能在半导体领域赶上美国、韩国等国家。 周治平教授在《南华早报》的采访中谈到中国半导体行业的现状。在采访中,周教授表示,当前,中国在半导体制造方面,我们可以做14纳米(在硅片上制造集成电路的制造工艺)。但相比之下,美国和中国台湾的半导体公司已经实现...
彭博引述知情人士消息称,荷兰政府极有可能不会给予ASML向中国出货EUV光刻机的许可证。一年前的许可证到期后,在美国施加压力下,ASML没有获得续签,因而本该在2018年就“到货”的EUV光刻机无法完成交付给中芯国际。近日中国外交部长王毅在欧洲五国进行访问,来到第二站荷兰后,ASML EUV光刻机是否能出口至美国的问题备受关注。彭博表示,中美关系日渐紧...
郑州2021年9月3日 /美通社/ -- 8月31日,宇通动力电池安全防护标准发布会暨动力电池安全试验进行了全球直播,首次发布其最新电动客车安全技术 -- 宇通动力电池安全防护标准。这将成为全世界首个批量应用于商用车的动力电池安全技术。从整车、系统、箱体、部件和监控构建五重防护体系,实现安全级别、全气候能力和路况适应性三大提升。研究表明,超过3...

史海拾趣

问答坊 | AI 解惑

qtopia中文支持问题

一,怎么汉化应用程序? 二,IE上显示乱码,怎么解决啊?主要还是不支持中文的缘故.…

查看全部问答∨

什么样的汽车可以令我们感到温暖

身边有车的朋友越来越多,汽车已经成为许多中国人离开住所后最先进入的地方,这样看来,把汽车称作一个可以把人们护送到目的之地的“移动之家”亦不为过。人们希望在自己的家庭中感受到安全、温暖、舒适,愉快;推广开来,在离开家门进入爱车的时刻 ...…

查看全部问答∨

关于电子设计工程师职业和前景的疑问

本帖最后由 paulhyde 于 2014-9-15 09:01 编辑 我是一名电子信息工程专业的大四学生,开学后马上要面临考研和工作的问题。 在假期经过几天的考虑,我觉得目前相对考研,如果先工作的话似乎能在两年的时间里学到更多贴近实际的知识和技术,到那时 ...…

查看全部问答∨

wince6.0中IIC中的中断和查询方式

各位, 在wince6.0中,中断方式和查询方式有什么不同? 读EEPROM和摄像头一般是用什么方式? 在注册表里也有个默认的方式设置。 ;------------------------------------------------------------------------- ;------------ I2C Bus Driver - ...…

查看全部问答∨

哈哈 今天的第一帖又是我发的!~

本帖最后由 ddllxxrr 于 2016-1-7 17:15 编辑 哈哈 今天的第一帖又是我发的!~ …

查看全部问答∨

我的车库门摇控器上的LSD2262 芯片坏了...

请问贵网站的LSD2262 芯片能替换上去吗..!!!直接取下焊上就能用吗!!!先谢谢!!!我是菜鸟…

查看全部问答∨

求救8962的硬件spi问题

我用8962的spi去驱动12864,为什么无论怎么配置都无法驱动成功啊,屏幕总是出雪花,一般这种情况我认为是传输太快造成的,有高手 驱动成功过吗??求教!…

查看全部问答∨

如何在ccs软件仿真上实现语音的的处理,

我做的是IMBE语音编码算法的移植,IMBE主程序已经编译通过 且运行正常 现在要做的就是来一段语音 模拟编码和解码一下 看看合成出的语音质量 还有编码速率。请问 我们老师说要下载一个wavread.c文件 来读入语音  可是 要怎么实现读入语音程序 ...…

查看全部问答∨

学习很累!

哎,研究生生活马上过去一半了,回望着一年确实学到了不少东西,感觉自己能力提高了些许,但是还是很多细节的方面需要加强,继续努力,加油!…

查看全部问答∨

如何选用达到一定压力才输出数字量的传感器?

请问一个系统需要测量一定的压力,当有一定大小压力时认为有人经过,请问应如何选用这样的传感器?…

查看全部问答∨
小广播
最新嵌入式文章
何立民专栏 单片机及嵌入式宝典

北京航空航天大学教授,20余年来致力于单片机与嵌入式系统推广工作。

 
EEWorld订阅号

 
EEWorld服务号

 
汽车开发圈

电子工程世界版权所有 京ICP证060456号 京ICP备10001474号-1 电信业务审批[2006]字第258号函 京公网安备 11010802033920号 Copyright © 2005-2024 EEWORLD.com.cn, Inc. All rights reserved