好玩的AI换脸APP，潜在危险和不安全性不可小觑

分享到: 微博; QQ; 微信; LinkedIn

ZAO可能产生的潜在危险和不安全性，也是人工智能为社会提供产品的同时人们必然面临的挑战。

名为ZAO的AI换脸软件红遍网络，然而好景不长，一夜爆红“ZAO”的微信分享链接目前已经被停止访问了。关于“ZAO”刷屏后所带来的隐私焦虑与风险担忧，仍在蔓延。

实际上，ZAO软件就是一款经改造的换脸APP，2017年发源于美国，称Deepfakes，是深度机器学习（deep machine learning）和假照片（fake photo）的简称（合称），最生动的称呼是深度（照片）造假。

既然是造假，当然要禁止。它不仅可能产生因个人信息泄露带来的种种不安全，如果涉及犯罪，轻而易举的换脸操作也会让真假罪犯难辨，同时加大司法成本。当然，在一些国家，如美国，换脸还可能成为反恐的梦魇，既可以让恐怖分子很容易通过换脸作案和逃脱，也加大了安全部门反恐的难度。

所有这些问题都是ZAO和相似软件可能产生的潜在危险和不安全性，这也是人工智能为社会提供产品的同时人们必然面临的挑战。因此，如何监管才是最现实和最严峻的问题。

现在ZAO软件就面临着管理者禁与放的困难抉择。而对于换脸，美国欧盟等认为，即便是潜在的威胁，也极其严重，必须先出手防范。

今年1月28日，美国卡内基国际和平基金会专门发表文章《国家如何应对Deepfakes？》，指出，以Deepfakes为代表的换脸技术具有一系列潜在的危害，包括煽动政治暴力、破坏选举、扰乱外交关系、提供虚假证据并干扰司法、实施敲诈等，希望各国明确定义Deepfakes的不正当使用，亟须社会定义什么可以接受，什么不可以接受，这既有利于社会和法律的管理，也有利于社交媒体规范其平台，管理网上内容。

今年6月13日，美国众议院情报委员会对Deepfakes举行了听证会，会上该委员会主席、众议员亚当·希夫称，篡改视频的传播为2020年总统大选带来了一种“噩梦般的”场景，让议员、新闻媒体和公众“难以分辨什么是真实的，什么是虚假的”。因此，他和美国马里兰法学院教授达尼埃尔·西特龙建议国会考虑对《通信规范法》第230条（互联网服务不必为其用户的行为负责）进行修改，以打击Deepfakes，保护用户免受假新闻的误导。

针对Deepfakes换脸技术产生的具有破坏性的危险性内容，欧盟也在2019年初出台了应对指南，以帮助公众分辨某条信息的来源，信息是如何产生的以及信息是否值得信赖。

可以看到，对换脸技术的潜在危险极为重视的美国和欧盟现在还没有出台法律予以禁止，只是在进行论证。但迫于压力，美国的Reddit上关于换脸技术的讨论版被删除，换脸技术也在美国被全网封禁，其GitHub开源代码也被清除。

尽管目前看来，ZAO软件还没有造成实际上的危害，但是，正如网友所指出，一个潜在危害非常实在：“有手机号，有面部图像，通过技术合成，犯罪分子可以替你和你家人通话了。”因此，公众的担心并非杞人忧天，有必要及早以明确的法律条款予以规范。

关键字：ZAO 人工智能深度机器学习引用地址：好玩的AI换脸APP，潜在危险和不安全性不可小觑

上一篇：传呼机已经退出历史舞台了？事实恰恰相反
下一篇：1983款任天堂拆解：当年的电子技术为何如此优秀？

推荐阅读

2018年09月05日 | STM32看门狗 IWDG WWDG

独立看门狗 IWDG 窗口看门狗 WWDG 对于一般的看门狗，程序可以在它产生复位前的任意时刻刷新看门狗，但这有一个隐患，有可能程序跑乱了又跑回到正常的地方，或跑乱的程序正好执行了刷新看门狗操作，这样的情况下一般的看门狗就检测不出来了；如果使用窗口看门狗，程序员可以根据程序正常执行的时间设置刷新看门狗的一个时间窗口，保证不会提前刷...

2019年09月05日 | 兆芯携产业合作伙伴解决方案亮相 IC China 2019

9月3-5日，兆芯在第二届全球IC企业家大会暨第十七届中国国际半导体博览会（IC China 2019）上，展示了基于最新一代处理器开先KX-6000的笔记本和台式机电脑，以及基于前两代处理器的热门工业控制计算机、金融自助机、防火墙、Box-PC等典型应用案例。此次兆芯在工信部高端芯片展区和中关村集成电路产业园展区两处同时亮相，通过海报介绍、现场宣讲以及最...

2020年09月05日 | 三星在EMEA平板电脑市场持续领先，联想增长最高

据国际数据公司（IDC）最新数据，欧洲，中东和非洲（EMEA）平板电脑市场同比增长23.8％，实现了自2013年以来最强劲的增长，在2020年第二季度达到1190万台。平板电脑市场增长的主要原因是今年疫情大流行，人们居家隔离需要购买用于休闲和教育的设备。今年第二季度，西欧平板电脑市场同比增长28.3％，而中欧和东欧（CEE）以及中东和非洲（MEA）分别同比增长2...

2021年09月05日 | 伏达半导体推出50W车载无线充解决方案，充电效率高达77%

伏达半导体（NuVolta Technologies，以下简称伏达）今日宣布推出首款针对车载市场的高功率无线充电参考设计 -- NVTREF8040Q，基于伏达在手机无线充电领域的多年积累，这款无线充电发射端方案集高集成度、高效率与高功率三位于一体，应用于车载前装市场。随着NVTREF8040Q的推出，将为客户提供效率更高、充电更自由、更安全的无线充电解决方案。1. 伏达发...

史海拾趣

Digilent公司的发展小趣事

DIALIGHT在全球范围内不断拓展业务，目前在美国、英国、丹麦、德国、马来西亚、新加坡、澳大利亚、墨西哥和巴西等地设有业务。公司的LED产品广泛应用于各种工业场所，包括石油和天然气、矿业、化工、制造业等。通过提供定制化的照明解决方案，DIALIGHT赢得了众多客户的信赖和好评。

Asian Best Components Co Ltd公司的发展小趣事

随着国内市场的日益饱和，Asian Best Components Co Ltd开始将目光投向了广阔的国际市场。公司积极参加国际电子展会，与全球各地的客户建立了广泛的联系。通过深入了解不同市场的需求和特点，Asian Best不断调整产品策略，优化产品设计，成功打入多个国际市场。同时，公司还加强与国际同行的合作，共同推动电子行业的发展。

台湾义隆电子(ELAN)公司的发展小趣事

义隆电子非常重视研发实力和人才培养。公司拥有一支高素质的研发团队，员工总数的七成以上为研发人才。公司每年投入大量资金用于研发新产品，并注重培养员工的创新能力和实践能力。此外，义隆电子还与国内外知名学府合作，共同培养高素质的人才，为公司的长期发展提供了有力保障。

冠图电子(GTL-POWER)公司的发展小趣事

台湾义隆电子自1994年成立以来，一直秉持着技术创新的发展理念。公司早期专注于集成电路（IC）产品的研发与行销，随着市场需求的不断变化，产品线逐渐扩展到消费性芯片、通讯类芯片、微控制器等多个领域。义隆电子通过不断的技术创新，成功推出了多款具有市场竞争力的产品，如高性能的触摸屏控制器、触摸板模块等，实现了产品的多元化。

Flamar公司的发展小趣事

随着电子行业的全球化趋势日益明显，Flamar公司积极实施国际化战略，通过设立海外研发中心、生产基地和销售网络，不断拓展全球市场。公司先后在欧洲、亚洲等地建立分支机构，与当地企业建立紧密的合作关系，共同推动电子技术的创新与应用。通过国际市场的开拓，Flamar公司不仅实现了业务规模的快速增长，还进一步提升了品牌的国际知名度和影响力。

德旭电子(DEXU)公司的发展小趣事

在德旭电子的发展历程中，供应链管理和成本控制一直是公司关注的重点。为了降低生产成本和提高产品质量，公司不断优化供应链管理流程和技术手段。

德旭电子与多家优质供应商建立了长期稳定的合作关系，并通过引入先进的供应链管理软件和系统实现了供应链的数字化和信息化管理。这些措施有效提高了供应链的响应速度和灵活性，降低了库存和运营成本。

在成本控制方面，德旭电子注重精细化管理和持续改进。公司通过优化生产流程、提高生产效率、降低能耗和原材料成本等措施不断降低生产成本。同时，公司还建立了完善的成本管理体系和考核机制确保成本控制工作的有效实施。

问答坊 | AI 解惑

美国国家半导体电源管理、放大器技术研讨会主讲者：MartinGiles：（美国国家半导体产品应用经理）顾玮：（美国国家半导体电源产品部资深应用工程师）张传庸：（美国国家半导体通信接口产品部应用工程组主管）第一场:标题：美国国家半导体:模拟的艺术--电源管理、放大器技术研讨 ...… 查看全部问答∨	小点阵汉显液晶模块及其应用 HZ132-64B30是一种采用12×12点阵的小点阵汉字液晶显示模块，该模块内嵌T９拼音输入法并采用标准的UART与控制MCU通信。文中介绍了该模块的性能特点、引脚功能及用户命令，给出了HZ132-64B30的具体应用电路和应用程序。… 查看全部问答∨
急．．．．．．可以将两个程序合并而互不影响吗？下面是两个汇编程序．一个是数码管显示程序，一分钟＋１；另一个是延时程序．可不可以将两个程序合并，但是两个程序互不影响．怎么合并，请详细说说请指教．不胜感激．．．． ;本程序实现８段码动态显示功能 org 0000h ajmp&n ...… 查看全部问答∨	四川省大学生电子设计竞赛西南科技大学赛区竞赛题目－远程温湿度测量系统本帖最后由 paulhyde 于 2014-9-15 04:20 编辑电子竞赛题目-远程温湿度测量系统一、电子竞赛题目任务：制作一个远程温湿度测量仪，该测试仪具有温湿度测量和远程显示等功能。其结构框图如下：二、电子竞赛题目要求： 1、基本要求（ ...… 查看全部问答∨
通过CSP编程卸载的一个奇怪问题我做了一个cab包，真机安装和卸载都是没有问题的，但现在我想搞个自动更新，所以就尝试用CSP编程卸载这个cab XmlDocument doc = new XmlDocument(); string xml = @\" &n ...… 查看全部问答∨	关于AGC（Automatic Gain Control）和ADC “100分哦” 请教各位达人，我想找一款内置AGC功能的ADC，ADC最好为12bit,20MSPS 我网络上找了一些资料都没有发现有这样的ADC，许多电路都是内置模拟AGC再加一个ADC来实现的谁能告诉我有没有这样的ADC啊？有的话提供型号，最好能有PDF文档，立即送100分… 查看全部问答∨
这样的电路有问题吗电路经常烧坏电源，我怀疑电路有问题，请教各位？ [ 本帖最后由 chenxinli 于 2010-8-12 16:41 编辑 ]… 查看全部问答∨	朋友们帮忙看看这个电路什么作用啊？谢谢啊如题，帮看看这个电路实现什么作用啊，我太菜了，实在看不懂啊 … 查看全部问答∨
STM32的USB2.0的速度可以到多少？12Mor480M? 手册上说： USB 2.0 full speed interface但是文件又说：The STM32F103xC, STM32F103xD and STM32F103xE performance line embed a USBdevice peripheral c ...… 查看全部问答∨	【备战2011国赛】控制类赛题方向的朋友一定要看！本帖最后由 paulhyde 于 2014-9-15 03:18 编辑 1.历届的 “控制类赛题” 在9届电子设计竞赛中，“控制类赛题” 除了1994和1995年外，其它每届都有，共有9题： & ...… 查看全部问答∨

小广播

美国国家半导体电源管理、放大器技术研讨会主讲者：MartinGiles：（美国国家半导体产品应用经理）顾玮：（美国国家半导体电源产品部资深应用工程师）张传庸：（美国国家半导体通信接口产品部应用工程组主管）第一场:标题：美国国家半导体:模拟的艺术--电源管理、放大器技术研讨 ...… 查看全部问答∨	小点阵汉显液晶模块及其应用 HZ132-64B30是一种采用12×12点阵的小点阵汉字液晶显示模块，该模块内嵌T９拼音输入法并采用标准的UART与控制MCU通信。文中介绍了该模块的性能特点、引脚功能及用户命令，给出了HZ132-64B30的具体应用电路和应用程序。… 查看全部问答∨
急．．．．．．可以将两个程序合并而互不影响吗？下面是两个汇编程序．一个是数码管显示程序，一分钟＋１；另一个是延时程序．可不可以将两个程序合并，但是两个程序互不影响．怎么合并，请详细说说请指教．不胜感激．．．． ;本程序实现８段码动态显示功能 org 0000h ajmp&n ...… 查看全部问答∨	四川省大学生电子设计竞赛西南科技大学赛区竞赛题目－远程温湿度测量系统本帖最后由 paulhyde 于 2014-9-15 04:20 编辑电子竞赛题目-远程温湿度测量系统一、电子竞赛题目任务：制作一个远程温湿度测量仪，该测试仪具有温湿度测量和远程显示等功能。其结构框图如下：二、电子竞赛题目要求： 1、基本要求（ ...… 查看全部问答∨
通过CSP编程卸载的一个奇怪问题我做了一个cab包，真机安装和卸载都是没有问题的，但现在我想搞个自动更新，所以就尝试用CSP编程卸载这个cab XmlDocument doc = new XmlDocument(); string xml = @\" &n ...… 查看全部问答∨	关于AGC（Automatic Gain Control）和ADC “100分哦” 请教各位达人，我想找一款内置AGC功能的ADC，ADC最好为12bit,20MSPS 我网络上找了一些资料都没有发现有这样的ADC，许多电路都是内置模拟AGC再加一个ADC来实现的谁能告诉我有没有这样的ADC啊？有的话提供型号，最好能有PDF文档，立即送100分… 查看全部问答∨
这样的电路有问题吗电路经常烧坏电源，我怀疑电路有问题，请教各位？ [ 本帖最后由 chenxinli 于 2010-8-12 16:41 编辑 ]… 查看全部问答∨	朋友们帮忙看看这个电路什么作用啊？谢谢啊如题，帮看看这个电路实现什么作用啊，我太菜了，实在看不懂啊 … 查看全部问答∨
STM32的USB2.0的速度可以到多少？12Mor480M? 手册上说： USB 2.0 full speed interface但是文件又说：The STM32F103xC, STM32F103xD and STM32F103xE performance line embed a USBdevice peripheral c ...… 查看全部问答∨	【备战2011国赛】控制类赛题方向的朋友一定要看！本帖最后由 paulhyde 于 2014-9-15 03:18 编辑 1.历届的 “控制类赛题” 在9届电子设计竞赛中，“控制类赛题” 除了1994和1995年外，其它每届都有，共有9题： & ...… 查看全部问答∨

对于python机器学习零基础入门，请给一个学习大纲以下是针对零基础的学习大纲，帮助你入门 Python 机器学习：第一阶段：基础知识Python 编程基础：学习 Python 的基本语法、数据类型、控制流等。数据处理与分析：了解数据处理和分析的基本概念，学习 Python 中常用的数据处理库，如 NumPy 和 Panda ...… 查看全部问答∨	对于线性代数和机器学习入门，请给一个学习大纲以下是线性代数和机器学习入门的学习大纲：第一阶段：线性代数基础向量和矩阵：学习向量和矩阵的定义、运算规则和性质，包括加法、数乘、转置、逆矩阵等。线性方程组：掌握线性方程组的解法，包括高斯消元法、矩阵求逆法和克拉默法则等。向量空间和 ...… 查看全部问答∨
深度学习几天入门深度学习是一个复杂的领域，通常几天的时间可能并不足以完全入门。入门深度学习需要掌握一定的数学基础、编程技能以及深度学习的基本概念和原理，这些都需要一定的学习时间和实践经验。然而，如果你已经有一定的数学基础和编程经验，并且愿意投入大 ...… 查看全部问答∨	请问能否详细地讲解fpga le原理呢？ FPGA（Field-Programmable Gate Array，现场可编程门阵列）是一种可编程的集成电路，它允许用户在生产后重新配置和编程。FPGA的基本原理和特性可以从以下几个方面来理解：可编程性：FPGA的可编程性意味着用户可以根据需求设计和实现自己的数字逻 ...… 查看全部问答∨
我想stm32单片机编程入门，应该怎么做呢？要开始学习STM32单片机编程，你可以按照以下步骤进行：选择合适的开发板：首先选择一款适合你的需求的STM32开发板。STMicroelectronics提供了许多系列的开发板，例如Discovery系列、Nucleo系列等，你可以根据自己的需求选择合适的开发板。准备开发 ...… 查看全部问答∨	深度学习图像处理如何入门深度学习在图像处理领域有着广泛的应用，入门深度学习图像处理可以通过以下步骤进行：学习基础知识：了解深度学习的基本概念和原理，包括神经网络、反向传播算法等。同时，熟悉图像处理的基本知识，如图像表示、滤波、特征提取等。掌握编程技能： ...… 查看全部问答∨
机器学习如何入门作为电子工程师，你可能已经具备了一定的数学和编程基础，可以通过以下步骤入门机器学习：学习基础知识：了解机器学习的基本概念、算法和技术，包括监督学习、无监督学习、深度学习等。可以通过在线课程、教材、博客文章等资源进行学习。掌握编程技 ...… 查看全部问答∨	神经网络入门怎么学作为电子工程师入门神经网络，你可以按照以下步骤学习：学习基本概念：开始之前，了解神经网络的基本概念，包括神经元、层、激活函数、损失函数、优化器等。这些是理解神经网络的基础。选择学习资源：选择适合你的学习资源，如在线课程、教科书、博 ...… 查看全部问答∨
如何入门51单片机当然，请问有什么我可以帮您的吗？… 查看全部问答∨	对于深度学习工具tensorflow 入门，请给一个学习大纲以下是学习 TensorFlow 的大纲：第一阶段：基础知识Python 编程基础：复习 Python 的基础语法和常用库，如 NumPy、Pandas。线性代数和微积分：复习线性代数和微积分的基本知识，如向量、矩阵运算、导数、梯度等。深度学习基础：了解神经网络的基本 ...… 查看全部问答∨

2019年09月05日 | 好玩的AI换脸APP，潜在危险和不安全性不可小觑