AI不乖了。
今天路透社踢爆了亚马逊用AI进行招聘，进而引发的可能歧视女性的新闻。
对于一直寻求智能化的亚马逊而言，仅在仓储和物流管理上使用AI技术是远远不能满足的，因此这项2014年启动的AI招聘原本是亚马逊探寻进一步智能化的实验，却偏偏出了篓子。
最初亚马逊开发团队的想法是，使用AI进行求职者简历的筛选，可以更精确地找到匹配的顶尖人才，减少人力劳动，将招聘这件事变得更智能化。
它们在使用这个实验性的招聘工具过程中，用AI为求职者打分，分数从一星到五星不等。开发该程序的工程师表示，亚马逊想要将这一程序打造成引擎，给该程序100份简历，程序会列出前五人，其就会聘用列出的人才。
听上去非常酷对不对？但是，人算不如AI算。
在这项工具使用不长时间后，亚马逊发现他们使用AI系统的时候并未对软件开发人员和其他技术职位求职者进行性别中立的评估。
这里面就存在两个可能性问题，一是样本问题，二则是AI系统有极大的BUG。
需要说明的是，亚马逊对这套系统采用的模型训练方式是通过观察过去10年被提交给亚马逊公司的简历中找出固有模式，以此筛选审查求职者。
而问题就出在这里——在过去的10年中，提交给亚马逊的简历大部分来自男性，这就导致了亚马逊使用的AI系统告诉自己男性求职者更受到青睐。
是亚马逊歧视女性吗？还是AI在歧视？
我们认为，这里面有三重因素。
首先，被提交给亚马逊的应聘样本多数是男性求职者，这与科技行业长久以来更愿意录用男性员工有关。恐怕科技行业自身都产生了“误会”，认为男性更能胜任，而女性则有更多顾虑。
其次，在被提交的样本中，亚马逊的系统采用了特别标志，会特别标志出“女性”，这在不经意间已经对样本有了“性别歧视”。
最后，虽然亚马逊对AI招聘的程序进行了修正，试图确保对特定术语保持中立。但事实上，这无法从根本上客观呈现筛选结果的一视同仁。
换句话说，亚马逊的这套AI招聘系统出现了“鸡生蛋还是蛋生鸡的”哲学性困惑。
如果不添加标签进行筛选，势必无法达到精准匹配；
然而想要实现无差别对待，就势必会出现不同领域的歧视。可能是性别、也有可能是学校、甚至可能是个人兴趣和生活习惯。
WHATEVER，这个锅，AI逃不掉。
这不是AI第一次陷入“性别歧视”的风波中。
今年夏天，据果壳网的报道，弗吉尼亚大学计算机系攻读人工智能机器学习方向的博士赵洁玉接到了导师文森特?奥都涅茨（Vicente Ordónez）给她的一个课题。
这个课题是关于图形识别的AI，总是将男人认成女人。这在计算机视觉技术发展比较成熟的当下，显得有些不可思议。有趣的是，AI发生认知错误有个共同点：这些被误认为女人的男人不是站在厨房就是在做家务。
这显然不是程序的BUG，而是AI算法本身的问题，它自动的将女性和某些特定的元素联系在一起，比如站在厨房烧饭的就一定是女性，最终形成了关于女性的“刻板成见”，甚至是某种性别歧视。
相似的事情也发生在微软身上，之前他们在twitter上推出了一个少女聊天机器人Tay，微软的原意是让妹子和大家在网上谈谈心，顺便学习一下怎么交流，然而Tay聊着聊着却学会了骂脏，比如咒骂女权主义者、支持纳粹，种族歧视……
技术本身是中立的，但追根溯源的话，AI也是从我们普通人身上“学习”了偏见或者歧视，当我们在训练人工智能模型的时候，大量的数据标注结果再告诉AI，包含这些元素的可能98％是女性，最终关于性别的偏见不仅在数据库里普遍存在，而且还会被AI放大。也就是说，技术人员用大量的数据看似训练出“精准”算法，然而却缺少对这些数据背后的社会现状的思考。
不过，这种现象也有可规避的方式。就像人的认识，我们可以在学习以及社会化的过程中，形成一个合理、乃至政治正确的价值观，同样对于AI，我们也有“纠错”的方法。
我们认为：
1、增加对原材料的净化，尽可能地减少样本数据库的偏差，包括扩大样本的范围以及多样性，扩容数据库。
2、增加样本的现实影响因子，现实维度是反应社会价值取向、态度和引导方向的基础。创建更好、更多样化的数据集用于训练算法，从样本数据的层面去缩小算法可能存在的偏差。
3、用技术的方式去弥合算法的偏差，比如开发某种系统来发现存在偏见的决策，并及时采取措施，比如采用贝叶斯（Bayesian）的方法确定某种假设的机率，并摒除可能存在的人类偏见。
4、最为关键的一点，解决AI歧视的本质问题，也就是人的改变。只有改变样本数据在现实社会中的弊端作为，才能从源头解决算法的歧视问题。而机器，有时候也需要学会思考如何去摆脱人类对它们造成的错误影响。
剑桥大学未来研究所教授鲁恩?奈如普（Rune Nyrup）曾经说过“没有事实上的技术中立。对机器来说，中立的就是占统治地位的。”而且，我们现在的人工智能，还远远没到达到理解真善美、假恶丑的“抽象”地步。
算法的歧视，AI不背锅。
上一篇：国产减速机做到这三点崛起在望
下一篇：不能有更多腿了：科学家展示像变形虫一样的32足机器人
推荐阅读
史海拾趣
近年来，FTDI通过战略并购进一步拓展了其业务领域。例如，电连技术通过发行股份及支付现金的方式收购了FTDI的控股权，这一举措不仅使电连技术在产品和客户层面实现了更完整的布局，也增强了其在汽车电子、物联网、工业产品、医疗设备等多个领域的市场竞争力。FTDI凭借其在USB桥接芯片领域的深厚积累和技术优势，为电连技术的业务扩展提供了有力支持，共同推动了公司在全球电子元件产业的持续发展。
进入21世纪，联捷（Elinker）意识到技术创新的重要性，开始加大在研发方面的投入。经过数年的努力，公司成功研发出具有自主知识产权的电子产品，并在市场上取得了良好的反响。同时，公司开始注重品牌建设，通过一系列的市场推广活动，逐渐树立了联捷（Elinker）在电子行业中的品牌形象。
随着全球环保意识的提高，EBK Kruger积极响应绿色生产的号召。公司投入大量资金研发环保型电子产品，并优化生产流程以减少能源消耗和废弃物排放。通过这些努力，EBK Kruger不仅降低了生产成本，还提升了企业的社会责任感，赢得了更多客户的支持和信任。
随着环保意识的不断提高和可持续发展理念的普及，Elektron公司开始注重环保和可持续发展方面的工作。公司积极采用环保材料和节能技术，降低产品制造过程中的能耗和排放。同时，Elektron还加强了对废弃物的处理和回收工作，努力实现资源的循环利用和环境的可持续发展。这些措施不仅有助于公司降低成本和提高效率，也符合社会和消费者对环保和可持续发展的期望和要求。
以上五个故事分别从不同角度概述了Elektron公司的发展过程，包括创立与初期发展、技术创新与产品多样化、全球扩张与市场领导地位、技术突破与行业引领以及环保理念与可持续发展等方面。这些故事共同构成了Elektron公司丰富多彩的发展历程和辉煌成就。
Digi International成立于1985年，最初是一家位于明尼苏达州的公司。随着业务的不断发展，公司于1989年进行了首次公开募股，并随后重组为特拉华州的公司。Digi International在纳斯达克全球精选市场上交易，股票代码为DGII。这一转型不仅为公司带来了更多的资金支持，也为其后续的发展奠定了坚实的基础。
|
本人做工程师时用过多种USB转串口的数据线成品，发现唯有这款数据线才可以适应STC单片机的ISP下载。当时问得STC上海公司（在科技京城）有卖，不仅售价50元，而且不接受邮购，最后只好自己跑一趟去STC公司买。 所以，找了一批这种型 ...… 查看全部问答∨ |
求助： 如何模拟电话摘机？最近在做电话远程控制的内容，可是不知道如何模拟电话摘机？特别是电话模拟摘机后的回路怎么样呢？ 查了很多资料，发现大家的都不一样，不知道怎么设计？ 还有，只是知道摘机电流是30mA，可是单片机如何知道摘机成功呢 ...… 查看全部问答∨ |
|
2009年年底安徽商报发表了一篇题为《安防示范城电子眼成了“睁眼瞎”》的报道。安徽潜山县近期发生了这样一个事情：潜山县梅城镇的赵潘节骑自行车回家途中，被一辆小货车撞倒在地，肇事车辆迅速向县城方向逃逸。然而，警方查看了全县的监控录像，却 ...… 查看全部问答∨ |
台湾新茂(SyncMOS)与爱特梅尔(ATMEL) 8051内核单片机替换 台湾新茂(SyncMOS)与爱特梅尔(ATMEL)8051内核单片机替换表SM8952AC40PP/JP/QP=AT89S52-24PU/JP/AUSM8958AC40PP/JP=AT89C55WD-24PU/JPSM894051C25PP/SP=AT89C2051-24PU/SUSM894051C25PP/SP=AT89C4051-24PU/SU深圳市鼎尚电子有限公司，新茂大陆代理商 ...… 查看全部问答∨ |
|
【求】高手帮忙画个NEC720114做USB hub的电路图 【求】高手帮忙画个NEC720114做USB hub的电路图 因为我觉得这个IC比较稳定吧，所以希望坛子里面有用过这个ic的朋友帮忙画个图。 报酬详谈。我的联系方式：sz19943@126.com 最好是深圳的朋友，呵呵。… 查看全部问答∨ |
|
|
是不是两个PLL串在综合时没有问题，但在布线时会出现问题的？？因为一般我们的做法都是IBUFG+BUFG的接法，BUFG之后就输给logic而不是输给PLL了？？谢谢！！请问正确的接法？？… 查看全部问答∨ |
我用lpc1114的32位定时器及16位定时器，16位定时器是26us的无限中断，32位是按键 然后进行20ms的中断，我发现，当32位计数的时间内，16位中断完全没用，等32位搞完了，16位再接着中断，什么情况，中断不能嵌套么？ 求高手解答！… 查看全部问答∨ |
|
各位大神，我后仿真对了，本来下载到fpga应该是各种方波，但是用示波器测的都是高低电平，结果完全不对，硬件没有问题，这是怎么了，急啊… 查看全部问答∨ |
如何解决STM32的RTC用20pF的32768晶振起振难（转） 在网上看到说STM32的RTC用20pF的32768晶振会发生不起振的事，我这几天试了试第一次上电的时候的确会出现， 后来在晶振上并了只2.4M的电阻加大振荡电路的反馈，就很容易起振了！！ 大家如果遇到不起振的话可以试一试，不知道管不管用。 如 ...… 查看全部问答∨ |
- 为什么需要激光雷达标定板？激光雷达在自动驾驶中的核心特征可以概括为三维环境感知、高分辨率、抗干扰能力。三维环境感知方面，3D激光雷达能够在短时间内向周围环境发 ...
- ZONAL区域架构：成就未来汽车梦想汽车世界即将掀起一场影响十分深远的革命，不仅是利用电力推进技术来置换不同的动力装置，汽车和其他车辆的生产将从此发生根本性改变；这场 ...
- 为什么网络重选是跨境车辆应用的一个问题？摘要对安全至关重要的高级驾驶辅助系统（ADAS）预计将受益于蜂窝式车对车通信，在车辆和道路 网络基础设施设备之间提供短距离和长距离无线 ...
- 人机共驾时代，我们需要什么样的座舱监测系统据CDC统计，全美每天就有9个人死于分心驾驶。欧洲已经将驾驶员监测系统（DMS，Driver Monitoring System）列入了新车安全评估标准（Euro ...
- 650V碳化硅MOSFET扩展了符合AEC-Q101标准的E3M系列电动汽车 （EV） 市场的快速增长（预计未来十年的复合年增长率将高达 25%1）是由环境问题和政府支持推动的，并由满足高效率和功率密度要 ...
- 如何在AUTOSAR OS系统运行时使用事件Event呢？
- 插电/混动领域的电池技术解读
- 新能源整车控制器VCU核心功能详解
- 城市场景中自动驾驶车辆基于高精度地图的视觉语义定位
T491A686K004ZT
京公网安备 11010802033920号