自2014年以来，美国亚马逊公司的机器学习团队一直在秘密研发和使用一款计算机程序，用于审查求职者的简历，希望能将寻找顶尖人才的工作智能化。但在专家发现新招聘引擎不喜欢女性后，亚马逊最终在去年年初解散了该研究团队。
效率提升需求推动机器学习应用
无论是在仓库内部还是在推动定价决策方面，自动化是亚马逊电子商务主导地位的关键。由于低成本计算能力的激增，机器学习在技术领域越来越受欢迎。亚马逊的智能化招聘实验就始于这家全球最大在线零售商的关键时刻。
监管机构的文件显示，自2015年6月以来，亚马逊的全球员工人数增加了两倍多，达到57万多名。为缓解人力资源部门剧增的工作压力，提升其工作效率，亚马逊爱丁堡工程中心建立了一支研发团队，目标是开发人工智能技术，快速抓取网络信息并发现值得招募的候选人。
该公司的实验性招聘工具使用人工智能为求职者提供一星到五星的评分，类似于购物者对亚马逊所售产品的评分。研究人员希望这个招聘软件能达到“给软件输入100份简历，它会吐出前5名，然后公司就可优先雇用他们”的目标。
人工智能招聘软件“重男轻女”
经过培训，亚马逊的计算机模型学习了过去10年内提交给公司的简历，找出了其固有模式，并据此来审查申请人。但从2015年开始，亚马逊意识到在评定软件开发和其他技术职位的申请人时，该招聘系统并非性别中立。因为大多数申请者都是男性，这反映了整个科技行业男性主导地位的现实。
研究团队创建了500个专注于特定工作职能和职位的计算机模型。他们教会每个模型识别过去候选人简历中出现的约5万个术语。这些算法对IT应用程序中常见的技能几乎没有重要意义，例如编写各种计算机代码的能力等。相反，这项技术有利于那些用男性工程师简历中诸如“执行”“捕获”等常见动词来描述自己的候选人。
事实上，亚马逊的系统通过自学得出了男性候选人更可取的结论。系统对包含“女性”这个词的简历进行了处罚，如“女子国际象棋俱乐部队长”等。系统还降低了两所全女子大学毕业生的评级。
亚马逊曾尝试对程序进行更新，力图使其对特定术语保持中立。但这并不能保证机器不会根据其他方式来对可能具有歧视性的候选人进行分类。
性别偏见也不是唯一的问题。支持模型判断的数据也有问题，这意味着不合格的候选人经常被推荐到各种工作岗位。亚马逊最终在去年年初解散了该团队，因为高管们对这个项目已失去信心。
算法公平之路任重道远
根据人才软件公司“职业创造者”2017年的一项调查显示，约55%的美国人力资源经理表示，未来5年内，人工智能将成为他们工作的常规部分。
长期以来，雇主一直梦想利用技术扩大招聘网络，减少对招聘人员主观意见的依赖。但亚马逊的失败案例，为越来越多正在寻求自动化招聘流程的大型公司提供了一个教训。
卡内基梅隆大学机器学习专家表示，如何确保算法公平、真正可理解和可解释的道路还相当遥远。
《麻省理工技术评论》在此次事件的报道中指出，我们不能将人工智能视为内在的无偏见。在有偏见的数据上训练系统，意味着算法也会变得有偏见。如果这样不公平的人工智能招聘计划在实施之前没有被发现，将使长期存在于商业中的多样性问题延续下去，而不是解决它们。
上一篇：寒武纪的市场格局和商业落地
下一篇：连续称霸五年的中国超级计算机居然败给了它？
推荐阅读
史海拾趣
FCI公司起源于1988年，当时由Framatome组建，其初衷是作为核能领域外的一个多样化经营项目。然而，随着市场的变化和公司的战略调整，FCI逐渐将重心转向连接器制造。经过20多次的精心收购和策略性扩张，FCI在短短20年内便成长为全球最大的连接器制造公司之一。这一转变不仅展现了FCI对市场敏锐的洞察力，也体现了其卓越的管理能力和执行力。
随着电子行业的快速发展和变革，CAMBION公司也面临着诸多挑战。例如，新兴技术的崛起使得市场竞争日益激烈，消费者对电子产品性能的要求也不断提高。为了应对这些变革，CAMBION公司不断调整战略，加大研发投入，推出了一系列具有竞争力的新产品。同时，公司还加强与上下游企业的合作，共同推动产业链的升级和发展。
在技术创新的基础上，Euvis Inc公司积极拓展市场，通过与国际知名电子产品制造商的合作，将其产品应用于各类高端电子产品中。同时，公司注重品牌建设，通过一系列营销活动提升品牌知名度和美誉度。随着市场份额的不断扩大，Euvis Inc公司逐渐在电子行业中树立起了高端、可靠的品牌形象。
在技术创新的基础上，Euvis Inc公司积极拓展市场，通过与国际知名电子产品制造商的合作，将其产品应用于各类高端电子产品中。同时，公司注重品牌建设，通过一系列营销活动提升品牌知名度和美誉度。随着市场份额的不断扩大，Euvis Inc公司逐渐在电子行业中树立起了高端、可靠的品牌形象。
随着科技的不断进步和消费者需求的日益多样化，电子行业面临着巨大的变革压力。Euvis Inc公司敏锐地洞察到这一趋势，积极调整战略方向，将业务拓展至物联网、智能家居等新兴领域。通过不断的技术创新和市场拓展，公司成功应对了行业变革带来的挑战，保持了持续的发展势头。
|
本控制板带有8路8位D/A转换专用芯片和精密电压基准，控制输出电压精度误差不大于0.01V。通过电脑串口（或其他具有串口的单片机、PLC、DSP）发个简单的可视ASCII指令，便可以方便地控制8个数模转换通道输出设定的电压值。比如,电脑串口输出字符串" ...… 查看全部问答∨ |
求助： 最近，我碰到一个三相四线制的电机，（因为电机经常性烧坏，引起我注意）我发现，这个电机没有缺相保护，我想如果要在这个电机上加一个缺相保护，需要用什么器件，或者怎么设计？… 查看全部问答∨ |
|
手上有LPC17xx的开发板，RT-Thread基本系统已经可运行，内核与finsh shell都启动起来了《这个是由上海丰宝 NXP 应用工程师移植的》，接下去会继续完成SPI SD卡驱动，EMAC网卡驱动和LCD液晶驱动这里先上LPC17xx的一些驱动库、例程RT-Thr ...… 查看全部问答∨ |
kernelStart先为地址为0xFFF00000的虚拟内存设置二级页表，再为起始地址为0xFFF00000的虚拟地址设置一个一级页表，且之前设置的二级页表位于这个一级页表的最后一项。 看书看晕了~ 1.页表都存储在哪里? 2.这个二级页表都存储了什 ...… 查看全部问答∨ |
|
这个图片是在日本的网站上找到了，怎么在中国这个芯片就不宣传了？<img src="https://bbs.eeworld.com.cn/upfil ...… 查看全部问答∨ |
想编写微调控件spin control的应用程序，在加入微调控件之前程序是正确运行的，加入微调控件之后虽然程序编译正确，但是刚一运行就会退出，output窗口显示如下信息：Load module: WINCEA.exeLoad module: coredll.dllThe program \'[393005e] W ...… 查看全部问答∨ |
|
我配置好的定时器，但是感觉就是没有进入中断服务函数，请教各位大神哪里出问题了，下面贴上我的代码 /************************************************************************* * Function Name: Timer1Config * Parameters: void * Re ...… 查看全部问答∨ |
|
|
麻烦请教一个问题：买了DSP开发板 2路PWM （PWM1和PWM3） 要错开1/4个周期的话 ，可以采取哪种方式实现？ （我自己试过，周期中断强制拉高、拉低 是可以的 但是强制拉高、拉低 没有死区！） 高有效、低有效的方式可以实现 ...… 查看全部问答∨ |
- 为什么需要激光雷达标定板？激光雷达在自动驾驶中的核心特征可以概括为三维环境感知、高分辨率、抗干扰能力。三维环境感知方面，3D激光雷达能够在短时间内向周围环境发 ...
- ZONAL区域架构：成就未来汽车梦想汽车世界即将掀起一场影响十分深远的革命，不仅是利用电力推进技术来置换不同的动力装置，汽车和其他车辆的生产将从此发生根本性改变；这场 ...
- 为什么网络重选是跨境车辆应用的一个问题？摘要对安全至关重要的高级驾驶辅助系统（ADAS）预计将受益于蜂窝式车对车通信，在车辆和道路 网络基础设施设备之间提供短距离和长距离无线 ...
- 人机共驾时代，我们需要什么样的座舱监测系统据CDC统计，全美每天就有9个人死于分心驾驶。欧洲已经将驾驶员监测系统（DMS，Driver Monitoring System）列入了新车安全评估标准（Euro ...
- 650V碳化硅MOSFET扩展了符合AEC-Q101标准的E3M系列电动汽车 （EV） 市场的快速增长（预计未来十年的复合年增长率将高达 25%1）是由环境问题和政府支持推动的，并由满足高效率和功率密度要 ...
- 如何在AUTOSAR OS系统运行时使用事件Event呢？
- 插电/混动领域的电池技术解读
- 新能源整车控制器VCU核心功能详解
- 城市场景中自动驾驶车辆基于高精度地图的视觉语义定位
BSZ039N06NSATMA1
京公网安备 11010802033920号