亚马逊用AI筛简历被曝“性别歧视”,现已关闭应用

2018年10月11日 1556次浏览


10月11日消息,据路透社报道,亚马逊的机器学习专家们发现了一个大问题,他们的新人工智能(AI)招聘引擎涉嫌歧视女性,为此已将其关闭。

一个戴有色眼镜的AI

五名知情人士表示,自2014年以来,这个团队始终在开发电脑程序以审查求职者的简历,目的是将寻找顶尖人才的任务自动化。自动化一直是亚马逊在电子商务领域占据主导地位的关键,无论是在配送中心内部还是制定价格决策时。

知情人士说,亚马逊的试验性招聘工具使用AI给应聘者打分,分数从一星到五星不等,就像购物者给亚马逊网站上的产品打分一样。其中一人说:“每个人都想要这个‘圣杯’。亚马逊真的想将其打造成引擎,给它100份简历,它会列出前五人,我们会聘用他们。”

但到2015年,亚马逊意识到其新系统并没有对软件开发人员和其他技术职位求职者进行性别中立式的评估。这是因为,亚马逊的电脑模型经过了培训,通过观察过去10年被提交给该公司的简历找出固有模式,并以此来审查应聘者。其中大部分简历来自男性,这也反映了男性在科技行业占主导地位的现状。

实际上,亚马逊的系统告诉自己,男性求职者更受青睐。这套系统对简历中含有“女子象棋俱乐部队长”等语句中的“女子”一词特别敏感。据知情人士透露,它还下调了两所女子学院的毕业生评级,但他们没有具体说明这些学校的名字。

亚马逊编辑了这些程序,使它们对这些特定的术语保持中立。但上述知情人士说,这并不能保证其AI系统不会设计出其他可能被证明具有歧视性的筛选求职者的方法。据不愿透露姓名的知情人士说,亚马逊最终在去年年初解散了团队,因为高管们对这个项目感到失望。

亚马逊的招聘人员在搜索新员工时查看了该工具提供的推荐信息,但他们表示,他们从来没有仅仅依靠其排名来做出判断。亚马逊拒绝就招聘引擎或其面临的挑战置评,但该公司表示,它致力于打造职场多样性和平等。

男性本身就多?

这些数据有什么问题呢?据路透社分析,可能是因为科技行业中的大部分技术岗位都是男性在做。自2017年起,路透社整理了一些公司公布的数据,从中可以看出,像谷歌、苹果、微软、Facebook这些公司,整体上男性占了2/3,而单独挑出技术岗位,男性比例则达到了将近4/5。



AI学会了人类的歧视

不过,数据量大小并不意味着少数数据就会被歧视,相信亚马逊的AI也不会傻到只选取简历数据中大多数人的共同特点,那样岂不是错过了少数天才?

在Hacker News和Reddit的评论区,一些更懂技术的网友把矛头对准了数据体现的亚马逊在招聘中现存的性别歧视问题。

从技术上讲,可以说这个人工智能是成功的,因为它模仿了亚马逊当前的招聘状态。

并给出了背后的逻辑。



机器学习过程不会引入任何偏差,但训练数据中存在的任何偏差都将在算法中忠实地展现出来。



也就是说,AI自己本身是一个天真无邪的“幼儿”,它不会自主的学会偏见和歧视,但如果给“幼儿”上课的“老师”亚马逊的招聘数据自身带了偏见,那么这些偏见就会“言传身教”给无辜的AI。

或者说,AI是从人类社会中,学会了人类的偏见和歧视。

我们不想让AI歧视女性,但这绝非易事,因为AI无法忽视它所学习的人类社会对女性的歧视。这绝对是一个难题,不仅仅是技术上的难题,更是哲学层面上的难题。



AI在无意中学会人类之恶,这并不是第一次发生。

此前的微软的聊天机器人Tay,就曾经学会了人类的那些极端言论,在Twitter上咒骂女权主义者和犹太人。

而招聘AI这一次,人类的错误让AI重蹈覆辙了。

“很显然,我们没有吸取微软Tay的任何教训。”有网友评论道。


这个AI靠抓关键词?
不只是训练数据的问题。路透社的报道中还披露了亚马逊训练AI的细节。

· 开发了500个针对特定工作职能及岗位的模型。

· 训练每个模型去识别过去求职者简历中出现的近5万个关键词。

· 模型算法按照重要程度给求职者的技能进行优先级排序。

所以这个AI,很大一部分工作是在抓关键词嘛。比如它偏好的“执行”、“抓取”这种词,在男性求职者的简历中出现次数更多,也从另一个维度造成了女性候选人的劣势。

因此,这也是导致性别歧视的一个原因。甚至,还可能会给人“钻空子”的机会。

Reddit上的一名网友评论称:

“亚马逊阅读简历的AI从一开始就注定了要失败,因为任何人都可以去学习怎样写好一份简历。让我写一份医生的简历,我打赌我会比真医生写的要好。”



想一想那些“简历写作技巧”的培训,是不是都告诉你HR看一份简历只要二三十秒,简历里有某些关键词、重要数据就能吸引HR的注意?

因此,这种抓关键词的机制,就得以让很多人通过强行往简历里塞关键词,而获得更高的星级,造成了另一种不公平。

AI招聘,道阻且长

根据招聘公司CareerBuilder 2017年在美国进行的一项调查,55%的人力资源经理表示,将会在未来五年中采用AI,并将其作为日常工作中的工具。

一些“激进”或者说有大量招聘需求的公司,已经将AI应用到招聘环节中去了。比如希尔顿酒店,就在招聘的时候,会先利用聊天机器人面试,并为求职者匹配合适的岗位,之后再进入下一轮面试。

在接受采访时,希尔顿招聘副主管Sarah Smart表示,“人工智能会分析求职者的语调、眼神和回答的表情,来判断求职者是否对工作富有热情,从而来帮助我们筛选求职者。”

具体体验怎么样呢?体验过聊天机器人面试官的Japser Rey说,“和聊天机器人对话时,我不用担心自己会分神,而且机器人不会戴有色眼镜看人,相对更公平公正一些。”

相对来说,大部分公司并没有将AI放到具体的招聘决策环节之中,只是作为一个辅助工具。

  • 百度:将AI应用到了招聘上,在今年的校园招聘中,采用AI分析简历、推荐岗位。

  • 高盛:开发了简历分析工具,会将求职者与“最适合”的部门进行匹配。

  • LinkedIn:根据网站上发布的岗位消息,利用算法为雇主提供求职者的排名。


尽管人们对AI招聘并不十分待见,但却无法阻挡这样一个趋势:AI终将左右你找工作这件事。

它只会迟到,但不会缺席。

 

原文链接:亚马逊AI惹众怒:一个没有意识的程序,竟然自己学会了“重男轻女”

亚马逊用AI筛简历发现“性别歧视”? 最终关闭
您可能感兴趣的文章