• 生物信息
    微表情分析不能做了?—知名AI视频面试公司HireVue停止视频面试中对面部表情分析服务 编者注:这是一个趋势,尤其是面对个人生物隐私问题的时候。HR科技公司在这方面需要有更全面的考虑和前瞻性的眼光。 对此你怎么看? 现在的求职者可能不仅需要打动潜在的领导,还需要打动人工智能算法,因为雇主通过让候选人回答视频中的面试问题来筛选候选人,然后由机器对其进行评估。 一家领先的软件提供商HireVue基于算法评估来审查求职者。该公司表示,正在取消其软件的一个有争议的功能:分析视频中人的面部表情以识别求职者某些特征。HireVue筛选的求职者坐在网络摄像头前,回答问题。他们的行为,语调和言语被反馈到指定某些特征和品质的算法中。 HireVue说,去年对其软件进行的“算法审核”显示,它没有偏见。但非营利组织电子隐私信息中心已于2019年向联邦贸易委员会投诉该公司。 HireVue首席执行官凯文·帕克(Kevin Parker)承认,公众对于使用软件分析视频中的面部表情的强烈抗议是计算的一部分。他说:“这为客户增加了一些价值,但不值得关注。” 算法审计由外部公司O'Neil风险咨询和算法审计进行。该公司没有回应置评请求。 布鲁金斯学会(Brookings Institution)的一位研究AI聘用的研究员Alex Engler说,使用AI来确定某人的能力(无论是基于视频,音频还是文本)的想法是牵强的。他说,公众不能审查这种算法也是有问题的。 他说:“机器学习可能对某些部分有帮助,但是全自动面试会给你关于工作表现的推论,这太糟糕了,”他说。“现代人工智能无法做出这些推断。” “完全自动化的面试,您在其中推断工作绩效,这太糟糕了。”——布鲁金斯学会研究员亚历克斯·恩格勒 HireVue说,大约有700家公司,包括GE,联合利华,三角洲和希尔顿,都在使用其技术。该软件要求求职者在录制的视频中回答一系列问题。然后,该公司的软件会分析各种特征,包括他们使用的语言,他们的语音以及直到现在的面部表情。然后,它评估了申请人对工作的适合程度,并评估了包括“依赖性”,“情绪智力”和“认知能力”在内的一些特征。 帕克说,该公司去年帮助筛选了超过600万个视频,尽管有时这只是为候选人的面试回答抄录答案,而不是对候选人进行自动评估。他补充说,有些客户让求职者选择退出自动筛选。他说,HireVue已经开发出了一些方法,可以避免因参差不齐的互联网连接而对候选人造成惩罚,并自动将候选人推荐给HR。 AI专家警告说,对以前求职者的数据进行训练的算法可能会使招聘中的现有偏见长期存在。HireVue的首席数据科学家Lindsey Zuloaga表示,该公司通过在培训数据中收集该信息并寻找偏见的迹象来筛选性别,种族和年龄方面的偏见。 但是她承认,要知道该系统是否因收入或教育水平等因素而受到偏见,或者是否受到诸如口吃之类的因素的影响,可能会更加困难。 EPIC高级顾问约翰·戴维森(John Davisson)说:“令我惊讶的是,他们放弃了这一功能,因为这是他们所营销产品的关键特征。” “这引起了对生物识别数据收集的许多关注,以及这些关于能够测量心理特征,情绪智力,社会态度以及类似事物的大胆主张。” 使用面部分析来确定情绪或人格特质是有争议的;一些专家警告说,基础科学有缺陷。 东北大学教授丽莎·费尔德曼·巴雷特(Lisa Feldman Barrett)研究情感分析,他说一个人的脸不会自己露出情感或性格。她说:“仅仅看着一个微笑的人,就不能真正告诉他们任何东西,除非他们的牙齿很美。” “进行心理推断,从而仅根据面部数据来确定人们的结局,是一个坏主意。” EPIC的FTC投诉指控HireVue无法保证公平,并使用了无法审查的算法。它还指控该公司声称不使用面部识别,从而歪曲了其技术。戴维森说,该机构尚未对投诉采取行动。 但是戴维森说,他担心语音的自动分析仍然会存在问题,他说,公司发布算法审核的结果很重要。他说,HireVue的技术仍然需要彻底审查。 “我当然担心,围绕数据收集,偏见和不透明度的相同潜在问题会直接转移到基于音频的放映系统中。“ 人工智能的招聘引起了一些监管机构的注意。纽约市议会提出的一项法案提议规范招聘软件的使用,要求雇主在AI评估候选人时通知他们,并要求他们每年审核其算法。 伊利诺伊州的法律要求候选人同意才能对视频片段进行分析。马里兰州已禁止使用面部分析。据报道,由于结果偏颇,亚马逊在2018年放弃了使用自己的技术来自动评估候选简历。 背景信息: 视频采访和雇用前评估的提供商HireVue上周宣布,它在2020年初取消了其软件的视觉或面部分析组件。 该公司表示:“ HireVue的内部研究表明,自然语言处理的最新进展显着提高了语言的预测能力。” “随着这些进步,视觉分析不再显着增加评估价值。” 《连线》杂志报道了该功能,该功能可分析一个人的面部表情,一直存在争议。 在上周的公告中,该公司引用的数据表明言语和非言语行为是一致的,非言语数据并没有对其预测算法增加太多。另一方面,该公司指出,非言语行为的确为某些角色增加了额外的理解,例如,高度互动的角色重视镇静的语调或举止。 此外,HireVue上周还宣布,由O'Neil Risk Consulting和Algorithmic Auditing进行的算法审计发现,HireVue的评估工作存在如公平和偏见问题。 去年10月,HireVue收购了AI驱动的招聘聊天机器人AllyO。 作者:Will Knight 对此你有什么看法?
    生物信息
    2021年01月22日