-
Law 144
【美国首个立法】招聘算法反偏见法—美国纽约开始执行新的法律
摘要： 纽约市开始执行一项新法律，即本地法律144，该法律要求使用算法进行招聘、雇佣或晋升的雇主提交这些算法进行独立审计，并公开结果。该法还要求公司披露他们使用的算法以及不同种族、族裔和性别的候选人可能从这些算法中获得的平均分数。不遵守规定的公司将面临处罚。该法适用于在城市中执行或申请工作的任何人。然而，批评者认为该法并未做得足够多，可能只被解读为覆盖一部分招聘算法。
经过数月的延迟，纽约市今天开始执行一项法律，该法律要求使用算法进行招聘、雇佣或晋升的雇主提交这些算法进行独立审计，并公开结果。这项在全国范围内首创的立法（纽约市地方法 144 Law 144），还要求使用这类算法的公司向员工或求职者进行披露。
至少，公司必须公开的报告必须列出他们正在使用的算法，以及不同种族、族裔和性别的候选人可能从所述算法中获得的“平均分数”——以分数、分类或推荐的形式。它还必须列出算法的“影响比率”，该法律将其定义为特定类别（例如，黑人男性候选人）中所有人的平均算法给定分数除以最高得分类别中人们的平均分数。
未能遵守规定的公司将面临第一次违规罚款375美元，第二次违规罚款1350美元，第三次及任何后续违规罚款1500美元。每天一家公司使用不符合法律的算法，都将构成单独的违规行为——就像未能提供足够的披露一样。
重要的是，地方法律144的范围超出了纽约市的工人。只要一个人在城市里做工作或申请工作，他们就有资格在新法律下得到保护。
许多人认为这是迫在眉睫的。Applied的首席执行官Khyati Sundaram指出，特别是招聘AI有可能放大现有的偏见——在此过程中加剧就业和薪酬差距。
“雇主应避免使用AI独立评分或排名候选人，”Sundaram通过电子邮件告诉TechCrunch。“我们还没有达到一个地方，那里的算法可以或应该被信任，自己做出这些决定，而不是反映和延续已经存在于工作世界的偏见。”
不必远寻就能找到偏见渗入招聘算法的证据。2018年，亚马逊废弃了一个招聘引擎，因为发现它对女性候选人有歧视。2019年的一项学术研究显示，AI在招聘中存在反黑人偏见。
在其他地方，算法被发现根据是否戴眼镜或头巾等标准给求职者分配不同的分数；因为有黑人名字、提到女子学院，或者使用某些文件类型提交简历而惩罚申请人；并且对那些由于身体残疾而限制与键盘互动的人造成不利。
偏见可以深入人心。2022年10月，剑桥大学的一项研究暗示，声称提供客观、基于功绩的评估的AI公司是假的，认为去除性别和种族的反偏见措施是无效的，因为理想的员工历史上受到他们的性别和种族的影响。
但是风险并没有减缓采用的步伐。根据2022年2月人力资源管理协会的一项调查，近四分之一的组织已经利用AI支持他们的招聘过程。在拥有5000名或更多员工的雇主中，这个比例甚至更高——42%。
那么，雇主到底在使用什么形式的算法呢？这是多种多样的。一些更常见的是根据关键词对简历和求职信进行排序的文本分析器。但也有聊天机器人进行在线面试，以筛选出具有某些特征的申请人，以及设计用于从他们的语言模式和面部表情预测候选人的问题解决能力、才能和“文化适应性”的面试软件。
事实上，招聘和招聘算法的范围如此之广，以至于一些组织不认为地方法律144走得够远。
纽约州美国公民自由联盟的纽约分支机构NYCLU认为，该法在为候选人和工人提供保护方面“远远不够”。NYCLU的高级隐私和技术策略师Daniel Schwarz在一份政策备忘录中指出，地方法律144可能会被理解为只覆盖一部分招聘算法——例如，排除了将视频和音频面试的文本转录的工具。（鉴于语音识别工具有一个众所周知的偏见问题，这显然是有问题的。）
“……提出的规则[必须加强，以]确保广泛覆盖[招聘算法]，扩大偏见审计要求，并向受影响的人提供透明度和有意义的通知，以确保[算法]不会通过数字方式绕过纽约市的反歧视法，”Schwarz写道。“候选人和工人不应该需要担心被歧视性的算法筛选。”
与此同时，该行业正在进行初步的自我监管努力。
2021年12月，数据与信任联盟（Data & Trust Alliance）成立，该联盟旨在开发一个评估和评分系统，以检测和对抗算法偏见，特别是在招聘中的偏见。该组织一度包括CVS Health、德勤、通用汽车、Humana、IBM、万事达卡、Meta、耐克和沃尔玛等成员，并获得了大量的新闻报道。
毫无疑问，Sundaram支持这种方法。
“而不是希望监管机构赶上并遏制招聘AI的最糟糕的过度行为，这取决于雇主在使用AI进行招聘过程时保持警惕，并谨慎行事，”他说。“AI的发展速度比可以通过的法律来规范其使用的速度更快。最终通过的法律——包括纽约市的法律——可能会因此变得非常复杂。这将使公司面临误解或忽视各种法律细节的风险，反过来，会看到边缘化的候选人继续被忽视。”
当然，许多人会争辩说，让公司为他们正在使用或开发的AI产品开发一个认证系统从一开始就是有问题的。
虽然在某些领域不完美，但批评者认为，地方法律144确实要求审计由独立的实体进行，这些实体在测试的算法的使用、开发或分发中没有参与，也没有与提交算法进行测试的公司有关系。
地方法律144最终会影响变革吗？现在还太早说。但是肯定的是，其实施的成功或失败将影响到其他地方的法律。正如Nerdwallet最近的一篇文章所指出的，华盛顿特区正在考虑一项规定，该规定将使雇主负责防止在自动决策算法中的偏见。在过去的几年里，加利福尼亚州引入了两项旨在规范招聘中AI的法案。去年12月底，新泽西州引入了一项法案，该法案将规范招聘决策中AI的使用，以最大程度地减少歧视。
扫一扫 加微信
hrtechchina
