• WIF
    零工平台报告呼吁平台透明化以解决算法滥用问题,抗议数据驱动的剥削 一个由前Uber司机成立的非营利组织WIF,成功地挑战了这家叫车巨头在英国对司机就业状况的错误分类,并发表了一份及时的报告,要求对用于远程监视和控制平台工人劳动的算法和数据进行适当监督。 鉴于欧盟刚刚提出立法,以加强数字劳动平台的算法透明度,作为解决有问题的工作条件的一个杠杆,这很及时。(欧盟立法者已正式提出零工经济立法,他们希望能改善整个欧盟平台工人的条件——包括建立一个框架来解决虚假自雇问题。委员会的首要目标是在传统企业和零工平台之间,以及不同的零工平台(或“数字劳动力平台”,如其草案文本所称)之间创造一个公平的竞争环境——通过对各领域的平台工人实施最低标准比如工资、条件和社会保障。欧盟立法者还希望通过增加平台向国家级当局申报工作的义务来提高平台工作的可见性和“可追溯性”——以支持整个欧盟的法律要求的执行,并确保在工作实际上正在发生。) 与此同时,英国的立法者--现在位于欧盟之外--正在就降低国内数据保护标准进行磋商。包括可能剥夺与自动决策相关的现有权利;以及取消在处理敏感个人数据之前进行数据保护影响评估的要求--非营利组织警告说,这相当于 "对长期以来被剥夺基本就业权利的不稳定工人来说是一记重击,他们现在可能被剥夺了向无赖雇主追究责任的手段",正如报告所说。 该报告由研究人员Cansu Safak和前Uber司机James Farrer共同撰写,他们创立了 Worker Information Exchange (WIF),报告标题为 "由机器人管理-零工经济中的数据驱动剥削 Managed by Bots: Data-Driven Exploitation in the Gig Economy"。 它包含一些案例研究,说明地区性的零工在寻求获得数据访问权以试图评估平台对他们和他们的劳动的数据驱动决定的公平性(直到并包括终止他们在平台上的工作能力)时所面临的障碍和混淆。 讨论的例子包括 "反欺诈 "面部识别检查似乎有种族偏见;司机被通知其账户被欺诈,但没有得到明确、即时的信息,说明是什么触发了警告,也可能导致账户终止;以及许多司机没有得到他们要求的所有数据,而平台努力挫败他们的要求。 WIF的报告继续指出,"关于算法管理和自动决策的程度,透明度严重不足",这使得在零工经济中的工人受到剥削。诉讼是地区零工试图获得其权利的一个(现有的)途径--包括就业保护和数据权利--我们在欧洲已经看到了很多这样的情况。 最值得注意的是Farrer自己对Uber的就业分类诉讼,迫使该平台在今年早些时候最终承认英国司机为工人。 然而,Uber自以为是的解释仍然避免了向司机支付他们等待下一次旅行的时间。(又名:"不为等待时间支付工作时间,使平台能够利用即时可用的优势,提高客户的响应时间,同时降低工人的收入",正如报告所总结的。) 同时--即使在英国--这些工人也没有受到保护,不被(不公平)算法即时解雇。因此,报告指出,工人身份本身并不是对抗不透明的算法管理的万能药--共同作者警告说,"最近在法院取得的成果并不能完全保护工人免受其伤害"。 正如我们之前所报道的那样,WIF也支持对零工平台对工人的算法控制的一些挑战--但这对不稳定的工人来说也是一个昂贵和耗时的过程,他们通常缺乏资源通过法院与平台巨头抗争。 因此,报告的主要观点是,目前对受算法决策影响的个人的保护,如欧洲《通用数据保护条例》中的保护,还不够深入--允许平台编造令人费解的理由,向那些受人工智能不透明管理和控制的人隐瞒算法的运作情况。 报告在此指出,平台将欺诈管理与绩效管理混为一谈,就是一个例子。 "这种'欺诈'指标被用作工作分配的变量,而且产生这些指标的行为被允许在平台上继续存在,这表明这些不是犯罪欺诈的例子,而是控制机制,根据公司设定的不透明指标评估工人的表现。"报告在题为 "监控军备竞赛 "的一节中指出--该节讨论了打车平台Uber、Bolt和Free Now使用的各种系统。 报告补充说:"我们认为,在这些情况下使用的任何'欺诈'术语也是错误分类游戏的一部分,旨在掩盖雇佣关系。"报告进一步认为,"以防止欺诈为名,广泛扩散和过度使用工人监控"。 该报告提出了增加数字权利保护的理由,以引导该行业向更好的方向发展--允许临时工获得 "数字中介工作中的平等",而不是今天的滥用权力的不平衡,在这种情况下,平台拉动所有的线,并部署拒绝和/或黑暗模式,以阻挠工人试图利用现有(薄弱)的法律保护。 平台处理的关于工人的数据类别--WIF的报告指出,这些数据通常在平台指导文件和隐私政策中得到明确,但当司机下载他们的数据或根据GDPR提出主体访问请求时,往往不与他们分享,这突出了平台现有的数据处理水平与透明度之间的差异。 "根据我们的经验,当工人寻求这些信息时,Gig平台旨在通过参与各种不合规的行为,使这个过程变得困难和繁琐,"它写道。"寻求全面数据的工人不得不浏览极其复杂和阻碍性的网站架构,并需要规避支持人员的进一步挫折努力,他们不必要地延长了简单的行政程序,或提供未能充分回答询问的自动回复。 "这些程序可以被描述为'黑暗模式',旨在引导工人不行使他们作为数据主体的权利。在工人能够获得他们的数据的情况下,这些数据往往不是丢失了相当多的部分,就是以不一致的、非机器可读的格式呈现,使得分析实际上是不可能的。这些阻挠行为迫使工人反复提出要求,而公司最终将其作为诋毁他们的理由"。 "在我们看到的所有DSAR[数据主体访问请求]的回报中,没有一个雇主对自动化的个人数据处理作出全面和适当的说明,"报告补充说。"这在可以决定就业安全的领域尤其重要,如工作分配、绩效管理、安全和安保,正如通过本报告讨论的那样。" 同样,平台试图保护他们的算法不受诉讼的影响,寻求关于AI逻辑、输入和输出的数据,声称如果这些信息被披露给工人,他们的服务的 "安全和保障 "就会受到影响。 (至少在伦敦,由于交通监管机构TfL以安全为重点的干预,Uber等平台似乎被推向了对司机更严格的算法监控(以及使用有缺陷的面部识别技术),自2017年以来,TfL以安全问题为由拒绝了Uber的正式运营许可...)。 但报告认为,事实恰恰相反,写道。"在我们看来,只有当平台透明地制定规则和绩效标准,而不是依靠秘密监视和即时解雇,才能加强安全和保障,这是DSAR的一些主要动机。" 报告的主要作者萨法克在一份声明中评论说:"我们在这份报告中记录的许多工人案例无可否认地表明,算法管理的危害是真实的,并影响到最脆弱的人群。技工平台正在通过侵入性的监控技术从工人身上收集前所未有的数据。每天,公司都会提出 "算法错误行为 "的指控,但他们并没有提供任何证据。当工人试图为自己辩护时,他们会阻止并挫败他们获取个人数据的努力。这就是零工平台维持剥削权力的方式"。 在另一份支持声明中,Farrer说。"随着经济平台的成熟和监管压力的增加,我们看到雇主推出了密集的监控和不透明的自动管理决策系统,对工人行使更隐蔽的控制形式。这份报告显示了最新一波的就业错误分类策略是如何涉及到雇主告诉工人他们在工作中是真正独立的,同时管理控制也像以往一样有力地挥舞着,但却是在数字幕布后面。" WIF与数字权利运动组织Privacy International和App Drivers & Couriers Union一起,在地区立法者考虑下一步行动时,正在寻求提高公众对这一问题的认识--发起一个公共运动和请愿书,呼吁平台雇主提高算法透明度和问责制。 作为请愿书的一部分,这些团体说他们将写信给一些零工平台--包括Uber、Just Eat、Amazon Flex、Free Now、Bolt、Ola和Deliveroo--以 "要求回答 "并 "确保零工经济工人所面临的来自其雇主的前所未有的监控结束"。
    WIF
    2021年12月14日