创业公司:其实,我们的聊天AI是员工自己假扮的

2018年07月20日 6325次浏览
来源/果壳网

作者/Olivia Solon

编译/EON

编辑/Ent、东风

还记得前段时间谷歌演示的智能助手Duplex吗?它能模仿人类打预约电话,甚至还会发出人类惯用的语气词,接电话的店员甚至没有意识到,电话的另一端根本就不是真人。

然而,你可能没注意到的是,当开发者们共同致力于让AI变得更像人时,有些创业公司却打起来了另外的算盘:让人冒充AI


谷歌CEO介绍Duplex | Google


对于这些公司来说,这一招既可以省下大量的研发费用,还可以忽悠到投资。正如ReadMe公司的CEO格雷戈里·科贝格(Gregory Koberger)所说的那样,“把活儿交给真人,能让你跳过大量技术和业务发展方面的挑战。”



他在推特上吐槽道:“如何建立一家AI创业公司?

  1. 雇佣大量廉价劳动力假扮成假扮人类的AI。

  2. 等着AI被发明出来。”


这种做法已经是业界周知的秘密了,但是大部分消费者还蒙在鼓里。

创业第一步——假装有AI

前不久,据《华尔街日报》报道,谷歌允许大量第三方应用的开发者读取Gmail用户的邮件。在被曝光的第三方公司中,圣何塞的艾迪森软件公司(Edison Software)就在用假的AI。他们的AI工程师会浏览用户的个人邮件,来改善所谓的“智能回复”功能。不过,他们的隐私政策并未提及人类会看到用户的邮件。

其实,早在2008年,就有一家名为Spinvox的公司作假了。他们号称能将语音留言转化为文字,结果被指控这些工作都是海外电话中心的人工来完成的。



2016年,据彭博社报道,在X .ai和Clara这样的日程应用公司,人类员工每天都要花12小时假扮AI聊天机器人。这项工作太令人头脑发麻了,以至于员工们说他们期待机器人能真正取代人类。

2017年,业务支出管理应用Expensify承认,他们通过人工转写收据,而不像对外声称的那样用“智能扫描技术”。扫描过的收据会被发布到亚马逊的劳力众包平台Mechanical Turk上,然后接受低薪的人来阅读和转写这些收据。

人工并不便宜

在某些情况下,人类被用于训练AI系统,来提升AI的精确度。例如,名叫Scale的公司用大量的人类工作者,向自动驾驶系统和其他AI系统提供训练数据。此外,谷歌的Duplex也用到了人类训练者。


M聊天界面 | Facebook


Facebook曾在2015年推出虚拟助手M的测试版。M能预约和提供礼物建议等,只不过,它也是由人工协助的。当时我们用不到它,因为它只对旧金山湾区的1万人开放,而现在,Facebook彻底关闭了这一项目。虽然我们用不上它了,Facebook表示M的特性将会保留在聊天应用Messenger里。

这种人工协助AI的出发点其实是好的,AI系统会在人类的协助下学会应答各种指令,最终变得更加智能。然而,它的代价还是有点大



首先,Facebook需要大量昂贵的劳动力,因此将服务扩大不太可行。

其次,当M完成一项任务时,用户总是会提出更难完成的要求。就这样,M要达到的自动化程度远远超过了当前的机器学习技术。

AI技术应该更加透明

心理学家艾莉森·达西(Alison Darcy)表示,“作为心理学家,我们有伦理准则作为指导。其中,不去欺骗人们就是非常明确的一项。”


Woebot可以提供心理方面的支持 | Woebot


研究表明,当人们认为自己在和机器而非人类交谈时,他们更愿意袒露心声,这是因为精神卫生方面的求助常常和污名化联系起来。南加州大学的研究团队用虚拟心理咨询师Ellie测试了这一研究。他们发现,当患有PTSD的退伍军人知道Ellie是AI,而不是人类操作的机器时,他们更有可能坦诚讲述自己的症状。

另外一些人认为,公司们应该一直公开自己的服务是如何运行的。

“我不喜欢人们假装成AI。”罗谢尔·拉普兰(Rochelle LaPlante)说,他为很多提供假AI服务的公司工作过。



“对于我来说,这不太诚实,而且有欺骗的意味。我希望自己正在使用的东西不是这样的。而从工作者的角度来看,这就像是我们被推到了幕后。我不希望我提供劳动的公司转变态度,而且向客户隐瞒真相。”

这样的道德困境也出现在试图让AI更像人类的项目中,例如谷歌的Duplex。该项目在最初演示的时候,AI 并没有向打电话的对象表明身份。Duplex立刻引发了争议,人们担心这种略带欺骗性的技术会被有心之人利用。

“人们对AI已经有很多主要的担忧了,而缺乏透明并不能帮助我们解决问题。”达西说。

关于我们  | 商务合作  | 加入我们  | 那年今日  | 招聘科技峰会精彩回顾  | 上海科技峰会回顾  | 首届HR区块链峰会  | 2017HRTech年度颁奖  | people analytics  | 候选人体验大奖  | 友情链接  | HR科技极客大奖  | 深圳科技峰会精彩回顾  | HR共享服务平台  | 三支柱论坛2018  | 2018数字人力资源科技奖榜单  | 2018 数字人力资源科技奖  | 北京2018HRTechCon精彩回顾  | 2018HRTechXPO  | 2018TOP100人物榜单  | 2019年度活动计划  | 2018年度大奖揭晓  | 2018投融资报告  | 2017投融资报告  | INSPIRE 2019精彩回顾  | 2019海外活动计划  | 2019北京招聘科技论坛精彩回顾  | 2019深圳人力资本分析峰会精彩回顾  | 2019中国人力资源科技峰会上海精彩回顾  | 2019HR科技极客大奖  | 北京HRTechXPO未来馆精彩回顾  | 深圳·2019招聘科技创新论坛精彩回顾  | 2019候选人体验大奖榜单  | 中国人力资源科技云图  | 招聘科技云图  | 2019上海招聘科技创新论坛精彩回顾  | 深圳7月19日HRTechXPO精彩回顾  | 2019HRPA上海站精彩回顾  | 2019中国人力资源科技创新奖  | 深圳·2019中国人力资源科技年度峰会精彩回顾  | 2019北京HR科技峰会精彩回顾  | 2019数字人力资源科技奖榜单  | 2019HRTechChina TOP人物榜单  | 2019HRTechTOP人物列表  | 2019HRTechXPO-上海精彩回顾  | 2020HRTechChina品牌活动计划  | 2020HRTech云图入口  | 共同战疫专题  | 2019年度评选榜单  | 2020招聘科技创新虚拟峰会精彩回顾  | 助力企业共同抗疫专题  | 2020年度候选人体验大奖(中国地区)榜单揭晓  | 2020HRTech虚拟峰会精彩回顾  | 提交业务需求  | HR专业直播  | 2020HR科技年度峰会·上海精彩回顾  | 2020HR科技年度峰会·深圳  | 2020中国人力资源科技创新奖榜单  | 2020员工体验中国峰会上海精彩回顾  | 2020数字人力资源科技奖(DigitalHRTech® Awards 2020)获奖榜单重磅揭晓  | 2020中国人力资源科技影响力TOP人物揭晓  | 2020中国人力资源科技影响力TOP人物榜单  | 北京·2020中国人力资源科技年度峰会  | 上海站精彩回顾-2020HRTechXPO未来人力资源科技论坛  | 影响力品牌50强  | 2020HRTechXPO未来人力资源科技论坛·北京站精彩回顾  | HR科技云图认证服务  | EXInstitute.cn  | 2021年度HRTech活动计划安排与评选奖项计划  | 2020年度大奖榜单  | 员工体验研究院  | 2021HRTech创新品牌30强榜单  | 员工体验指数测评  | 2021升级版员工体验旅程图下载  | 2021员工体验大奖榜单  | 2021员工体验中国指数:73.4  | 2021候选人体验大奖榜单  | 2021HR科技创新奖榜单  | 2021人力资本分析大奖揭晓