搜索

通过 AI 全自动招聘流程,我成为了亚马逊仓库的一名工人

神译局 · 2020-08-14
我几周前刚申请了去亚马逊的仓库工作。

神译局是36氪旗下编译团队,关注科技、商业、职场、生活等领域,重点介绍国外的新技术、新观点、新风向。

编者按:新冠疫情大大加速了人工智能在招聘中的应用,已经有越来越多的公司将求职面试和其它招聘互动环节搬到了网上。全自动招聘看起来很酷,大大节省了时间,然而完全没有人类介入的招聘会是完美的吗?背后可能会潜藏哪些问题呢?本文译自Medium,作者 Ryan Fan,原标题为“I Got a Job at an Amazon Warehouse Without Talking to a Single Human”。

图片来源:Andrei Stanescu/iStock Editorial/Getty Images Plus。

我几周前刚申请了去亚马逊的仓库工作。我先是在网上观看了一个培训视频,然后做了一个测试,目的是证明我已经知道要如何收纳货品了——重的放在下面,轻的放在上面。大约20分钟后,亚马逊就给我发来了邮件,告知我被录用了,可以按我的需求排班。邮件中说,我需要去亚马逊位于巴尔的摩的仓库招聘办公室,带上身份证拍个照,还要准备好我的社会安全号码和护照等正式文件,以便扫描存档。

这回我将不在暑期学校教书了,而是在亚马逊仓库工作。这次新冠疫情正以意想不到的方式改变着我的人生规划和职业路径。

我很矛盾。这是我经历过的步骤最简单、流程最通畅的招聘,获得这份工作也令我很开心。我在世界最大的公司之一——亚马逊获得了一份工作,但是应聘全程没有和任何人交谈。

申请到亚马逊工作是如此的容易,但这段经历却让我平生第一次开始正视“自动化”接管世界的现实。

几天后,我通过了药检,填了背景调查表格,短短两周内,我就开始在亚马逊工作了。当我带着身份证明文件到亚马逊仓库报到的时候,我终于遇到了两个活人(总算有可以交流的人了)。我在招聘办公室待了不到5分钟,手续就办完了。

“就这样啦?”我问道。

“就是这样咯。“那人说。

尽管我很快就得到了这份工作,但我对自动化申请工作流程的感觉很复杂。这么快就找到了工作,而且过程中跟任何一个人都没交谈,感觉让人很不放心。难道他们(公司)真的不关心申请人的任何人文素质吗?他们是否关心我的工作质量和我的实际工作能力?他们能通过见个面来了解这些吗?

新人入职需要观看一个小时的培训视频,视频内容包括从如何正确着装到安全注意事项,还做了一些测验。在我写这篇文章的时候,我刚刚结束了第一周为期40小时的工作。作为一个仓库拣货员,我很喜欢这份工作,我把一个个订单包裹从货架上拿下来,然后把它们放到仓库外面等待配送。至今为止我在亚马逊工作中收获的最大的教训是:如果你从亚马逊或任何其他在线零售商那里买衣服,穿上身之前请务必清洗,因为这些衣服在你之前经过很多人的手。

像亚马逊招募仓库小时工那样,将招聘过程自动化可以为企业节省很多时间,尤其是对于大公司来说(截至4月30日,亚马逊雇员人数已突破93.5万人)。而且有人认为,自动化的招聘流程也有助于消除偏见。Frida Polli在《哈佛商业评论》中写道:如果没有自动化招聘,许多申请工作的人甚至都不会有面试的机会,但人工智能可以在整个招聘流程中全面评估候选人。此外,适当的审核也可以消除人们的无意识偏见。

然而,根据康奈尔大学教授Manish Raghavan和布鲁金斯研究所的Solon Barocas的观点,将招聘过程自动化作为反偏见的干预措施,有时可能会加剧偏见。在社会科学研究网(SSRN)中,法学教授 Ifeoma Ajunwa 指出,与填写职位申请表并将其交给招聘经理的传统方式相比,在自动招聘过程中要求应聘者使用的工具可能更具有限制性,特别是对于低薪工作和小时工这些工种。

事实上,亚马逊已经在其自动招聘工具中发现了偏见的情况。2018年,该公司的机器学习专家发现,他们的招聘引擎偏爱男性候选人。亚马逊通过观察过去10年期间提交给公司的简历数据来建立模型以训练计算机审核应聘者,而在过去10年里,大部分简历均来自男性。结果,这个审核工具学会了过滤包含 “女性”一词的简历。在它面前所有上过女子大学的女性都处于劣势。工程师们试图纠正这个问题,但没有成功。

亚马逊的招聘工具之所以有失偏颇,因为它是用绝大多数是男性的简历样本库进行训练的。

Ajunwa还指出,网上招聘算法对于应聘白领工作的人来说,会有一定的限制。例如在2016年,高盛开展了自动化面试,以此作为更多样化雇佣员工的举措。但 Ajunwa 发表在2019年《纽约时报》的一篇评论文章中认为,过多的自动化造就了一个没有问责制或透明度的闭环系统。

由算法策划制作的广告会鼓励某些人发送简历。简历经过自动筛选后,少数幸运儿会被录用,然后进行自动评估,评估结果循环往复,为今后的招聘广告和选拔建立标准。

她举了两个自动雇用歧视的例子。一个案例是在2017年由时任伊利诺伊州总检察长Lisa Madigan发起的诉讼,因为发现自动招聘平台本身就在歧视年龄较大的申请人。平台中有一个用于选择人们进入大学的年限的下拉菜单,这个菜单的范围并没有回溯到足以容纳所有年龄段的劳动者,即使人们已经工作了很多年。

在另一起 2016 年对 Facebook 的集体诉讼中,迫于压力 Facebook 最终对其付费广告平台加以限制,以遵守反歧视法。这个广告平台上有个 Lookalike Audiences 功能,允许雇主只选择“看起来像”其现有员工的Facebook用户投放招聘广告。所以,如果公司只有白人员工,那么就只有Facebook用户中的白人才能看到广告;如果公司只有女性员工,Facebook就会有选择地针对女性用户投放广告。

Ajunwa 认为,既然雇主可以自由选择“文化契合度”,那么就有可能产生更多的歧视行为。例如,他们可以在入职前做个性评估,平等雇员机会委员会(EEOC)在 2018年发现,这很可能正在创造一种歧视种族或少数民族的模式。

EEOC 的裁决认为,百思买的人格测试违反了《民权法案》第七章,最终百思买被迫停止使用这个测试。作为百思买自动招聘流程的一部分,这些性格测试被用来预测工人的表现。此外,优先考虑 “缺乏就业差距”会伤害到那些为了照顾孩子而不得不请假的妇女。

短期内自动化的发展当然不会放缓,尤其是自动化招聘,但我们需要采取保障措施,以防止加剧职场歧视。

根据律师 Mark Girouard 和 Maciej Ceglowski 的说法,EEOC 的规定要求公司对招聘决定和使用的招聘工具负责,甚至要求公司在发生歧视索赔时保留数据。因此,公司可以对职场歧视负责,即使他们不知道为什么算法选择一个群体而不是另一个群体。

在 SSRN 的论文中,Ajunwa 还认为,当原告发起歧视诉讼时,雇主应该承担更多举证责任。所以,如果原告使用的自动招聘平台在设计功能上存在问题,比如包含性格测试,那么在法庭上,雇主必须在审计中提供统计证明,以证明他们的招聘平台没有非法歧视某些求职者群体。

在 SSRN 的另一篇论文中,Ajunwa 建议要求雇主进行内部和外部审计。这些审计将确保没有任何申请人被不公平地排除在外。

职业安全与健康管理局(OSHA)已经建议进行审计,以确保雇员的安全工作状况,还有一个安全认证系统,可以给达到审计标准的雇主评分。Ajunwa 认为,在自动招聘平台中,同样要建立审计和认证制度,还可以通过工会集体谈判与雇主一起确定应聘职位实际需要的审核标准,以及如何保护申请人数据的措施。

眼下,新冠病毒大流行已经大大加快了人工智能在招聘过程中的应用,已经有更多的招聘单位将求职面试和其它招聘互动环节搬到了网上。为了在疫情期间限制面对面的互动,越来越多的公司开始依赖人工智能和视频会议平台,比如 Zoom。

但我们仍然需要人类来确保招聘过程的公平和公正。

我只能认为,在自动化的人工智能招聘平台上,我看起来是个很不错的候选人。我是一个 23 岁的年轻人,本科学历,无犯罪记录,无残疾。一个自动化的招聘流程能让我在不到 20 分钟的时间里得到亚马逊的一份工作。我的应聘体验非常好,入职速度也很快,填完申请表后马上就能到仓库工作。但是我们如何能确保其他人都有平等的机会呢?

译者:张茉茉

+1
10

好文章,需要你的鼓励

参与评论
登录后才能参与讨论哦...
后参与讨论
提交评论0/1000

请回复有价值的信息,无意义的评论将很快被删除,账号将被禁止发言。

文章提及的项目

下一篇

LP投资一定是为了战略,为了信息优势,为了更好地维持这个圈子和发现下一个机会的可能性。

2020-08-14

36氪APP让一部分人先看到未来
36氪
鲸准
氪空间

为你推送和解读最前沿、最有料的科技创投资讯

一级市场金融信息和系统服务提供商

聚集全球最优秀的创业者,项目融资率接近97%,领跑行业