数据工作的核心劳动,如内容审核和标注,被系统性地隐藏在其受益者之外。一个新项目将全球数据工作者的真实经历置于聚光灯下, firsthand 展示了海外科技工作的代价与机遇。
许多繁琐、无回报或具有心理破坏性的任务已被外包给较贫穷的国家,那里的工人愿意以美国或欧洲工资的一小部分来承接这些工作。这种劳动力市场与其他“枯燥、肮脏或危险”类别的工作(如电子“回收”和船舶拆解)并列。内容审核或标注工作的条件不太可能导致你断臂或患癌,但这并不意味着它们是安全的,更不用说令人愉快或有回报的了。
《数据工作者调查》:集体制作且具有政治行动力
《数据工作者调查》是AI伦理研究小组DAIR与柏林工业大学(TU Berlin)的合作项目,名义上借鉴了马克思在19世纪后期识别劳动条件的著作,其报告“集体制作且具有政治行动力”。
所有报告均可免费获取,并于今天在在线活动中发布,项目负责人在会上进行了讨论。
人工智能应用范围的不断扩展,必然建立在人类专业知识之上,而这些专业知识至今仍以公司能在不引发公关危机的情况下提供的最低美元价格购买。当你举报一篇帖子时,它不会显示“太好了,我们会把它交给一个叙利亚人,他将被支付3美分来处理。”但举报量(以及值得举报的内容量)如此之高,以至于除了将工作大规模外包给廉价劳动力市场外,其他解决方案对相关公司来说并不合理。
浏览这些报告,它们主要是轶事性的,且刻意为之。这些报告更像是一种系统的民族志观察,而非定量分析。
量化此类体验往往无法捕捉到真正的成本——最终得到的统计数据是公司喜欢吹嘘(因此也乐于在研究中索取)的那种:比该地区其他公司更高的工资、创造就业机会、为客户节省的成本。很少会提到内容审核工作者因噩梦而失眠或严重的药物依赖问题,更不用说测量和呈现这些问题了。
肯尼亚数据工作者:心理健康与药物问题的挣扎
以Fasica Berhane Gebrekidan的报告为例,关于肯尼亚数据工作者在心理健康和药物问题上的挣扎。(完整PDF在此处。)
她和她的同事为Sama工作,Sama自称是一个更具道德的数据工作管道,但正如实际从业者所描述的那样,工作的现实是无尽的痛苦和当地办公室缺乏支持。
报告称,他们被招募来处理以当地语言和方言提交的工单(即被标记的内容),不得不面对源源不断的暴力、血腥、性虐待、仇恨言论及其他内容。他们必须快速查看并“采取行动”,否则绩效将低于预期水平,从而导致扣薪。对一些人来说,这意味着每分钟要处理不止一个工单,也就是说每天至少要看大约500件此类内容。(如果你想知道人工智能在这里的作用——他们很可能是在提供训练数据。)
拉海尔·格布雷基尔索斯(Rahel Gebrekirkos)是受访的承包商之一,她说:“这绝对让人心力交瘁。我看过人们能想象到的最糟糕的事情。我担心这份工作会让我终身留下心理创伤。”
支持人员“装备不足、不专业且资质不够”,审核员经常依赖药物来应对压力,并抱怨出现侵入性思维、抑郁和其他问题。
我们以前就听说过类似情况,但得知这类现象仍在发生依然具有重要意义。已有数份此类报告,但其他一些则是更个人化的故事或采用不同的形式。
叙利亚数据标注员:隐藏的多层架构与个人叙事
例如,亚瑟·优素福·阿尔拉耶斯是叙利亚的一名数据标注员,他通过这项工作支付高等教育费用。他和室友一起从事视觉标注任务,比如解析文本图像。他指出,这些图像往往定义模糊,客户的要求也令人沮丧。
他选择记录自己的工作以短片的形式,这部短片非常值得你花八分钟观看。
像亚瑟(Yasser)这样的工人常常隐藏在多层组织架构之后,作为分包商的分包商行事,以便在出现问题或诉讼时推卸责任。
未来展望:轶事背后的真实性
DAIR和柏林工业大学(TU Berlin)的米格罗斯·米塞利(Milagros Miceli)是该项目的负责人之一,她告诉我,报告中提到的公司尚未发表任何评论或作出修改,但目前还为时过早。不过,结果似乎足够有力,促使他们继续推进更多工作:她在信中写道:“我们计划用第二批数据工人继续这项工作,很可能来自巴西、芬兰、中国和印度。”
毫无疑问,有些人会因为这些报告最有价值的特质——其轶事性质——而轻视它们。然而,虽然统计数据容易被用来撒谎,但轶事至少包含一定的真实性,因为这些故事直接来源于当事人。即使肯尼亚、叙利亚或委内瑞拉只有十几名审核员面临这些问题,他们的说法也应当引起任何依赖他们的人的关注——也就是说,几乎每个人。

