“如果被用户举报为色情内容,就会发送给印度的团队,大部分色情内容都由他们处理。其他的内容,比如说仇恨言论或者暴力之类的会发送给我们……我们会看到40张小缩略图,这样我们不用看视频就能立刻知道“啊,那里出现了生殖器”或者“那里有个男人的头,与身体断开了”……然后我们就能立刻实施操作。整个过程一气呵成。”
加州大学洛杉矶分校教育与信息研究院助理教授莎拉·罗伯茨(SarahT.Roberts)
罗伯茨指出,如今我们眼中的“互联网”绝大部分都由跨国私营企业所管理,并与其初创地的政府关系密切,比如为全球计算机提供主干网的公司之中,只有五家大型公司才能够提供接入私营平台内容的服务。这些互联网平台无时无刻不在限制、构建和推动在线言论,而审核行业的细节长期以来少有人知。平台制定的审核规则反映了谁的价值观?是否删除的决定是怎么做出来的?审核员们的工作流程是什么样的?谁会为此受益?
在她的研究《幕后之人:社交媒体时代的内容审核》中文版问世之际,界面文化对罗伯茨进行了专访。我们讨论了科技公司的内容审核标准、审核员的劳动状况,以及审核产业如何建立在全球劳动力剥削基础之上。在采访的最后,罗伯茨对于人与计算机的关系提出了另一种展望。
审核行业:人们自以为能无限制地表达自己
我在当时感到困惑,我做错了什么?为什么我没有得到承诺的东西?现在我对此有了更深入的分析,从事科技行业并不意味着你就会晋升到另一个社会阶层。相反,大多数人并不在硅谷的巨头公司,而是在别的地方从事着并不光鲜的工作。
突然间,我发现所有的问题都有些相似——许多人沦为科技经济中的底层阶级,从事乏味且低薪的工作,甚至受到身体和心理的创伤,不被看见。大多数人的目光都投向了科技发明家、企业家和系统建构者所谓的“知识性工作”上。
《幕后之人:社交媒体时代的内容审核》
[美]莎拉·罗伯茨著罗文译
万有引力·广东人民出版社2023-5
界面文化:你强调了审核工作的不可见性,科技公司审核的过程是隐藏的,审核规则是不透明的,审核员的存在也不为人所知。这些数字劳动常常以不同名义在全球范围内转移,员工的劳动关系与受益的科技公司相距甚远。为何公司倾向于隐藏内容审核过程?
莎拉·罗伯茨:我在2012年前后开始正式采访审核员,至今已过去十年,审核规则不够透明的现象正在慢慢改善。我们的同行和学者、记者正敦促公司更详细地解释他们在做什么。在我刚开始做研究时,科技公司完全否认存在审核流程。
从实际层面考虑,大多数公司会说他们不希望用户知道审核的规则,因为这让用户有更多方法绕过审核。但另一方面的意识形态考量在于,终端用户认为自己与社交平台的关系很简单,他们只要上传内容,内容就会传播到全世界——没有中间机制的处理,更不用说涉及一系列行为、政策和工作者。硅谷有这样一种信仰,即计算机技术具备解决任何问题的能力,简单化的关系对于这些公司在美国的宣传非常有用。
另一个重要的意识形态原因涉及自由观念。在过去几十年里,硅谷的领导层一直信仰自由市场原则,他们传达了这样的信息:你如果使用Facebook、Snap或者任何平台,就能够无限制地表达自己。但当人们意识到审核员的存在,就会知道这是不可能的。
界面文化:一位媒体公司从业者曾在你做研究时说——“如果你给互联网开一个口子,它就会被垃圾填满。”但这些公司或许就需要在网络垃圾、暴力与言论自由之间寻找平衡。根据你的调查,大互联网公司制定审核规则的标准是什么?
莎拉·罗伯茨:有些审核规则是没什么争议的,比如虐待儿童的内容不应该存在。但也有些例外,比如一段具有新闻价值的虐待儿童的视频,人们应该知道某地正在发生伤害儿童的事件。
实际上,公司制定的具体规则几乎都是不被人所知的,不透明的规则使科技公司成为最终仲裁者,这意味着他们可以随时更改规则,且无需对任何人负责,这种关系非常不平衡。
各种各样的利益集团都希望干涉审核过程。资本感兴趣,美国政府感兴趣,其他所有政府也感兴趣,他们都希望能够控制和操纵这类媒介形式,这是前所未有的。
这也是美国传统媒体、广播电视或电影等行业从业者对社交媒体公司有很多怨恨的原因。因为他们受到的大量监管——大部分实施自20世纪某个时候——更多出于公共利益,而非赢利规则。而科技公司受益于完全功能失调的联邦政府,该政府失衡地向企业权力——而不是公众利益——倾斜。
界面文化:在今天,人们可以怎样对审核标准施加监督?
莎拉·罗伯茨:很多民间社会团体会联合起来要求变革,或者代表社会各界的重要团体发表年度报告,评估这些平台对不同类型用户的表现。
比如我是“GLAAD社交媒体指数”(GLAADSocialMediaSafetyIndex)的咨询委员会成员,该指数旨在评估社交媒体上同性恋、双性恋和跨性别人群的安全性,跟踪各种保护措施的落实情况,比如人们是否能够得到尊重、违规行为是否会受到惩罚等等。但看看马斯克一夜之间收购Twitter的情况,所有这些都被毁坏了。
界面文化:你在书中提到了一位内容审核公司经理的观点——互联网是一系列的商业地带,对于私营网站,企业可以在这里任意设置审核规则,毕竟每个人在使用网站时都要点击同意协定。但问题似乎没这么简单,你觉得在理想情况下,内容审核标准应该如何制定?
莎拉·罗伯茨:我不想假装自己能说出一个理想的流程。但我觉得问题不仅仅存在于审核公司的标准缺乏透明度,问题出现得早的多。科技公司带着他们很酷的说辞很容易地进入市场,至于内容审核策略总是事后才考虑的事情。
当社交媒体的体量足够大,问题还会涉及到地缘政治,比如法国可能会对Facebook说,我们有国家主权,在这里我们不允许发生某些在美国可以的事情。
YouTube上禁止用户上传的内容
审核员:像机器一样工作,随时可能被转移到成本更低的地方
界面文化:你所接触到的审核员对于审核工作的普遍心态是怎样的?对于公司制定的标准产生过挣扎吗?
到了2023年,对于各大公司来说,内容审核员就像机器一样,被要求不去运用人的洞察力和判断力,必须遵守公司的判断。有时审核工作与造福社会的事情确有交叉,但有时没有。如果你对某个特定问题充满热情,但在审核过程中要不断违背自己的价值体系,这可能是非常令人沮丧的经历。
罗伯茨在前往马尼拉卡马蒂市怡东城(审核公司所在地)的出租车上看到的街区景象
界面文化:你列举了四种网络内容审核员的工作模式,有些是在科技公司工作的内部员工,有的外包至更小的公司,比如呼叫中心和零工平台。不同审核员的工作情况是否有差别?
然而,这种情况也非常不公平。想象一下大型科技公司内部的审核员所拥有的权力——如果他们怀疑某项审核规则,他们可以对规则做出一些反馈。但当马尼拉的审核员难以忍受他在每天工作中看到的内容,往往是没有任何途径向大科技公司投诉的,因为他和公司没有任何地理、司法管辖和组织结构上的联系,更不用说怀疑审核标准了。如果他们对谷歌说不喜欢某项审核标准,谷歌只会回答“再见”。
界面文化:内容审核是一项全球性产业,就像大多数全球化中的常规做法,跨国公司会把非技术性工作外包至廉价劳动力集中的地区。你在书里提到,为了争取美国的客户,菲律宾把殖民地的历史包装成了一种优势,在官网上宣扬员工的英语能力和对西方流行文化的了解,这似乎是内容审核产业和其他实体制造业相比更显著的特点。
现在,菲律宾有大量受过教育的人口,能够理解美国英语。而且就像很多东亚国家那样,菲律宾政府设立了经济特区,用更低的税收、更好的电力和基础设施鼓励外国公司入驻。当我去马尼拉考察内容审核园区时,它们的所在地曾经就是美国军事基地——我很震惊,这一切是真的吗?
我在书中提到的爱荷华的内容审核公司,他们的口号是“外包给爱荷华,而不是印度”。为了与印度区别,它把美国乡村白人的文化资本作为卖点,官方主页显示的也是红谷仓和中西部农场图片,并表示这里的员工对内容审核更有文化敏锐度,这就涉及到了排外主义和种族等方面的问题。对于那些爱荷华州的审核员来说,他们的身份——主流、白人、美国中西部的成长背景、异性恋、生活在传统家庭环境中——就是他们对审核判断工作的价值。换句话说,如果这个群体看到某件事觉得不合适,公司会觉得其他人很可能也这样认为。
强调“外包给爱荷华,而不是印度”的公司。后来在2016年改名为Aureon,并将标语改成“来自美国中心地带的高级客户服务”。
界面文化:审核产业“流动”的轨迹看上去很像是建立于正式殖民统治时期,但表现出来的机制与流程已经不再是政治和军事上的,而是经济上的。
我无法将这个故事从我的脑海中抹去,因为它是一个隐喻,象征着巨型公司总是把他们制造的问题推给地球另一端的人们。
想象未来:AI取代人工不会更好,公共领域不只有社交网络
界面文化:你在书中提到,我们不能把捍卫信息的希望寄托在科技公司的身上,并指出公众在网络上满足信息需求时忽视了另一种重要的机构——图书馆。可以具体谈谈这个观点吗?
莎拉·罗伯茨:我感到非常沮丧的是,多年来社交媒体以各种方式伪装自己是全然的公共领域,似乎所做的是为了公共利益。与此同时,在美国,公立学校系统以及横跨乡村和城市、向所有人免费开放的公共图书馆的资金支出都在下降,难以获得任何资助。社交媒体伪装自己可以和这些公共机构一样满足公众的信息需求,但实际上并非如此。人们热衷在社交媒体这些虚假的公共空间交流,实际的公共空间却越来越少。
并不是说图书馆没有问题,作为文化机构,它们经常维护主导的权力结构。但在大多数情况下,我更相信公共图书馆,而不是那些在股市上交易、对股东负责的公司。我提到图书馆只是想说,别忘了,我们作为一个集体拥有这种能力,我们曾共同想象过一些为所有人存在的东西,我们愿意支持它,不是为了追求利润,而是为了集体价值。
我们不必只是等待,看看硅谷会想出什么方式让我们相互交流,决定我们获取信息的方式——它们只有利润动机以及公司意识形态,似乎唯一值得做的事情就是用每个人的言论获取利润——这是一种狭隘的观念,也许我们不应该将每一次互动、每一段关系、每一个想法和理念都当作商品来对待,也许这是一个糟糕的想法,对吧?
界面文化:你在书中也倡导,关于信息交流的集体想象力不应该局限在大互联网平台,那其他的可能性是什么呢?
莎拉·罗伯茨:我已经在互联网上待了30年了,我经常说的一件事是,让20亿人使用同一个平台可能不是一个好主意。很久以前,我们会用BBS,社区的治理方式与现今完全不同,当时的利害关系要低得多,很少有金钱利益参与其中,更不用说政治利益,国家安全机构从没想过要去BBS观察人们的行为和言论。但我也想强调,我不想陷入怀旧滤镜之中,那时存在很多问题,比如大多数人无法获得互联网资源。但这确实让我觉得,人们可以通过不同方式自我组织、自我管理社区,以有意义的方式聚集在一起,形成小型的集体。
马尼拉怡东城的一座雕塑,用来纪念称之为“现代英雄”的菲律宾业务流程外包公司员工
这就是为什么我非常喜欢分布式社交媒体的概念,尤其是像Mastodon,因为它允许几乎类似根状的组织方式——根状理论是早期互联网学者的理想。在某种程度上,它是一种自治机制,通过它可以用对你有意义的方式形成和改革社区,而不是现在这样——现在的社交媒体是有围墙的花园,你以为自己身处这座巨大而美妙的花园中,周围却全是边界,只不过你感受不到。
莎拉·罗伯茨:曾经我的硕士研究生老师向我提到“人机交互”领域的概念,我想,人与计算机交互?难道还存在什么其他的计算机交互模式吗?每一种交互背后的本质都是人与计算机的交互,计算机是我们制造和编程的,忘记这些只会抹除人的存在和人的劳动。
几年前有一个有趣的艺术项目,谷歌图书将许多大学图书馆的书籍进行了电子化,如果你在谷歌上浏览一本书,可能翻到300多页时,会突然看到图像边缘出现了一个手指,这是扫描工人工作时拿着书本的手指。
另一个例子发生在几年前,当我偶然打开一部自己的iPhone,发现其中有一张照片,是一位戴着白色帽子、穿着白色实验室外套的年轻女孩。很明显,她在工厂里,可能当时是在测试手机,但最后这张照片没有删掉。我很后悔当时没有把她保存下来。