“如果被用户举报为色情内容，就会发送给印度的团队，大部分色情内容都由他们处理。其他的内容，比如说仇恨言论或者暴力之类的会发送给我们……我们会看到40张小缩略图，这样我们不用看视频就能立刻知道“啊，那里出现了生殖器”或者“那里有个男人的头，与身体断开了”……然后我们就能立刻实施操作。整个过程一气呵成。”
加州大学洛杉矶分校教育与信息研究院助理教授莎拉·罗伯茨（SarahT.Roberts）
罗伯茨指出，如今我们眼中的“互联网”绝大部分都由跨国私营企业所管理，并与其初创地的政府关系密切，比如为全球计算机提供主干网的公司之中，只有五家大型公司才能够提供接入私营平台内容的服务。这些互联网平台无时无刻不在限制、构建和推动在线言论，而审核行业的细节长期以来少有人知。平台制定的审核规则反映了谁的价值观？是否删除的决定是怎么做出来的？审核员们的工作流程是什么样的？谁会为此受益？
在她的研究《幕后之人：社交媒体时代的内容审核》中文版问世之际，界面文化对罗伯茨进行了专访。我们讨论了科技公司的内容审核标准、审核员的劳动状况，以及审核产业如何建立在全球劳动力剥削基础之上。在采访的最后，罗伯茨对于人与计算机的关系提出了另一种展望。
审核行业：人们自以为能无限制地表达自己
我在当时感到困惑，我做错了什么？为什么我没有得到承诺的东西？现在我对此有了更深入的分析，从事科技行业并不意味着你就会晋升到另一个社会阶层。相反，大多数人并不在硅谷的巨头公司，而是在别的地方从事着并不光鲜的工作。
突然间，我发现所有的问题都有些相似——许多人沦为科技经济中的底层阶级，从事乏味且低薪的工作，甚至受到身体和心理的创伤，不被看见。大多数人的目光都投向了科技发明家、企业家和系统建构者所谓的“知识性工作”上。
《幕后之人：社交媒体时代的内容审核》
[美]莎拉·罗伯茨著罗文译
万有引力·广东人民出版社2023-5
界面文化：你强调了审核工作的不可见性，科技公司审核的过程是隐藏的，审核规则是不透明的，审核员的存在也不为人所知。这些数字劳动常常以不同名义在全球范围内转移，员工的劳动关系与受益的科技公司相距甚远。为何公司倾向于隐藏内容审核过程？
莎拉·罗伯茨：我在2012年前后开始正式采访审核员，至今已过去十年，审核规则不够透明的现象正在慢慢改善。我们的同行和学者、记者正敦促公司更详细地解释他们在做什么。在我刚开始做研究时，科技公司完全否认存在审核流程。
从实际层面考虑，大多数公司会说他们不希望用户知道审核的规则，因为这让用户有更多方法绕过审核。但另一方面的意识形态考量在于，终端用户认为自己与社交平台的关系很简单，他们只要上传内容，内容就会传播到全世界——没有中间机制的处理，更不用说涉及一系列行为、政策和工作者。硅谷有这样一种信仰，即计算机技术具备解决任何问题的能力，简单化的关系对于这些公司在美国的宣传非常有用。
另一个重要的意识形态原因涉及自由观念。在过去几十年里，硅谷的领导层一直信仰自由市场原则，他们传达了这样的信息：你如果使用Facebook、Snap或者任何平台，就能够无限制地表达自己。但当人们意识到审核员的存在，就会知道这是不可能的。
界面文化：一位媒体公司从业者曾在你做研究时说——“如果你给互联网开一个口子，它就会被垃圾填满。”但这些公司或许就需要在网络垃圾、暴力与言论自由之间寻找平衡。根据你的调查，大互联网公司制定审核规则的标准是什么？
莎拉·罗伯茨：有些审核规则是没什么争议的，比如虐待儿童的内容不应该存在。但也有些例外，比如一段具有新闻价值的虐待儿童的视频，人们应该知道某地正在发生伤害儿童的事件。
实际上，公司制定的具体规则几乎都是不被人所知的，不透明的规则使科技公司成为最终仲裁者，这意味着他们可以随时更改规则，且无需对任何人负责，这种关系非常不平衡。
各种各样的利益集团都希望干涉审核过程。资本感兴趣，美国政府感兴趣，其他所有政府也感兴趣，他们都希望能够控制和操纵这类媒介形式，这是前所未有的。
这也是美国传统媒体、广播电视或电影等行业从业者对社交媒体公司有很多怨恨的原因。因为他们受到的大量监管——大部分实施自20世纪某个时候——更多出于公共利益，而非赢利规则。而科技公司受益于完全功能失调的联邦政府，该政府失衡地向企业权力——而不是公众利益——倾斜。
界面文化：在今天，人们可以怎样对审核标准施加监督？
莎拉·罗伯茨：很多民间社会团体会联合起来要求变革，或者代表社会各界的重要团体发表年度报告，评估这些平台对不同类型用户的表现。
比如我是“GLAAD社交媒体指数”（GLAADSocialMediaSafetyIndex）的咨询委员会成员，该指数旨在评估社交媒体上同性恋、双性恋和跨性别人群的安全性，跟踪各种保护措施的落实情况，比如人们是否能够得到尊重、违规行为是否会受到惩罚等等。但看看马斯克一夜之间收购Twitter的情况，所有这些都被毁坏了。
界面文化：你在书中提到了一位内容审核公司经理的观点——互联网是一系列的商业地带，对于私营网站，企业可以在这里任意设置审核规则，毕竟每个人在使用网站时都要点击同意协定。但问题似乎没这么简单，你觉得在理想情况下，内容审核标准应该如何制定？
莎拉·罗伯茨：我不想假装自己能说出一个理想的流程。但我觉得问题不仅仅存在于审核公司的标准缺乏透明度，问题出现得早的多。科技公司带着他们很酷的说辞很容易地进入市场，至于内容审核策略总是事后才考虑的事情。
当社交媒体的体量足够大，问题还会涉及到地缘政治，比如法国可能会对Facebook说，我们有国家主权，在这里我们不允许发生某些在美国可以的事情。
YouTube上禁止用户上传的内容
审核员：像机器一样工作，随时可能被转移到成本更低的地方
界面文化：你所接触到的审核员对于审核工作的普遍心态是怎样的？对于公司制定的标准产生过挣扎吗？
到了2023年，对于各大公司来说，内容审核员就像机器一样，被要求不去运用人的洞察力和判断力，必须遵守公司的判断。有时审核工作与造福社会的事情确有交叉，但有时没有。如果你对某个特定问题充满热情，但在审核过程中要不断违背自己的价值体系，这可能是非常令人沮丧的经历。
罗伯茨在前往马尼拉卡马蒂市怡东城（审核公司所在地）的出租车上看到的街区景象
界面文化：你列举了四种网络内容审核员的工作模式，有些是在科技公司工作的内部员工，有的外包至更小的公司，比如呼叫中心和零工平台。不同审核员的工作情况是否有差别？
然而，这种情况也非常不公平。想象一下大型科技公司内部的审核员所拥有的权力——如果他们怀疑某项审核规则，他们可以对规则做出一些反馈。但当马尼拉的审核员难以忍受他在每天工作中看到的内容，往往是没有任何途径向大科技公司投诉的，因为他和公司没有任何地理、司法管辖和组织结构上的联系，更不用说怀疑审核标准了。如果他们对谷歌说不喜欢某项审核标准，谷歌只会回答“再见”。
界面文化：内容审核是一项全球性产业，就像大多数全球化中的常规做法，跨国公司会把非技术性工作外包至廉价劳动力集中的地区。你在书里提到，为了争取美国的客户，菲律宾把殖民地的历史包装成了一种优势，在官网上宣扬员工的英语能力和对西方流行文化的了解，这似乎是内容审核产业和其他实体制造业相比更显著的特点。
现在，菲律宾有大量受过教育的人口，能够理解美国英语。而且就像很多东亚国家那样，菲律宾政府设立了经济特区，用更低的税收、更好的电力和基础设施鼓励外国公司入驻。当我去马尼拉考察内容审核园区时，它们的所在地曾经就是美国军事基地——我很震惊，这一切是真的吗？
我在书中提到的爱荷华的内容审核公司，他们的口号是“外包给爱荷华，而不是印度”。为了与印度区别，它把美国乡村白人的文化资本作为卖点，官方主页显示的也是红谷仓和中西部农场图片，并表示这里的员工对内容审核更有文化敏锐度，这就涉及到了排外主义和种族等方面的问题。对于那些爱荷华州的审核员来说，他们的身份——主流、白人、美国中西部的成长背景、异性恋、生活在传统家庭环境中——就是他们对审核判断工作的价值。换句话说，如果这个群体看到某件事觉得不合适，公司会觉得其他人很可能也这样认为。
强调“外包给爱荷华，而不是印度”的公司。后来在2016年改名为Aureon，并将标语改成“来自美国中心地带的高级客户服务”。
界面文化：审核产业“流动”的轨迹看上去很像是建立于正式殖民统治时期，但表现出来的机制与流程已经不再是政治和军事上的，而是经济上的。
我无法将这个故事从我的脑海中抹去，因为它是一个隐喻，象征着巨型公司总是把他们制造的问题推给地球另一端的人们。
想象未来：AI取代人工不会更好，公共领域不只有社交网络
界面文化：你在书中提到，我们不能把捍卫信息的希望寄托在科技公司的身上，并指出公众在网络上满足信息需求时忽视了另一种重要的机构——图书馆。可以具体谈谈这个观点吗？
莎拉·罗伯茨：我感到非常沮丧的是，多年来社交媒体以各种方式伪装自己是全然的公共领域，似乎所做的是为了公共利益。与此同时，在美国，公立学校系统以及横跨乡村和城市、向所有人免费开放的公共图书馆的资金支出都在下降，难以获得任何资助。社交媒体伪装自己可以和这些公共机构一样满足公众的信息需求，但实际上并非如此。人们热衷在社交媒体这些虚假的公共空间交流，实际的公共空间却越来越少。
并不是说图书馆没有问题，作为文化机构，它们经常维护主导的权力结构。但在大多数情况下，我更相信公共图书馆，而不是那些在股市上交易、对股东负责的公司。我提到图书馆只是想说，别忘了，我们作为一个集体拥有这种能力，我们曾共同想象过一些为所有人存在的东西，我们愿意支持它，不是为了追求利润，而是为了集体价值。
我们不必只是等待，看看硅谷会想出什么方式让我们相互交流，决定我们获取信息的方式——它们只有利润动机以及公司意识形态，似乎唯一值得做的事情就是用每个人的言论获取利润——这是一种狭隘的观念，也许我们不应该将每一次互动、每一段关系、每一个想法和理念都当作商品来对待，也许这是一个糟糕的想法，对吧？
界面文化：你在书中也倡导，关于信息交流的集体想象力不应该局限在大互联网平台，那其他的可能性是什么呢？
莎拉·罗伯茨：我已经在互联网上待了30年了，我经常说的一件事是，让20亿人使用同一个平台可能不是一个好主意。很久以前，我们会用BBS，社区的治理方式与现今完全不同，当时的利害关系要低得多，很少有金钱利益参与其中，更不用说政治利益，国家安全机构从没想过要去BBS观察人们的行为和言论。但我也想强调，我不想陷入怀旧滤镜之中，那时存在很多问题，比如大多数人无法获得互联网资源。但这确实让我觉得，人们可以通过不同方式自我组织、自我管理社区，以有意义的方式聚集在一起，形成小型的集体。
马尼拉怡东城的一座雕塑，用来纪念称之为“现代英雄”的菲律宾业务流程外包公司员工
这就是为什么我非常喜欢分布式社交媒体的概念，尤其是像Mastodon，因为它允许几乎类似根状的组织方式——根状理论是早期互联网学者的理想。在某种程度上，它是一种自治机制，通过它可以用对你有意义的方式形成和改革社区，而不是现在这样——现在的社交媒体是有围墙的花园，你以为自己身处这座巨大而美妙的花园中，周围却全是边界，只不过你感受不到。
莎拉·罗伯茨：曾经我的硕士研究生老师向我提到“人机交互”领域的概念，我想，人与计算机交互？难道还存在什么其他的计算机交互模式吗？每一种交互背后的本质都是人与计算机的交互，计算机是我们制造和编程的，忘记这些只会抹除人的存在和人的劳动。
几年前有一个有趣的艺术项目，谷歌图书将许多大学图书馆的书籍进行了电子化，如果你在谷歌上浏览一本书，可能翻到300多页时，会突然看到图像边缘出现了一个手指，这是扫描工人工作时拿着书本的手指。
另一个例子发生在几年前，当我偶然打开一部自己的iPhone，发现其中有一张照片，是一位戴着白色帽子、穿着白色实验室外套的年轻女孩。很明显，她在工厂里，可能当时是在测试手机，但最后这张照片没有删掉。我很后悔当时没有把她保存下来。