隐形的硅谷审核产业链,在以最糟糕的方式全球化

“如果被用户举报为色情内容,就会发送给印度的团队,大部分色情内容都由他们处理。其他的内容,比如说仇恨言论或者暴力之类的会发送给我们……我们会看到40张小缩略图,这样我们不用看视频就能立刻知道“啊,那里出现了生殖器”或者“那里有个男人的头,与身体断开了”……然后我们就能立刻实施操作。整个过程一气呵成。”

加州大学洛杉矶分校教育与信息研究院助理教授莎拉·罗伯茨(SarahT.Roberts)

罗伯茨指出,如今我们眼中的“互联网”绝大部分都由跨国私营企业所管理,并与其初创地的政府关系密切,比如为全球计算机提供主干网的公司之中,只有五家大型公司才能够提供接入私营平台内容的服务。这些互联网平台无时无刻不在限制、构建和推动在线言论,而审核行业的细节长期以来少有人知。平台制定的审核规则反映了谁的价值观?是否删除的决定是怎么做出来的?审核员们的工作流程是什么样的?谁会为此受益?

在她的研究《幕后之人:社交媒体时代的内容审核》中文版问世之际,界面文化对罗伯茨进行了专访。我们讨论了科技公司的内容审核标准、审核员的劳动状况,以及审核产业如何建立在全球劳动力剥削基础之上。在采访的最后,罗伯茨对于人与计算机的关系提出了另一种展望。

审核行业:人们自以为能无限制地表达自己

我在当时感到困惑,我做错了什么?为什么我没有得到承诺的东西?现在我对此有了更深入的分析,从事科技行业并不意味着你就会晋升到另一个社会阶层。相反,大多数人并不在硅谷的巨头公司,而是在别的地方从事着并不光鲜的工作。

突然间,我发现所有的问题都有些相似——许多人沦为科技经济中的底层阶级,从事乏味且低薪的工作,甚至受到身体和心理的创伤,不被看见。大多数人的目光都投向了科技发明家、企业家和系统建构者所谓的“知识性工作”上。

《幕后之人:社交媒体时代的内容审核》

[美]莎拉·罗伯茨著罗文译

万有引力·广东人民出版社2023-5

界面文化:你强调了审核工作的不可见性,科技公司审核的过程是隐藏的,审核规则是不透明的,审核员的存在也不为人所知。这些数字劳动常常以不同名义在全球范围内转移,员工的劳动关系与受益的科技公司相距甚远。为何公司倾向于隐藏内容审核过程?

莎拉·罗伯茨:我在2012年前后开始正式采访审核员,至今已过去十年,审核规则不够透明的现象正在慢慢改善。我们的同行和学者、记者正敦促公司更详细地解释他们在做什么。在我刚开始做研究时,科技公司完全否认存在审核流程。

从实际层面考虑,大多数公司会说他们不希望用户知道审核的规则,因为这让用户有更多方法绕过审核。但另一方面的意识形态考量在于,终端用户认为自己与社交平台的关系很简单,他们只要上传内容,内容就会传播到全世界——没有中间机制的处理,更不用说涉及一系列行为、政策和工作者。硅谷有这样一种信仰,即计算机技术具备解决任何问题的能力,简单化的关系对于这些公司在美国的宣传非常有用。

另一个重要的意识形态原因涉及自由观念。在过去几十年里,硅谷的领导层一直信仰自由市场原则,他们传达了这样的信息:你如果使用Facebook、Snap或者任何平台,就能够无限制地表达自己。但当人们意识到审核员的存在,就会知道这是不可能的。

界面文化:一位媒体公司从业者曾在你做研究时说——“如果你给互联网开一个口子,它就会被垃圾填满。”但这些公司或许就需要在网络垃圾、暴力与言论自由之间寻找平衡。根据你的调查,大互联网公司制定审核规则的标准是什么?

莎拉·罗伯茨:有些审核规则是没什么争议的,比如虐待儿童的内容不应该存在。但也有些例外,比如一段具有新闻价值的虐待儿童的视频,人们应该知道某地正在发生伤害儿童的事件。

实际上,公司制定的具体规则几乎都是不被人所知的,不透明的规则使科技公司成为最终仲裁者,这意味着他们可以随时更改规则,且无需对任何人负责,这种关系非常不平衡。

各种各样的利益集团都希望干涉审核过程。资本感兴趣,美国政府感兴趣,其他所有政府也感兴趣,他们都希望能够控制和操纵这类媒介形式,这是前所未有的。

这也是美国传统媒体、广播电视或电影等行业从业者对社交媒体公司有很多怨恨的原因。因为他们受到的大量监管——大部分实施自20世纪某个时候——更多出于公共利益,而非赢利规则。而科技公司受益于完全功能失调的联邦政府,该政府失衡地向企业权力——而不是公众利益——倾斜。

界面文化:在今天,人们可以怎样对审核标准施加监督?

莎拉·罗伯茨:很多民间社会团体会联合起来要求变革,或者代表社会各界的重要团体发表年度报告,评估这些平台对不同类型用户的表现。

比如我是“GLAAD社交媒体指数”(GLAADSocialMediaSafetyIndex)的咨询委员会成员,该指数旨在评估社交媒体上同性恋、双性恋和跨性别人群的安全性,跟踪各种保护措施的落实情况,比如人们是否能够得到尊重、违规行为是否会受到惩罚等等。但看看马斯克一夜之间收购Twitter的情况,所有这些都被毁坏了。

界面文化:你在书中提到了一位内容审核公司经理的观点——互联网是一系列的商业地带,对于私营网站,企业可以在这里任意设置审核规则,毕竟每个人在使用网站时都要点击同意协定。但问题似乎没这么简单,你觉得在理想情况下,内容审核标准应该如何制定?

莎拉·罗伯茨:我不想假装自己能说出一个理想的流程。但我觉得问题不仅仅存在于审核公司的标准缺乏透明度,问题出现得早的多。科技公司带着他们很酷的说辞很容易地进入市场,至于内容审核策略总是事后才考虑的事情。

当社交媒体的体量足够大,问题还会涉及到地缘政治,比如法国可能会对Facebook说,我们有国家主权,在这里我们不允许发生某些在美国可以的事情。

YouTube上禁止用户上传的内容

审核员:像机器一样工作,随时可能被转移到成本更低的地方

界面文化:你所接触到的审核员对于审核工作的普遍心态是怎样的?对于公司制定的标准产生过挣扎吗?

到了2023年,对于各大公司来说,内容审核员就像机器一样,被要求不去运用人的洞察力和判断力,必须遵守公司的判断。有时审核工作与造福社会的事情确有交叉,但有时没有。如果你对某个特定问题充满热情,但在审核过程中要不断违背自己的价值体系,这可能是非常令人沮丧的经历。

罗伯茨在前往马尼拉卡马蒂市怡东城(审核公司所在地)的出租车上看到的街区景象

界面文化:你列举了四种网络内容审核员的工作模式,有些是在科技公司工作的内部员工,有的外包至更小的公司,比如呼叫中心和零工平台。不同审核员的工作情况是否有差别?

然而,这种情况也非常不公平。想象一下大型科技公司内部的审核员所拥有的权力——如果他们怀疑某项审核规则,他们可以对规则做出一些反馈。但当马尼拉的审核员难以忍受他在每天工作中看到的内容,往往是没有任何途径向大科技公司投诉的,因为他和公司没有任何地理、司法管辖和组织结构上的联系,更不用说怀疑审核标准了。如果他们对谷歌说不喜欢某项审核标准,谷歌只会回答“再见”。

界面文化:内容审核是一项全球性产业,就像大多数全球化中的常规做法,跨国公司会把非技术性工作外包至廉价劳动力集中的地区。你在书里提到,为了争取美国的客户,菲律宾把殖民地的历史包装成了一种优势,在官网上宣扬员工的英语能力和对西方流行文化的了解,这似乎是内容审核产业和其他实体制造业相比更显著的特点。

现在,菲律宾有大量受过教育的人口,能够理解美国英语。而且就像很多东亚国家那样,菲律宾政府设立了经济特区,用更低的税收、更好的电力和基础设施鼓励外国公司入驻。当我去马尼拉考察内容审核园区时,它们的所在地曾经就是美国军事基地——我很震惊,这一切是真的吗?

我在书中提到的爱荷华的内容审核公司,他们的口号是“外包给爱荷华,而不是印度”。为了与印度区别,它把美国乡村白人的文化资本作为卖点,官方主页显示的也是红谷仓和中西部农场图片,并表示这里的员工对内容审核更有文化敏锐度,这就涉及到了排外主义和种族等方面的问题。对于那些爱荷华州的审核员来说,他们的身份——主流、白人、美国中西部的成长背景、异性恋、生活在传统家庭环境中——就是他们对审核判断工作的价值。换句话说,如果这个群体看到某件事觉得不合适,公司会觉得其他人很可能也这样认为。

强调“外包给爱荷华,而不是印度”的公司。后来在2016年改名为Aureon,并将标语改成“来自美国中心地带的高级客户服务”。

界面文化:审核产业“流动”的轨迹看上去很像是建立于正式殖民统治时期,但表现出来的机制与流程已经不再是政治和军事上的,而是经济上的。

我无法将这个故事从我的脑海中抹去,因为它是一个隐喻,象征着巨型公司总是把他们制造的问题推给地球另一端的人们。

想象未来:AI取代人工不会更好,公共领域不只有社交网络

界面文化:你在书中提到,我们不能把捍卫信息的希望寄托在科技公司的身上,并指出公众在网络上满足信息需求时忽视了另一种重要的机构——图书馆。可以具体谈谈这个观点吗?

莎拉·罗伯茨:我感到非常沮丧的是,多年来社交媒体以各种方式伪装自己是全然的公共领域,似乎所做的是为了公共利益。与此同时,在美国,公立学校系统以及横跨乡村和城市、向所有人免费开放的公共图书馆的资金支出都在下降,难以获得任何资助。社交媒体伪装自己可以和这些公共机构一样满足公众的信息需求,但实际上并非如此。人们热衷在社交媒体这些虚假的公共空间交流,实际的公共空间却越来越少。

并不是说图书馆没有问题,作为文化机构,它们经常维护主导的权力结构。但在大多数情况下,我更相信公共图书馆,而不是那些在股市上交易、对股东负责的公司。我提到图书馆只是想说,别忘了,我们作为一个集体拥有这种能力,我们曾共同想象过一些为所有人存在的东西,我们愿意支持它,不是为了追求利润,而是为了集体价值。

我们不必只是等待,看看硅谷会想出什么方式让我们相互交流,决定我们获取信息的方式——它们只有利润动机以及公司意识形态,似乎唯一值得做的事情就是用每个人的言论获取利润——这是一种狭隘的观念,也许我们不应该将每一次互动、每一段关系、每一个想法和理念都当作商品来对待,也许这是一个糟糕的想法,对吧?

界面文化:你在书中也倡导,关于信息交流的集体想象力不应该局限在大互联网平台,那其他的可能性是什么呢?

莎拉·罗伯茨:我已经在互联网上待了30年了,我经常说的一件事是,让20亿人使用同一个平台可能不是一个好主意。很久以前,我们会用BBS,社区的治理方式与现今完全不同,当时的利害关系要低得多,很少有金钱利益参与其中,更不用说政治利益,国家安全机构从没想过要去BBS观察人们的行为和言论。但我也想强调,我不想陷入怀旧滤镜之中,那时存在很多问题,比如大多数人无法获得互联网资源。但这确实让我觉得,人们可以通过不同方式自我组织、自我管理社区,以有意义的方式聚集在一起,形成小型的集体。

马尼拉怡东城的一座雕塑,用来纪念称之为“现代英雄”的菲律宾业务流程外包公司员工

这就是为什么我非常喜欢分布式社交媒体的概念,尤其是像Mastodon,因为它允许几乎类似根状的组织方式——根状理论是早期互联网学者的理想。在某种程度上,它是一种自治机制,通过它可以用对你有意义的方式形成和改革社区,而不是现在这样——现在的社交媒体是有围墙的花园,你以为自己身处这座巨大而美妙的花园中,周围却全是边界,只不过你感受不到。

莎拉·罗伯茨:曾经我的硕士研究生老师向我提到“人机交互”领域的概念,我想,人与计算机交互?难道还存在什么其他的计算机交互模式吗?每一种交互背后的本质都是人与计算机的交互,计算机是我们制造和编程的,忘记这些只会抹除人的存在和人的劳动。

几年前有一个有趣的艺术项目,谷歌图书将许多大学图书馆的书籍进行了电子化,如果你在谷歌上浏览一本书,可能翻到300多页时,会突然看到图像边缘出现了一个手指,这是扫描工人工作时拿着书本的手指。

另一个例子发生在几年前,当我偶然打开一部自己的iPhone,发现其中有一张照片,是一位戴着白色帽子、穿着白色实验室外套的年轻女孩。很明显,她在工厂里,可能当时是在测试手机,但最后这张照片没有删掉。我很后悔当时没有把她保存下来。

THE END
1.ccaa注册审核员和iso审核员有什么区别通过岗位职责、工作内容,告诉你ccaa注册审核员和iso审核员的区别?还为你对比ccaa注册审核员和iso审核员的学历要求、经验要求、工资待遇,为你揭晓ccaa注册审核员和iso审核员哪个好?ccaa注册审核员 iso审核员岗位要求: 1、 参加通过CCAA统一考试,有正式资格优先,可提供实习机会,成绩没过打算继续考的可以先保持联系; 2https://m.jobui.com/gangwei/pk/ccaazhuceshenheyuan-isoshenheyuan/
2.内审员与国家注册审核员有什么区别?内审员是公司内部从事体系运行和管理的人员,只能在公司内部从事内审,内审员不实行国家注册制,只要参加内审员培训合格后就能发内审员证书。外审员(也称国家注册审核员)是以认证公司名义从事第三方审核的人员,可以直接到各公司进行审核,外审员实行国家注册制,需要先参加外审员培训掌握相关知识,并参加国家每个季度末的统考,https://www.seatonegroup.com/school/view/4242.html
3.广告审查员是做什么的工作,如何取得广告审核员证书?广告审查员是做什么的工作,如何取得广告审核员证书? 在广告公司担任的职位,我相信很多人都不懂这个广告审查员主要做的什么,毕竟很多人都跟我一样对于这个一知半解的,其实我也是刚好看到这个然后也是问了很多人,毕竟我们也不是每一个工作都懂的,但是我们认识懂的人。https://www.feipaiw.com/z/155.html
4.专职服务审查员和体系审核员招聘启事管理体系认证审核员及服务认证审查员招聘公告 根据工作需要,中国网络安全审查技术与认证中心拟招聘多名管理体系认证专职审核员,现将有关事项公告如下: 一、单位简介 中国网络安全审查技术与认证中心(英文缩写为:CCRC,原为中国信息安全认证中心)于2006年由中央机构编制委员会办公室批准成立,为国家市场监督管理总局直属正司https://www.isccc.gov.cn/xwdt/zxgg/07/907810.shtml
5.关的问题注册审核员网从去年开始,CCAA进行了一系列人员注册改革,ISO9001、ISO14001也发布新版国际标准,相应的审核员转版考试也举办过多次。18个CCAA审核员考试注册有关的问题你需要知道。 Q1:今年CCAA将举行哪些认证人员注册全国统一考试? 为满足相关认证人员注册要求,CCAA 将于2016年每季度末月举办认证人员注册全国统一考试。以下为2016年度https://www.shenheyuan.net/zhengce/7307.html
6.ccaa审核员认证人员常见问题之通用篇过渡期篇申请篇!(六)实习审核员/检查员/审查员进行正式级别注册申请时需要继续教育吗? 答:需要完成本确认年度的继续教育。 (七)对注册担保人员有什么要求?担保人签字可以用电子签名吗? 答:CCAA注册担保人是指:具有良好的个人声誉,具有CCAA认证人员注册资格(不含实习注册资格,或单位法人),了解申请人专业状况、主要工作经历和基本个人http://www.ccaajob.com/news/20210917/1014.html
7.审核员考试知识点基本文件,通用文件和技术功能文件的区别检查:审查产品设计、产品、过程或安装并确定其与特定要求符合性,或根据专业判断确定其与通用要求的符合性的活动。注:对过程的检查可以包括人员、设施、技术和方法的检查。 审核:为获得客观证据并对其进行客观的评价,以确定满足审核准则的程度所进行的系统的、独立的并形成文件的过程。 https://blog.csdn.net/cxxc980322/article/details/135664990
8.服务认证审查员岗位职责服务认证审查员工作内容4.有团队合作精神和责任心,良好的职业道德操守 无法查看岗位职责 登录注册后查看更多信息 登录/注册 服务认证审查员简历模版 美容/美发/保健审核员简历模版 婚嫁/摄影审核员简历模版 宠物服务审核员简历模版 其他生活服务审核员简历模版 月平均薪资 ¥*0614 取自13682份 可信度:较高 您暂未登录无法评估您https://m.liepin.com/gw/fwrzscyg9p2/
9.生产企业事故应急预案(通用6篇)3.2 审查员的管理考核与激励机制 建立审核员的管理考核与激励机制是事故应急救援预案一体化管理体系的重要环节。审核员必须具备事故应急救援预案一体化管理资格,能够承担事故应急救援预案一体化管理的内部审核工作,以及接受外部认证机构的一体化审核。审核员可以从企业现有的安全管理人员中进行严格培训产生,以确保事故应急救援https://www.ruiwen.com/yingjiyuan/4592698.html
10.CCAA注册审核员管理体系认证基础和认证通用基础问答题.pdfCCAA注册审核员管理体系认证基础和认证通用基础问答题.pdf,? 1、初次认证二阶段审核的审核计划包括哪些主要 内容? 审核计划应 由谁编制? 答 :一、审核计划应包括或涉及下列内容:1)目标。 2 )审核范围,包括受审核的组织单元、 能单元 以及过程。3 )审核准则 和引https://max.book118.com/html/2024/0823/5134004330011311.shtm
11.审核员数量人满为患,平均每人每年审核16张证书!新闻动态在当今的认证领域,一组最新的数据为我们揭示了其发展的态势。质量体系审核员正式审核员达 59784 人,环境体系审核员正式审核员 42059 人,职业健康安全审核员正式审核员 35640 人,而三体系实习人员共计 43372 人。在产品认证和服务认证方面,服务认证审查员正式资格 8961 https://www.oyiso.com/xwdt/4637.html
12.检查员审查员审核员咨询师过渡期注册指南近日,中国认证认可协会发布认证人员过渡期注册指南,其中包括检查员、审查员、审核员、咨询师等注册业务类型。详情如下: 相关说明 1.表中业务申请指的是认证人员准备申请的注册业务; 2.表中申请类型为认证人员在系统“申请类型”处要选择的内容; 3.表中注册方式为认证人员在系统“注册方式”处要选择的内容; https://m.thepaper.cn/newsDetail_forward_12150297
13.ISO审核员注册管理体系审核员注册准则当申请某领域审核员级别注册资格时,如果申请人具有 CCAA 指定领域审核员、检查员或审查员(含)以上级别注册资格的,可以减少一定的完整体系审核经历次数要求和现场审核天数要求。 1.5 注册级别 1.5.1 CCAA 管理体系审核员注册分为实习审核员和审核员两个级别。 http://www.cnqr.org/isoshenheyuan/2023/0217/112518.html
14.服务体系认证审核员好考吗(服务体系认证审核员好考吗知乎)4、好不容易转正成为国家注册审核员了!但现在审核员太多了,认证机构也很多了,造成现在僧多粥少的情况,市场竞争激烈了,认证费相比十年前少了。在国内认证机构,专职审核员单体系是没有基本工资的,双体系1500-2000元/月,三体系2500-3000元/月,单 5、服务认证审查员,是否值得考?服务认证审查员,目前还是培训+随堂考http://51sole1406635.51sole.com/companynewsdetail_260579336.htm