内容审核员成高危职业,互联网的黑暗面究竟有多可怕?Facebook谷歌新浪科技

原标题:内容审核员成高危职业,互联网的黑暗面究竟有多可怕?

如果没有内容审核员,我们的互联网世界会是什么样子?或许,仇恨、暴力、血腥、色情的内容将充斥各个平台。光是想象一下这种乱象,就足够劝退很多用户了。

幸好,被称为”互联网清洁工“的内容审核员正保护着我们的双眼和大脑。但实际上,作为过滤者的他们也饱受着负面信息过载的困扰,《发条橙》的情节以另一种方式在这些人身上上演。

本期全媒派(ID:quanmeipai)聚焦互联网行业中这群“凝视深渊,也被深渊回以凝视”的特殊群体,透视他们的痛苦与挣扎,与你一同寻找困境的出路。

互联网审核岗——心理问题重灾区

按照大多数互联网公司的规定,审核员不能泄漏自己的工作内容,换句话说,他们需要在大众视野中隐身,独自消化那些常人难以接受的负面内容。

实际上,对于大多数审核员来说,观看暴力、血腥等恐怖内容简直就是家常便饭,那些令人不适的画面甚至经常毫无征兆地出现,带来巨大的视觉和情绪冲击。由于长期阅读阴谋论等观点,很多审核员已经变得麻木而没有辨识能力,他们中的一些人现在甚至相信地球是平的。

此外,在Facebook这样的公司中,社区内容审核的准则几乎每天都会发生一些细微的改变,而审核员如果一周内多次发生判断失误,就可能被解雇,如此严苛的考核标准也让这份工作变得异常困难,这导致内容审核职业成了恐慌症等心理问题发作的重灾区。

与此同时,许多作为外包合同工的审核员的待遇水平并不与其高压的工作内容相称。他们通常享受不到正式员工同等的薪资和福利保障。平均来看,审核员的时薪为每小时18.5美元,只略高于美国最低工资,而且很难争取到加薪的机会。

在一次员工大会上,Facebook的CEO马克·扎克伯格承认了审核员这一岗位的高危性:“Facebook的信息安全团队在全球一共有3万人,他们的工作内容更加特殊。我们希望尽自己所能,全力支持这些员工。”

2019年,Facebook的前审核员ChrisGray在爱尔兰高等法院针对Facebook和CPLSolutions提起诉讼,理由是自己在Facebook工作的一年间遭受了严重的心理创伤。

Gray日常审核的视频包括大量虐待、行刑等场面,久而久之,自己的性格和心理状况都发生了很大改变。“我变得麻木和暴躁,越来越具有攻击性。”他表示,“每次回想起工作内容,我的心情都会一下子跌落谷底,只有逃避能让我暂且忘记那些可怕的画面。我已经连续一个星期没有睡着过了。”

当然,不只是Facebook,包括谷歌、YouTube在内的科技公司的审核员都有类似遭遇,这已经成为一种行业普遍现象。

然而,大多数人缺乏对审核员处境的基本理解,这些公司的管理层倾向于把这种状况描述为招聘失误,他们认为有些人面对负面信息天然有较高的抗压能力,而有些则不具备。

YouTube的审核员Peter表示自己在离职后,再也无法轻松地观看动作片,对他而言,每一声枪响、每一次死亡都失去了虚构性,因而变得无比真实痛苦。

Peter的项目团队旨在为儿童创造更安全的网络环境,讽刺的是,却没有人来保卫审核员的安全。Peter团队内的其他成员大多也出现了心理问题,他的前任同事甚至因此染上了毒品,他说:“刚开始工作的时候,大家每天相互问候,氛围很好,但没过多久,就没有人愿意说话了。”

谷歌的研究人员认为:“目前越来越多人已经意识到,这个岗位不仅仅是带来单纯的不愉快情绪,长期大量地观看负面内容会让审核员造成严重的健康损伤。”

赔偿5200万美元,Facebook开行业先例

因审核负面内容引发心理问题,在行业内已经不是个例。

2018年9月,一位名叫SelenaScola的审核员向Facebook提起诉讼,认为后者设置的高风险工作内容导致她出现心理健康问题,在连续9个月观看谋杀、自杀等图像内容后,Scola被诊断为出现PTSD症状。

作为和解协议的一部分,Facebook还表示将对内容审核程序进行修改,包括更改审核工具,将视频变为黑白模式,以及承诺提供更多心理咨询服务,每月举行一次集体治疗活动等等。

Facebook的举措是具有里程碑意义的,Scola的律师SteveWilliams说:“我们为Facebook提供的方案倍感欣慰,因为这项会产生切实伤害的工作是近年来新兴的,没有太多先例可以学习,Facebook创造了有意义的解决思路。”

此次和解涉及从2015年起就为Facebook工作的11250名审核员,经过与创伤处理问题专家的咨询,Williams估计其中有超过一半的人能够争取到额外赔偿。换句话说,如果有人选择Facebook的审核员工作,那么其将有二分之一的概率需要承受工作带来的心理损伤。

另一个值得关切的问题是:审核员究竟能拿到多少赔偿?首先,本案获得的赔偿中有32.7%要用于支付律师费用,其次,剩下的3500万美元是由所有人共享的。由此看来,5200万美元这一数字似乎也不是太令人满意。

赔偿会分层次进行:第一次赔偿是给每个人发放基础的1000美元,用于支付审核员进行心理检查的费用;这之后,对于那些确诊的审核员,公司会根据病情的严重程度,给予额外1500至6000美元的补偿。此外,审核员还可以提交证据证明自己因工作遭遇到的困扰,以获得每人最高5万元的赔偿。

审核员实际拿到的赔偿金额主要取决于究竟有多少人被认定有资格获得额外赔偿。假设有一半左右的人申请到了额外赔偿,那么每个审核员平均可以获得4222.22美元。

这样算下来,每个人的最终赔偿并不算多。在社交网站上,很多人也表示Facebook支付的赔偿太少了。

是否有更好的方式减轻审核员的痛苦?

谷歌的审核员Daisy负责清理儿童性虐待图片(CSAI),但工作一年后,她出现了明显的心理障碍。

在主管提示其需要提高工作效率后,Daisy感到愤怒:“我该如何增强生产力?我的大脑充斥着糟糕的内容,我们是有血有肉的人类,而不是机器。”

那么,是否存在更好的方式来减轻审核员的痛苦?

谷歌负责信任和安全业务的副总裁KristieCanegallo说:“我们的责任以及对员工的承诺就是为他们提供充足的支持,公司在改善员工工作条件方面取得的任何进展都将与业界共享。”

去年,谷歌的研究团队在“人类计算与众包大会”(ConferenceonHumanComputationandCrowdsourcing)上发表了一篇题为《风格化干预措施对减少内容审核人员情绪的影响》(TestingStylisticInterventionstoReduceEmotionalImpactofContentModerationWorkers)的论文,文中记录了谷歌对其审核员进行的两项实验。

在一项实验中,谷歌将所有的视频设置为灰度显示,在另一项中,内容经过模糊化处理。研究人员希望了解的是,改造图像是否能够减轻其对审核员的情绪影响。

76名审核员参与了实验,他们需要在前两周观看常规的彩色图像,在后两周观看灰度图像,并分别填写问卷调查。研究结果显示,灰度显示模式的确让审核员的情绪出现明显好转。

谷歌的研究人员建议,未来的实验可以考虑从以下几个方面进行:把血液换成绿色、对内容进行艺术处理。

此外,Canegallo还表示,谷歌的确正致力于开发机器学习系统来抓取包含不良内容的视频,但在技术应用的初期,审核员依然是不可或缺的,他们需要帮助训练系统。在此之后,人工审核就可以被取代了。

实际上,科技公司们一直知道审核员承受的心理压力,但是却在首例员工报告PTSD诊断结果多年后的今天,才开始考虑通过技术手段进行干预。

但遗憾的是,我们难以用同样严谨精确的标准来衡量审核员所面临的危险。

总而言之,改变现状并非不可能,这有赖于劳动者、公司和公众的共同努力。

THE END
1.网络审核员岗位职责网络审核员工作内容6.具备较强的责任心和良好的职业操守,有较强抗压能力 7.具有良好的沟通协调能力和团队合作精神 8.具有互联网行业经验者优先考虑 9.熟练操作office办公软件 登录后查看全部 网络审核员岗位薪资分布 该数据分析取自各大互联网平台,仅供参考 登录后查看全部 https://www.liepin.com/gw/wlshyn27v/
2.审核员岗位职责(工作内容,是做什么的)审核员工资按经验统计,应届生工资¥8.3K,想知道其他经验工资,请点击查看 审核员工资待遇怎么样 薪酬区间: 3-30K,其中56.5%的岗位拿¥6-15K/月,年薪¥7-18W 数据统计来自近一年 13196 份职位样本,截至 2024-12-14 ¥6-15K 56.5%的岗位拿 ? 月平均工资 审核员一个月多少钱?数据统计依赖于各平台发布的公开https://m.jobui.com/gangwei/shenheyuan/
3.2024年第四季度注册审核员网络班培训计划(认证人员职业资格)1、建议想要参加国家注册审核员(认证人员职业资格)统考的学员尽早报名并参加培训,有充足的时间进行学习和复习是一次通过国家统考的重要保障。 2、2024年国家注册审核员培训班开始招生!网络培训方式同步招生,建议提早报名,预约名单! 3、通过率高,名师授课! https://www.shenheyuan.net/peixun/online.html
4.新华网第一期互联网信息审核员职业技能培训班在成都举办新华网北京10月24日电 新华网主办的第一期互联网信息审核员职业技能培训班于10月20—21日在成都举办。 2020年6月,人社部正式发布互联网信息审核员新职业工种,标志着内容审核行业迈向了一个更加体系化的阶段。中国网络社会组织联合会指导新华网开展互联网信息审核员职业技能培训,是对内容审核行业现有培http://education.news.cn/20231024/dd9d03ac37f845c38f6f926b6c858f9c/c.html
5.审核员:互联网的西西弗斯有人好奇,内容审核员是干什么的,又是哪些人在做这份工作?这个职业何以与PTSD、猝死等词汇相关联?如何能改善他们的工作环境? 靠“肝”工作 一些人将内容审核员等同于网络鉴黄师,在他们的想象中,一间小屋、一台电脑、边看片边赚钱,这份工作自带福利。也有一些人以为,审核员们轻点鼠标就能控制网络世界的黑白善恶,决https://m.cls.cn/detail/932765
6.小城网络审核员:为数据打标的另类职业,识别交易暗语成乐趣“人工智能的发展还面临‘最后一公里’的难题,机器学习需要更大的样本库,而网络交易暗语还在层出不穷。”闲鱼平台治理高级风险策略专家华茜告诉南都记者,像孔珍珍这样的内容审核员,是平台社会化治理中的重要一环。 工作间隙,孔珍珍有时也会逛闲鱼,她觉得自己的工作挺有意义。“我们处理过之后,一些害人的,不好的东https://static.nfapp.southcn.com/content/202011/26/c4351103.html
7.网事丨“互联网信息审核员”是怎么样的新职业?快来了解一下受人社部委托,中国就业培训技术指导中心近期公布了10个拟新增职业、8个拟新增工种。其中,“网络与信息安全管理员”职业下拟增设“互联网信息审核员”工种。 可见,互联网内容安全在现在这个信息化时代是至关重要的!那么问题来了,为什么要重视内容安全?内容安全的风险都有哪些?内容安全相关从业者应该具备哪些素质?人工智https://m.thepaper.cn/newsDetail_forward_7826493
8.网络与信息安全管理员(互联网信息审核员)(三级)为了提高学生的专业技能和就业竞争力,现将面向学校相关专业应届毕业生,举办网络与信息安全管理员(互联网信息审核员)(三级)职业技能等级考证培训班,具体要求如下: 一、报考条件 以下相关专业应届毕业生。 二、申报方式: 团体申报:本市社会培训机构学员、院校在校学生报名参加职业技能等级认定,由所在社会培训机构、院校进https://chengjiao.sdju.edu.cn/_t889/2024/0911/c8471a133745/page.htm
9.环境管理体系和职业降管理体系国家注册审核员培训(线上网络为了帮助学员顺利通过质量管理体系、环境管理体系和职业健康管理体系认证人员注册全国统一考试,食品伙伴网举办了质量管理体系、环境管理体系和职业健康管理体系国家注册审核员培训课程。本课程由CCAA认可的具有丰富的质量管理体系、环境管理体系和职业健康管理体系教学及审核经验的资深教师授课。 课程内容重点突出、针对性强、注https://train.foodmate.net/show-14677.html?salesmanid=230
10.广东省互联网协会获得互联网信息审核员等四大工种职业技能等级为落实国家《“十四五”职业技能培训规划》,广东省互联网协会立足行业优势,主动作为,积极参与职业技能等级认定社会培训组织的申报工作,3月16日经广东省人力资源和社会保障厅审核批准,获得区块链应用操作员、互联网信息审核员、信息安全管理员、网络安全管理员四大工种职业技能等级认定资质。广东省互联网协会将在全省各市开展https://gdca.miit.gov.cn/xwdt/gzdt/art/2022/art_ea3a8ae44cd949b285f9cebda1023d2f.html
11.学员招募互联网信息审核员认证培训班主办单位:广东省网络视听新媒体协会 承办单位:广东省互联网协会(省人社厅职业技能等级认定社会培训评价组织) 02认定工作及等级 认定工种:互联网信息审核员 认定等级:四级(中级工)、三级(高级工) 03报名、培训时间和地点 线上培训:经确认报名日起,可通过课程账号提前无限次数线上学习。 https://www.wlst.org.cn/newsinfo/4329715.html
12.广电总局广播影视人才交流中心举办首届网络视听行业职业技能大赛为大力弘扬劳模精神、劳动精神、工匠精神,充分发挥职业技能竞赛在高技能人才培养、选拔和激励等方面的作用,广电总局广播影视人才交流中心近期举办首届网络视听行业职业技能大赛。大赛设置网络主播、全媒体运营师、网络信息审核员三个赛项,分为区域选拔赛、全国决赛和颁奖三个阶段,从事相关工作的企(事)业单位职工、自由职业http://www.hbgd.net/gnxw/3953.html
13.头条文章这些审核员,则大多数住在武汉、济南、西安这样的二线城市,拿着4500的工资(在北京工作的海外审核能破万),过着三班倒的生活,虽然工作轻松,却没有职业前景和归属,甚至不少属于被运营岗的职位“骗”进来的。 层层趋严的漏斗式审核系统,最终带来了一个全民自我阉割的时代。 https://card.weibo.com/article/m/show/id/2309404501886517510266
14.审核员职业概况CCAA注册审核员考试交流平台审核员职业概况 什么是注册审核员? 审核分为第一方审核(内部审核)、第二方审核、第三方审核(认证审核),审核员是从事审核活动的工作人员。这儿我们所讲的审核员,在没有特别声明的情况下,指的是从事第三方审核的审核员。在第三方审核(认证审核)中,受认证机构委托,对申请认证的受审核方进行现场审核。从事第三方认证http://www.able-mall.com/shyzykg
15.职业降安全管理体系XXXX版审核员基础知识培训教程第一章 职业健康安全管理体系标准概论 第一节 职业健康安全管理体系标准的产生和发展为了弄清职业健康安全管理体系标准的来龙去脉,先从 OHSAS 系列标准产生的和发展说起 1、产生的背景 1)企业自身发展的需要 随着世界经济的增长和国际贸易的发展,生产规模越来越大,生产过程中的职业健康安全问题 也越来越凸现。上https://doc.mbalib.com/view/24a54975a6ba6922f9cbb30711d74e48.html
16.体系审核员岗位说明书.docx同时,参与行业交流活动、培训课程和研讨会等也能为职业发展提供更多的机会和帮助。 五、总结 体系审核员是公司质量管理中的重要角色,他们需要具备专业的知识、技能和经验,以及对质量管理的深刻理解。通过制定审核计划、实施审核、编写审核报告、跟踪改进等流程,体系审核员能够确保公司的质量管理体系符合相关标准和法规,并https://m.renrendoc.com/paper/298919068.html