今日头条副总编谈内容审核:把低质低俗的标准分为两个层次

“移动互联网时代,海量内容创作和消费的快速增长,给审核工作带来了巨大挑战。”1月4日,今日头条内容质量中心负责人、副总编辑李彤接受澎湃新闻(www.thepaper.cn)书面采访,首次曝光了今日头条的内容审核团队的工作流程。

在具体审核工作中,李彤称,今日头条把低质、低俗的标准分为两个层次:几乎所有人看来都会一致同意的标准底线,和因人而异的主观判断。

据介绍,今日头条内容审核团队人员的平均年龄为26岁,党员占比达15%。招聘的审核员“党员优先”,李彤表示,也是因为党员的政治方向和政治立场更坚定,对“高压线”和“红线”更敏锐,对大是大非和政治原则的问题更有判断力。

李彤坦言,人工审核的遗憾在于效率,每天50万条内容全部交由人工来筛的话,一个人需要工作500天才能看完,机器则只需要90分钟。此外,内容审核工作的主要难点在于边界。在一定程度上,对于低俗低质内容的判定,人工操作有主观性,而机器也存在局限性,识别容易“一刀切”。

今日头条刚刚遭到堪称史上最大力度的整顿。

2017年12月29日,国家互联网信息办公室指导北京市互联网信息办公室,针对今日头条、凤凰新闻手机客户端持续传播色情低俗信息、违规提供互联网新闻信息服务等问题,分别约谈两家企业负责人,责令企业立即停止违法违规行为。

依据有关部门的整改要求,今日头条手机客户端“推荐”“热点”“社会”“图片”“问答”“财经”等6个频道自2017年12月29日18时至12月30日18时暂停更新24小时。

以下为访谈实录:

澎湃新闻:今日头条内容审核编辑团队具体如何工作?内容审核的具体标准是什么?

今日头条内容审核工作,严格依照《互联网信息服务管理办法》开展,审核不通过的类别包括:(1)违反宪法确定的基本原则的;(2)危害国家安全,泄露国家秘密,颠覆国家政权,破坏国家统一的;(3)损害国家荣誉和利益的;(4)煽动民族仇恨、民族歧视,破坏民族团结的;(5)破坏国家宗教政策,宣扬邪教和封建迷信的;(6)散布谣言,扰乱社会秩序,破坏社会稳定的;(7)散布淫秽、色情、赌博、暴力、恐怖或者教唆犯罪的;(8)侮辱或者诽谤他人,侵害他人合法权益的;(9)含有法律、行政法规禁止的其他内容的。

澎湃新闻:相较于此前以机器审核为主,遭遇整顿后,内容审核流程是否有变化?机器审核和人工审核的比重达到多少?

李彤:我们加大了人才招聘力度。招聘完成后,今日头条将会有6000名审核员工,24小时审核平台上的内容,优化内容审核流程、质量和效率。

在具体审核工作中,我们把低质、低俗的标准分为两个层次:几乎所有人看来都会一致同意的标准底线,和因人而异的主观判断。

对于不同类型的低质、低俗信息,我们采取不同的解决方案进行处理。

对于虚假信息、违法信息、色情信息,则主要依靠人工审核。

澎湃新闻:此次大规模招聘,是否说明机器审核还有待加强?在内容审核方面,如何看待人工审核和机器审核的差别?

李彤:内容审核工作的主要难点在于边界。在一定程度上,对于低俗低质内容的判定,人工操作有主观性,而机器识别“一刀切”。

技术存在局限。例如色情内容,机器通过识别裸露来判定是否违规,这个会让一些具有历史意义和艺术性的照片受波及。Facebook曾经因为“裸露”,误伤了一张著名的越战新闻照片,照片里一位小女孩遭到汽油弹炸伤、浑身赤裸奔跑。今日头条也有过类似的情况。最近,我们下架了一张关于吴哥窟塑像的图片,塑像虽然“露点”,但其实是名胜古迹。这是基于我们一贯执行比较严格的审核标准,造成了机器的“误伤”。

澎湃新闻:对审核人员的基本要求是什么?“党员优先”是基于什么考虑?

李彤:对审核人员的基本要求,正如我们在招聘启事中写道的,我们需要审核人员了解移动互联网行业,关心时事,具有良好的政治敏感度和鉴别力,工作责任心强,执行力高,耐心细致,以及具备良好的团队合作精神。

招聘要求里写“党员优先”,是基于内容审核编辑岗位的特殊性。一个好的内容审核编辑,需要具备良好的政治敏感度和鉴别力。我们在实际工作中也发现,党员的政治方向和政治立场更坚定,对“高压线”和“红线”更敏锐,对大是大非和政治原则的问题更有判断力,对传播主流价值观和正能量更积极,对化网络环境、维持网络秩序更有责任感。这些,都有助于今日头条成为一个健康、安全、有价值的平台。

澎湃新闻:今日头条3天内集中清理了2500多个平台违规账号,主要集中在哪些领域?未来还有怎样的清理措施?

澎湃新闻:国际化内容方面,目前看到有日语、英语、葡萄牙语审核,未来是否会加设其他语种?

李彤:国际化内容审核方面,除了日语、英语、葡语,还有泰语、印度语、印地语、越南语、菲律宾语、西班牙语、印尼语和马来语等。随着头条海外业务开展需要,我们会招聘更多具有特定外语能力的人才。

澎湃新闻:除了大规模招人外,今日头条方面还会采取什么样的措施来应对平台大量内容的审核,保证审核的准确性?

李彤:移动互联网时代,海量内容创作和消费的快速增长,给审核工作带来了巨大挑战。

除了4000人专业审核团队,今日头条还建立了低俗低质打击算法模型,采取人工审核+技术识别的方式。自2015年年末上线以来,低俗低质打击算法模型每天都在优化,识别颗粒度更细、更准确、更快。2017年,低俗低质打击算法模型,配合4000人专业审核团队,一同治理违规信息。期间,用户举报总量降低80%,“不感兴趣”的用户反馈量减少50%以上,用户满意度提升30%。

THE END
1.内容审核专员招聘网2025年内容审核专员招聘信息内容审核专员招聘专场进行时 10万起 全国学历不限经验不限 汇聚众多行业名企 领导好发展空间大五险一金 本期新增1548个职位 出行平台-底薪6000内容审核专员 【朝阳区】 6-8k 经验不限大专 某北京大型互联网公司 互联网战略融资5000-10000人 翟女士 招聘专家 https://www.liepin.com/zpneirongshenhezhuanyuan/
2.信息审核员今日头条招聘,信息审核员今日头条招聘最新信息大家好,今天小编关注到一个比较有意思的话题,就是关于信息审核员今日头条招聘的问题,于是小编就整理了5个相关介绍信息审核员今日头条招聘的解答,让我们一起看看吧。 内容审核员主要做什么的? 一、 审核员的职责 1、遵守相应的审核要求; 2、传达和阐明审核要求; http://www.ccaa.net.cn/zp/93b754d500338c25.html
3.我这段文字被头条审核员定性为传播国家分裂言论,让我反复修改,我我这段文字被头条审核员定性为传播国家分裂言论,让我反复修改,我不想修改了。我突然意识到这个审核员可能有支持台独,再怎么修改,也不会通过审核。建议国家新闻局关闭头条这个平台。https://www.toutiao.com/w/1818117286261002/
4.内江字节跳动审核员招聘(工资待遇要求)北京抖音信息服务有限公司字节跳动,抖音,今日头条 审核员 历年需求趋势 字节跳动 审核员 历年招聘量变化 热门公司审核员招聘薪酬 长期兼职审核员(需公司坐班4小时以上) 内江知道创宇信息技术有限公司 内江-东兴区 | 不限经验 | 不限学历 ¥2K-3K 3500审核员 软通动力信息技术(集团)股份有限公司 内江-东兴区 | 不限经验 | 大专以上 https://www.jobui.com/company/17376344/salary/j/shenheyuan/neijiang/
5.从2000人“扩军”到5000快手急招审核员快手目前在全国六地建有审核中心,分别是北京、天津、无锡、武汉、哈尔滨、盐城。 快手这次紧急扩招审核员的背景之一,是短视频领域监管的深入。 此前的4月4日,国家广播电视总局发布通报称,针对社会舆论强烈关注的“今日头条”、“快手”两家网站播出有违社会道德节目等问题,国家广播电视总局高度重视,立即会同属地管理部门https://www.guancha.cn/society/2018_04_06_452858.shtml
6.内容审核形势严峻,FacebookYouTube和今日头条都是怎么解决的?不过,今日头条的人工智能实验室王长虎也提到,AI暂时还是有缺陷的,今日头条现在有将近万余人的审核团队在辅助AI的审核。 比如对于低俗内容,它的定义本来就相对笼统难以*,这项工作即使对人来说也不容易,交给机器做更难实现。 比如世界名画中常常出现裸体女子,如果完全交由机器判断,机器通过识别画中人物的皮肤裸露面积,https://www.eatui.cn/xinxiliu/29799.html
7.AI如何反低俗?今日头条推内容检测工具“灵犬”3.0,首次公开其技术原理王长虎表示,灵犬只是今日头条反低俗系统一个检测的窗口,今日头条的反低俗不止于灵犬,还有类似的数百个模型,解决低俗低质、暴力等内容,还有近万人专业内容审核团队。 AI代替部分内容审核员的工作,不只今日头条,其他内容平台也都推出过类似产品。 今年6月,微信上线了一款叫“珊瑚内容安全助手”的小程序,只要面向公众号https://blog.csdn.net/moxibingdao/article/details/106667035
8.今日头条账号永久封禁申诉今日头条客服售后投诉维权中心今日头条账号永久封禁申诉 网友保保_XSGeopPf 2024-09-25 已完结 头条被封,无意触犯了头条行为规范,导致账号被限制永久封禁,我已深刻体会到失误,在此我深深的向您致歉,我以后一定坚持发正能量作品,保证以后遵守头条行为规范,去发符合头条行为规范的作品,吸取教训,做一个诚实守法的公民,请官方审核员大人给我一次https://www.xfb315.com/tousu/97664635
9.Contents/premium.mdatmaster·Newslab2020/Contents·GitHub风纪委员会:将审核权“外包”; B站作为政府和年轻人之间的“双向中介”。 630 Z-Library 2022/11/10 发生了什么? 是TikTok导致了这次的封禁吗? 出版业的暴利,以及重新想象的可能。 629 内参 2022/11/7 等级制的信息特权; 内参如何传递信息; 强人政治之下,内参的局限。 https://github.com/Newslab2020/Contents/blob/master/premium.md
10.iPhone在华渠道价格最高直降450元;滴滴共享汽车启动免押金租车;高组织架构调整 100 天后,腾讯技术委员会成立;阿里回应头条收购优酷为假消息,称造谣要负法律责任;今日头条 CEO 陈林发问社交未来,或将推出新社交产品;蓝莓评测回应全家:还有大量原始视频证据未发布;大疆发布新款 Mavic 2 专用带屏遥控器;扎克伯格公布新年「个人挑战」:讨论科技对社会影响。 https://www.geekpark.net/news/237290
11.急招2000名内容审核员,推崇算法的今日头条为何反其道而为之那么今日头条此举如何解释呢?除了旗下的多个短视频APP也需要人工内容审核需求外,我们还可以从它的这则招聘中找到其他的线索。 内容审核、天津这两个关键词,让人很容易联想到早年的新浪微博。在几年前一篇名为《新浪微博审核员压力下的机械化生存》的新闻中,向外界描述了略有几分神秘的新浪微博内容审核员的工作和生https://www.tmtpost.com/3004435.html