今日头条副总编谈内容审核:把低质低俗的标准分为两个层次

“移动互联网时代,海量内容创作和消费的快速增长,给审核工作带来了巨大挑战。”1月4日,今日头条内容质量中心负责人、副总编辑李彤接受澎湃新闻(www.thepaper.cn)书面采访,首次曝光了今日头条的内容审核团队的工作流程。

在具体审核工作中,李彤称,今日头条把低质、低俗的标准分为两个层次:几乎所有人看来都会一致同意的标准底线,和因人而异的主观判断。

据介绍,今日头条内容审核团队人员的平均年龄为26岁,党员占比达15%。招聘的审核员“党员优先”,李彤表示,也是因为党员的政治方向和政治立场更坚定,对“高压线”和“红线”更敏锐,对大是大非和政治原则的问题更有判断力。

李彤坦言,人工审核的遗憾在于效率,每天50万条内容全部交由人工来筛的话,一个人需要工作500天才能看完,机器则只需要90分钟。此外,内容审核工作的主要难点在于边界。在一定程度上,对于低俗低质内容的判定,人工操作有主观性,而机器也存在局限性,识别容易“一刀切”。

今日头条刚刚遭到堪称史上最大力度的整顿。

2017年12月29日,国家互联网信息办公室指导北京市互联网信息办公室,针对今日头条、凤凰新闻手机客户端持续传播色情低俗信息、违规提供互联网新闻信息服务等问题,分别约谈两家企业负责人,责令企业立即停止违法违规行为。

依据有关部门的整改要求,今日头条手机客户端“推荐”“热点”“社会”“图片”“问答”“财经”等6个频道自2017年12月29日18时至12月30日18时暂停更新24小时。

以下为访谈实录:

澎湃新闻:今日头条内容审核编辑团队具体如何工作?内容审核的具体标准是什么?

今日头条内容审核工作,严格依照《互联网信息服务管理办法》开展,审核不通过的类别包括:(1)违反宪法确定的基本原则的;(2)危害国家安全,泄露国家秘密,颠覆国家政权,破坏国家统一的;(3)损害国家荣誉和利益的;(4)煽动民族仇恨、民族歧视,破坏民族团结的;(5)破坏国家宗教政策,宣扬邪教和封建迷信的;(6)散布谣言,扰乱社会秩序,破坏社会稳定的;(7)散布淫秽、色情、赌博、暴力、恐怖或者教唆犯罪的;(8)侮辱或者诽谤他人,侵害他人合法权益的;(9)含有法律、行政法规禁止的其他内容的。

澎湃新闻:相较于此前以机器审核为主,遭遇整顿后,内容审核流程是否有变化?机器审核和人工审核的比重达到多少?

李彤:我们加大了人才招聘力度。招聘完成后,今日头条将会有6000名审核员工,24小时审核平台上的内容,优化内容审核流程、质量和效率。

在具体审核工作中,我们把低质、低俗的标准分为两个层次:几乎所有人看来都会一致同意的标准底线,和因人而异的主观判断。

对于不同类型的低质、低俗信息,我们采取不同的解决方案进行处理。

对于虚假信息、违法信息、色情信息,则主要依靠人工审核。

澎湃新闻:此次大规模招聘,是否说明机器审核还有待加强?在内容审核方面,如何看待人工审核和机器审核的差别?

李彤:内容审核工作的主要难点在于边界。在一定程度上,对于低俗低质内容的判定,人工操作有主观性,而机器识别“一刀切”。

技术存在局限。例如色情内容,机器通过识别裸露来判定是否违规,这个会让一些具有历史意义和艺术性的照片受波及。Facebook曾经因为“裸露”,误伤了一张著名的越战新闻照片,照片里一位小女孩遭到汽油弹炸伤、浑身赤裸奔跑。今日头条也有过类似的情况。最近,我们下架了一张关于吴哥窟塑像的图片,塑像虽然“露点”,但其实是名胜古迹。这是基于我们一贯执行比较严格的审核标准,造成了机器的“误伤”。

澎湃新闻:对审核人员的基本要求是什么?“党员优先”是基于什么考虑?

李彤:对审核人员的基本要求,正如我们在招聘启事中写道的,我们需要审核人员了解移动互联网行业,关心时事,具有良好的政治敏感度和鉴别力,工作责任心强,执行力高,耐心细致,以及具备良好的团队合作精神。

招聘要求里写“党员优先”,是基于内容审核编辑岗位的特殊性。一个好的内容审核编辑,需要具备良好的政治敏感度和鉴别力。我们在实际工作中也发现,党员的政治方向和政治立场更坚定,对“高压线”和“红线”更敏锐,对大是大非和政治原则的问题更有判断力,对传播主流价值观和正能量更积极,对化网络环境、维持网络秩序更有责任感。这些,都有助于今日头条成为一个健康、安全、有价值的平台。

澎湃新闻:今日头条3天内集中清理了2500多个平台违规账号,主要集中在哪些领域?未来还有怎样的清理措施?

澎湃新闻:国际化内容方面,目前看到有日语、英语、葡萄牙语审核,未来是否会加设其他语种?

李彤:国际化内容审核方面,除了日语、英语、葡语,还有泰语、印度语、印地语、越南语、菲律宾语、西班牙语、印尼语和马来语等。随着头条海外业务开展需要,我们会招聘更多具有特定外语能力的人才。

澎湃新闻:除了大规模招人外,今日头条方面还会采取什么样的措施来应对平台大量内容的审核,保证审核的准确性?

李彤:移动互联网时代,海量内容创作和消费的快速增长,给审核工作带来了巨大挑战。

除了4000人专业审核团队,今日头条还建立了低俗低质打击算法模型,采取人工审核+技术识别的方式。自2015年年末上线以来,低俗低质打击算法模型每天都在优化,识别颗粒度更细、更准确、更快。2017年,低俗低质打击算法模型,配合4000人专业审核团队,一同治理违规信息。期间,用户举报总量降低80%,“不感兴趣”的用户反馈量减少50%以上,用户满意度提升30%。

THE END
1.抖音短视频内容审核专员招聘网猎聘2025年抖音短视频内容审核专员招聘信息,海量高薪猎头职位等你来选,了解抖音短视频内容审核专员岗位要求、薪资待遇等真实招聘信息,找高薪职位,上猎聘!https://www.liepin.com/zpdydspnrshzyr4i2/
2.急招2000名内容审核员,推崇算法的今日头条为何反其道而为之那么今日头条此举如何解释呢?除了旗下的多个短视频APP也需要人工内容审核需求外,我们还可以从它的这则招聘中找到其他的线索。 内容审核、天津这两个关键词,让人很容易联想到早年的新浪微博。在几年前一篇名为《新浪微博审核员压力下的机械化生存》的新闻中,向外界描述了略有几分神秘的新浪微博内容审核员的工作和生https://www.tmtpost.com/3004435.html
3.字节跳动审核员本科招聘(工资待遇要求)北京抖音信息服务有限字节跳动审核员本科招聘(北京抖音信息服务有限公司):根据算法统计,字节跳动审核员本科工资拿4.5-6K占95.2%,招聘经验要求1-3年经验占比最多,要求一般,更多审核员本科招聘,请上职友集。https://m.jobui.com/company/17376344/salary/j/shenheyuan/edu2/
4.从2000人“扩军”到5000快手急招审核员据澎湃新闻4月6日报道,因为播出有违社会道德节目被勒令整改后,短视频平台快手宣布紧急扩充审核员队伍。 4月6日,快手方面在某招聘网站发布的招聘信息显示,为了加强审核能力与内容上传量的匹配,快手将在现有2000人的审核团队基础上,扩招3000名审核人员,将审核人员的规模扩充到5000人。 https://www.guancha.cn/society/2018_04_06_452858.shtml
5.我这段文字被头条审核员定性为传播国家分裂言论,让我反复修改,我我这段文字被头条审核员定性为传播国家分裂言论,让我反复修改,我不想修改了。我突然意识到这个审核员可能有支持台独,再怎么修改,也不会通过审核。建议国家新闻局关闭头条这个平台。https://www.toutiao.com/w/1818117286261002/
6.今日头条审核,守护内容生态,构建清朗网络空间,今日头条强化审核审核可以遏制不良信息的传播,维护社会稳定,在今日头条等网络平台上,传播正能量、弘扬社会主义核心价值观,有助于构建和谐、文明的社会环境。 今日头条审核制度 1、审核流程 今日头条审核制度遵循“人工审核+技术筛选”的原则,平台通过技术手段对内容进行初步筛选,过滤掉明显违规、低俗、有害信息,人工审核员对剩余内容进行深https://shiyoudz.com/post/330.html
7.微信小程序定制开发郑州沃之涛科技有限公司,致力于网站开发、网站优化、网站推广、竞价托管、APP开发、wordpress插件开发、公众号开发、小程序开发等。 我们是从一个打工仔,逐步为自己梦想而走到一起的小团队,我们愿意用我们的服务品质,去决定我们的未来。 我们在成长的道路上需要很多合伙商的朋友来帮助我们走向未来,我们要用过硬的技术https://www.seohnzz.com/page/24/