新新闻业态下平台媒体的内容风控实践与反思——以今日头条为例

admin管理员组

文章数量:1531792

2024年4月27日发(作者：)

媒介经营管理

新新闻业态下平台媒体的内容风控实践与反思

——以今日头条为例

肖章凤

（

中山大学

传播与设计学院

，

广东 广州 510000）

摘 要：近年来，以微博、微信、今日头条、一点资讯为代表的平台媒体（Platform Media）异军突

起，给传统新闻业态注入了新鲜的血液。但随之而来的问题是平台媒体内容把关的缺失，良莠不齐、真

假不明甚至一些涉嫌违法犯罪的内容充斥于网络，给社会造成了不良影响。政府部门对此监管趋严，

约谈部分违规平台媒体和关停部分平台媒体旗下产品。在这一背景下，内容风控显得尤为重要。本文

以今日头条的内容风控实践为例，试图呈现新新闻业态下平台媒体的内容风控现状，提出对平台媒体

内容风控的反思。

关键词：平台媒体；内容风控；新闻业态

中图分类号：G206 文献标志码：A 文章编号：1674-8883（2020）01-0246-02

一、平台媒体的崛起与危机

（一）平台媒体异军突起

中山大学传播与设计学院院长张志安教授认为，

新新闻生态主要包括4种类型媒体：一是理论上为公共

利益服务的专业媒体（Professional Media），二是为特

定机构或者行业传播而建立的机构媒体（Institutional

Media），三是具有草根文化和技术赋权特点的自媒体，

四是具有明显用户规模、技术创新和资本驱动优势的

［1］

平台媒体。本文提出的平台媒体即张志安教授所提

到的第4类媒体，其中，最具代表性的就是一点资讯、微

信、微博和今日头条等平台媒体。

最早提出平台媒体的是美国社交网站Sulia的CEO

乔纳森·格里克，但是美国学者杰罗姆给出的定义更为

大众所认同：平台型媒体是指既拥有媒体的专业编辑

权威性，又拥有面向用户平台所特有开放性的数字内

［2］

容实体。从2014年开始到2018年，平台媒体已经慢

慢成熟，为传统新闻业态注入了新鲜的血液，也成为了

媒体转型发展的一个主流模式。

（二）平台媒体内容审核迫在眉睫

在这场平台媒体的流量狂欢下，随之而来的问题

是平台媒体内容把关的缺失，良莠不齐、真假不明甚至

一些涉嫌违法犯罪的内容如侵犯版权和淫秽色情的内

［3］

容充斥于网络，给社会造成了不良影响。因此，平台

媒体逐渐陷于被监管部门约谈整改的泥潭中，社会声

誉也与日俱下。

从2017年开始到2019年，包括今日头条、火山直

播、微博问答、快手等平台媒体因部分内容艳俗等，接

连遭遇相关监管部门的惩罚并被要求下架或整改。通

过以上日渐趋严的监管动态，本文认为，违规内容是悬

在平台媒体头上的达摩克利斯之剑。具有社会连接属

性和社会生产属性的平台媒体想要持续发展，内容风

控和内容审核是必不可少的一个环节。

二、今日头条尝试内容整改

今日头条主要为用户推荐信息，提供连接人与信

息的服务。据其创始人张一鸣在2019年互联网大会上

介绍，截止到2019年6月底，今日头条已有1.4亿活跃用户，

246

每天平均使用76分钟。今日头条经过6年发展，已经成长

为一家大型平台媒体。但是，正如我们前面在梳理平

台媒体面临的内容审核困境中所提到的那样，今日头

条在内容审核方面处处碰壁，为此损失了不少“爱子”，

比如拥有2.5亿高黏性用户的内涵段子APP。因此，从

2018年开始，今日头条开始正式着手布局内容风控。

一方面，平台媒体的社会责任成为了今日头条的关

键词。2018年5月17日，今日头条替换了原先的标语口

号，将原来的“你关心的，才是头条”更改为“信息创

造价值”“坚持正确价值导向”，这一做法表明今日头

条已经从内部意识到，在推行智能算法、大数据挖掘技

术和追求商业利益的同时，也要将社会责任纳入考量。

在2018年年底，今日头条成立了平台责任研究中

心，统筹反谣言工作，净化其内容生态。2019年年初，今

日头条发布了第一份《今日头条资讯打假报告》。根

据《今日头条资讯打假报告》，今日头条平台内所有发

出的内容必须经过谣言模型和人工审核双重检测，月

平均拦截11万余条疑似谣言的文章，同时滚动式清理

网站内老谣言，平均每周对一千多条谣言点进行全站

回溯。

另一方面，自2018年，今日头条开始大规模招募人

工内容审核编辑，据今日头条副总编辑李彤在公开场合

介绍，在2018年年初，今日头条拥有超过4000人的内容

审核团队，这个团队的主要职责就是把关今日头条内

容，确保质量和安全。除了人工审核之外，机器智能审

核也是重要举措。今日头条的智能审核机器一秒钟能

够审核100篇文章，极大地提高了内容审核的效率。在

自身组建团队进行内容审核的同时，今日头条还将部

分内容审核服务外包给专业的第三方内容审核公司。

三、国外平台媒体内容风控举措

良莠不齐、低俗媚俗甚至涉嫌违法犯罪的内容在

网络中流窜，是全球所有平台类媒体都无法完全治愈

的“硬伤”，这些平台媒体也面临着法律的制裁和民众

［4］

的抗议。因此，在这一背景下，国外一些平台媒体也

陆续开始审核和把关自身平台上的内容。

美国两大平台媒体Twitter和Facebook将内容审查

第11卷第1期

2020年01月

Vol.11 No.1

January 2020

业务都交给了第三方内容审核平台。Twitter将其内容审

核业务交给了第三方审核公司Sift science，这是一家网

络安全科技公司，于2018年3月份获得D轮融资5300万

美元。而总部在意大利的老牌公司CPL Resources则

是Facebook一直以来的第三方内容审核平台。类似

的第三方内容审查平台还包括新加坡的CashShield、

平台媒体发展的应有之义。

那么，未来平台媒体的内容风控将走向何方？

首先，第三方内容风控平台将崛起。目前平台媒

体通过三大举措来确保内容风控：一是将内容风控工

作完全外包给第三方内容风控企业，如微博；二是平台

媒体内部组建内容风控团队，建立内部媒体监控平台，

特拉维夫的Foshirter、巴黎的Shift Technology、英国的

Featurespace以及亚特兰大的Pindrop公司。这些平台

都在为国外的平台媒体提供内容审查业务。

2018年Facebook发布了一份8000字的内容审核指

南，规定了22亿用户以后可以或不能在Facebook网站

上发布的内容。虽然有了第三方内容审核系统的帮助，

但Facebook和Twitter等公司依然会在公司内部设置

人工审核岗位，利用人工来甄别不法内容。

四、内容风控的反思

通过对今日头条内容风控的研究，本文认为平台

媒体内容风控在一定程度上可以助推其实现长足发

展。首先，平台媒体通过内容审核屏蔽了很多良莠不

齐、庸俗媚俗、格调低下的内容，净化了新闻生态。本

文认为内容风控本质上也是资本主义平台的一种让渡

和妥协。目前平台内容审核的成本不小，但之所以这

样做，一是因为政府的强制管制，二是为了留住用户、

获得更多的流量。如果输出优质内容的水平能决定平

台媒体发展有多高，那么内容审核则决定平台媒体能

够走多远。其次，媒体平台通过内容审核也保护了版

权。近年来，内容审核可以在一定程度上防止平台媒

体侵犯传统媒体版权的行为。自从平台媒体诞生以来，

经常遇到传统媒体起诉平台媒体侵犯其著作权的案

件。例如，虽然今日头条标明了新闻来源网站的名称

和具体网址，但没有完整地显示来源网页，而仅显示其

中的新闻内容。而平台媒体推出内容风控，可以在一

定程度上避免其侵权行为和，保护传统媒体的著作权。

虽然平台媒体的内容风控现在正如火如荼地发

展，但是我们也需要对其有冷静的思考。一方面，平台

媒体内容风控包括机器审核和人工审核，都存在审核

标准模糊和审核不精准的问题；另一方面，人工审核对

审核人的考验巨大，不仅需要审核的文章数量多，而且

长时间观看血腥、暴力和色情的文字和图片也在一定

程度上会影响审核人的心理状态。

据《今日头条算法原理》公开信息，在机器审核

内容的过程中，泛低质识别涉及的情况非常多，容易导

致审核不精准。而就第二方面来看，今日头条每一位

人工审核员每周会有3次夜班，每天审核的文章数量为

1000～2000篇，工作量很大。同时，在审核的过程中，还

需要审核员划分每一篇文章的传播等级，这就要求审核

员必须看完每一段文字和图片。有内容审核员曾对《中

国经营报》的记者表示，每次工作完之后脑子里总是

会想起那些内容，特别是一些凶杀暴力血腥的描写，导

致自己经常失眠做噩梦，对自身身心是一种摧残。

五、内容风控的未来发展趋势

近年来，为了加强网络内容安全管理，国家网信办

出台了诸多文件，约谈了众多违法违规的平台媒体，监

管日渐趋严。因此，对各大平台来说，内容风控将成为

人工和机器双管齐下完成审核；三是平台媒体将一部

分审核任务外包给第三方企业，一部分由平台媒体内

部处理，如今日头条。

［5］

本文认为，随着技术的发展和

平台媒体对内容风控重视程度的提高，平台媒体内容

风控模式将会更加多元，但是主要会向外包给第三方

内容风控企业靠拢。

其次，传统媒体将会发力向平台媒体推出内容风

控承包业务，内容风控将会是传统媒体和平台媒体合

作的新形式之一。传统媒体特别是一些党报党刊在审

核媒体内容的时候，具有天然的优势和敏锐度，能够非

常清楚地了解媒体内容属性。此外，传统媒体相对于

平台媒体来说，更加看重社会公共利益，比追求商业利

益的平台媒体更具有社会责任感和社会公信力。因此，

由传统媒体推出内容风控业务是合适的选择。以人民

网为代表的传统媒体推出第三方内容风控业务，对其

自身来说是一种再盈利模式，能够缓解传统媒体的困

境。而对平台媒体来说，将自己的内容风控外包给第

三方平台，也将极大地节约自身人力成本，提升平台内

容质量。

最后，平台媒体的内容风控将会走向更加智能化，

将人解放出来做更有意义的事情。虽然在机器审核内

容的过程中，泛低质识别涉及的情况非常多，但是随着

技术的成熟和实际运用案例的增多，平台媒体在运用

机器审核内容时，其错误率会下降，误删漏删的情况也

将减少。

六、结语

“欲戴王冠，必承其重”，平台媒体兼具明显的用户

规模、技术创新和资本驱动优势，如果想实现长足发

展，就必须承担相应的内容审核责任。在未来，第三方

内容风控平台的崛起、传统媒体内容风控业务与平台

媒体的融合、技术赋能平台媒体，使其内容审核实现智

能化升级，将是平台媒体的法宝和护身符。

参考文献：

张志安.数字新闻业研究：生态、路径和范式［J］.新

闻与传播研究，2018（S1）：91.

张志安，姚尧.平台媒体的类型、演进逻辑和发展趋势

［J］.新闻与写作，2018（12）：75-80.

张志安，聂鑫.互联网内容生态变化：历程、路径与反思

［J］.新闻与写作，2018（10）：5-12.

杰罗姆.平台型新媒体（Platisher）是有效的商业模式

吗？［J］.中国传媒科技，2014（23）：71-75.

陈安庆.内容审核，传统媒体盈利新模式［J］.青年记

者，2019（10）：47.

作者简介：肖章凤（1993—），女，江西赣州人，中山大学新闻

与传播专业硕士研究生，研究方向：媒介创新。

247

［1］

［2］

［3］

［4］

［5］

本文标签： 内容平台媒体审核头条