内容巡查的应用场景

快速响应监管要求

帮助企业快速响应监管要求，对平台内容进行自纠自查，清理专项违规内容

第三方服务质量管控

帮助审核管理人员进行第三方服务质量管控，发布前审核与发布后巡查结合，及时发现审核漏洞，提高审核效果

历史数据风险管控

帮助审核管理人员对历史数据进行风险管控，清除潜伏违规数据的危害，完善内容风险管控体系

内容巡查

不同业态可配置不同巡查标准

提前设置计划巡查时长，通过巡查用时（超时完成、提前完成、平均用时）等数据，分析各巡查路线用时区间数，辅助管理者制定合理的巡查时长。内容巡查实现人员排班智能化、任务调度自动化、巡查作业移动化、监管考核实时化、业务数据可视化。对巡查结果进行人工校验，人工拓展挖掘。准确掌握海量挖掘数据和内容巡查路径。

被忽视的内容安全，App领域成了重灾难区

近年来，各类互联网企业接连不断因内容违规问题被罚。企业有意自查，对内容进行把控，却处处是难题。行业到底怎么了？或者，更多想问的是我们的内容安全屏障到底怎么了？

各家互联网平台都不约而同地开始升级风险管控力度，预防网暴能力，新上线“风险提醒”“发文警示”等功能，整治不当私信和不当评论，推动形成预防网暴的合力。

在加强风险管控的背后，是网暴已达到猖狂的程度。就拿近期的案例而言，上海姑娘因打赏外卖员200元被网暴跳楼；19岁女孩直播中被怂恿喝农作物药品，类似事件则多次被推上热搜，而这只是互联网内容安全问题的冰山一角。

今年3月份，人民日报连发三篇评论斥责网暴。更早之前，中央网信办也开展了“清朗·2022年春节网络环境整治”专项行动，其中重点整治任务中，排在首位的就是“网暴、散播谣言等问题”，包括借疫情、社会热点事件等挑动，进行人肉搜索、攻击等情况。

针对此次专项行动，中国信通院与网易、博特智能等企业在2022年也完成了面向互联网信息服务类企业的《内容审核体系成熟度评估规范》，该规范将能帮助互联网信息服务类企业全方面梳理内容安全体系，及时查漏补缺，协助互联网信息服务类企业开展“自查自纠”。

就在近期，中国信通院再次牵头会同阿里、网易、中国移动、博特智能、YY直播、映客直播等互联网信息平台、机器审核服务商，召开了内容审核机审能力调研会，重点对互联网信息平台在文本、图片、视频、音频领域的机审能力进行了深入调研，将为国家有关部门开展后续规范工作提供科学依据。

这也预示着内容安全领域的相关行业标准即将出台，平台对展示用户内容的审核负责任，将被正式规范约束。

内容安全 有些不安全

不断产生的海量内容，不仅代表着更多的流量，也预示着巨大的内容风险藏身其中，更可能导致社会性的事件。

如何保证内容的合规和安全，把控内容的风险，既是一个行业挑战，也是一个巨大的商机。

如果把目光从国内转向国外，你会发现，内容安全在全地球已经发酵到了“难承其重”的程度，成为不少事件发生的开始。

欧盟在2016年就宣布与Facebook、Twitter、YouTube和微软就控制网络不法言论展开合作，互联网巨头们集体签署了一项行为准则，承诺“接到举报后24小时内屏蔽和删除相关言论”。

国际上的互联网巨头为何如此高度地配合，甚至到了舍生忘死的程度？究其根源在于监管力度的不断加码，如果没在规定时间内下架相关内容，将面临高达5000万欧元的罚款，平台还必须每六个月上报一次自己对犯法内容的处理结果。

回到国内，监管力度同样保持高压红线。但因内容审核把握不严，屡被处罚的企业依然不少，难道是犯法成本太低了吗？

据不完全统计，2015-2021年期间，电商、图片版权、企业服务、社交、网络文学、直播音视频、影视、出海、教育、信息平台、网络文学行业，近2万多个互联网产品服务因不同程度涉网暴等违规受到监管处罚，严重者更被下架整改数月。

其中不乏国内耳熟能详的互联网企业产品，而App领域则成了内容安全频发的重灾难区。

强监管只是影响结果的其中一个因素，但要把内容安全完全依靠于它，就有点牵强。那客观来说，我们应该依靠什么来战胜“互联网毒瘤”？