如何对短视频平台违规内容巡查？

根据视频内容分类巡查：短视频平台上对各类视频内容进行了分类，如生活记录类、知识传播类、新闻报道类、个人直播类，根据所需监测的类别进行查找，对所查找收集的视频内容信息进行巡查监测。

根据搜索关键词巡查：监管单位可通过在短视频平台搜索框输入所需巡查的信息作为关键词进行检索，对搜索出来的短视频内容逐个进行巡查，筛选和排查违规的视频内容信息。

不断扩招的后顾之虑

综合各路媒体报道来看，字节跳动内容审核员已扩招超2万人，快手、B站、腾讯等各平台也分别有数千人。整体不到十万数量级的内容审核员，在面对数亿人民产生的倍量内容时，互联网秩序的维护者们也显得有些力不从心。

内容审核员就如“互联网保安”，24小时在文本、图片、音频、视频的不间断“巡逻”，拦截那些黄色、低俗、涉政、广告等违规内容，如果拦截不及时，随时就可能上演“全民知晓”的内容安全事故。而长期熬夜、身体紊乱、长期面对黄色、低俗等内容，对审核员的精神，心理，造成非常大的损伤。

国内外已有不少从业者受到类似困扰，轻则“恶心到吃不下饭”，“晚上做噩梦”，严重的心理创伤，甚至可以让人变得麻木和暴躁，越来越具有攻击性，甚至有审核员猝死。

可以说，当前依靠人工审核来控制内容合规安全，已达到较高负荷的状态。

那不断扩大审核团队规模，就可以“后顾无忧”吗？显然这已不再是较优解。眼下还是平台可以增加人力成本，扩招人工、“少赚一点”的阶段，但作为企业，都会在成本和收益之间想达到一个平衡。

如果单纯把内容风险控制当成一件纯技术性的事情，或者说只认为是企业的成本负担，不能创造收益。那企业只需要准备大量训练数据，一些判断模型就可以直接拿来用，甚至还可以拿出去做成生意。但真正经历过内容安全痛苦的企业就会知道，内容风险控制掌握着企业发展的命门。

海量的内容，在人工之外如何做好内容的合规和安全？现已成了所有内容相关企业绕不开的话题，而内容风险控制细分领域头部玩家们，也瞄准了贴近人类思维的AI内容审核机制的算法研究。

智能内容处理市场需要奇才

根据报送资料显示，博特智能的App内容巡查系统，采用自动化控制技术与检测能力，在面向动态的违规信息和实时更新的UGC内容监控中，可以实现24小时对页面进行抓取，进行抽样专项巡查或者全量巡查，批量清理违规数据。在App端，则不需要让企业推送数据，并能生成巡查报告，可以及时向企业发出漏审风险预警，制定下一阶段的内容风险控制工作计划。

2019年成立的博特智能，开始在智能内容处理市场崭露头角。梳理其背景后发现，博特智能很早之前就与中科院重点实验室有深度的合作，双方的研究人员还联合研发内容科技的中心技术和产品。并获得东湖创投、深创投集团等数千万元的投资加持赛道突围。

可以说，博特智能的“加速跑”，也证明了其在自然语言理解、文本识别与过滤、图像识别、视频内容分析、中文文本纠错、格式文档分析、文本摘要、文本感情的色彩判断等方向已有多年的经验和技术积累。

App内容巡查系统，本质上是一个主动监测系统，三级内容风险控制闸门在对文本、图片、视频、音频、直播的巡查过程中，会比“人机协同”更具有后发优势，在机器、人工都漏掉时，内容巡查系统依然能实时发现风险并前置处理。