互联网广告内容审核专题（二）机械审核

互联网上逐日发布海量内容，单单微博的评论日均可达亿级以上。
同时，随着时期发展，在传统的图文内容以上，音视频、直播、弹幕等内容形式的兴起，对付内容审核的寻衅日益增大。

很明显，在风险和用户体验双重重压之下，仅依赖人工审核是不现实的，利用机器审核并初步过滤风险内容才是最优的选择。

机器审核是什么？

简言之，机器审核是通过AI算法对劣质内容进行识别、过滤的一种审核模式，通过提取海量数据样本的特色，输入机器学习形成的机器算法。

机器审核常日可以区分为机审规则和机审模型，机审规则是最大略的机器审核办法，仅支持识别文本类内容。
机审模型则能力更加强大，可支持文本、图片、音视频的审核，一起来看看机器审核是如何识别风险内容的？

一、机审规则

机审规则即风险词表，由海量的风险词和匹配规则构成，大略理解为根据匹配规则，识别待检测文本中是否存在风险词表中的词，下面来详细说说匹配规则：

1. 场景1：针对单个风险词的匹配规则精准包含匹配：待检测文本中精准包含风险词才能够命中机审规则。
如风险词为【真人荷官】，待检测文本中内容为【真%人。
荷/官】，词中间加入了分外符号，即无法识别；强过滤匹配：能够将（1）中的分外符合自动过滤后进行匹配，即将【真%人。
荷/官】转化为【真人荷官】，再进行识别；拼音匹配：能够将【zhenrenheguan】、【真人heguan】转化为【真人荷官】进行识别；字母大小写转换：如风险词为【coco】，可以将【COCO】、【Coco】转化为【coco】进行识别。

2. 场景2：针对多个风险词的匹配规则多模匹配：通过识别固定词间距内是否同时涌现了多个风险词（常日不超过3个），犹如时涌现即命中机审规则。
举例：如机审规则中，风险词为【真人】和【荷官】，设置识别的固定词间距为60字。
当待检测文本中涌现【真人XXXX荷官】，且两个词间距不超过60字时，机审规则可以识别；置换匹配：对付多模匹配，须要按顺序先涌现【真人】，再涌现【荷官】，才能识别；而置换匹配，可以将两个词倒序排布后识别，即可以识别【荷官XXXX真人】。

3. 场景3：豁免规则

为防止正常合规的词语被误杀，常日会人为添加豁免规则。

举个例子：如机审规则中风险词为【人流】，豁免规则为【人流量】。
那么当涌现【人流量】时，即会命中豁免规则，许可该词语正常利用。

除了上述基本的匹配规则外，在商业推广中常日还会增加【白名单机制】。
白名单机制的涌现，是基于品牌保护的目的，即白名单内的客户或账户许可利用词【coco】，其他客户不许可利用，来担保品牌主体的正当权柄。

大家可能有疑问，海量的风险词是怎么来的？如何判断一个词属于低俗风险？

这些都是专业的审核职员或风控规则运营职员基于事情履历、审核case以及互联网的海量数据进行人工致顿的。
可想而知，事情量极大。

随着机审能力的发展，目前也可以借助一些词扩展工具，通过一个根本词，基于繁体转换、拼音转换、同义转化等逻辑，自动扩展出变体词，赞助人工网络。

二、机审模型

机审模型能够实现对文本、图片、音频、视频各种形态产品的识别，对付不同形态的产品如何识别呢？

1. 文本识别

相较于机审规则，模型能够实现的识别场景更多。
通过语义剖析构建智能学习算法，结合场景对风险文本进行识别。

以下面一段文本为例【韩国电影/迷人的保姆/男主经不住俊秀保姆诱惑】，这段话拆开每个词都不涉及敏感问题，但整体的场景描述下却是低俗导向，不适宜发布。

对付这类情形，机审规则无法生效，只能靠模型来识别。
通过样本输入和机器学习，让模型具备这类场景的识别能力。

2. 图片识别

常日区分为图片中的笔墨和图像识别：

笔墨识别采取ocr识别技能，即对图片进行扫描，将图片中的文本输出，再利用文本规则或模型进行风险识别；图像识别基于海量的图片数据，获取图片的信息并进行预处理，比如去噪、平滑、变换等，然后抽取图片特色进行分类处理存储至索引库，打算并存储图片的风险标签。

那在面对一张新图片时，索引库中如有与之相似的特色，即可以进行识别判断。
作者对付图像识别研究并不深入，不作更多妄论。

3. 音频识别

asr语音识别技能，将音频转换为笔墨后进行识别。

首先对音频进行预处理，提取音频的特色。
特色提取出来后，建立索引库存放特色。
在面对一段待识别的语音时，将其与索引库中特色进行匹配，输出识别的结果。

音频识别与同为多媒体元素的图片识别，基本的事理是一样的，都是提取特色、建立索引库存储、特色匹配这三大过程。

4. 视频识别

视频审核目前紧张以视频切帧的办法，将视频切成一张张的图片，再按照图片识别的办法进行审核。

三、总结

可以看到，相较于机审规则，模型的识别范围更加广泛，识别能力更加强大。
但在实际机器审核中，常日是规则和模型组合拳的办法利用。

缘故原由在于，模型的研发须要更加海量的数据和极细粒度的标准，并经由严格的线上测试，准召率达标后才能够上线利用。
而机审规则不须要研发，常日配置即可生效，是一种实时做事。

对付紧急风险来说，最得当的办法是利用机审规则应急，同时进行模型研发，以最大程度降落风险影响。

当然机器算法的识别能力也是有限的，除了准召率的问题外，对付某些场景险些不适用。

比如直播的审核，对时效性哀求极高。
如利用视频切帧、音频识别的办法，直播画面结束还没审核完成，远远达不到风险管控的目的。
因此常日利用人工审核，盯在直播间前防止风险突发。

本篇文章的内容就到这里，关于更多的审核模式、审核机制、审核业务管理办法等会在后续文章中连续和大家分享！
欢迎大家一起磋商！

本文由 @声生 原创发布于大家都是产品经理，未经容许，禁止转载

题图来自 Unsplash，基于 CC0 协议