据不完全数据统计，国内目前与视频直播行业相关的中等规模以上的企业超过200家。与行业繁荣随之而来的是直播过程监管乏力，导致直播内容触及违法违规。就在三个月前，文化部下发了第25批违法违规的互联网文化活动查处名单。多家网络直播平台，因涉嫌提供含有宣扬淫秽、暴力、教唆犯罪、危害社会公德内容的互联网文化产品被列入黑名单。
从主观上杜绝上述的违法违规问题为出发点，大多数直播企业一方面实行“实名认证”，另一方面加大人工审核管理力度。但由于直播的行业特点，与以往传统视频网站不同，直播不能做到“前置审核”再上线，只能采用人工7*24小时不间断在线巡查直播内容。在线巡查对人力资源的耗费极大，一个中等规模的直播公司在这方面的人员投入不少于三十人，一年将产生不少于一百五十万人民币的公司费用，而且由于一人同时巡查的直播间过多或精神持续高度紧张引起视觉疲劳导致误判、错判、漏判情况时有发生。这就不难理解为何类似“直播造人门”等恶性直播事件依然层出不穷、屡见不鲜。
直播平台内容监管难已成为该行业普遍存在且暂时未有根本性解决方案的问题，严重制约行业持续有序发展。
那么在高新科技领域，是否能找到一种行之有效的解决方案呢？
极限元（北京）智能科技有限公司正依托公司自主知识产权的智能语音技术和机器视觉技术为直播公司量身定做了一款普遍适用的全新识别系统，有效替代人力在线巡查，进行直播内容审核。一旦直播视频的有害疑似度冲过预设阀值，监视窗口将自动报警，提示是否切断直播。
在核心算法方面，该套系统结合了大数据和深度学习技术，在数千万训练样本基础上，采用了最新的CNN卷积神经网络学习框架，保证了检测引擎的查全率和查准率。同时，这套系统在产品人性化设计上也非常考究且简单易用。有害疑似度超过阀值的直播间将全部置顶，便于查看和处理；为节约带宽资源和计算资源，监控数据采集频率动态调整，疑似度逐步上升时数据采集频率也随之上升，加大数据量验证以保证准确度。这套系统也是目前唯一一套采取图像、声音互为校验的实时视频监测系统，最大化利用了判断视频有害度的基础数据。
目前这套系统已经进入到和直播行业的阿尔法客户联调阶段，实测效果非常理想，有害直播视频准确检出率高达99%。显而易见，该系统的问世将对直播行业的发展起到里程碑式的深远影响。
|
