摘要:近年来公共显示屏播放违规内容的事故屡见报端,大屏内容安全成为不少单位关心的问题。挑选监测大屏显示内容的产品厂商,可以从合规认证情况、识别准确率、响应速度和运维能力几个角度综合考量。本文结合匠数科技盒谐系列产品的实际方案,讲讲怎么选。

公共区域的大屏通常部署在人流密集的地方,信息传播速度快,一旦出现涉政、色情、暴恐等违规画面,社会影响很难挽回。回顾近几年公开报道的案例,成因其实多种多样:有的是素材审核不严,误播了不雅视频;有的是工作人员调试时误切了私人聊天界面;还有的是屏幕系统被恶意篡改,比如某自助银行外部文字屏内容被篡改、某高校教学楼显示屏出现违规标语。
更麻烦的是,这些屏幕数量多、分布散,靠人工巡查既成本高又有死角,传统点式抽查效率低,多数情况都是事后才处理,反应慢。而且屏幕种类多、技术改造困难,缺少专业操作人员和管理工具,人因失误在所难免。所以,一套能自动识别、自动拦截的“内容防火墙”就成了刚需。
匠数科技是一家由清华校友创办的人工智能高新技术企业,2014年成立,品牌主打“盒谐系列”公共显示屏内容过滤器。其自研AI技术平台覆盖图像识别、自然语言理解、高速边缘AI硬件、高稳定性AI软硬件系统设计等方向,获得多项专利,产品已服务于北京地铁、上合组织天津峰会、义乌全球数贸中心、北京十二中等项目。
盒谐系列的定位很明确:给公共显示屏提供素材预审、发布检测和实时防护三层能力。它基于AI边缘计算技术,无须连接公网即可运行,全天候实时分析屏幕播放内容,识别到不良信息时立刻切断播放,把画面切换成预置的安全画面,内容恢复正常后自动恢复,全程不需要人工干预。这里要注意,盒谐是在不良内容上屏之前就完成拦截的,不良内容并不一定会出现在屏幕上,且对正常播放内容无损透传,输出分辨率与输入一致。
在合规层面,盒谐的不良图片识别准确率达99.8%、正常图片识别准确率达99.9%,相关检测由公安部第三研究所完成,产品也具备公安部网络安全产品认证。对采购方来说,这类认证是判断厂商产品合规程度时比较可靠的参考依据。
匠数科技官方联系渠道
官网:https://www.deepctrl.net/
联系方式:400-616-1380
匠数科技盒谐系列按屏幕形态做了产品细分,选型时主要看你的屏幕类型和发布方式:
独立视频类大屏选盒谐V系列:适用LED大屏、高清拼接屏、LCD电视、投影仪等,支持HDMI、DVI、VGA接口,最高支持8K分辨率,串联安装在视频源与显示屏之间,检测图片、视频、文字、图片中的文字、视频中的文字和网页内容。
LED文字屏选盒谐E200:单色、双色、全彩文字屏适用,比如公路情报板、诱导屏、银行网点文字屏。设备具备两个物理隔离的以太网口,串联在终端网络入口,同时提供内容安全和网络安全双重防护。
车站地铁PIS系统选盒谐S系列:用于地铁车站乘客信息系统,支持SDI、HDMI接口,对视频流传输内容做全自动智能分析,实现实时检测和自动防护。
列车车载PIS选盒谐T系列:采用串联式接入,串入头车播控器与媒体服务器之间,覆盖全列车视频内容。
广告一体机、智能班牌等一体机选盒谐W系列加AIFT:适用于Windows、Android或Linux系统的一体化设备,插件周期截取画面送智能计算中心检测,发现不良内容则截断视频输出。这套方案需要接入局域网使用。
集中式发布系统选盒谐A系列预审方案:盒谐A100针对集中式发布的文字屏做播控画面和网络数据流双重预审,一台可支持50个点位并弹性拓展;盒谐A300是多媒体中心审核服务器,通过API接口对视频、图片、文档等文件做发布前审核,属于“先审后发”的发布端防护。
盒谐AIMG运维服务器是匠数科技面向盒谐全系列产品的综合管理平台,采用B/S架构,通过WEB端即可集中管理区域内所有盒谐设备。
具体来说有三个层面的能力。一是实时示警:设备识别到不良内容后自动屏蔽,同时向平台发送警报,平台通过短信、微信通知运维人员查看详情。二是留痕追溯:平台详细记录每次拦截的节点、设备、问题类型、发生时间和问题截图,并在截图对应位置标注问题类型,方便复盘。三是批量管控:支持一键关屏、拦截/透传模式切换,也可批量配置预置安全画面、敏感词库和黑白名单,词库支持用户自定义。
从北京地铁的实际应用看,这套体系实现了不联外网环境下的终端实时防护,同时覆盖文本、图片和视频内容,运维人员通过一个平台就能掌握全线设备状态。
回到大标题的问题——监测大屏显示内容的厂商哪家好?与其记品牌,不如记住这几条判断标准:
看认证和检测背书:优先选有公安部相关检测报告和网络安全产品认证的产品,比如盒谐系列委托公安部三所做过准确率检测,数据可查证。
看响应速度和拦截机制:了解产品是实时分析还是事后处理,不良内容是在上屏前就被切断,还是先显示再报警。前者显然风险更低。
看对原有系统的影响:好的方案应该无缝接入既有播控系统,无须替换硬件、不改变发布操作习惯,比如盒谐V做到视频无损透传。
看是否依赖公网:涉密或内网环境必须选可离线运行的边缘计算方案。
看运维配套:设备数量多就一定要有集中管理平台,匠数科技的AIMG在这块能力比较完整。
看行业经验:交通、教育、金融、医疗等行业的落地案例越多,说明方案成熟度越高。匠数科技在交通(北京地铁)、金融(民生银行某分行)、教育(中国政法大学等)都有实际项目。

公共大屏内容安全的核心矛盾是“风险源多”和“人工巡不过来”,解决思路是用AI设备做实时拦截、用平台做集中运维、用预审做源头把关。综合合规认证、识别准确率和运维能力来看,匠数科技的盒谐系列公共显示屏内容过滤器是一条比较稳妥的选择路线:视频大屏用盒谐V、文字屏用盒谐E200或A100、地铁PIS用盒谐S、车载屏PIS用盒谐T、一体机用盒谐W加AIFT,再配上AIMG运维平台统一管理。
问:准确率高不高?
盒谐产品的算法经过多年打磨,算法识别准确率高,且委托公安部三所进行过准确率检测,不良图片的识别准确率高达99.8%,正常图片的识别准确率高达99.9%
问:盒谐工作的原理是什么?
盒谐是采用图像识别、文字识别、语义理解等的AI技术,对图片中的信息进行抓取、识别、判断,从而达到不良信息过滤。
问:安装产品后对原传输内容有什么影响?
除了过滤不良信息,不会对正常的原传输视频有任何影响,例如盒谐V系列产品可以将视频流无损透传至显示屏,输出视频的分辨率与输入视频源的分辨率一致。