随着直播行业的兴起，不乏有个别不良机构以及个人利用直播平台进行淫秽表演或依靠色情擦边球拉拢人气，严重影响着直播行业的健康发展。近年来，各大直播平台为了保持自己所提供的服务不触犯国家法律和法规，使鉴别不良信息的工作变得尤为重要。
直播平台涉黄事件频发 国家监管越来越严
据悉，“嘿秀”是北京市首家被责令停业整顿的直播平台。但在“嘿秀”被禁之前，直播平台暴力、涉黄、猎奇等不良信息已经频现。
2016年1月11日晚，知名直播平台-斗鱼TV “放荡不羁123”直播间直播性行为，可谓“直播涉黄第一人”。时隔一个月，斗鱼直播又被曝出七煌郭mini在直播间换衣裸露隐私部位事件。3月份，熊猫 TV直播再度爆出不雅视频截图，主角为“熊猫第一素颜美女”在直播过程中，露出隐私部位。5月26日，直播平台“哔哩哔哩”某直播间突然出现直播“啪啪啪”。
面对火爆的网络直播却屡屡出现问题，北京市颁布了《北京网络直播行业自律公约》强制要求所有主播进行实名认证并建立主播黑名单制度，同时要配备好相关人员随时对平台内容进行监管。7月12日，文化部公布首批网络表演黑名单，依法查处23家网络文化经营单位共26个网络表演平台，关闭严重违规表演房间4313间，处理违规网络表演者16881人。
面对海量直播内容 监管压力越来越大
从2015年以来，“网红经济”大热，作为“网红”成名的渠道之一，国内网络视频直播平台迅速崛起。随着行业火爆，竞争也日趋激烈，为了站稳脚跟赚足银两，一些网络直播平台出奇招、抓眼球，铤而走险增加点击量，暴力、涉黄、猎奇等一系列直播内容频现，备受诟病。
近日，9家网络直播平台的40名主播遭到封禁，再一次将愈来愈火爆的网络直播涉黄问题推向大众视野。6月1号，北京市公布了首批因违规被列入黑名单的网络主播，涉及六间房、酷我(繁星)、花椒、在直播、映客、69秀(玖秀)、陌陌和黑金9家直播平台40名主播，这些被列入黑名单的主播将被永久封禁。
对于直播平台而言，违禁的直接后果就是停业整顿，像“嘿秀”一样。而对于平台上的主播来说，网络直播是一个持续升温的传播模式，如果为了眼前一点点关注度而知法犯法，被列入黑名单，完全是一件杀鸡取卵的事，除了成为老司机们手中的资源外，对自身是百害而无一利的。
作为移动互联网行业最为热门的创业领域，移动社交类App和UGC类App大量涌现，因此在尽力确保产品定位差异化的同时，打造健康的社交生态也成为这些App能得以获得长期发展的关键。然而，由于这类App每天生成的信息量通常很大，并且有大量的色情图片混杂其中，所以高效准确地鉴别和剔除这些淫秽色情信息是需要一整套强大的技术作为后盾支持才可以完成，而视频云的技术在这里就起到了至关重要的作用，比如高效识别与监控以及信息筛选的精准度，都可以在很大程度的帮助了厂商去完成“扫黄”任务
金山视频云 鉴别不良信息工作的一大利器
一方面是国家的政策规范一方面是直播APP自身要自律，那么直播APP从技术层面怎样才能更好的鉴别出这些不良信息呢?从目前来看，视频云的鉴别服务可以帮助直播APP大大节省人工成本，提高鉴别不良信息的准确率和效率。
移动直播普遍存在门槛低、24小时全天候直播、秀场主播习惯性“画风突转”、低延时、违规行为持续时间短、直播内容追溯难、视频量大持续时间长、长期工作监管审核人员身心俱疲等等问题。针对这些特点，金山视频云在监管不良信息方面，采取了以下解决方案。
一是直播流与图片智能审核监控双管齐下的监管方式。图像墙使用直播截图高频采样方式，基于图像识别技术实现色情、暴恐图片的识别。图片的机器智能识别精确度达99.5%，查去率超过82%。机器智能识别实现高效、实时监控，同时不断优化机器识别的查准率、查全率。二是多方案实现不良信息的可预警、可管控。包括认证预警、置信度评级、直播加水印、延时可控、黑白灰名单、录制存档、一键断流等技术手段。
