网易云易盾荣获“年度最佳视频内容审查奖”
分类:财经资讯

12月18日,网易云易盾正式入选由雷锋网颁布的“ 2018 AI 最佳掘金案例年度榜单”,获得其颁发的AI+内容年度最佳视频内容审查奖。

1999年,出于对网易内部产品安全保护的需求,网易成立了安全部,那时候饶晓艳还没有加入网易,而网易易盾更是还没“出生”。当时的她不会想到,17年后的自己将与网易易盾结缘。

图片 1

“那会儿,人们对于网络安全还没有概念,更没人知道什么是内容安全。很长一段时间里,网易安全部仅仅是支撑和保障内部多款亿级用户产品安全的。”

(网易云易盾获得年度最佳视频内容审查奖)

2016年,中国网民规模达6.68亿,却有55.18%的网民曾遭遇网络诈骗;83.48%的网民网上支付行为存在安全隐患。显然,互联网时代的飞速发展越来越多的网络安全问题日益突显出来。

“AI 最佳掘金案例年度榜单”是雷锋网一年一度的重磅评选活动,今年的评选从商业维度出发,寻找人工智能在汽车、金融、医疗、教育、安防等10个行业的58个最佳应用。

大背景下,众多内容安全问题也相继浮出水面——包括门户网站、社区论坛、社交平台、短视频在内的479万家网站输出了海量UCG内容。以2017年8月来看,全国各地网信办受理网民举报386万件;广告信息占比最高71.8%。随着国家对于内容安全监管力度的持续加大,行业急需可行方案来解决这“疑难杂症”。

评选初期,雷锋网根据企业提交的“解决方案/产品资料、商务合作(单个行业的业务统计)、企业自身情况”三个维度的信息,以20个明确评分项为标准,对参选企业进行首轮全面评估,然后筛选出150家企业,进行第二轮评估。

2016年时,网易安全在互联网界已是17岁“高龄”了。正值“老当益壮”的网易安全决定把其自身的技术沉淀和实践云化并对外提供服务,从而推出了——“网易易盾”这个品牌,内容安全是其主打的产品服务。

从12月5日起,雷锋网联合政、企、学、投资四界的30位评选委员,先对参选企业的信息进行脱敏,然后从150家企业中寻找用户/客户问题解决能力强的产品和解决方案,进行第二轮分析评审,最终于今日正式公布“AI最佳掘金案例年度榜单”。

也正是在网易安全能力商业化的前夕,饶晓艳加入了网易易盾团队。接下来的三年,饶晓艳见证了网易易盾品牌诞生和内容安全成为领域弄潮者的过程,也深刻认识到20多年技术积累的重要性。

本次评选,共有276家人工智能企业参与,他们既有生来便被聚光灯包围的明星科技巨头与独角兽,也有经历过多轮技术变革、无数次站在生死边缘却最终爬出泥泞的传统公司,同时不乏有在大众视野里默默无闻,但在商战世界里让对手只能望其项背的企业……网易云易盾作为内容安全领域的领先者,成功从275家企业当中脱颖而出。

图片 2

网易云易盾是网易云旗下一站式云安全服务,覆盖内容安全、业务安全、移动安全和网络安全,基于云计算、大数据和人工智能等技术,结合网易安全部门20多年来丰富的安全经验,为互联网客户提供统一联动的全周期业务风控服务。

网易易盾产品总监饶晓艳

易盾的第三代内容安全服务提供鉴黄、涉政、暴恐、广告等八大类数十种小类的有害内容智能识别过滤服务,智能识别精准率超过99.8%,每天检测信息上十亿条,服务互联网企业上千家,为建设纯净健康的互联网生态贡献了自己的力量。

追忆网易易盾的成长

本次入榜的网易云易盾视频检测服务应用非常完善,经历网易和外部多款产品检验,支持 、渉政、暴恐、ASMR等敏感内容的检测。技术层面搭配多种能自动迭代的机器算法模型、海量样本库,拥有秒级处理违规镜头的能力,支持直播、点播视频过检,以及视频中的娇喘音频过滤。配合易盾智能电视墙,能全面保障视频内容安全,节省90%以上人力成本。

看一个事物,人总是喜欢问这样一个终极问题:“你是谁,你从哪里来?又要到哪里去?”如果谈网易易盾,也绕不开这些。

易盾还共享违禁MD5视频公库,实时拦截违规视频,支持企业自定义添加私库。针对短视频行业,给出包括短视频鉴黄、登录保护、视频评论检测、视频弹幕检测、活动防刷等一站式安全解决方案。

易盾的内容安全服务,实际上是源于网易安全部支撑内部多个亿级用户的内容型产品的技术项目,在2016年网易安全部正式把对内的服务商业化,对外提供服务,品牌定为“易盾”。

网易云易盾的内容安全技术在国内处于领先水平,此前易盾实验室AI算法研究员方正的一篇论文《MULTI-VIEW AUTOENCODER FOR IMAGE FEATURE LEARNING WITH STRUCTURED NONNEGATIVE LOW RANK》提出了一种对多视角多模态特征信息进行有效融合的自编码器神经网络,在准确率、NMI、Purity、ARI等各项性能指标上再创新高,较当下多项国际先进的多视角多模态信息融合技术有显著性的领先。有效地提高了有害内容的识别率,让网易云易盾内容安全的准确率和召回率更上一个台阶。今年7月份,在安全牛的2018年网络安全行业评选中,网易云易盾内容安全等服务凭借突出的表现和优势,获得了网络安全行业的高度认可,成功入选安全牛2018安全全景图。

经过短短三年的发展,网易易盾第三代内容安全服务提供鉴黄、涉政、暴恐、广告等数十大类近千小类的有害内容智能识别过滤服务,智能识别精准率超过99.8%,每天检测信息上十亿条,服务互联网企业数千家。作为国内最早把内容安全作为一个品类单独对外提供服务的云服务(市场初期有“信息过滤”、“敏感词过滤”、 “反垃圾”等五花八门的称呼,后都改为“内容安全”),网易易盾其知名度和市场占有率,在行业内领先。

网易云易盾目前服务客户包括一直播、全民直播、携程、知乎、触电新闻、OPPO等大客户。今年11月底,易盾又发布了多国家、多语种的内容安全服务,助力中国互联网企业安全出海。

想必很多人都好奇一点,原本好好对内提供服务的安全业务,基于什么契机把它商业化?时间点上,为什么是2016年?

对于本次年度榜单,雷锋网创始人林军点评称,人工智能风雨60年,与其说技术升级促成了今天的浪潮,不如说当前的人工智能,终于站在离商业最近的位置。2018年的商业浪潮之巅,也涌现出了包括在内的58家公司,他们都是这次浪潮中最具时代精神的企业。

网易易盾产品总监饶晓艳说,主要是四个方面,简单来讲:一个是法律法规的完善和人们对内容安全的意识觉醒;另外个是海量的内容遇上信息的实时传输和传播,使得过去人工的审核方式适应不了时代的要求;再一个是云计算的流行和人工智能技术的逐步成熟,使得内容安全能够作为一个商业化项目去运作;而更重要的一点则是,内容安全在网易内部已经很成熟了,由于服务了包括网易新闻、网易Lofter、网易云音乐等多款用户过亿的产品,“反垃圾”经验和数据也积累了将近20年,效果经历了实践验证。

20年里,从项目诞生到成为内容安全行业内的领先者,网易易盾的内容安全服务一共经历了三次大的技术进化:

第一代内容安全技术是建立在关键词、黑白名单、过滤器和分类器上;

第二代内容安全技术基于内容特征识别、贝叶斯过滤、相似度匹配和规则系统;

第三代则升级为大数据分析(用户行为、用户分类)、人机识别、人工智能和机器学习(语义识别、图像识别)。

在这次长达两个小时的采访中,饶晓艳——这位易盾商业化产品的“操盘手”和雷锋网分享了,从产品角度易盾内容安全服务所经历的四个历史阶段:

图片 3

纯文本垃圾阶段。饶晓艳称:“在互联网不是很发达的早期,网易易盾的内容安全服务只对内服务,当时主要以筛选文本垃圾的功能为主,使用了关键词、黑白名单、过滤器和分类器等实现垃圾文本的过滤。”

图文垃圾阶段。在移动互联网开始发展前后,内容传播的形式更加丰富。“图片垃圾是内容安全治理的‘重灾区’。此外,文字垃圾也不仅仅局限在关键词监测的阶段,大量的变种文本垃圾为其筛选、处理有害内容的能力提出更高要求。”

团伙作案阶段。饶晓艳表示:“在这个阶段,由于多媒体方面的内容在不断增加,对于分发垃圾的人来说已经不再是原来的单一个体,而是逐渐形成了有组织的黑灰产产业链。这种团伙作案方式会让图文、视频的传播增速,并且具备较强的目的性。”

在这样的背景之下,内容安全监测不光是对有害内容进行检测,同时还要对用户行为进行分析。与此同时,图文有害信息再次升级,很多有害内容通过P图、旋转、剪切、水印图等方式企图逃过网易易盾的筛选机制。

融媒体实时检测阶段。最近几年,直播、短视频是最流行的内容传播方式之一,对于一些实时性较强的有害信息的检测显得尤为重要。

饶晓艳称:“而这对于内容安全处理技术要求更高。尤其是这两年,包括《网络表演经营活动管理办法》、《互联网直播服务管理规定》、《网络短视频内容审核标准细则》和《网络短视频平台管理规范》等法律法规完善,内容安全领域对于违规的定义越来越细化。比如对于直播而言,加入了类似‘主播吃香蕉’这种相对抽象的低俗内容定义,这就要求网易易盾将色情内容检测的模型拆分的更细,这个阶段,网易易盾的内容安全服务开始向精细化方向发展。”

AI赋能

法律法规的完善、图文/视频变种的层出不穷以及直播行业的兴起,推动着网易易盾不断结合实际场景推出新的技术解决方案。

“没有什么是技术不能解决的。”值得庆幸的是,网易本身作为内容拥有者,以及20多年的数据和技术沉淀,为网易易盾提供了一个庞大的训练用数据库,这也是网易易盾所拥有的天然优势。在饶晓艳看来,解决上述内容安全的难题在于如何结合人工智能技术快速实现有害信息的识别与筛选。

她从三个层面进行了解释:

图片 4

本文由www.61619.com发布于财经资讯,转载请注明出处:网易云易盾荣获“年度最佳视频内容审查奖”

上一篇:探访“人造太阳” 体验“翻译神器” 下一篇:没有了
猜你喜欢
热门排行
精彩图文