人物 | 网易安全部总经理周森:内容安全远比想象中的要复杂 – 作者:wangyiyunyidun

夏末,笔者于杭州拜访网易安全部总经理周森,听其一番言语,没有铿锵有力的口号,没有声嘶力竭的呐喊,没有繁花似锦的修饰,但却感受到他骨子里的专注与低调。

那时,笔者脑海中忽然浮现出一首特别喜爱的散文,乃德裔美籍作家塞缪尔·厄尔曼所撰的《青春》,其中有一句是:“Years may wrinkle the skin,but to give up enthusiasm wrinkles the soul。”

这句话被翻译为很多版本,但笔者最喜爱翻译家和诗人王佐良先生所译,因为他将散文译成了诗歌:“岁月悠悠,衰微只及肌肤;热忱抛却,颓废必致灵魂。”

在笔者看来,安全是枯燥的,是寂寥的,是费解的。周森已近不惑之年,加之长年躬耕于安全技术,说话和行事风格难免会给他人留下严谨慎重的印象。但是,此番交谈之后,才发现这只是表面,深入交谈后,你就会发现藏于内心的坚定和热忱。

十三年职业生涯,始终如一

周森说,依旧记得当初步入校园的紧张、新奇与期待。2006年,周森从浙江大学研究生毕业。在硕士阶段,他主要从事语音识别相关的技术和研究方向。

周森深为感慨地回忆道:“我们那个年代,大约在2004-2006年的时候,语音识别还没有现在基础计算,底层的技术也没有现在好,后来深度学习技术出现后,语音识别的效果才有了大提升。”

周森的职业生涯,让笔者印象深刻。因为他毕业就进入网易,至今十三年来,未曾离开。周森是笔者至今拜访众多安全界人士中,唯一一个坚守第一份职业长达十余年的人。仅此一点,足见其毅力与坚守,当真超脱了一般人。

640.webp (1).jpg

1999年,周森考上了大学,至今刚好是二十年。

自2006年加入网易以来,周森就一直从事和负责网易集团信息安全的工作。2008年,周森开始接管起网易博客和网易相册的反垃圾工作,即解决这两个平台的内容安全问题。2010年,周森干了一件更重磅的事,对非正常邮件的内容特征和发送者的行为特征进行了深入分析和研究,引入当时最新研发的数据挖掘技术,重新主持研发了网易邮箱新一代智能反垃圾系统,使得网易邮箱成为当时干净、好用邮箱的代名词。

在此前后,网易安全部也逐步开始支撑网易游戏、网易新闻、网易云音乐、有道、考拉等产品的安全服务。正是源于网易安全部服务内部多个亿级用户的内容型产品的沉淀和经验,2016年网易安全部正式把对内的安全商业化,对外提供服务,推出“网易易盾”。

网易易盾商业化是一种必然 

据周森介绍,今天的网易易盾,拥有超过25万的注册开发者,业务覆盖内容安全、业务安全、移动安全和网络安全四大领域。拥有数千家付费客户,其中不乏知乎、OPPO、ViVO、一直播、小咖秀、挖财、唯品会、滴滴、英雄互娱等知名企业。

回到2016年那个起点,究竟是什么让周森做出对外商业化的决定?真的就那么简单——正好内部有沉淀,就“顺手”推出了网易易盾对外服务?当笔者不断变换着问题,拷问着这位网易安全部和网易易盾的掌舵者后,才发现真正的原因。

随着4G网络的日益普及,内容传播的形式更加丰富,文本不再是内容安全治理的唯一重点,图片、短视频也逐渐成为平台的重灾区。当时客户的意识还没觉醒,他们没意识到还可以寻找专门的第三方服务来解决内容安全的问题,从而摆脱人力成本上的桎梏。

而彼时,国外已经诞生了Mollom、WebPurify、Sightengine等第三方反垃圾服务。拥有多款亿级用户产品安全保障经验的网易安全部认为,这是一个解决行业普遍痛点的机会,得抓住……这是其一。

第二点,周森则说得很含蓄:“在互联网公司,安全的技术是服务于其他产品的,我是从做基础设施技术这个角度出发。既然是做基础设施,如果只服务于内部,而不是囊括外部的生态,那么这群技术人员很容易触及天花板。”

笔者颇为不解,为何服务于整个公司的基础设施的技术人员,他的天花板会很低。按理来说,他们应该是公司的中流砥柱。

周森明确表示:技术服务的范围越大,技术能力才会越强。如果仅仅对内服务,很容易走到尽头,对外——客户越多,能力才会得到提升。

“即便你投入很大,做得很牛,但仅用于企业内部,价值也会有限,性价比未必很高。你只有服务于更多企业,技术的性价比才会越来越高,价值也会越来越大。”

至此,笔者才明白,网易易盾并不是大趋势下的偶然,而是一种酝酿下的必然

内容安全是易盾最核心的服务

周森对各个业务进行了充分介绍,过程中他提及频率最高的业务是内容安全。

在笔者看来,如此高频率提及内容安全,原因有三方面:

一方面是内容安全越来越重要,是否配有内容安全、以及内容安全风控能力怎样,已经真正影响到一家互联网企业的发展甚至命运。

去年内涵段子被永久关停,让不少人至今对内容安全仍印象深刻,实际上内容安全事件一直持续不断。仅仅在今年5月份,就有好奇心日报、起点文学、晋江文学网、钉钉社区发布暂停更新或直接被查处惩罚。如果扩大到2019全年,各种内容安全事件至少有两百起。周森认为,在不断营造风清气正的互联网环境下,内容安全已经成为大部分互联网企业的生命线。

另一方面,内容安全的范围越来越广。“如今,几乎所有APP和网站都需要用户注册,因为注册之后,用户的黏性才会加强。一旦涉及注册,昵称、头像图片、签名内容等都会成为平台的内容安全隐患。如果有内容模块,那么面临的内容安全隐患更大,更加不可控。”

对此,周森总结到,内容安全某种意义上,已经成为一种“泛安全”。

而内容安全是易盾最核心,也是做得最好的服务,并且在国内,也是最早将内容安全云化并对外服务的。

“在我们商业化的时候,可能有零星几家企业有所涉及,但是投入很大资源和精力去做的,网易是独一家,也应该是第一家。”

周森介绍称,内容安全中敏感词过滤是最初级的技术,无论哪个企业,只要有个技术人员,搭个敏感词过滤系统,再搜集一些敏感词库即可。这样的内容安全技术的效果也可想而知,误伤比较严重,不该防的防住了,应该拦截的却拦不住。

易盾当下对外提供的内容安全服务为全新的第三代人工智能技术,提供涉黄、涉政、暴恐、广告等十几大类上千小类的有害内容智能识别过滤服务,智能识别精准率超过99.8%,每天检测信息上十亿条。

识别精准率这么高的背后是网易安全部十多年的长期积累和投入,不是请来几个很牛的工程师就能做起来的。

“这里面专业度要求非常高,网易是拥有得天独厚的自身内容型数据和服务数千家客户的积累,再加上专业的舆情、策略分析、运营规则、标注以及易盾实验室的前沿研究在做支撑。

内容安全远比想象中的要复杂
仅靠自己或短时间积累很难做好

周森认为,当下绝大多数互联网公司都已经具有内容安全意识,并积极承担起主体责任。

这背后有几个原因,一个是法律法规的完善和营造风清气正的互联网环境的共同需求,使得企业的业务需要合规;第二个是互联网企业自身社区调性的建设,使得他们为了产品更好的氛围,开始主动清除不良内容;第三个则是未成年保护,使得越来越多的互联网企业在当下开始积极履行起社会责任。

641.webp (1).jpg

“那当下为什么还有比较多的企业出现内容安全事件呢?”笔者提出心中的疑问。

“这里面最大的原因是自建或自己使用的内容安全服务可能不够专业,效果不达标。”周森指出,内容安全远比想象中的要复杂,一般企业仅靠自己或短时间的积累很难做好。

对于自己给出的观点,周森给出了三个依据:

首先,内容安全系统并不好开展,主要是因为其海量的数据往往只有大公司才有——尤其是和内容型相关的数据,这就导致开发出来的系统往往效果不好,对内容安全问题“后知后觉”。

其次,内容安全团队一旦组建运作,对于中小企业来说是一个无底洞。随着业务和形态的发展,以及黑灰产攻防的升级,需要不断投入大量人力、物力。而即使其两者都能满足,其是否有足够量级的模型库用于训练,训练后效果能否达到预期?在数据之外,又涉及到另外一个难题——中文博大精深,双关、同音字、多音字等都比较复杂,中文的文字结构与语义复杂性使得垃圾信息与衍生格式变化多端。

最后,一个比较大的难题是,如何在有效筛选黄色内容的同时,又不影响内容平台的正常运营?特征明显的鉴黄谁都能做,但特征模糊、界限不清的却是当下内容安全领域的重点和难点。比如说,“主播吃香蕉”到底到什么程度才算低俗?这个界限在哪?另外,如何把这个标准翻译给机器,让机器准确判断一定界限下的“主播+香蕉=低俗”。显然,这个度很难把握,如果不在这块下足功夫并配备一整套的专业团队(舆情、策略分析、运营规则、标注等),很难做好。

“这并不是有些人口中所说的‘不就是算法的问题嘛’,实际上内容安全这块远没多数公司想象的那么简单。易盾就是要给大家提供一个性价比更高的第三方服务,我们投入了很大的资源和能力在这个细分领域不断深入和打磨,就是为了解决大家这个痛点。”

因此周森觉得,企业完全可以选择第三方服务来降低运营成本,继而可以集中资源去做其他更有价值的事情。

对于周森这番发自肺腑的解读,笔者深以为然:武功唯快不破,业务发展也是如此,中小企业应该专注于主赛道——业务的快速发展和创新,不要浪费机会成本。

未来不会出现一家全能型安全“巨无霸”

对于国内的安全市场以及未来发展趋势,周森也谈了一些自己的见解。

他说,每一个行业,最终可能会形成几家头部企业,然后还有些小的企业提供定制化的产品与服务。由于安全领域有上千个不同类型的垂直产品,所以安全的市场很难形成垄断,一家公司想把所有的类型都吃下去,那是不可能的。

所以周森预测,未来安全的市场将会是每一个细分类型都可能会有大的企业,一家大的安全企业可能会拿下来几种类型,但不会出现一家全能型的巨无霸

“安全问题层出不穷,不断迭代,一家安全企业不可能无限蚕食安全市场。就像大海里面有大鱼和小鱼,大鱼不可能吃光所有小鱼,最终安全的市场也会形成一种类似的格局和生态。”

紧接着,周森谈及了自己在安全工作上的感触。他认为两点非常特殊。一是他们实则是处在一个大公司内部的创业。以前他们在网易内部钻研安全技术,做基础设施服务网易的各个业务线,后来把技术能力云化,对外提供服务。

因此,周森的“内部创业”,其实就是从一个技术人员转到一个新产品的创造者,以及一个全新部门的建立者,这在大公司内部是一种比较独特的经历。

第二个特殊就是,周森觉得做安全风控是很辛苦的,比传统网络安全还要辛苦。传统网络安全是偶尔会发生攻击或者入侵,然后再去应急、响应、解决。内容安全如果防不住的话,每天夜里都要去响应。

说到这里,周森脸上浮现出一抹淡淡的苦涩,他坦诚到,网易早期做内容安全的技术人员,离职率相当高。因为一般的产品研发团队,通常加班到晚上九点、十点就可以下班。但网易早期做内容安全的技术人员,若遇到有人在夜间发了大量的广告和违禁内容,即使在凌晨三点,也得起来解决这些问题。

“风控系统做得不好,就会常常半夜起来解决问题。时间一长,技术人员就受不了,转行干其他事情。”

此外,在中型企业安全建设过程中,尤其是做安全风控和内容风控的技术,你做的东西领导看不到。领导看到的是你投入的增长,即成本增加,加上还有一些对安全的僵固看法,你不出事还好,一出事就是安全做得不好。

因此,周森戏称道:

“做安全就是做下水道,平日看不到干了什么,但是一旦有什么特大暴雨,下水道做得好,地面就会比较安全。

周森团队这些年的付出与努力,在今天已体现出价值,今天的技术人员不再像以前那样,需要半夜爬起来去处理问题。

“现在只需要少数人员值班即可,技术和运维人员比以前轻松多了。这是需要很多年,对系统的演化,对岗位细分后,才能实现以最小的代价防控问题。”

642.webp (1).jpg

尾声:“历史”的热爱者与事业的笃行者

访谈至末,笔者有点好奇,这般倾注于安全事业的人,有着怎样的爱好?周森闻言,欣然笑道:

“我的业余爱好就是读书,喜欢读历史类的书,最近在看以色列与中东相关的书,即以色列怎么建国,怎么形成到现在,它的背景与周边。比如它处于亚洲最西边,欧亚交界处,安全在全球也是赫赫有名。”

未曾想到,周森的业余爱好还是与安全脱不了干系。笔者也好奇,为什么以色列安全能做得如此厉害?

周森释疑到,可能以色列人不知道会什么时候亡国,在这个背景和刺激下,首先对国防安全非常重视;再者是网络安全,比如说银行安全,他们要时刻防止****入侵银行;第三则是,他们对人才的重视以及崇尚创新,甚至以色列创新局官网上写着“创新是以色列最有价值的自然资源”。

言谈至此,笔者突然触类旁通——网易易盾的内容安全服务为什么能做得这么好:

在那个连网络都称不上流行的年代,没有一家厂商可以解决网易在博客、论坛、相册等业务上遇到的内容安全问题。或许正是这种形势、服务自身业务的锤炼、易盾人不断创新,再加上后来服务数千家客户后的不断迭代,使得网易易盾的内容安全服务破茧成蝶,成就今天内容安全弄潮者地位。

一次访谈,是受访者的一次自我梳理,同样也是采访者的一次增知学艺。感谢周森知无不言言无不尽的诚恳,让笔者了解到当下内容安全最前沿的动态,也打破了此前对内容安全仅仅是过滤敏感词等操作的粗浅认知。

确实,内容安全不好做,周森此刻的云淡风轻,是背后无数不眠不休和殚精竭虑堆积而成。望着周森略带沧桑却满怀坚毅自信的脸庞,笔者忽然想到尼古拉斯·凯奇主演的《天气预报员》中极为经典的台词:“你知不知道难做的事和应该做的事,往往是同一件事?凡有意义的事都不会容易,成年人的生活里没有容易二字 。”

坚毅无畏,知难而进,方为大丈夫。祝福周森,也祝福网易,纵是茫茫安全大海中的一线微光,也必能指引航向,照亮远方(文/安在新媒体)。

点击免费体验网易易盾内容安全解决方案。​​​​

来源:freebuf.com 2019-11-19 20:31:42 by: wangyiyunyidun

© 版权声明
THE END
喜欢就支持一下吧
点赞0
分享
评论 抢沙发

请登录后发表评论