解读RSAC 2021丨当AI学会网络攻防,谁能为它系上缰绳? – 作者:Hillstone

人工智能技术现在几乎可以说是无处不在了。在RSAC 2021看的演讲视频,发表一下我个人的浅见。先说好的方面,人工智能在极大的提高安全工作人员的效率,尤其是在安全从业人员极度短缺的背景之下。AI在XDR、IR方面的作用,对大量数据的智能处理,告警的关联分析,优先级的排序,极大地改善了企业SOC的运行。结果是安全分析员嗨皮了,不用996了。安全工程师高兴了,不用痛苦地维护更新规则了。CISO也高兴了,预算控制好不超额了,董事会也不会一出事就炒鱿鱼了。

最强大的AI技术在SOC里应该能够帮助组织主动识别、隔离及响应安全问题,帮助团队评估问题对业务的相对影响。这类平台能够确定潜在问题是否属于勒索软件攻击、有无渗透至计算机系统内并及时关闭对关键数据的访问通道。此外,这类平台还有望找出具有长期影响的威胁因素,例如可能给组织造成巨大声誉损失的客户数据泄露问题。

网络安全方面有其特殊性,AI也是一把双刃剑。“魔高一尺,道高一丈”,使用AI来对付AI的技术也有不少演讲。

Sophos AI team讨论了使用GPT来生成特定的文风和内容的句子。黑客可以使用GPT来生成SPAM邮件,同样的AI技术也可以反过来作为SPAM邮件的过滤器来识别AI生成的垃圾邮件。

不管是攻防哪个方向使用AI技术,毕竟还是人在使用AI技术。第一天的keynote演讲,来自哈佛大学肯尼迪学院的安全技术专家、研究员和讲师Bruce Schneier描述了一个科幻电影里的场景,如果AI变成了黑客,会对社会造成怎样的影响。

演讲的题目是《The Coming AI Hackers》,“黑客行为通常被认为是针对计算机系统所做的攻击。这种想法可以扩展到任何规则系统:税法、金融市场和任何法律系统都可以被黑掉。不如设想一下,当AI可以成为黑客的世界–我们的社会、经济和政治系统的黑客被发现来源于计算机系统本身。因此,人们的快速响应方法必须改变。”

这个演讲里有很多有意思的话题。比如说人类有很多认知的东西,是不需要特地写明的,比如同理心、底限。可以说,“人之初,性本善”。现在的AI还没有建立这样的功能。AI可以为实现目标无所不为,因为对AI来说并没有人类习以为常的规则和价值体系。整个演讲很有意思,对于我们技术崇拜者来说,也是从不同角度敲了敲警钟。

来源:freebuf.com 2021-05-28 16:00:01 by: Hillstone

© 版权声明
THE END
喜欢就支持一下吧
点赞0
分享
评论 抢沙发

请登录后发表评论