人工智能技术现在几乎可以说是无处不在了。在RSAC 2021看的演讲视频，发表一下我个人的浅见。先说好的方面，人工智能在极大的提高安全工作人员的效率，尤其是在安全从业人员极度短缺的背景之下。AI在XDR、IR方面的作用，对大量数据的智能处理，告警的关联分析，优先级的排序，极大地改善了企业SOC的运行。结果是安全分析员嗨皮了，不用996了。安全工程师高兴了，不用痛苦地维护更新规则了。CISO也高兴了，预算控制好不超额了，董事会也不会一出事就炒鱿鱼了。
最强大的AI技术在SOC里应该能够帮助组织主动识别、隔离及响应安全问题，帮助团队评估问题对业务的相对影响。这类平台能够确定潜在问题是否属于勒索软件攻击、有无渗透至计算机系统内并及时关闭对关键数据的访问通道。此外，这类平台还有望找出具有长期影响的威胁因素，例如可能给组织造成巨大声誉损失的客户数据泄露问题。
网络安全方面有其特殊性，AI也是一把双刃剑。“魔高一尺，道高一丈”，使用AI来对付AI的技术也有不少演讲。
Sophos AI team讨论了使用GPT来生成特定的文风和内容的句子。黑客可以使用GPT来生成SPAM邮件，同样的AI技术也可以反过来作为SPAM邮件的过滤器来识别AI生成的垃圾邮件。
不管是攻防哪个方向使用AI技术，毕竟还是人在使用AI技术。第一天的keynote演讲，来自哈佛大学肯尼迪学院的安全技术专家、研究员和讲师Bruce Schneier描述了一个科幻电影里的场景，如果AI变成了黑客，会对社会造成怎样的影响。
演讲的题目是《The Coming AI Hackers》，“黑客行为通常被认为是针对计算机系统所做的攻击。这种想法可以扩展到任何规则系统：税法、金融市场和任何法律系统都可以被黑掉。不如设想一下，当AI可以成为黑客的世界–我们的社会、经济和政治系统的黑客被发现来源于计算机系统本身。因此，人们的快速响应方法必须改变。”
这个演讲里有很多有意思的话题。比如说人类有很多认知的东西，是不需要特地写明的，比如同理心、底限。可以说，“人之初，性本善”。现在的AI还没有建立这样的功能。AI可以为实现目标无所不为，因为对AI来说并没有人类习以为常的规则和价值体系。整个演讲很有意思，对于我们技术崇拜者来说，也是从不同角度敲了敲警钟。
来源：freebuf.com 2021-05-28 16:00:01 by: Hillstone
请登录后发表评论
注册