人工智能与物联网安全前沿论坛圆满落幕，全程精彩回顾

12月30日下午，由百度安全部主任架构师包沉浮，小米集团信息安全与私有委员会秘书长宋文宽，看雪学院创始人段钢，以及第五空间研究院理事长、翼盾智能CEO朱易翔担任出品人的人工智能与物联网安全前沿论坛顺利举行，现场座无虚席，观众们热情高涨。

人工智能与物联网的发展日益壮大，其安全问题不容忽视。本场论坛的六位嘉宾通过线上和线下的方式，从自动驾驶到换脸技术，从电子芯片到物流联网，为我们带来了一场精彩的AI安全建设、漏洞防护经验分享盛宴。

AI模型的现实风险及应对

包沉浮百度安全部主任架构师

随着AI技术的不断发展，针对AI模型的安全问题也日益突出。包沉浮在简单回顾针对AI模型的对抗样本攻击后，引出了自动驾驶因AI模型出错导致的现实安全问题，例如今年6月在台湾，一辆自动驾驶轿车未能识别前方路障与其直接相撞，造成了严重车祸。他提出，现实环境影响例如输入信号失真导致的AI模型问题带来的安全隐患可能比黑客攻击还大。那么该如何应对AI模型的现实风险呢？

他认为，最重要的是将模型的鲁棒性进行量化。除了通过理论计算，还以更重要的实验扰动的方式，逐渐逼近模型能力的真实边界。

然后，再对量化后的模型做鲁棒性提升，其中最有帮助的就是对抗训练，不断迭代。他分享了一种针对大型目标监测场景的两阶段对抗训练方式，在提升鲁棒性的同时，也没有降低传统意义上的准确性：

第一阶段：使用“弱对抗样本”对整个模型进行训练

第二阶段：使用MSCOCO中“vehicle”和“outdoor”两个类型，生成“强对抗样本”，对输出层进行训练

最后他总结到，AI模型的鲁棒性非常重要，希望业界能够形成针对模型鲁棒性的量化标准，同时提升鲁棒性之路还很漫长，希望自己的抛砖引玉能让更多人参与到这方面的研究之中。

商汤AI产品安全实践

成瑾商汤科技安全副总监

在多元的AI应用场景下，人工智能企业面临哪些安全威胁和挑战，又应该如何应对呢？成瑾为我们带来了他的经验分享。

他分析了人工智能企业的六个安全需求——算法模型安全、数据隐私保护、训练数据完整性安全、交付安全、产品运营安全、软硬件安全，以及安全与业务的四个矛盾——安全卡点与研发效率、安全功能与产品实现、全投入与产品利润、安全监测与修复漏洞的矛盾，并以具体案例的形式提出了相关应对措施。

对于公司的产品安全，他认为有以下3个关注点：

1、解决安全与产品的矛盾

2、提升安全工作效率

3、将安全融入产品基因中

他随后分享了商汤科技的产品安全高效管理一系列措施，包括成立信息安全管理委员会、自研加密算法保障算法模型安全、执行嵌入产品研发全生命周期的安全控制体系（SDL）、研发训练IDC数据中心实行高安全等级防护措施、研发运营一体化安全运营平台（SOC）、建立满足国内外合规要求的个人信息保护管理体系。

最后，他以去年参加Sense Hackathon黑客马拉松大赛为例，认为人工智能可为网络流量安全赋能。

AI 安全框架

唐梦云腾讯安全平台部高级工程师

唐梦云从两个AI应用切入，展示了AI系统的生命周期，而在这个周期中，各个环节存在的安全风险也日益凸显，为了应对这些风险，AI安全框架应运而生。

该框架的范围是为了削减AI基础设施、设计研发、应用失控带来的安全风险，设计原则遵从实用性、整体性、前瞻性。核心要素为：

安全目标：为AI安全防护工作实施指明方向
安全能力：保障实现AI安全目标
安全技术：支撑实现AI安全能力
安全管理：支撑实现AI安全能力，保证安全技术顺利实施

该安全框架包含安全目标、安全能力、安全技术和安全管理四个维度，这四个维度自顶向下、层层递进。她希望这个AI安全框架能够为企业在构建自身的AI安全防护体系时，提供一些指导性的建议或思路。

MTK安全启动大剖析

胡铭德上海第五空间信息研究院安全研究总监

联发科技股份有限公司作为主要全球手机芯片提供厂商，给广大手机、平板、4G、5G 厂商提供大量芯片，胡铭德为我们展示了对其芯片的漏洞发掘过程以及检测工具，而此前尚无人系统地公开地测试过该厂商boot安全。

他和他的团队发现，如果通过固件校验的 jump da 命令，可以触发芯片进入USB恢复模式，而此时将不再需要签名证书即可对固件进行读取和写入。他提出，该漏洞就算被补上，也不是安全的，还会有别的控制方式。

现场观众问道：芯片漏洞的危害是巨大的，请问对于供应链安全是否有一些建议？

胡铭德遗憾地表示，这个芯片的漏洞是他首先发现的，但到目前为止，尚未有更好的解决办法；如今也希望通过公开相关的检测方式和工具，让更多人参与到这方面安全防控的思考中来。

物流行业物联网安全体系构建及思考

于洋物流行业IoT安全从业者

物流行业特色的IoT业务场景是物理网技术应用的典型行业之一。于洋为大家带来了物流行业相关的安全业务、合规风险的演进以及落地。

物流行业的数字化包含人、货、场，例如仓储、网点，都会面临安全威胁。他提到，物流业务的场景极复杂，网络不可信，边界不清晰。业务场景可以从五个维度划分，即识别、保护、检测、响应和处置。在资产识别方向上，OT & IoT设备识别算法的深度和广度是其重点，内容包括通信流量设备的识别、资产发现、硬件分类、信息收集与追踪等。在资产保护上，重点在于通过基于IoT的SDL和供应链安全解决方案来落地资产保护，包括系统安全、通信安全、隐私安全、硬件安全、应用安全、云端安全，设备还应该进行分级保护。在资产检测/响应和处置上，重点在于通过主动和被动检测，以行为为依托进行感知和响应，使告警转化为“行动”。

最后，他提出了思考，希望制定一个IoT企业标准，让物联网安全能力形成业务壁垒。