观安信息 | 发布人工智能数据安全治理报告 – 作者:观安信息

7月10日，在世界人工智能大会云端峰会——安全高峰论坛上，观安信息联合赛博研究院正式发布了《人工智能数据安全治理报告》（以下简称报告）。

随着以“数字新基建、数据新要素、在线新经济”为特征的新一波数字经济浪潮全面来临，推动全球人工智能发展逐步从“探索期”向“成长期”过渡，在技术和产业上均进入重要的转型阶段。在此背景下，人工智能发展和数据安全问题日以深度交织融合，影响着用户隐私、公民权益、商业秘密、知识产权、社会公平、国家安全等各个方面。

因此，报告从数据生命周期的视域，针对数据采集、数据处理、数据流通和数据使用阶段，重点聚焦并梳理了人工智能发展中较为独特或更突出的数据安全问题；并从人工智能发展战略、安全倡议和伦理规范、数据安全法律法规、相关行业标准、全球数据安全前沿技术和企业实践等维度、全面分析了当前全球人工智能数据安全治理的主要现状和最新动态。

一、人工智能+数据安全面临发展机遇与挑战

随着近年来大数据、云计算、物联网等为代表的数据技术带来了全球性的科技革命和产业变革，以“数字新基建、数据新要素、在线新经济”为核心的新一轮数字经济发展浪潮正在全面来临，为基于算法、算例和数据驱动下的人工智能全面新发展注入了全新的动能。

报告认为，数字新基建将成为人工智能新发展的坚实底座和基础支撑；数据新要素将成为人工智能新发展的核心动能和强大驱动；在线新经济为人工智能新发展提供丰富广阔的应用场景——这也将是数字经济全面盛起的三大核心标志。

根据行业生命周期理论（Industry Life Cycle）和Gartner的技术成熟度曲线模型，报告认为当前全球人工智能发展正在逐步渡过“探索期”并进入“成长期”，且已进入全面转型的关键节点，与此同时人工智能的发展也将与数据安全更加深度地交织在一起，数据安全问题已然成为人工智能突破关键转轨期所必需解决的重要制约瓶颈。

与发展相对的，人工智能全面新发展的同时，其所面对的数据安全挑战既有传统数据安全问题的普遍共性，更具有人工智能时代的独特烙印。因此报告基于数据生命周期的视域，从数据采集、数据处理、数据流动和数据使用四个阶段，重点聚焦分析了人工智能发展中较为独特或更突出的数据安全问题。

二、全球人工智能数据安全的治理现状

人工智能数据安全是一个覆盖多主体、多维度的全球性安全挑战和治理议题，因此报告主要从宏观战略、法律法规、标准规范、前沿技术和企业实践等维度，梳理当前全球人工智能数据安全的治理现状。

世界主要国家均高度重视人工智能的数据安全和隐私保护问题，集中表现为各国均在人工智能发展战略中明确提出要重视数据安全，并在相关人工智能安全倡议和伦理规范中强调数据安全。

据报告显示，当前各国在人工智能数据安全法律层面上的立法模式差异较大，同时全球各国、各区域组织也在纷纷加快人工智能数据安全相关标准的制定和完善推进。

之于中国整体来看，我国目前尚未形成体系完善的人工智能数据安全法律法规。虽然《数据安全法》和《个人信息保护法》出台在即，但其落实尚需要一系列配套法规、部门规章和规范性文件提供支撑。标准层面，目前我国工信部、全国信息安全标准化技术委员会（SAC/TC260）、中国通信标准化协会（CCSA）等国家部委和标准化组织，高度重视人工智能数据安全的相关标准制定工作——2018年1月，国家标准化管理委员会正式成立国家人工智能标准化总体组，承担人工智能表转化工作的统筹协调和规划布局。

数据安全和隐私保护技术的突破研发和落地应用，能够极大地提高政府和企业人工智能应用中的数据安全能力。目前国际上致力于此类技术研究的主体主要有两类，一是以谷歌、微软、腾讯、阿里巴巴为代表的全球互联网巨头，投入建设了大量人工智能实验室和研究所，如Microsoft Research、Google Brain、Intel AI、Visa Research等。二是以伯克利大学、斯坦福大学、麻省理工学院、清华大学、上海交大等为代表的全球知名理工类高校。

下表为目前全球数据安全前沿技术方向，报告重点聚焦于目前企业实践中应用较多的前沿技术，包括全同态加密、多方安全计算、差分隐私、联邦学习和区块链。同时报告还关注了当前人工智能数据安全检测盒对抗领域的专用技术方向，包括数据偏见检测、防训练数据集污染和方对抗样本攻击技术。

全球人工智能数据安全前沿技术方向与实践

三、我国人工智能数据安全治理框架

报告基于人工智能发展转型的阶段性特点，以及人工智能数据安全挑战的特性，充分吸收现有的人工智能治理和数据安全治理理念，在2019年《人工智能数据安全风险与治理》报告的基础上，结合全球最新治理实践和我国实际情况，构建了包括治理思路、治理原则和治理路径在内的综合性人工之恩给你数据安全治理框架。

人工智能数据安全治理框架

我国必须要在人工智能的动态发展中实现对数据安全风险整体的可知可控，确保人工智能数据在采集、标注、处理、存储、流动、共享和场景应用的全生命周期安全，不断提高人工智能企业的数据安全能力，增强人工智能数据安全供给链的连续性和可用性。人工智能数据安全治理过程还需遵循鼓励AI发展、保护主体权益、重视技术赋能、聚焦行业场景、推动多元参与、加强国际合作六大原则。

报告强调，人工智能数据安全治理需依序实行顶层设计、标准体系建设、数据安全能力的构建提高，并最终打造全面立体的人工智能数据安全能力供给。

四、人工智能场景的数据安全技术解决方案

在7月11日的2020世界人工智能大会——安全高端论坛上，由上海市人工智能产业安全专家咨询委员会指导，观安信息发起的通用场景人工智能数据安全风险评估平台，能够针对特定人工智能应用场景中的数据安全风险进行总体评估和评级，以及数据集管理和知识库建设。平台主要包括风险评估、数据集管理、知识库管理、威胁情报等功能。

人工智能数据安全风险评估平台总体框架图

最后，报告围绕人工智能数据安全风险评估平台，就智能网联汽车、人脸识别和工业互联网三个人工智能主要应用场景提出数据安全综合解决方案。

作为报告的联合研究方，观安信息与赛博研究院将产业界的数据安全实践经验与技术界的人工智能拓展研究深度融合，使报告兼具理论性和可行性。双方表示，报告将致力于为更多“人工智能+数据安全”示范应用的落地提供指导帮助，以期能够吸引更多专业技术企业和安全行业同仁加入开展跨领域创新研究，为人工智能+数据安全技术在安全领域、在广泛领域的规模化落地带来更多有益的探索。

来源：freebuf.com 2020-07-14 16:53:36 by: 观安信息