人工智能是新一轮科技革命和产业变革的重要驱动力量，加快发展新一代人工智能是推动我国建成创新型国家和世界科技强国的重要战略规划，对人工智能产生的安全风险加强战略性、前瞻性的研究部署，逐渐建立相应的法律法规、伦理规范和政策体系，已经成为国内外的共识。
8月30日，由赛博研究院承办的2019世界人工智能安全高端对话在上海世博中心重磅开启。作为此次高端对话的重要活动之一，“中国网安杯”人工智能产业安全优秀论文征集活动在上海市经济信息化委和市委网信办等部门指导下正式启动，由上海市人工智能产业安全专家咨询委员会发起，联合《信息安全与通信保密》杂志社等机构，面向全球高校、科研院所、国际组织等机构中从事人工智能安全领域研究的科研人员和青年学生，征集高质量、高水平的学术论文，探讨人工智能安全领域的最新理论和技术成果。经过严格筛选和专业评审，安全专委会最终评选出2019世界人工智能产业安全十佳优秀论文，今日在安全高端对话上正式公布。
一物降一物，安全治理行之有效
人工智能具有“双刃剑”的特性，既拥有着广泛可期的发展前景，也带来复杂泛化的风险挑战。人工智能存在干扰技术、数据欺诈、网络攻击等问题需进一步解决，并对国防领域、涉密系统、关键信息基础设施中的应用造成威胁。紧密围绕网络安全与信息化，聚焦内容安全，引领人工智能进入安全时代亟不可待。
张家亮等作者的《基于人工智能的视图像内容安全技术在网络空间治理中的应用研究》阐述了基于人工智能的系列视图像内容安全技术，提出了将人工智能技术用于网络空间治理的“乌媒”新媒体内容监测综合解决方案。
网页被植入暗链是企事业网站上常见攻击行为，攻击手法变化多样，传统基于规则检测已经无法高效检出。孟雷的《多域识别构建监督学习模型检测网页暗链》使用域识别机制提取风险文本和安全文本，选用SVM模型、逻辑回归模型、随机森林模型构建监督学习模型检测网页暗链并对比模型效果，并验证该方法具有较好的检出效果和运行效率。
针对现有同类方法合成数据质量低、模型收敛缓慢等问题，方晨等人的《基于差分隐私生成对抗网络的隐私数据发布方法》提出了基于差分隐私生成对抗网络的隐私数据发布方法，通过在生成对抗网络模型训练的梯度上添加精心设计的噪声来实现差分隐私，确保生成对抗网络可无限制生成符合源数据统计特性且不泄露隐私的合成数据。
落地有望，人工智能运用遍地开花
区块链技术在司法领域内的运用，是现代科技发展与智慧法院建设需要的产物。李世寅的《未来已来：区块链技术在智慧法院建设中的运用前景探析》分析了区块链技术面临其技术本身缺陷和法律合规陷阱吗，鼓励从技术创新视角出发，借鉴国内外最新发展实践成果，多管齐下，促进智慧法院建设。
面对车联网的网络攻击级别和攻击强度不断升级，以及存在网络安全漏洞隐患多、安全防护能力不足等问题，孙娅苹的《车联网安全监管策略研究》梳理国外车联网安全监管的政策和法律法规，总结车联网管理思路和相关标准进展，提出适应我国车联网发展的安全监管对策。
伴随着网络信息技术快速发展，确保网络舆论信息健康稳定传播是网络安全的基础前提。徐明等人在《自然语言处理与图分析相融合的网络舆论安全分析》中通过采集大量新闻报道语料数据，用深度学习模型从网络新闻报道中分析出关键词汇与舆论主题并构建关系图谱，利用图分析算法对舆论话题之间潜在关系进行挖掘，实现对网络安全舆论传播路径的深层次分析。
聚焦挑战，应对深度伪造卓有成效
作为人工智能深度学习领域的一个分支，深度伪造技术在近几年迅速兴起，为国家间的政治抹黑、军事欺骗、经济犯罪甚至恐怖主义行动等提供了新工具，给政治安全、经济安全、社会安全、国民安全等国家安全领域带来了诸多风险。
龙坤等人在《深度伪造对国家安全的挑战与应对》一文中分析，应对深度伪造技术的滥用及其安全挑战，需要加强研发预警检测手段，推进立法管制，加强宣传教育，推进国际安全合作治理。
曹建峰在《深度伪造技术的法律挑战及应对》指出美国已在推动相关立法，以期阻止深度伪造技术的不当利用。对此，作者建议通过研发鉴伪和溯源技术、教育提升社会公众素养、合理配置法律责任等举措包容审慎监管和治理，避免该项技术的滥用，并促进该项技术在教育、文创、娱乐等方面的积极作用。
不忘初心，人工智能引发思考
近年来，人工智能在公众视野频频出现，在追逐技术潮流的同时，亦不能忽视反思的重要性。为理解人工智能的内涵、化解人机之间的冲突，需要重新审视人工智能与人类社会的现实并且从其根源入手，找到人机之间和谐发展的平衡点。
陈剑锋等人在《人工智能与网络空间安全的哲学内涵思考》中抛出人工智能与网络空间安全的悖论图景，引发关于技术哲学的思辨，从趋同与本源性的角度对智能与安全的特征进行了归纳和比较，呼吁研究者在投身安全与智能技术的同时为哲学思考预留空间。
林洧的《人机的现实冲突和价值平衡——以人工智能产业法律规制之价值取向为中心》指出以人为本是处理人机关系的基本原则，而法律规制则是保障人机和谐友好的重要手段，需要通过法律规制人工智能本身和其背后的人，保证人工智能朝着有益于人类的方向发展。
来源：freebuf.com 2019-09-02 05:00:09 by: 百里不守约
请登录后发表评论
注册