中国科学院何积丰院士：可信人工智能的理论及应用 | CIS 2019议题前瞻

中国科学院何积丰院士：可信人工智能的理论及应用 | CIS 2019议题前瞻 – 作者:FB独家

随着人类生活被人工智能广泛渗透，公众接受人工智能的程度也越来越高，随之而来的是人工智能的可信问题。

去年3月，美国优步的一辆自动驾驶车在路试时撞倒一名行人，当时她正推着自行车在人行道之外横穿马路；达芬奇手术机器人事故，其原因在于血溅到了摄像头，导致机器人“失明”，感知系统无法正常工作；聊天机器人被黑客教会种族主义，经过训练以后“懂得” 了黑人与白人之间的差别，这种聊天机器人显然不符合伦理道德，更不符合公正公平。

人工智能出错正是因为这些突发的场景并不在训练范围，机器也就无法从容应对。而人工智能如果被赋予情感，则超出了社会伦理范畴。因此，人工智能的创新和安全应是平衡发展，创新能够推动安全，而没有安全，创新便没有意义。

中国科学家何积丰院士于2017年S36次香山科学会议在世界上首次提出可信人工智能，自此世界各地不约而同地广泛关注可信人工智能，如G20、OECD、欧盟、ISO等都提倡可信人工智能。

可信人工智能包含三个要素：人、信息、物理。过去是人类社会和物理世界的交互，现在的安全是指可信安全的强人工智能系统，实现复杂的信息、物理与人的融合交互。现在全球对可信人工智能有了进一步的认识，国内也高度重视可信人工智能的研究与应用，但仍有很多难题亟待解决。

何积丰，中国科学院院士，华东师范大学软件学院创院院长，中国科学院人工智能创新研究院学术委员会委员、中国人工智能开源软件发展联盟专家委员会主任委员、上海市人工智能战略咨询专家委员会成员、上海国家新一代人工智能创新发展试验区专家咨询委员会成员、上海人工智能安全专家委员会主任。

何积丰院士几十年来一直从事计算机软件理论及应用研究，创造性地提出了软件领域的程序统一理论（UTP），由此开创了软件理论的国际学派。何积丰院士是数据精化完备理论奠基者、可信软件设计理论与技术开拓者，其研究成果是保障人工智能应用安全可信的关键手段，是安全可信人工智能领域的领军人物。何积丰院士开创性提出可信人工智能原则，得到G20全球领袖吸纳认可，为推进安全可信人工智能产业发展做出奠基性贡献。

2019年11月27日，在CIS 2019网络安全创新大会现场，有幸邀请到何积丰院士为大会带来主旨演讲《安全可信人工智能》，深入探讨可信人工智能理论及应用。