霍金建议组建“世界政府”防御 AI 崛起

据外媒报道,著名理论物理学家史蒂芬·霍金( Stephen Hawking )最近一直在谈论一个主题:人类的未来。

近期,霍金对从地外生命到人工智能(AI)等一些热门话题表达了自己的观点。对于后者,他表示出非常担忧。他并不反对开发人工智能技术,事实上,他曾经说过人工智能可能是我们文明历史上最重大的事件。但是像今天世界上其他许多科学家和思想家一样,霍金担心人工智能的崛起可能带来各种负面的副作用

他早已就人工智能对中产阶级工作岗位的影响向我们发出了警告,并与特斯拉 CEO 埃隆·马斯克(Elon Musk)一起,呼吁禁止开发用于军事用途的人工智能机器人。他也担心人工智能可能会接管世界,或者更糟糕的是,它会终止这个世界。现在,他在接受英国《泰晤士报》采访时表示,防御人工智能崛起的最好方式,是组建可以控制这种技术的“某种形式的世界政府”。

霍金建议组建“世界政府”防御 AI 崛起

霍金接着解释了他建立这样一家国际管理机构的理由:

自人类文明开始以来,人类的积极进取是有益的,因为它具有明确的生存优势。它是在达尔文进化过程中渗透到我们人类基因的。然而,现在技术的发展速度,使这种积极进取可能以核战争或生物战争的方式摧毁我们人类。我们需要利用逻辑和理性来控制这种继承下来的本能。

为了跟上人工智能的发展,我们必须学会适应。霍金在 2014 年年底表示:“人工智能的发展可能会导致人类的终结。它将自己发展自己,并以不断增长的速度重新设计自己。人类则受到缓慢的生物进化限制,将无法与它竞争,并最终将被它取代。” 他认为这些人工智能机器人抛弃我们,不会是出于任何情感的原因:“人工智能的真正风险不是它有恶意,而是它的能力。一个有超常智慧的人工智能能将非常善于实现目标,如果那些目标与我们的目标不一致,那我们就麻烦了。” 因此,根据霍金的看法,某种形式的管理机构和快速适应的能力——这是即将到来的人工智能或超级智能时代我们生存的法宝。

幸运的是,这样的机构已经出现。这些机构,例如“人工智能伙伴关系” (Partnership on AI) 和人工智能伦理与治理基金 (Ethics and Governance of Artificial Intelligence Fund),已经开始制定有关指导方针或框架,以让人们更负责任地开发人工智能技术。国际电子电气工程协会 (IEEE) 还发布了世界首个有关人工智能道德准则的“指南”。

尽管未来的一切难以预料,霍金对未来仍然感到乐观:“这一切听起来有点像厄运来临,但我仍是一个乐观主义者。我认为人类会奋起迎接这些挑战。”

稿源:cnBeta,有删改,封面源自网络

霍金建议组建“世界政府”防御 AI 崛起

© 版权声明
THE END
喜欢就支持一下吧
点赞0
分享
评论 抢沙发

请登录后发表评论