除了创建微软公司（Microsoft）外，比尔·盖茨（Bill Gates）被认为是一个全能型人才，在拯救世界这一问题上他更是绝无空谈。当他告诉我们，和聪明勤奋的史蒂芬·霍金（Stephen Hawking）以及特斯拉（Tesla Motors）创始人、素有“钢铁侠”之称的埃伦·穆斯克（Elon Musk）一样，自己也担心人工智能可能会对人类构成威胁时，他那一向的实干风格似乎更容易让人们引起重视。
周三，在Reddit新闻社区的AMA问答板块（Ask Me Anything），盖茨呼应了过去一年来由霍金和穆斯克等人提出的担忧：如果人工智能的潜力没有被严肃对待，那么一些类似《终结者》（Terminator）和《黑客帝国》（Matrix）中科幻场景的东西就可能成为现实。
“我和那些担心超级智能的人同处一个阵营。起先，机器将帮我们做许多工作，更不用说超级智能。如果控制得好，人工智能应该会非常有利。”盖茨写道，“不过，几十年后人工智能会强大到足以令人担忧的地步。在这一点上我赞同埃伦·穆斯克等人的看法，而且我不明白为什么一些人会对此仿佛若无其事。”
本月初，埃伦·穆斯克自掏腰包，拿出1,000万美元资助一项让人工智能保持友好的研究。考虑到人工智能很可能在微软以及穆斯克麾下SpaceX和特斯拉的未来发展中扮演重要角色，盖茨和穆斯克都有兴趣确保人工智能不仅友好而且可行（例如，公众态度和国会议员不反对智能网络和智能设备的基本概念）。
抛开个人利益，在人工超级智能所构成的威胁方面，穆斯克和盖茨可能想得没错。当最为可能的受益者都觉得有必要对该技术加以牵制时，可能就有一些真的值得担心的东西了。
为了真正理解穆斯克和盖茨所说的那种潜在威胁，我强烈建议阅读尼克•博斯特罗姆（Nick Bostrom）的新书《超级智能》（Superintelligence）。该书呈现了超级人工智能的概貌——包括其所构成的威胁。以前穆斯克曾提到过并做过推荐，近来许多关于人工智能的担忧似乎都是以这本书为主要基础。
译 徐笑音 校 丁盈幸
本文来源：福布斯中文网
责任编辑：
王晓易_NE0011
