加布里尔:AI真正的危险是自由的丧失和自我的误解

首届未来哲学论坛于11月23日-24日在上海举行。德国波恩大学国际哲学中心主任马尔库斯·加布里尔（Markus Gabriel）在演讲时表示，目前关于人工智能的谈论充满了似是而非之论。究其原因，首先在于我们没有在存在论层面厘清人工智能是什么，而要理解人工智能是什么，首先要理解人类智能是什么。我们不能被人工智能的各种神话冲昏了头脑，我们首先要理解它，才能理解它会带来什么样的“危-机”。人工智能真正的危险不是机器获得自我意识、反过来消灭人类，如好莱坞电影所演绎的那样，而是人类对于自我的误解和人类自由的丧失。

以下为演讲实录：

主持人（同济大学 余明锋博士）：经过两天的讨论，我想大家都会有一个基本的印象或者是看法，我们在面临一个大时代，无论是危（险）还是机（遇）。大时代往往要有大的思想家出现，我们在期待大的思想家，这样的思想家我们一般称之为天才，天才这个词大家应该都听过，但是你们见过天才吗？

我们接下来这一位演讲嘉宾，他的名字在德国是跟天才这两个字（在德语是一个词）分不开的，他是德国最年轻的教授，他曾经的研究对象谢林在他之前是在德国有史以来最年轻的教授，著名的“神童”，他超过了谢林，他们两个都在28岁的时候成为了教授。他比谢林还早了两个月，这是他的天才在一个方面的表现。

另一方面他有惊人的语言天赋，跟谢林一样，他熟练地掌握10门外语，他能熟练地说11门语言，他还会说中文，但是中文不在这11种语言之列，他一会儿会跟我们简单用中文问候一下。他刚才跟我描绘了一下蓝图，是未来同济大学跟孙老师合作的蓝图，我相信他未来的中文会非常好。

刚才在报告的时候，我看他一直在查字典，就凑过去说，孙老师讲的是绍兴话不是普通话。他说，哦，这下放心了，我以为学的都是假的中文，一直到陈嘉映教授讲的时候他才放心了。

我在这两天跟他交流的时候发现他有一个特点，他的思维极其敏捷，我们的思维是推理式的，他的思维是直观式的，可以直接告诉你123，逻辑仿佛是被他看见的。他的呈现速度真的是非常惊人。加布里尔教授也非常努力，他同时兼任三个中心的主任。

第一个是波恩大学的国际哲学中心，他在波恩大学是跨学科合作的带头人，他们的校长委托给他一个重要的任务。大家知道哲学原先是什么？ 科学的女王。之前各位老师讲的问题都跟一个趋势有关，就是科学开始脱离哲学、胜过哲学，这可不只是一个学科问题，而是一个人类世界的精神现象。波恩大学因为有这么一位天才式的人物，他们希望能够重新把所有的学科集中在哲学之下，这是一个有意义的尝试，一个伟大的抱负，他确实有这个能力。

除了波恩大学之外他也跟剑桥大学合作成立科学与思想中心，跟剑桥大学最前沿的科学家们合作，他的任务就是把这个当代科学的研究跟哲学的思考结合起来，这是第二个中心。

第三个中心，在欧洲当下的哲学讨论之中，加布里尔教授以所谓的新实在论著名，他是其中最重要的代表人物，波恩大学联合法国的索邦大学为他成立了一个新实在论研究中心，所有这些都是他杰出才能的标志。

因为文本都有翻译的，为了避免大家无聊，每一部分结束的时候，我来稍微梳理一下他的思路，帮大家跟上，我尽可能简短，下面有请我们的加布里尔教授！

以下为加布里尔教授用中文发表的开场白：

加布里尔：可惜我的中文很不好，但谢谢余教授的介绍。尊敬的女士们，先生们，非常高兴今天能够在这个场合，讲一下我们都在担心的最重要的问题。

世界都在关注中国为数字化做出的积极贡献，中国再次成为了世界强国，并且将为本世纪的技术发展打上深深的烙印。我刚刚完成了一部有关人工智能的著作，我非常确信，我们只有掌握有关人类存在的正确理论，才能应对未来的挑战。我们必须为共同的人类图景而一起努力。

我在美国的时候住在旧金山，在一位上海人那里学习了中文这门美妙的语言，不过非常遗憾，在最近几年我没有继续学习，因为我从前几年开始必须定期去巴黎用法语授课，如果今后能抽出时间继续学习中文，我将非常开心，因为显而易见，中文是最重要、最美丽的语言之一。

作为哲学家，我们应该有全球化的思考，但我觉得同样重要的是，我们并不全都用英语写作、演说，所以我决定，今天用德语来进行讲座。

以下为主持人余明锋博士对报告的总结：

我简单总结一下他的意思。现在关于人工智能谈论很多，（顺便说一下，他的标题可以译成数字革命或者数字化革命，我暂时处理成数码化革命，这个问题不大。）他认为我们一边是极端的恐惧，一边是认为根本就不存在什么数码革命，所谓的数码化革命就是一个媒体现象，所有的争论可能往往没有搞清楚一个问题，究竟什么是数码化革命，什么是人工智能。

所以他就提出这样的一个看法，目前的哲学界对于科学的反思大体来说分为两个方向。一个是科学理论，解释科学是怎么工作的，另外一个方向是应用伦理学，解释什么是科学不应该跨越的人性边界。而他主张，我们首先还是要回到存在论，回到人工智能是什么，这个时候我们对很多人工智能的讨论才能正本清源，否则很多都是乱的。

要理解人工智能是什么，首先要回答一个人类智能是什么的问题，我们是在用人类智能来思考人工智能，同样我们也是以人类智能为榜样来理解人工智能的概念。所以文中的第一部分先在存在论上展开，所谓的存在论就是讨论“是什么”的问题，第一部分是先解释这个问题。

第二部分解释人类的精神到底是什么东西，从当中我们可以看到我们在谈论人工智能的时候，首先是误解了人类智能，这是他的讲座的基本安排。在此之前他首先要澄清一个自己在哲学人类学问题上的立场，他把这个立场称之为新实存主义。

什么意思呢？总结来说，人是什么？它不是一个简单的事实问题，这是麻烦所在，它不是一个可以被还原为生物学的一个问题，因为人是什么，总是跟人自己认为自己是什么、应该是什么紧密关联，他的概念叫我们的“自我图像”、“自我理解”。

从博物学家林耐开始把人界定为智人，他说这样的一个界定，人之所以是智人，就是因为我们的存在理解对人类本身来说是有关键意义的，不是可有可无的，这种理解本身构成了我们的存在。所以他提出了一个概念，这个概念叫心智语汇。

我们有一套概念，这一套概念就是是所谓的精神、智能、思维、意识、感知等等，哲学就处理这样一些看不见、摸不着的词汇，这些词汇就是我们对我们自我理解的一套描绘方式，现在我们面临着人类科学、技术的发展所带来的挑战，要理解这种挑战，还得回过头来重新理解这样一套描绘方式，

这种尝试是试图把这样的一套心智语汇还原成可以准确进行数字化的技术语言。他强调这样的心智语汇是跟自然语言分不开的，这个时候简单的想要把它还原到人工的语言是不可能的，这个里面他认为跟我们对人类精神本性的误解是有关系的。关于第一部分我就总结这么多。

他说我们关于人工智能的讨论（其实中国人可能不太意识到，西方人很敏感），他说这个里面其实有很多神学的话语，原先我们怎么来谈上帝的，现在怎么来谈人工智能，他把它称之为加州的宗教。

有关人工智能，他在存在论上的基本论题说起来也非常简单，就像我们手里拿的地图。他举的例子是黑森林，我们可以举上海的例子，拿这个地图到外滩去，毫无疑问你拿着地图到外滩看这个地图更有方向感，可外滩的地图不等于外滩。它们在存在论上是两回事。我们对人工智能的讨论之所以错了，就是对人工智能的性质搞错了，混淆了，这是他的一个基本的论点，概括来说就是人工智能只是人类思维的一个模型，这是首先我们要澄清的一点，也就是说它们两者之间的关系是模型跟现实的关系，我们为什么需要模型？模型有非常大的优点，就是模型可以方便我们面对现实。人工智能的发展，基于逻辑和数学，因为最早对于人类思维进行形式化、工具化、模型化处理的，就是这样的学科。

所以从第一个意义上，他反对把人工智能进行神学化，他说我们当下很多的讨论，特别是赫拉利的书把它进行了这样神秘化的处理，这样的处理也不新鲜。刚刚说加州的新宗教，关于神学的很多讨论原来在历史上都发生过类似的言说方式，这并不新鲜。但即便如此，他并不否认人工智能的发展会深刻影响、改变、塑造我们未来的生活，而是说我们首先要认清它是什么，然后我们才能真正的知道它带来的机遇和危险是什么。

他说人工智能在这个意义上，跟之前的思维形式化不一样的地方就在于制造了第二层次的现实，原先我们用逻辑帮我们改善思维，但是人工智能把这样的思维模型储存到一个硬盘上面，这个硬盘你一点它可以自己进行计算，早上的报告很好地帮我们展示了这个特点。

有关第二层次的现实，我把它概括为两个方面的影响，一个方面就是所谓的反馈效应，这个反馈效应是什么呢？就举AlphaGo的例子来说，之前是象棋，就拿AlphaGo来说，在它战胜了人类之后，其实我们未来围棋界的发展就很受它的影响了。它是我们人类智能的模型化，但这个模型化本身当它非常高效之后会反过来影响我们的思维，反过来会对我们思维的步骤和要求产生反馈效应。

所以他说真正的危机不是电影里所描述的那样，那些都是新神话的描述。真正的危机，作为地图和地域之间的反馈效应，我们要意识到这样的人工智能确实是一个新事物，但是我们要意识到它新在哪里，这是第一个方面的影响。

第二个方面，孙老师强调人工智能只是现代科学技术革命当中的一个面向，他的侧重点不太一样，他说人工智能当然方便我们生活，但是方便我们消费的同时也方便我们消耗。环境问题未来可能不是像大家以为的那样减少，而是加剧。因为在我们每次点击的时候都是一次经济行为。

昨天在采访的时候他说了一个很有意思的观点，他说马克思时代讲资本主义是意识到自己被剥削，他说现代人也是处在一种异化的状态，但这种状态是我们不自觉的，其实我们每次点击的时候都在为资本在劳动，这个时候我们不会得到报酬的，但我们也不会觉得自己被剥削，这个也是跟马克思时代不一样的。

我们在反思人工智能的时候，必须要注意到这个里面一个要点性的问题，就是它只是把我们人类的思维、能力形式化之后，把它独立出来，变成一个第二现实。这个里面很重要的一点就是没有能够把我们人类思维的真实途径给真的体现出来，这个差别就在于我们人类真实的思维状态其实不是按照逻辑所描述的那样，我们经常有跳跃直观的思维，我们并不是按照逻辑所规定的样子去思维的，当我们用人工智能的方式去反过来理解自身的时候，可能会面对一个对自己巨大的误解。

还有一个方面它模拟我们的思维，但这个模拟本身也带来一个误解，另一方面我们人类还有利益、兴趣，这个东西是没有办法被模型化的，只是把人类心灵能力的一个方面，把它抽象出来制造模型。这样的问题进一步表现在伦理问题上，用他自己的话来说，就是我们的伦理规范总体上不能变成一种形式上的博弈论式的计算，我们未被理想化处理的思维有诸多的弯路和歧路，可恰恰因此而长久地使我们的文明免于崩溃。

这个意义上结合这几天的报告，我有一个自己的体会，包括他刚刚讲的这几句话，我们在提智能的时候不要忘记愚蠢，在人类智能和人工智能的问题上，愚蠢和智能有着非常微妙的交织关系。我们看早上的计算机设计，其实就是试错，这是愚蠢的，但是因为愚蠢产生了智能；而人类的计算是非常智能的，我们有直觉的思维，其实很多道理我们说不清楚的，没有一个伦理体系是能够从一个原则，非常逻辑完整推到它的规范的，没有一种伦理生活是这样建构体系的，这是我们生活的现实，这里似乎有着某种有益的愚蠢。我们不要被人工智能的各种神话冲昏的头脑，我们首先要理解它是什么，才能理解它能带来什么。

其实要理解人工智能就要理解人类智能，要理解这个问题就要回到哲学的起点，我们现在所有的认知科学包括人工智能的发展形态其实都是从笛卡尔开始的，笛卡尔搞的就是未来哲学，他说笛卡尔的这一段引文，就是我们能够找到的第一篇微型的科幻小说。

因为这个里面讲了一个很有趣的观点，当我们看到一个人的时候真的是看到了一个人吗？我们看到的难道不是一个形状、一堆色块、一个衣服，我们看到窗外一个人走过去穿着大衣，其我们并没有看到一个人，这个是人类认知系统的一种信息处理，所以人工智能的发展之前是有笛卡尔奠基的。

刚才这一段主要的意思是反驳笛卡尔主义，笛卡尔主义是所有基于认知科学发展出来的人工智能技术的一个基本前提，但是这个基本前提其实是对人类智能的一种误解，误解一个核心就是在笛卡尔那里有一个与身体无关的心智之物，我们的心跟身、跟我们身外之物的截然区分。

他的基本论点，简单概括一下，就是我们的智能不是只是存在于我们头脑当中的，其实笛卡尔有一个问题，这个智能到底在哪里他没法说，因为这个智能就是思考，但是身心有一个地点的问题，他说可能连头脑都不是对的，我们的身体跟精神世界首先不能脱离人类的自然机体，脱离身体谈论心智，这在存在论上是一个错误。

因为有不同层级的存在，智能甚至于不能化约为我们的头脑，也就是说它其实是一种社会性的存在，用他的术语来说，就是外部论，我们的智能不是私人的东西而是一个社会性的存在，我们的智能跟我们的语言是分不开的。因为我们的智能之所以可能就是因为我们有语言，有语言的时候我们的思考是不能脱离语言的，是不能脱离社会性的存在来讲智能的，一旦没有生物性自然前提和社会性的前提，我们把这个智能概念移植到人工智能上面去就是一个概念误用了。

可能大家会有一个印象，以为他的观点是人工智能根本就不会对我们造成任何威胁，这个并不是他的观点，接下来他会专门来谈，在他看来危险到底在什么地方，接下来其实是对海德格尔的一篇文章《危险》的分析。

刚刚孙老师的概念叫“集置”，他说这个翻译的很好，这个概念现实中就是我们时代的亚马逊，他不知道在中国是阿里巴巴，他说海德格尔家族应该从中国的阿里巴巴和美国的亚马逊公司收费，因为海德格尔最先提出了他们的理念。并且他说他认识亚马逊原来的研发者，原来就是研究过哲学的，所以应该是有关系的，并且这个人现在住在上海。

分析海德格尔时，他提出了很有意思的看法，海德格尔当时在《危险》这篇文章当中讲的人类生存状态，就是我们现在担忧的人工智能会给我们带来的状态，海德格尔认为自己的时代已经是那样了，已经在进入这个时代了，这个从哲学的角度来说其实是现代性的一个步骤罢了。

海德格尔认为我们已经进入了一个超级智能的时代，订置并非只是人类的行为，虽然我们的点击是我们在点击，但这个行为是属于运作系统的，这个不是个体的行为。所以他最后总结，人工智能真正的危险不是各种神话学描述里面所说的，人工智能变得开始有人性，开始像自我一样有意识来统治人，他说不是这样子，这是存在论的基础搞错了，人工智能一直并且只能是一个思维模型，虽然它是一个高度复杂的模型。

这个时候我们之所以愿意去相信那些神话的时候，这是他最后结论部分最深邃的一点，其实是因为我们人类不愿意直面我们自身，我们喜欢逃避我们自身，这是我们的一种集体逃避，为什么呢？作为人类，我们无法不置身于这样的问题面前，即我们是谁或者是什么，以及我们应当是谁和应当是什么，这些问题就是哲学的问题，这些问题人类问了两千年没有答案。但是他说没关系，没有答案是因为我们的生存本身有一种不透明性，孙老师喜欢说神秘性，这个神秘性恰恰是自由的保障。????

所以他最终的答案某种意义上跟孙老师差不多，理由不完全一样，就是我们都要学点哲学，来看看我们是谁并且应该是谁。否则，我们就逃避了自我理解的难题，把自己的生活完全出让给一种订置状态。

最后总结来说，人工智能真正的危险在他看来就是自由的丧失和自我的误解，谢谢大家！