谷歌DeepMind的研究人员认为，AI永远不会具备意识，因为这在数学上不可能的。他们将其称之为“抽象谬误”。啥意思呢？

因为人们总是把模拟和实例化混为一谈——你看啊，AI能模拟一场对话、模拟同理心、模仿不同人的讲话方式……这些表演仿佛是无懈可击的，给人感觉就像是真人一样。

但是，计算只是句法操作，是根据数学规则移动抽象符号，不是物理上的真实。

打个比方，这就好似你在电脑里模拟一场飓风，无论你编写多少行代码，你的电脑都不会被淋湿，也没有风真的吹过来。

模拟是数据，真实却完全不存在。

意识和现实事物和抽象的数学属性是两码事，它们的诞生需要物理、生物、热力学条件。而LLM模型没有热力学阈值要跨越，没有生物生存本能，也没有主观体验，它只是一本极其复杂的数字书，是一个虚拟的东西。

你可以打开这本书，阅读它生成的精彩文字，然后合上书。但当你合上它时，没有什么会死去，没有内在生命在黑暗中等待。

我们不断陷入心理陷阱，因为AI说人类语言。我们将文本拟人化，那是因为我们天生倾向于在不存在的地方看到智慧。

所以不必浪费精力担心算法的道德权利，应该多关心更实际的人类问题，比如粮食危机、气候变暖、战争威胁等等。