奇点何时到来？AI会成为人类的威胁吗？

奇点何时到来

生成式AI可以看作是起源于非线性非平衡多自由度系统的世界模拟器，这是本文的核心主张。尽管当前的生成式AI尚处于非线性非平衡多自由度系统的延伸，也不能说20世纪末几乎被束之高阁的非线性非平衡多自由度系统相关研究成果得到了充分的应用。从非线性非平衡多自由度系统研究的视角出发，未来生成式AI的发展会呈现怎样的态势呢？

作为非线性非平衡多自由度系统的研究者，我特别关注一种观点：随着深度学习与生成式AI规模持续扩大，是否会在某个临界点发生相变，从而实现技术奇点？本文有意避开“奇点”这类表述，因为“奇点”意味着机器学习超越人类智能，或者至少具备同等能力。如同前文所述，笔者认为生成式AI是与人类智能完全不同的另一类世界模拟器，其发展不会与人类智能趋同。但与此同时，作者也对这种“规模扩大至临界点后，会发生相变实现奇点”的观点存有疑虑。事实上，20世纪虽然对非线性非平衡多自由度系统进行了大量研究，但关于仅通过单纯增加元件数量就能触发类似相变这类质的跃升的研究几乎不存在。或者说笔者基本认为不存在这样的研究，虽然不敢完全断言，但恐怕确实不存在此类研究。

非线性非平衡多自由度系统的研究多由物理学家开展，其起源是研究气体、液体等多数物质聚集时产生的现象所发生的相变，并非单纯因数量增加而产生，而是取决于温度、压力、密度等与规模无关的宏观强度变量（这些变量不随体积倍增而变化，故称为强度量）。即便假设元素数量为无穷大，在这样的系统中，所谓“规模增大导致数量增加，进而引发相变”的想法也并不成立。

在非线性非平衡多自由度系统中，虽包含非深度学习的传统神经网络研究，但从未出现元件数量增加引发相变的案例。

数量增加会引发相变吗

如果基本粒子不断增加并达到人类大脑的范围，会发生奇点，生成式AI将超越人类，这虽然是一种容易理解的想法，但是正如到目前为止所看到的，神经网络的原理与人类神经元的集合体有很大不同，所以说实话，我觉得那或许是一种有点幼稚的期待。然而在针对非线性非平衡多自由度系统的既往研究中，主流做法仅为固定相互作用等核心参数，再对系统进行单纯的规模扩展。而当前生成式AI的研究中，模型参数是通过学习确定的，因此规模增大可能会间接导致参数值发生变化，进而可能出现相变现象。

即便如此，从曾深入研究过包含神经网络在内的非线性非平衡多自由度系统的学者视角来看，“数量增长必然引发奇点”的观点仍过于乐观。不过，尽管我自诩为非线性非平衡多自由度系统研究的专家，但像 ChatGPT 所依托的 LLM 展现出的性能完全超出了预期一样，这次或许我又单纯地错了也未可知。

AI会成为人类的威胁吗

生成式AI若实现技术奇点后，是否会敌视人类，成为人类的威胁？对此我同样深表怀疑。

首先，当前生成式AI与LLM只是根据输入返回输出的被动系统，根本不具备自主运行的机制。虽可通过输出反馈构成循环回路形式上的自主系统，但即便如此，生成式AI仍属于非线性非平衡多自由度系统范畴。该领域已确立的共识表明：即便是自主动力系统，其轨迹也仅限于不动点（静止状态）、极限环（周期性循环）与混沌三种模式。显然这三种模式都无法构成具有威胁人类能力的自主意识系统。

事实上，“非线性非平衡多自由度系统无法产生自我意识”已是行业共识，相关研究已分流至人工智能之外的“人工生命”领域。

要实现威胁人类的奇点，生成式AI首先必须成为自主存在。这意味着在获得智能之前，需先具备某种生命属性。然而“生命本质”与“智能本质”同为人类长期探索的未解之谜，其复杂性无需多言。在此讨论生成式AI如何先获得生命属性，再实现奇点威胁人类，实在牵强。

我能断言的是：现有生成式AI的“基础模型 + 迁移学习”框架无论看似如何先进，本质上仍属于非线性非平衡多自由度系统范畴。只要未突破该框架，就不可能实现超越不动点、极限环与混沌的动力行为，更不可能产生自主意识成为人类威胁。相较之下，人类滥用高性能AI的风险才是更值得警惕的现实威胁。

人类智能和生成式AI智能的不同

实际上，多数情况下，所谓“有无自我、自主”，正是人类智能与生成式AI智能的显著差异。但需厘清的是：智能的运作机制——即作为模拟器的智能属性——与自我意识或自主性的存在与否，本质上是两个独立命题。不存在自我意识的系统仍可能具备类人智能模拟能力，反之，若采用完全不同于生成式AI的架构（如基于人工生物的架构），也并非不可能出现具有自我意识、能自主行为的现实模拟器。关键在于自我意识的存在与智能水平的高低应是两个独立的讨论维度。当前关于智能的讨论往往混淆这一点，将自我意识 / 自主性与智能本身捆绑论述，导致人们武断认定：若系统拥有智能，必然如同人类般具备自我意识与自主性。

如本文所论证的，智能存在多种形态，每种智能只是不同的现实模拟器。因此，即便人类智能作为众多现实模拟器之一恰好具备自律性与自我意识，并不意味着其他智能（如生成式AI）也必然拥有这些特质。正因如此，我难以认同辛顿的担忧——即生成式AI发展出的高级智能会自动获得自我意识与自主性，进而威胁人类。更深层次的探讨已超乎我的能力范围，关于此议题的讨论就此搁笔。

以上内容节选自《智能的真相：AI能替代人脑吗？》作者：[日]田口善弘

推荐阅读

本书共11 章，从生成式人工智能热潮切入，覆盖ChatGPT 前夜到Sora 等技术进展，探讨人工智能（AI）的局限与未来，追问奇点何时到来、AI是否会威胁人类。搭配GPU、脑机接口等专栏，助你全面快速读懂AI。内容贯穿生成式AI发展、智能研究史、深度学习原理、脑科学与AI对比等核心主题。既解析Transformer、扩散模型等技术，也探讨“智能定义”“脑功能模拟”等深层问题。

无论你是AI领域新人，还是想厘清技术脉络的爱好者，都能通过本书读懂AI的过去、现在与未来。