最近OpenAI和Anthropic 都提出了一些警告, 你可以认为是他们想维持自己的领先和垄断. 但另一方面, 我认为 AI 的发展, 已经到了值得每个人认真关注一下的阶段。

大家通常认为, LLM 本质上就是一个概率机器。它从人类产生的大量语料中学习 token 之间的关系，然后预测下一个 token。所以它可以总结、模仿、重新组合，却不可能真正“创新”，更不可能发现人类还不知道的东西。

前半句话，原则上是没问题的, 至少目前的 LLM 确实建立在这样的基础之上。但后半句是否能成立, 我持怀疑态度。

最近GPT-6 Astra 解决了一个哥德巴赫猜想 的 弱化分支, 它先后证明了4的倍数和大于2 的偶数都可以写成两个 Liouville 函数值为 -1 的正整数之和。 而且证明方法非常漂亮, 简洁, 高中生都能看懂 4的倍数那部分. 在这个证明上, AI 是打败了人类的数学家, 并且不是用暴力破解, 而是真正的奇思妙想.

所以, “AI 能不能创新”这件事，没有我们想象得那么容易下结论。反过来想一个问题：我们真的知道人类自己是怎么创新的吗？ 我们思考逻辑的底层是不是也是基于神经元的概率连接?

当然还有一种可能, 借用柏拉图“理念”的思路，我们看到的真理, 只是真正的真理在现实世界中的投影。 这次GPT证明的假说, 很可能已经隐藏在公理、定理以及无数数学关系之中, 以及在我们的语言表达之中. AI 只不过 在人类积累下来的语言、数学、科学、哲学和经验之中，找到了我们自己还没有意识到的关系和规律？

这个过程是个简单的概率关系吗? 我不知道. 但我倾向于认为, AI 的表现, 已经越来越像人类的思考行为表现.

现在AI已经开始参与研发, 训练下一代的自己, 将来很可能我们只能让AI自主训练自己了. 所以, 它会不会 “自我进化”, 甚至产生 “突变”, 都很难预料.

所以, 从 人本位 出发, 我们确实应该要关注 AI 的对齐 和使用限制问题; 从更开放的角度出发, 我们也要关注 AI 的伦理主体问题.

不管是哪一方面, 都是我们接下来要面对的重大挑战. 我们面对的可能不只是一个更好用的工具，而是一件我们自己还没有完全理解、却正在高速发展的东西。