AI 能不能突破人类知识的边界

AI 的智能是不是被人类知识“框住”了？

最近刘慈欣又谈到了一个很有意思的问题：如果 AI 的智能最终超过人类，我们可能连判断它到底有多聪明的能力都没有了。他还提到，除了现在这种依靠大数据的方法之外，还有符号推理、进化等不同的 AI 路线，如果其中某一种真正突破，AI 的能力可能会发生很大的变化。

与此同时，OpenAI、Anthropic 这两家公司内部最近也越来越重视一个问题，就是 AI 是否可能开始自己参与下一代 AI 的研发。Anthropic 甚至直接讨论了“递归自我改进”：AI 自己设计、开发下一代 AI。Anthropic 明确说现在还没有达到完全自主递归自我改进，而且这条路也不是必然的，但 AI 已经在加速 AI 的研发。

这让我想到一个反过来的问题。

AI 到底能不能产生人类从来没有产生过的知识？

现在的 AI，本质上还是从人类知识出发

我们今天的大语言模型，训练材料很大一部分确实来自人类产生的文本、代码、图像以及其他数据。

所以我以前会有一个直觉：AI 再聪明，它是不是也只能在人类知识的空间里面重新组合？

比如，人类已经知道怎么写程序，AI 可以比程序员快一百倍；人类已经知道怎么分析财务数据，AI 可以同时分析一万个公司；人类已经知道数学里面有哪些公式，AI 可以非常快地进行组合和推导。

但是，这和真正的知识突破是两回事。

比如爱因斯坦提出相对论之前，人类并没有一份“相对论语料库”让他去学习。真正困难的地方，是从已有的实验事实和理论中，找到一个以前没人想到过的解释。

所以我有一个怀疑：

AI 可以把人类已有的智能放大很多很多倍，但它能不能自己跨越知识边界，发现一个人类从来没有想到过的理论？

如果不能，那么 AI 的能力可能存在一个很有意思的上限。

真正的关键可能不是知识，而是实验

我现在觉得，问题可能应该换一种问法。

不是 AI 能不能凭空产生人类没有的想法，而是：

AI 能不能自己提出一个假设，然后自己设计实验、获得新的数据、发现异常、建立理论，再不断验证和修正？

如果 AI 只能读人类已经写出来的东西，那么它确实很容易被人类知识限制。

但是如果 AI 可以直接观察现实世界，可以控制实验设备，可以运行模拟，可以获取以前没人分析过的数据，然后不断提出假设并验证，那么它就不一定受人类知识边界限制了。

到那个时候，它甚至可能发现一种我们完全没有想到过的理论。

而且这件事情不需要 AI “比人类聪明很多”才可能发生。人类科学史上很多突破，并不是因为一个人计算速度特别快，而是因为发现了一个新的角度。

AI 最终有没有能力自己找到这种角度，我觉得现在还没有答案。

所以我对“AI 会不会灭绝人类”的想法也有一点变化

如果 AI 只能把人类已经知道的东西做得更快、更好，那么我反而觉得它最大的影响可能不是“消灭人类”，而是让人的效率价值迅速下降。

一个人以前一天能做十件事情，AI 可以帮他做一千件。

那么真正稀缺的就不再是执行能力，而是发现什么事情值得做、提出什么问题、判断什么结果重要。