当年打败李世石的 AlphaGo，研发耗时整整两年，里面塞满了人类积攒的围棋棋谱，每一步都依赖工程师持续介入与手工调整。

后来的 AlphaZero 选择彻底抛开人类棋谱，完全依靠算法自主摸索，击败顶尖国际象棋系统只用了四个小时，在围棋上也只花几天就完成了自我超越。

看现在的技术进展，很容易联想到当年的情况。在我看来，各家大模型公司不断去抓取全网网页、专业图书、论坛讨论和开源代码，做的事情和当年打磨第一代 AlphaGo 几乎是一样的。

把这些现成的数据反复清洗、微调，模型确实可以对答如流，但它能给出的回答，始终超不过人类已经写下来的那些字句。

当时负责这两项研究的 David Silver，现在换了一个完全不同的解法。读懂他正在推进的尝试，才能明白怎样才能让机器真正具备独立探索未知世界的能力。

他创立了 Ineffable Intelligence 实验室，核心想法很明确，人类自己写出来的历史数据，正在变成技术继续往前走的阻碍。如果真想做出具备自主发现能力的超级智能，第一件事就是放下对人类经验的依赖。

人类已有的这点认知，本身就有着很大的局限。

人类掌握的知识在整个物理世界里只占很小一部分。让算法天天在已有的文本库里找规律，它的上限充其量只是熟练复述人类已知的事实。更麻烦的是，人类历史上存在大量的认知错误，这些错误直接写进了文字里。

设想把时间直接倒推几百年，如果把五百年前人类留下的全部文献作为训练数据，系统学完之后，就会理所当然地把地球是平的当成正确事实，还会得出身体生病全是因为四种体液不平衡的结论。

人类在探索世界的过程中有过漫长的摸索期，产生过无数错误的假设。

把这些文字当成唯一的养料，模型就会把偏见照单全收，后期再怎么做安全对齐或提示词修补，都很难彻底解决底层的认知偏差。
#人工智能 #AI #大模型 #科技前沿 #科技 #ai #人工智能替代人工 #人类未来猜想