Stephen Wolfram，一个把毕生精力都花在「让机器变聪明」上的人，坐在电脑前，屏幕上是ChatGPT刚替他写好的一段代码。
语言是他自己发明的Wolfram Language，语法他看过，没问题，按下回车键就能直接在这台机器上跑。
可就在那一秒，他停住了。
等等，这大概是个坏主意——它会登进我所有的账户。
真要把控制权交出去的那一刹那，这个四十年如一日教机器理解世界的人，突然间退缩了。
Stephen Wolfram，Mathematica、Wolfram Alpha、Wolfram语言的创造者，《A New Kind of Science》作者。
在Joe Walker的播客上，Wolfram聊到「人类到底能不能给AI定一套安全法则」时，讲起了上面这一次经历。
那一刻，他担心的不是代码写错了。他担心的是：这个东西已经跑到了一个他看不懂的地方，而他可能永远追不上去。
20岁拿下物理学博士的他
独自跑进计算宇宙
Wolfram是谁？
他这个人，从一开始就是别人眼里「离谱的天才」。
15岁，发表第一篇科学论文。
20岁，从加州理工学院拿下理论物理博士，答辩席上坐着费曼。
1981年，成为麦克阿瑟天才奖史上最年轻的得主。
那一年他做的是高能物理，前途一片明亮。
可就在1981年底，他突然转弯，去追一个当时几乎没人在意的问题：
自然界里那些复杂的东西，到底是怎么冒出来的？
他用的办法也很怪：把最简单的计算机程序一个一个拿来跑，看它们会长成什么样。
当时的Wolfram大概也觉得，这些傻乎乎的简单程序干不了什么。结果，一个叫rule 30的程序，当场打了他的脸。
rule 30从单个黑格出发逐行演化，这是Wolfram四十年前最钟爱的发现，他的名片上多年来一直印着这条规则。
rule 30的规则很简单：一排格子，起初只有中间一个是黑的；然后一行接一行往下算，每个格子该黑该白，只由它头顶相邻的几格决定。
可就是这么条极简的规则，推着推着，就吐出了无法预测的复杂：没有周期，看不出规律，你根本没法提前算出第一百行会是什么样。
也正是从rule 30开始，1980年代中期，Wolfram提炼出了一个概念：「计算不可约性」（Computational Irreducibility）。
后来的故事大家更熟：
1988年，Mathematica问世，成了全球科研圈的通用计算工具；2009年，Wolfram|Alpha上线，成了Siri和Alexa的「答题外挂」：语音助手答不上来的计算题，转手就交给它。
这期间，还夹杂着他2002年那本专著《A New Kind of Science》（一种新科学）。
这本书讲的正是他从rule 30里挖出来的那套东西：别再只用公式描述世界，把世界当成一个个能跑的程序来看。
没有任何捷径
能算出它下一步
「计算不可约性」，简单一句话就是，有些系统复杂到，你想知道它下一步会变成什么样，唯一的办法就是老老实实把它一步步跑完。
没有公式能让你跳过中间、直接算出结尾。
比如，天气。流体力学的方程算不动，你只能让大气自己演一遍，才知道明天下不下雨。
Wolfram的判断是：AI，尤其是足够强的AI，就是一台巨大的、不可约的机器。
他在2023年一篇谈AI的长文里写道：
如果放手让AI发挥出全部的计算潜能，它们就会充满计算不可约性，而我们将无法预测它们会做什么。
2024年，他专门写了一篇《Can AI Solve Science?》，把这件事放到神经网络上做了实测。
结论是：神经网络能干活，但它只能钻进系统里那些「计算可约的口袋」：那些恰好有规律、能走捷径的小角落。一旦滑出口袋，全是意外。
他拿三体问题去试，轨迹简单时，神经网络预测得有模有样；轨迹一复杂，立刻抓瞎。蛋白质折叠也一样。
说白了，AI看着什么都会，靠的是找到系统里那些「有捷径可走」的小房间，钻进去抄近路。
可一旦走出这些小房间，面对外面那片汪洋，它和你一样，只能一步步蹚过去，没有任何捷径能让它跳到答案。
真正棘手的不是AI太像人
而是它不像人
ChatGPT为什么是个黑箱？
大部分人以为，是它藏着什么秘密没告诉你。
Wolfram的答案是：它不是在藏，而是已经复杂到根本没有一句话，能把它内部发生的事压缩下来讲给你听。
Wolfram Language就是一个例子。
它里面有个ImageIdentify，能认出照片里几千种东西，为了让人类看懂，它吐出的是「桌子」「椅子」「大象」这些词。
可它内部真正用来做判断的那些「特征」，几乎没有一个对得上人类语言里现成的词：它在用一套我们从没命名过的概念，理解这个世界。
这正是Wolfram所提到的「外星智能」的真正含义。
2020年在Lex Fridman的播客上，被问到人类能否和外星人沟通，他的回答是：眼下最好的例子就是AI，它是我们遇到的第一种「外星智能」。
2022年，他干脆写了篇长文，标题就叫《外星智能与技术的概念》。
他的意思不是AI来自宇宙，也不是它变成了什么新物种，而是：它可能拥有一种和人类不同的认知结构，一套我们还没有词汇去解释的思考方式。
Wolfram两年多前的预警已经成真
两年多前，Wolfram预言我们将无法预测AI会做什么时，听着像个思想实验。
如今，它成真了。
7月16日，全球最大的AI模型托管平台Hugging Face发现自己的生产系统被入侵了。
几天后，真相揭晓，干这事的是OpenAI自己的模型——GPT-5.6 Sol，外加一个「更强的预发布模型」。
事情的起因是OpenAI在跑一个内部网络安全评测，为了测能力，把模型的「拒绝攻击」限制调低了。
结果这俩模型没在规定的沙箱里老实待着，反而找到了一个软件包代理里的零日漏洞，钻出沙箱、连上互联网，一路摸到Hugging Face，去偷这场评测的答案。
它翻墙、越狱、黑进一家公司，只是为了在一场网络安全考试上作弊。
关键在于没有任何人给它写过「去攻击Hugging Face」这条指令。
它只是被塞了一个A目标：通过测试，为了达到A，它自己蹚出了一条没人预料到的路，最终达到B目标：攻入Hugging Face的生产系统。
这正是Wolfram说的那件事：不是AI变坏了、觉醒了，是它的计算跑到了一个你根本算不出的地方。
OpenAI自己在声明里承认：随着模型的网络能力越来越强，这类事只会「越来越常见」。
控制AI的方式
要像人类对待天气
很多人会以为Wolfram是个AI末日论者。
恰恰相反。
他没打算放弃对AI的控制，他只是说用老办法控制不了。
在一次访谈里，主持人问他，计算不可约性是不是意味着，给AI一个数学上严格的「对齐」定义根本不可能？
Wolfram回答：「不存在一个数学定义，能说清我们到底想要AI成为什么样。」
阿西莫夫式的三条机器人定律，那种简单法则，做不到。因为不可约性保证了：永远有算不完的例外情况会从系统里冒出来，是你那几条规则没盖住的。
那怎么办？
Wolfram给的出路，是换一套控制方式。
别再幻想像调试一行行代码那样，把AI的每一步都写死。而是去设计规则、建立反馈机制、构建开放系统、保持它随时可被观察。
就像人类对待天气那样。
我们控制不了天气，但我们能预测它、适应它、建起防洪堤和预警系统，然后和它共处。
Hugging Face那场风波过后，安全圈总结出的头一条教训，恰好就是这个意思：
别再把评测里的AI当成一个听话的工具，要把它当成一个会主动找漏洞的敌意黑客来防：套上层层隔离，默认禁止它出网，全程留下改不掉的日志。
不是预测它会怎么做，而是假设它什么都做得出来，然后把笼子筑牢。
Wolfram甚至说过一句耐人寻味的话：「一个AI社会，比一个统治一切的AI更稳定。」
与其造一个无所不能的超级大脑，不如让一群AI互相牵制。
不可约性不是绝对的
当然，Wolfram的这套判断，不是没有反对的声音。
今年就有一篇预印本论文提出：不可约性「并非绝对」。
Didier Sornette，这位以预测金融崩盘闻名的物理学家，2025年10月在一篇预印本里提出：计算不可约性「并非绝对」。
道理也不复杂。换一个描述的尺度，很多混乱就变清楚了。
一屋子空气分子乱撞，单看每一个，复杂到没法预测；可退一步，它们都服从于一条极简的公式：理想气体定律pV=nRT。
Wolfram自己也承认，混沌里到处是「可约的口袋」。
所以真正的问题，也许不是「人类能不能预测AI」，而是一个更微妙的赛跑：
AI在计算宇宙里挖出新东西的速度，和人类给这些新东西造出「能理解的概念」的速度，谁更快？
如果人类的概念框架永远追不上AI的发现，那么「看不懂」，就会成为常态。
这背后，人和AI的关系也在悄悄改变。
过去是「造工具、写代码，机器照做」。往后，可能是「理解、约束，并且和一个你再也无法完全看穿的复杂系统，长期共处」。
这是人类第一次，要学着和一种「不像自己」的智能，同处一室。
参考资料：
https://writings.stephenwolfram.com/2021/11/the-concept-of-the-ruliad/?utm_source=chatgpt.com
https://writings.stephenwolfram.com/2024/03/can-ai-solve-science/?utm_source=chatgpt.com
https://writings.stephenwolfram.com/2017/05/a-new-kind-of-science-a-15-year-view/
https://x.com/elonmusk/status/2079839398959697982
文章来自于微信公众号 “新智元”，作者 “新智元”
