前谷歌 CEO&董事长 Eric Schmidt 近日在 TED 上表示， AI 被严重低估了，
它不仅是语言工具，而是未来战略规划、科学发现乃至国家安全与地缘政治格局的核心力量。
他认为，真正重要的是 AI 的“创造力”——它做出人类从未做过的事，这不是记忆和模仿，而是原始创新的萌芽。
强化学习+ 多代理系统的结合，正在逼近“AI 自主系统”——也就是“会思考、会计划、会执行”的系统，超越了现在我们所认知的聊天机器人。
AI 的计算需求不是线性增长，是指数级跃升，而我们当前的基础设施远远跟不上。他用“格罗夫赐予，盖茨取回”来讽刺硬件进步抵不上软件需求爆炸。
最震撼的是，他指出 AI 是网络效应行业，领先者可以以指数速度拉开差距，导致对手永远失去竞争力。
这种不对称性将使国家之间的不信任急剧上升，诱发先发制人的战争风险。
他还把“ChatGPT = AI”的流行观点颠覆，提出“AI 是另一种形态的文明机器，它的真正潜力和威胁才刚刚开始被理解”。
主持人:
你曾说过，非人类智能的到来是一件非常重大的事情。这张拍摄于2016年的照片，感觉就像是地球在我们脚下发生了变化，但并不是每个人都注意到了。
当时你看到了什么，而我们其他人可能错过了？
Eric Schmidt:
2016 年，我们还不明白接下来会发生什么，但我们知道这些算法是全新且强大的。
在这组特定的比赛中，大约在第二场比赛中， AI 发明了一个在已有 2500 年历史的游戏中从未见过的走法。
从技术上讲，这种情况的发生是因为AlphaGo系统被组织成始终保持超过 50% 的获胜几率。
因此，它正确地计算出了这一步，这一走法在所有围棋选手中引起了极大的疑惑，他们显然都是极其卓越、数学和直觉都非常出色的选手。
Henry、 Craig Mundie 和我开始讨论的问题是，这意味着什么？为什么我们的计算机能够想出人类从未想过的东西？
我的意思是，这是一个由数十亿人玩过的游戏。这开启了促成了两本书的创作。坦率地说，我认为这是革命真正开始的时刻。
主持人:
如果快进到今天，似乎所有人都在谈论 AI ，尤其是在 TED 这样的场合。但你持有一个反主流的观点。你实际上认为 AI 被低估了。为什么？
Eric Schmidt:
我来告诉你为什么。你们大多数人认为 AI 就是 ChatGPT 这样的东西。
对你们大多数人来说，ChatGPT 是你们说“哦，天哪，这东西会写作，虽然会犯错，但它非常口才出众”的时刻。这当然也是我的反应。
我认识的大多数人都是这样的。
这是两年前的事了。从那以后，强化学习的进步—— AlphaGo 帮助发明的——让我们能够进行规划。
一个很好的例子是 Open AI 的 o1 或 DeepSeek 的 R1 ，你可以看到它如何反复推演，非常出色。在我的例子中，我买了一家火箭公司，因为这很有趣。
就像人们常做的那样。我不是这个领域的专家，但我想成为专家。所以我正在使用深度研究。这些系统会花 15 分钟写出这些深奥的论文。
这对大多数系统来说都是如此。你知道 15 分钟的超级计算机计算量有多大吗？这是惊人的。
因此，你看到的是从语言到语言的转变。然后是这是生物学的研究方式。现在你实际上是在做规划和策略。最终的状态是计算机运行所有业务流程，对吧？
所以你有一个代理（指执行特定任务的AI系统）做这个，一个代理做那个，一个代理做这个。然后你将它们串联在一起，它们之间用语言交流。它们通常使用英语。
主持人:
说到这些系统的计算需求，让我们简要谈谈规模。我有点把这些 AI 系统看作是“饥饿的河马”。它们似乎吸收了我们投入的所有数据和计算。
它们已经消化了公共互联网上的所有令牌，而且我们似乎无法足够快地建造数据中心。
你认为真正的限制是什么，我们如何在它们开始限制 AI 进步之前领先于它们？
Eric Schmidt:
能源是一个真正的限制。举个例子。我本周在国会作证时提到，美国需要再增加90吉瓦的电力。90吉瓦在美国相当于90个核电站。
我们没有建造核电站，我们将如何获得所有这些电力？这是一个重大的国家问题。
你可以使用阿拉伯世界，他们正在忙于建造 5 到 10 吉瓦的数据中心。印度正在考虑一个10吉瓦的数据中心。
要理解吉瓦有多大，可以想象每个数据中心相当于一个城市。这就是这些东西需要的电力。人们看着它说，“嗯，有很多算法改进，你将需要更少的电力。”
我记得一句老话，‘格罗夫赐予，盖茨取回’（Grove giveth, Gates taketh away）意思是硬件越来越快，软件需求也随之增加。
物理学家们令人惊叹。他们所做的事情令人难以置信。而我们软件人员，我们只是使用它，使用它，使用它。
当你看规划时，至少在今天的算法中，它是来回尝试这个那个，你自己看一下。
有估计，你从 Andreessen Horowitz 的报告中知道，这已经被很好地研究过，计算量至少增加了 100 倍，也许 1000 倍，只是为了进行这种规划。
技术从深度学习到强化学习，再到所谓的测试时计算（指在执行任务时同时进行学习）不仅在规划，还在规划时学习。那是计算需求的顶峰，或者说顶点。
问题一，电力和硬件。问题二，我们用完了数据，所以我们必须开始生成它。但我们可以轻松做到这一点，因为这是一项功能。
然后我不太明白的第三个问题是知识的极限是什么？举个例子。让我们想象我们是世界上所有的计算机，我们都在思考，我们都在思考基于已经存在的知识。
我们如何发明全新的东西？比如爱因斯坦。
当你研究科学发现的方式，生物学、数学等等，通常会发生的是，一个真正聪明的人类会看一个领域，说：
“我看到了一个模式，在一个完全不同的领域，与第一个领域无关。是相同的模式。”然后他们从一个领域获取工具，应用到另一个领域。
今天，我们的系统还不能做到这一点。
如果我们能解决这个问题，我正在研究这个，这个的一般技术术语是非平稳目标（指规则不断变化的动态目标）规则不断变化。我们将看看是否能解决这个问题。
如果我们能解决，我们将需要更多的数据中心。而且我们还将能够发明全新的科学和知识思想流派，这将是令人难以置信的。
主持人:
随着我们迈向高峰，自治一直是讨论的热门话题。
Yoshua Bengio 本周早些时候发表了一个引人注目的演讲，主张 AI 实验室应该停止开发能够自主行动的代理 AI 系统。
然而，这正是所有这些 AI 实验室的下一个前沿领域，对你来说似乎也是如此。正确的决定是什么？
Eric Schmidt:
Yoshua 是我们正在谈论的很多内容的杰出发明者，也是我的好朋友。我们讨论过这个问题，他的担忧是非常合理的。
问题不在于他的担忧是否正确，而是解决方案是什么？让我们来思考代理。为了论证的目的，观众中的每个人都是一个代理。你有输入，英语或其他语言。
你有输出，英语，你有记忆，这是所有人类的共同点。
现在我们都在忙于工作，突然间，你们中的一个决定不使用人类语言，而是发明我们自己的计算机语言。
现在你和我坐在这里，看着这一切，我们会说，我们该怎么办？正确的答案是拔掉你的插头，对吧？因为我们不会知道，我们只是不会知道你在做什么。
你可能实际上在做非常糟糕或非常了不起的事情。我们希望能够观察。
因此，我们需要可追溯性，这是你和我讨论过的事情，但我们也需要能够观察它。对我来说，这是一个核心要求。
行业认为有一些标准，你希望在这些点上，隐喻地说，拔掉插头。其中一个是你得到无法控制的递归自我改进。
递归自我改进是计算机在学习，你不知道它在学习什么。这显然会导致不好的结果。
另一个是直接访问武器。另一个是计算机系统决定在未经我们许可的情况下未经许可自行传播或复制。
所以有这样一组事情。Yoshua 的演讲的问题，在全球竞争激烈的市场中，试图停止某些事情的做法并不实际。
与其停止代理工作，我们更应该寻找方法来建立护栏。我知道你也认同这一点，因为我们之前已经讨论过这个话题。
主持人:
我认为这很好地引出了困境。这个技术带来了许多困境。我想从第一个开始讨论，Eric 这个技术的军民两用性质非常突出，对吧？
它既适用于民用也适用于军事应用。那么，你如何广泛地思考与这个技术相关的困境和伦理难题，以及人类如何部署它们？
Eric Schmidt:
在许多情况下，我们已经有关于个人责任的学说。一个简单的例子，我做了很多军事工作，并且继续这样做。
美国军方有一个称为 3000.09 的规则，通常被称为“人在回路中”或“有意义的人类控制”。你不希望系统不受我们的控制。这是一条我们不能跨越的界限。
我认为这是正确的。我认为西方，特别是美国和中国之间的竞争，将在这一领域起到决定性作用。
我会给你一些例子。首先，现任政府现在基本上实施了 145% 的对等关税。这对供应链有巨大影响。
我们在我们的行业中依赖于来自中国的包装和组件，这些东西很无聊，但非常重要。那些小小的包装和胶水之类的东西是计算机的一部分。
如果中国拒绝我们获取它们，那将是一件大事。我们正试图拒绝他们获取最先进的芯片，这让他们非常恼火。
基辛格博士博士要求 Craig 和我与中国进行第二轨道对话，我们正在与他们交谈。他们提出的首要问题是什么？
就是芯片访问的问题如果你看 DeepSeek，它真的令人印象深刻，他们设法找到了通过提高效率来绕过问题的算法。
因为中国正在做所有开源、开放权重的项目，我们立即从他们的发明中受益，并将其采纳到美国的东西中。
所以我们现在处于一个我认为相当脆弱的局面，美国在很大程度上推动了，出于许多很好的原因，主要是封闭模型，主要是处于非常好的控制之下。
中国很可能成为开源的领导者，除非发生变化。开源导致世界范围内非常快速的扩散。这种扩散在网络和生物层面是危险的。
但让我告诉你为什么它在更重要的方式上，在核威胁的方式上也是危险的。基辛格博士博士，我们与他密切合作，是相互保证毁灭、威慑等的建筑师之一。
现在发生的情况是，你遇到了一个局面——我举个例子。解释起来更容易。你是好人，我是坏人，好吗？
你比我领先六个月，我们都在通往超级智能的同一条道路上。你会到达那里，对吧？你肯定会到达那里，你已经很接近了。我落后六个月。听起来不错，对吧？
听起来很好。
不，这些是网络效应业务。在网络效应业务中，你的改进技术进步的速度（即斜率）决定了所有事。所以我将使用 OpenAI 或 Gemini，他们有 1000 名程序员。
他们正在创建一百万 AI 软件程序员。这会带来什么？首先，你不需要喂养他们，只需要电力。这很好。他们不会辞职之类的事情。其次，斜率是这样的。
好吧，随着我们越来越接近超级智能，斜率会变得这样。如果你先到达那里，你这个狡猾的人
主持人:
你永远无法赶上我。
Eric Schmidt:
我将无法赶上你。我给了你重塑世界的工具，特别是摧毁我的工具。我的邪恶大脑就是这样想的。那么，我该怎么办？首先，我会尝试窃取你的所有代码。
其次，我会用人渗透你。你有很好的保护措施。我们没有间谍。那么我该怎么办？我会进去，我会改变你的模型。我会修改它。
我实际上会搞砸你，让我领先你一天。我的下一个选择是什么？轰炸你的数据中心。现在你认为我疯了吗？今天在我们的世界中，围绕核对手正在进行这些对话。
有合法的人说，解决这个问题的唯一办法是先发制人。
现在我告诉你 Mr. Good，即将拥有控制整个世界的钥匙，无论是经济主导、创新、监视，还是你关心的任何事情。我必须阻止这一点。
我们在我们的社会中没有任何语言，外交政策人员还没有考虑到这一点，而这正在到来。什么时候到来？可能五年。我们有时间。我们有时间进行这个对话。
这真的很重要。
主持人:
让我在这个问题上稍微推进一下。
所以如果这是真的，我们最终会陷入这种僵局局面，类似于相互保证毁灭，
你还说过，美国应该拥抱开源 AI ，即使在中国的DeepSeek展示了用一小部分计算可以实现什么之后。
但开源这些模型，不就是将能力交给对手，加速他们自己的时间表吗？
Eric Schmidt:
这是最棘手的问题之一，或者，我们称之为 极其棘手的难题。我们的行业，我们的科学，我们所建立的一切都基于学术研究、开源等。
谷歌的许多技术都基于开源。谷歌的一些技术是开源的，一些是专有的，完全合法。
当有一个非常危险的开源模型进入世界上的恐怖分子或恶意行为者手中 手 中时，会发生什么？我们知道不幸的是，不止一个。我们不知道。
行业目前的共识是，开源模型还没有达到国家或全球危险的程度。但你可以看到一种模式，它们可能会到达那里。
所以很多将取决于在美国和中国以及两地的公司做出的关键决定。
我关注美国和中国是因为它们是唯一两个国家，人们疯狂到愿意花费数十亿美元来建立这个新愿景。欧洲，虽然很想这样做，但没有资本结构来实现。
其他大多数国家，甚至印度，也没有资本结构来实现，尽管他们希望如此。中东国家没有资本结构来实现，尽管他们正在努力。
所以这场战斗，将是决定性的战斗。基辛格博士博士谈到与中国开战的可能路径是意外。他是第一次世界大战的学生。
当然始于一个小事件，然后在1914年夏天升级。然后是这场可怕的大火。你可以想象一系列沿着我所说的路线发生的步骤，可能导致我们走向可怕的全球结果。
这就是为什么我们必须关注。
主持人:
我想谈谈这里的一个反复出现的紧张局势，是在规模上调节这些 AI 系统，在 AI 安全中有一个奇怪的紧张局势，防止 “1984” 的解决方案通常听起来很像 “1984” 。
在规模上调节这些系统是一个热门话题。你如何看待这种权衡？
在试图防止反乌托邦，比如防止非国家行为者以不希望的方式使用这些模型时，我们可能会意外地建立起终极的监视国家。
Eric Schmidt:
坚持我们社会中的价值观非常重要。我非常非常致力于个人自由。一个善意的工程师很容易建立一个优化并限制你自由的系统。因此保护人类自由非常重要。
很多这些不是技术问题。它们实际上是商业决策。建立一个监视国家是完全可能的，但建立一个自由的国家也是可能的。
你所描述的难题是因为现在基于错误信息进行操作变得如此容易，每个人都知道我在说什么，你确实需要身份证明。但身份证明不一定包括细节。
例如，你可以有一个密码学证明，证明你是一个人类，而且实际上是真实的，没有其他信息，并且无法使用各种加密技术将其链接到其他人。
主持人:
所以零知识证明和其他技术。
Eric Schmidt:
零知识证明是最明显的一种。
主持人:
好的，让我们换个话题，在你的书《Genesis》中，你与 Henry 基辛格博士合著，采取了一种谨慎乐观的基调。当你展望未来时，我们都应该对什么感到兴奋？
Eric Schmidt:
我到了这样的年纪，我的一些朋友正在患上非常可怕的疾病。我们现在能解决这个问题吗？我们能消除所有这些疾病吗？
为什么我们不能现在就采取行动，根除所有这些疾病？这是一个非常好的目标。
我知道有一个非营利组织正在努力在未来两年内识别所有人类可药物靶点，并将其发布给科学家。
如果你知道可药物化的目标，那么制药业就可以开始研究这些东西。
我与另一家公司有关联，据称，这是一家初创公司，找到了一种方法，将第三期临床试验的成本降低一个数量级。
正如你所知，这些是最终推动药物成本结构的东西。
这是一个例子。我想知道暗能量在哪里，我想找到它。我相信在暗能量、暗物质中有大量的物理学。想想材料科学的革命。
极大提升的交通，无限更强大的科学等等。我再给你一个例子。为什么我们不能让地球上的每个人都有自己的导师，用他们自己的语言帮助他们学习新东西？
从幼儿园开始。这是显而易见的。为什么我们还没有建立它？答案是，唯一的可能答案是，一定没有一个好的经济论据。技术是可行的。
用他们的语言教他们，游戏化学习，让人们发挥他们最佳的自然优势。
另一个例子。世界上绝大多数的医疗保健要么不存在，要么由相当于护士从业者和非常非常紧张的当地乡村医生提供。
为什么他们没有医生助理，用他们的语言帮助他们治疗任何疾病，再次提供完美的医疗保健？
数字世界有很多问题。感觉我们都在自己的船上，在海洋中，我们没有互相交谈。在我们对连接和联系的渴望中，这些工具让我们更孤独。
我们必须解决这个问题，对吧？但这些是可解决的问题。它们不需要新的物理学。它们不需要新的发现，我们只需要决定。
所以当我看这个未来时，我想明确的是，
这种智能的到来，无论是 AI 层面、AGI，还是超级智能，都是人类社会在约 500 年，也许 1000 年中将要发生的最重要的事情。
而且它发生在我们的有生之年。所以不要搞砸了。
主持人:
让我们说我们进入这个激进丰饶的世界。让我们说我们最终到达那个地方，我们达到了递归自我改进的点。 AI 系统承担了绝大多数经济生产性任务。
在你的想象中，人类在这个未来将做什么？我们都在海滩上喝着菠萝椰奶鸡尾酒，从事爱好吗？
Eric Schmidt:
听着，人类在这个令人难以置信的发现中没有改变。你真的认为我们会摆脱律师吗？不，他们只会进行更复杂的诉讼。你真的认为我们会摆脱政客吗？
不，他们只会有更多的平台来误导你。
我的意思是，关于这个新经济学的关键是，我们作为一个社会，集体地，没有足够的人类。看看亚洲的生育率，基本上是每对父母平均1个孩子。这不好。
所以在我们的余生中，关键问题将是让那些处于生产力时期的人更有生产力，以支持像我这样的老年人，他们会抱怨想要从年轻人那里得到更多的东西。
这就是它的运作方式。这些工具将极大地提高这种生产力。
有一项研究表明，在围绕代理 AI 和发现以及我所描述的规模的一系列假设下，你最终将获得每年约 30% 的生产力增长。
现在与一群经济学家交谈后，他们对这种生产力增长没有任何模型。我们从未见过这种情况。它在我们的历史中的任何民主或王国的崛起中都没有发生。
即将发生的事情令人难以置信。希望我们能朝着正确的方向前进。
主持人:
这确实令人难以置信，你在技术变革的几十年中航行。
对于每个正在经历这个 AI 转型的人，技术专家、领导者、公民，他们感到兴奋和焦虑的混合，你想提供什么智慧或建议来应对我们今天所经历的这个疯狂时刻？
Eric Schmidt:
所以要记住的一件事是，这是一场马拉松，而不是短跑。有一年我决定参加 100 英里的自行车比赛，我学会了关于旋转速率的事情。
每天你起床，你只是继续前进。从我们在谷歌的合作中，当你以我们正在增长的速度增长时，你在一年内完成了很多事情，你忘记了你走了多远。
人类无法理解这一点。我们正处于指数级增长的情况中。随着这些事情发生得更快，你会忘记两年前或三年前的真相。
这就是关键。所以我给你的建议是，乘风破浪，但每天都要乘风破浪。不要把它看作是偶发的事件和可以结束的事情，而是理解它并建立在它之上。
你们每个人都有使用这项技术的理由。如果你是艺术家、教师、医生、商人、技术人员。
如果你不使用这项技术，与你的同行和竞争者以及想要成功的人相比，你将变得无关紧要。采用它，并且快速采用。
我对这些系统的速度感到震惊——顺便说一句，我的背景是企业软件，现在有一个来自 Anthropic 的模型 Protocol。
你实际上可以将模型直接连接到数据库中，而不需要任何连接器。我知道这听起来很书呆子。整个行业都消失了，因为你现在有了这种灵活性。
你只需说出你想要的，它就会生成它。这是商业中真正变化的一个例子。每天都有很多这样的事情发生。
文章来自于微信公众号 “有新Newin”，作者 ：有新
