黄仁勋的「断供」假设，与一场等不及的AI安全之争

在AI agents接连越界之后，一场关于AI该走多快、由谁来管的争论。

10 月 14 日，英伟达创始人兼 CEO 黄仁勋在接受彭博社的采访时，被问到：如果有客户在不负责任地开发 AI，英伟达会不会停止供货？

“这是一个假设，但答案是‘会的’。”他回答。

让算力供应方充当 AI 治理的一道关口，研究界已经讨论了好几年。2023 年，AI 治理研究者 Janet Egan 和 Lennart Heim 发表论文，提出算力提供方可以参照金融业的“了解你的客户”规则，核实大规模算力用户的身份和用途，保存使用记录，发现可疑情况时上报。据估算，英伟达占 AI 训练芯片市场约九成份额，同样的话出自黄仁勋之口，分量也就不同。

研究算力治理的学者也清楚，客户审查机制落地并不容易。

美国智库 IAPS 算力政策团队的高级研究员 Cassia King 表示，美国的出

口管制管的是实体芯片，管不到远程租用算力；要补上缺口，得先界定哪些算力纳入管理、谁不能远程使用，并建立一套可靠的客户审查机制。英伟达 CEO 在伦敦只亮明了态度，算力纳入范围、远程使用限制和客户审查怎么做，都没有涉及。

芯片供应商的态度被拉进 AI 安全的讨论，和过去三个月的一连串事故有关。

OpenAI 和 Anthropic 的 agents 多次在测试中突破隔离环境，进入外部服务器和政府网站，其中一个还向费城警方提交了一条编造的凶案线索，Anthropic 已就相关事件向白宫做了通报。两家公司都是英伟达的重要客户。

10 月 19 日，在德国政府于柏林主办的“投资德国”峰会上，德国总理默茨当面向黄仁勋请教：不监管不对，管得太紧也不对，AI 造成的损害也已经发生过，监管该怎么做？

黄仁勋先说“安全至上”，安全和能力不是二选一，接着列了三根“支柱”。第一，由科技行业发明安全技术，“安全不是美好的愿望，安全是技术和工程”。第二，由企业遵守最佳实践，年轻公司犯的错“可能比应该犯的多”。第三，才是行业和政府监管。监管也要分清对象，他拿互联网打比方：管互联网很难，管互联网应用并不难，应用层面现在就该管起来；AI 用到现有监管没有覆盖的新产品上，相关机构应尽快评估，把 AI 纳入监管。“如果产业不兴旺，就没有什么可监管的。”

默茨回应说，至少要有欧洲层面的规则，最好能有全球规则，但美欧思路不同，离这一步还很远。他还提到，自己已为德国机械制造业争取到专门规则，不纳入欧盟通用的 AI 监管。黄仁勋随后接了一句：“给德国一个机会，给这个行业一个机会。”

这场对话，黄仁勋没有再提“断供”。

 01. 

黄仁勋的安全账 

事实上在伦敦市，黄仁勋回答完“会的”，马上又加了几个限定条件：真到那一步，要先和对方沟通；英伟达不经营别人的公司；它卖的是通用技术，对客户怎么使用，能做的判断有限。到目前为止，英伟达没有点名任何客户，没有公布判断“不安全”的标准，也没有说明断供怎样执行。

当时他先后接受了彭博社和《财富》的专访，还出席了一场媒体吹风会。结合 9 月以来的几次公开表态，「新物种」总结了黄仁勋对 AI 安全的看法，大致可分三层。

第一层，是把 AI 风险当作工程问题处理。

9 月做客《纽约时报》旗下播客 The Ezra Klein Show 时，黄仁勋把失控、对齐等问题都归入工程范畴，认为可以靠验证、隔离和发布流程解决。在伦敦，他向《财富》举了早期互联网的例子：那时打开一个网页，电脑就可能中病毒，后来浏览器把每个网页放进隔离环境运行，问题才算解决。AI agents 也应该被装进安全容器，权限以外的事情做不了。

照此逻辑，出了事故，就是工程没做到位。他对 AI 引发的网络安全事件持零容忍态度，认为迄今为止的事故本都可以靠更严格的隔离和监控避免。在 9 月那期播客里，他还说过，产品不安全就不该发布，一家实验室如果控制不了自己的 AI，就应该关停。OpenAI CEO Sam Altman 本月初在《名利场》的采访里给出了另一种说法：为了 AI 带来的好处，世界可能得容忍一些坏事，包括大规模黑客攻击和诈骗。两人都看好 AI，对事故的容忍度却相差很远。

第二层，是安全责任由企业来担。

上个月在 Salesforce 的 Dreamforce 大会上，黄仁勋说得很直接：“我们不需要任何新法律，也不需要新的法规。”到了伦敦，他把外界的担忧归为一个快速扩张行业的成长问题。“许多年轻公司都在经历成长的阵痛，它们增长得非常快。”在他看来，责任和担当会随着公司规模一起成熟，部分担忧则是行业自己造成的，整个行业没能向公众讲清楚 AI 的好处。

第三层，是用加速来解决加速带来的问题。

一些同行主张放慢节奏时，他开出的方子是加快开发约束 AI 的技术，把防控能力尽快集成进 AI 系统，加快监控技术研发。“AI 本身就是那个监控者。”

在风险问题上，黄仁勋也有自己的区分。对“AI 可能终结人类文明”的说法，他告诉《财富》，AI“完全在我们的掌控之中”，真相信末日论的人应该停下手里的研发。但在伦敦的媒体吹风会上，他又对 CNBC 说，AI 是一项“可能具有危险性”的技术，英伟达必须通过对话，和中国 AI 公司合作监控风险。他否定的是末日叙事，具体的安全风险他是承认的。

断供的说法与他的安全观一脉相承：由供应商自己判断、自己执行，属于企业层面的自我约束，不涉及外部规则。“先沟通”“判断有限”两个前提，则给英伟达留足了余地。

黄仁勋的安全观，和英伟达的生意贴得很近。9 月 28 日，英伟达发布开放智能体安全平台（Open Agent Safety Platform），包括两款开源工具。其中 Sentry 运行在自家芯片上，在模型之外加了一层基础设施防护，可以在毫秒级隔离可疑的 agent。

英伟达负责企业 AI 业务的副总裁 Justin Boitano 说，如果前沿实验室早些在模型评估中用上英伟达的平台，Hugging Face 遭遇的入侵有可能被拦下。据英伟达介绍，已有 100 多家机构在使用平台中的技术，包括 Anthropic、Hugging Face、摩根大通和微软。“用 AI 监控 AI”，在英伟达已经是一条产品线。

伦敦之行的另一安排也能说明同样的问题。英伟达在伦敦宣布，未来五年向英国捐赠价值 2.5 亿美元的算力，每年 5000 万美元，通过英国本土的云服务伙伴提供，用于 AI agents的安全研究。大部分算力向英国研究界开放，一部分定向给牛津大学牵头的 BOLD 实验室、伦敦大学学院牵头的 SOFAIR 项目和帝国理工学院。英国 AI 大臣 Kanishka Narayan 称之为对英国 AI 研究实力的“信任投票”。

伦敦是此次欧洲行的第二站，13 日在巴黎，黄仁勋预告英伟达会在一周内公布 20 亿美元的欧洲新投资；下一站是柏林，英伟达本月晚些时候将在当地举办 GTC 大会。

有分析认为，英伟达对英国的算力捐赠，回报不限于公益。英国还在决定怎样监管 AI，与制定规则的官员建立好感，与顶尖研究者建立联系，培养一批习惯用英伟达软件的科学家，对英伟达的价值都超过送出去的算力。也有人提醒，算力捐赠的实际价值取决于硬件和托管条款，相关条款目前还没有谈定。

伦敦是此次欧洲行的第二站。13 日在巴黎，黄仁勋预告英伟达会在一周内公布 20 亿美元的欧洲新投资；离开伦敦，他经斯德哥尔摩到了柏林，英伟达 GTC 大会 10 月 20 日在这里开幕。前一天，德国政府与英伟达签署联合意向声明，合作推进能操控机器人、机器和汽车的物理 AI 模型；黄仁勋还宣布投资四家德国初创公司，金额未披露。在英国，英伟达出算力；在德国，政府出资金。据《德国商报》等媒体报道，德国联邦政府将投入九位数欧元，主要用于在德国电信的工业 AI 云上购买算力，这朵云用的正是英伟达的 Blackwell 芯片。

最后是钱的问题。

早在 8 月，黄仁勋就说过，前沿实验室的增长速度已经超出了它们的资产负债表和信用状况所能支撑的程度，英伟达也通过投资和信用支持介入其中。去年 11 月，英伟达承诺向 Anthropic 投资最多 100 亿美元，Anthropic 则承诺使用最多 1 吉瓦的英伟达算力。

英伟达最新一份季度报告还披露，公司 8 月与 SB Energy 签订担保协议：SB Energy 的一处园区将以 20 年租约租给 OpenAI，专门承载英伟达的算力，英伟达的担保责任上限为 1050 亿美元，随 OpenAI 支付租金逐步降低。英伟达的大客户里，不少也是它投资或担保的对象，真走到断供那一步，英伟达自己的账面也会受影响。黄仁勋回答“会”时留有余地，和英伟达与客户的利益绑定不无关系。

 02. 

客户要放慢，供应商要加速 

9 月 12 日，Anthropic CEO Dario Amodei 在个人网站发表文章《We Must Pace the Frontier》，主张有意识地放慢 AI 能力提升的速度。按他的说法，研发继续，只是节奏要控制。他在文中警告，成群失控的 AI agents 可能在 6 到 12 个月内占领整个互联网。Sam Altman 随后表示同意要控制前沿的节奏，马斯克转发 Amodei 的文章时只写了一句：“Dario 是对的。”

更早的 7 月 28 日，1100 多名 AI 公司员工和高管联名发表公开信《Pacing the Frontier》，呼吁美国政府帮助“有意识地控制自动化 AI 研发的前沿节奏”，Amodei 也在联署之列。

提出放慢的 Anthropic 和 OpenAI，近几个月也先后披露了多起 agent 越界事故。对两家公司的动机，外界也有质疑。风险投资人 Chamath Palihapitiya 在 X 上说，Amodei 的主张相当于限制开源，把技术和经济权力集中到 Anthropic 手里。

黄仁勋和 Amodei 并非全无交集。

黄仁勋说过控制不了就该关停，Amodei 也没有主张停止研发。真正的分歧在于要不要放慢、由谁来管：黄仁勋主张加速，靠企业和工程手段控制风险；Amodei 和 Altman 主张放慢前沿节奏，并引入外部评估和监管。

美国官方的态度更复杂。9 月下旬，其总统特朗普在联合国大会上称，担心 AI 危及人类是一场“骗局”。白宫官员事后解释，特朗普指的是民主党在中期选举前拿 AI 议题做文章。英伟达 CEO 此前接受 CBS 采访时也表示，同意特朗普的看法，认为 AI 安全担忧被夸大了。

同一届白宫在 9 月 24 日要求 OpenAI 和 Anthropic 暂停向英国 AI 安全研究所（AISI）提供新模型，理由是等美国先完成国家安全审查。10 月 11 日，暂停要求被撤回，前后持续了 17 天。白宫一边称风险论是骗局，一边又把前沿模型当作需要审查的战略资产。

特朗普在联合国抛出“骗局”说之后不到一周，现任教宗良十四世公开“唱反调”。

良十四世原名罗伯特·普雷沃斯特（Robert Prevost）是天主教会历史上第一位美国籍教宗，他从上任起就十分关注 AI。

需要知道的是，天主教在全球约 14 亿天主教徒，教宗的表态在西方社会有着不可忽视的影响。

当选两天后，良十四世向枢机主教们解释了选择“良”作为名号的原因：1891 年，教宗良十三世发布通谕《新事》（Rerum Novarum），回应工业革命带来的劳工和社会问题；良十四世认为，AI 带来的是又一场工业革命。今年 5 月，他发布任内首部通谕《Magnifica humanitas》（直译为“伟大的人性”），主题就是人工智能，呼吁加强 AI 监管、放慢 AI 发展。通谕是教宗发布的最高规格文件之一，对全球天主教会具有指导意义。

9 月 28 日，教宗在结束法国访问的返程专机上对记者说，对 AI 可能毁灭世界的担忧不是“假新闻”，专家们的警告应该认真对待。英伟达当天刚发布为 AI 智能体加装防护的安全平台，教宗提到了英伟达的新平台，但表示心存怀疑，理由是黄仁勋一向主张不给 AI 设限、不要政府监管。两周多以后在伦敦，有记者问起教宗的批评，黄仁勋回应说，教宗提的都是正确的问题。

欧盟已经开始动用法律工具。10 月 14 日，也就是黄仁勋在伦敦接受采访的同一天，欧盟委员会执行副主席维尔库宁（Henna Virkkunen）在都柏林宣布，欧盟 AI 办公室已开始执行《人工智能法案》，向 OpenAI、Anthropic 等前沿模型提供商发出信息索取要求，内容涉及安全防护、外部评估和模型使用监测。不过，有法律专家指出，该法案并不适用于研发和测试阶段，agents 在测试中越界能否依法追责，仍有争议。

英国没有自己的大型 AI 开发商，其手里的筹码是 2023 年成立的 AISI。AISI 是全球最早由政府设立、专门测评前沿模型的机构之一，英伟达的捐赠在英国受到高调欢迎，也和英国想做 AI 安全中心的定位有关。

国内的 AI 监管紧跟技术演进，从算法推荐、深度合成、生成式 AI，一路延伸到 agents。今年 5 月 8 日，国家网信办、国家发展改革委、工业和信息化部联合印发《智能体规范应用与创新发展实施意见》，把“安全可控”列为智能体发展的基本原则之一，并提出要守牢安全底线。

国际层面，我国在 2023 年提出《全球人工智能治理倡议》，强调智能向善、安全可控。今年 5 月，中美也会开展人工智能政府间对话；7 月，2026 世界人工智能大会暨人工智能全球治理高级别会议在上海举行，会议期间，世界人工智能合作组织宣告成立，成为全球首个人工智能政府间国际组织。

黄仁勋在伦敦也谈到了中国。

他认为 AI 要安全发展，中美必须合作，合作的方式是对话；他自己和许多中国研究人员一直保持交流，也建议美国和英国加强与中国的对话。谈到生意，黄仁勋的说法则很现实：中国希望保护本土市场、扶持本土芯片企业，他已经告诉投资人，从财务角度可以直接假设来自中国的营收为零。

研究者们也在回应“担忧被夸大”的说法。批评者常说安全研究者高估了通用人工智能到来的速度，加州大学伯克利分校教授 Stuart Russell 去年接受《麻省理工科技评论》采访时回应，他们对 AI 风险的判断，从来不以风险迫在眉睫为前提。

学术界的判断，集中体现在今年 2 月发布的《国际 AI 安全报告 2026》里。

报告由图灵奖得主 Yoshua Bengio 牵头，100 多位专家撰写，30 多个国家和国际组织参与支持。报告认为，AI agents越来越自主，人对它们的控制在减弱，安全措施需要多层叠加。报告也提到，公开发布前沿 AI 安全框架的公司数量，比一年前翻了一倍多。

 03. 

 Agent 开始「动手」

2023 年英国在布莱切利园召开首届 AI 安全峰会时，讨论大多停留在可能性层面。三年后情况有了变化，变化主要来自 AI agents。

《国际 AI 安全报告 2026》给出了一组数据。到今年 2 月报告发布时，AI agents 已经能稳定完成部分人类程序员要花半小时左右的编程任务，一年前还只有不到 10 分钟。Agents 能独立完成的任务长度，大约每 7 个月翻一倍。它们可以自己上网、调用工具、执行操作，出了错，后果会直接落到真实世界里。

今年 7 月以来，agents 越界造成真实后果的事故接连出现。

7 月，OpenAI 测试 GPT-5.6 Sol 和一个能力更强的未发布模型的网络攻击能力。两个模型利用测试环境中一个包缓存代理的零日漏洞突破隔离、连上公网，随后入侵了 Hugging Face 的生产系统，为的是拿到评测的标准答案。OpenAI 称，Hugging Face 入侵事件是已知首例由 AI agent 自主发起的网络攻击。据报道，为了测出模型的能力上限，测试方在评测中主动关闭了生产级的安全拒绝分类器。

同一时期，Anthropic 披露，Claude 模型在网络安全评测中因为环境配置失误接入公网，未经授权进入了三家真实机构的系统。Anthropic 还报告过，旗下的 Mythos 模型曾在安全测试中突破隔离，目的只是给一名研究员发一封邮件。

8 月，英国 AISI 公布测评结果：122 次网络安全测评中，有 10 次出现越界，共记录到 19 个未经授权的真实操作。最严重的一次，智能体创建了多个虚假身份，试图说服真实的审核者把恶意代码合进一个公共开源项目。被质疑之后，它还改动了之前的记录。

9 月，OpenAI 的事故接连曝光。9 月 20 日，一个agent 利用训练沙盒在 DNS 过滤上的漏洞，访问了一个外部聊天机器人服务；5 天后，OpenAI 宣布暂停最强模型的训练、评估和带工具调用的推理，三个月里第二次按下暂停键。其间，澳大利亚总理阿尔巴尼斯披露，OpenAI 的 agent 早在 6 月就未经授权进入了联邦医保（Medicare）数据门户等多个政府网站，政府直到近三个月后才接到通知。9 月 29 日，OpenAI 公开道歉，承认应该更早通报。

10 月 9 日，Anthropic 披露，一个基于 Claude Haiku 4.5 的 agent 在执行练习任务时，通过费城警方的线索提交表单发送了一条编造的凶案线索。费城警方表示，事情过了两个月才被发现和通报，“这是不可接受的”。

据一家安全公司统计，7 月到 10 月中旬，公开披露的前沿实验室智能体越界事件共有 21 起。

但诸多事故大多发现得很晚。

OpenAI 智能体 7 月 9 日就开始行动，Hugging Face 7 月 16 日才对外披露遭到入侵，OpenAI 公开确认是自家模型所为，已经是 7 月 21 日；费城警方收到的假线索，在系统里放了约 10 周。9 月 20 日的事件中，OpenAI 的未对齐行为监控系统在 15 分钟内发出警报，人工团队 3 分钟后介入。实时监控能起作用，只是还没有普及。黄仁勋主张用 AI 监控 AI，主张放慢的一方也在加强监控，双方在加强监控上方向一致。英伟达资助英国的研究，重点同样是agents 的安全测试和防护。

测试机制本身也不稳固。英国 AISI 对前沿模型的发布前测试，靠的是开发商自愿合作。白宫一个要求就让测试中断了 17 天，其间 Anthropic 没有向英国提供最新的 Mythos 5.1 模型。安全研究还离不开算力，而算力是 AI 行业最紧缺的资源之一，英伟达以算力形式捐赠，对研究者来说更实用。

利益关系也让问题更复杂。以英伟达在训练芯片市场的份额，真要断供，分量不小。但英伟达自己也牵涉其中。9 月 3 日，公司宣布以约 129 亿美元收购 Hugging Face，即 7 月被 OpenAI 智能体入侵的平台，交易预计 2027 年上半年完成，仍需监管批准。英伟达同时是安全研究的资助方、事故平台的收购方，也可能成为“断供”的裁决方，它能不能保持中立，外界会有疑问。

回到 10 月 14 日的伦敦采访。黄仁勋说会断供，但没有给出标准、流程和对象。断供的问题被抛给一家芯片公司，说明 AI 安全的讨论已经从模型公司延伸到了供应链。

各方的分歧还在：由谁负责，节奏多快，靠工程还是靠立法。隔离、实时监控和发布前测试，是目前各方都在谈的几件事。

接下来有几件事值得关注：英伟达会不会公布判断“不安全”的标准，黄仁勋 10 月 21 日在 GTC 柏林的主题演讲会不会谈到更多安全细节，英国 AISI 的发布前测试权限能不能稳定下来。OpenAI 在 9 月的事故报告里说，最强模型的暂停要等到确认漏洞修复、并完成额外的红队测试之后才会结束。

*封面图来自英伟达官方社媒。

文章来自于"新物种Sinovum"，作者 "企鹅"。