「模型能力已经够了，要卷就卷 infra」｜对谈戴冠兰：Runta 创始人

🚗本周「十字路口」的嘉宾是 Runta 创始人/CEO 戴冠兰。Runta 是 Agent Infra 领域的硅谷明星创业公司，刚完成由 a16z 投资的 2000 万美元 Seed 轮；Jeff Dean、李飞飞等也以个人天使身份参与投资。

在创立 Runta 之前，冠兰在云计算与基础设施领域深耕十余年：曾任 Cloudflare Edge 边缘云核心技术负责人，后在作为早期核心成员加入 Kong ，担任工程总监，负责云原生网关和 AI 网关的研发。

他选择在此刻创业的判断很直接：模型能力已经够了，要卷就卷 infra——未来一定会有比人类更多的 agent，AI 领域的关键问题将变成：它们跑在哪？怎么管？出了事谁来负责？

在这期对谈里，我们从 token 文化的急转弯聊起：短短半年，token maxxing（用得越多越光荣）迅速转向 token minimizing（ROI、预算、归因、节流），这背后折射出了哪些值得关注的信号？

此外，你还会听到：

•当软件的执行从“逻辑清晰的确定性”变成“LLM 的概率性”：AI 正在如何动摇整个数字世界的地基？

•AI 时代的“水电煤”将由谁来建？为什么这一次，创业公司反而比巨头更有机会？

•几十亿个 agent 同时开工的世界会长什么样？今天的互联网和云，接得住吗？

•为什么人类会在一次次点击「允许」中，不知不觉交出边界与控制权？

•为什么说“未来 10 个月，必然会有一场灾难性的事故”？那场事故，又会如何把所有人重新“教育”一遍？

快问快答

👦🏻 Koji

我们从传统的快问快答开始，帮助大家尽快了解你。请问冠兰，你的年龄？

👨🏻‍💻 冠兰

35。

👦🏻 Koji

毕业院校是？

👨🏻‍💻 冠兰

美国东北大学。

👦🏻 Koji

你的 MBTI 和星座呢？

👨🏻‍💻 冠兰

天秤座。MBTI 在 INTJ 和 ENTJ 之间横跳，我个人认为偏 I 多一些。

👦🏻 Koji

一句话介绍现在的公司和产品。

👨🏻‍💻 冠兰

我们认为未来的 AI 智能体数量会比人类更多。面对未来这几十亿个 Agent，它们到底跑在哪，跑起来怎么管？Runta 就是为这些 AI 智能体打造的执行底座。

👦🏻 Koji

目前团队的规模是？

👨🏻‍💻 冠兰

我们现在团队在 10 人左右，背后还有成百上千个 Agents 在干活。

👦🏻 Koji

一句话介绍一下创业之前你做过什么。

👨🏻‍💻 冠兰

我之前在 Cloudflare 做 Edge 边缘云平台，在 Kong 做过网关跟云。加起来大概差不多十多年，一直都在为软件和 SaaS 时代打造 Infra。

Runta种子轮融了2000万美元，如何拿到Jeff Dean和李飞飞的个人投资？

👦🏻 Koji

Runta 这一次的 Seed 轮融了 2000 万美元，由 a16z 领投，Jeff Dean 和李飞飞以个人身份参与。我比较好奇，你是怎么拿到他们两位个人天使投资的？

👨🏻‍💻 冠兰

首先，大家对 Jeff Dean 可能都很了解，他是整个分布式系统和系统工程领域的传奇，亲历了 Google、DeepMind 等各个时代的 Infra 演进。

我之前有幸跟他做过一次非常深度的对谈。他问了我一个让我印象极深的问题：“因为 LLM 让计算机系统最底层的执行单元变成了概率性，Infra 这一层要怎么构建？”

这其实是一个很难回答的问题。因为过去这几十年，整个系统工程中诸如重试、幂等、事务、恢复这些设计，都是建立在“软件是确定性”的基础之上的。同样的一套东西输入进去，输出结果必须是一致的。如果有变，那一定是个可枚举的异常。他问这个问题，相当于是在考察：如果最地基的那块石头不见了，上面的大厦要怎么立起来？

当时我的想法是，不确定性确实是大模型本身的底色。但是一旦 Agent 要真正进入生产环境，分布式系统的复杂度反而是变多的。诸如恢复、隔离、分叉等需求都会大幅上升。

如果底层的基础设施做不好这些事，就只能逼着大家把所有的复杂度压到 Runtime 层去解决。

上一代的 Infra，我们解决的是物理机怎么跑、资源怎么隔离，让开发者不用去关心硬件。而在这一代，我觉得最核心、最难解决的问题变成了执行本身怎么做。

我跟 Jeff Dean、飞飞交流过很多关于这一代应该怎么迭代的想法。归根结底，现在执行层已经变成了整个 AI 系统工程中最难的一部分。

现在 Agent 运行的周期越拉越长。以前可能只是一个几分钟、几个 Turn 的 Chat，现在动辄是跑几个小时甚至数天的 Agent。在这样的场景下，传统的 Infra 根本无法很好地处理隔离、分叉、热迁移这些高难度问题，这里面的挑战非常大。

另外，我觉得投我一个主要原因在于，我之前在 Cloudflare 与 Kong 参与过上一代 Infra 从第一性原理从头构建的过程。

👦🏻 Koji

当时的经历和今天有哪些关联性？

👨🏻‍💻 冠兰

我们刚开始做的时候，甚至连 Kubernetes、Container 都没有。我们不得不从第一性原理和最底层、最根本的需求去推导一个系统应该是什么样，并见证了它最终变成现代互联网基石的过程。

在 Kong 的时候，我们每天要处理上千亿次的 API 请求 ——因此在这样一个规模下，哪怕是 0.00001% 的出错概率，放到日常运行中都是必然会发生的故障。

我经历过、也处理过这个量级的系统复杂度，这种底层的实战经验让他们对我们有了信心。

当时 Jeff Dean 还想多投一些，我说份额实在是不够了。拒绝 Jeff Dean 的追加，现在想来也是个挺有意思的经历。

a16z为何罕见地为一家Seed轮公司专门写Blog？

👦🏻 Koji

a16z 投资的公司很多，但很少见到他们投了一个极其早期的团队，还特意写一篇 Blog 来介绍。当时他们专门写了一篇《为什么我们投 Runta》。你觉得他们如此重视你们的原因是什么？

👨🏻‍💻 冠兰

确实，一般种子轮他们很少这么做。这篇文章也是合伙人 Martin 亲自写的，是因为他看到了这不仅是一个 Feature 或产品，而是一个平台级的代际机会。

在他看来，这一次是一个 Compute 的代际迁移。如同当年我们从客户端服务器架构、数据中心到虚拟化、再到容器化这一波波的浪潮演进，每一次都会产生极其巨大的代际变化。

以前的每一代我们托管和管理的都是静态软件和服务，而这一次，底层托管的对象变成了 Agents。如果这个逻辑成立，它就是一个极其庞大的平台级机会。那篇文章把这个逻辑拆解得很透彻，非常推荐读一读。

👦🏻 Koji

用一句特别简单的话来给大家解释一下，Runta 到底替客户解决的最关键问题是哪些？

👨🏻‍💻 冠兰

我们做的是最底层的 Infra。我们要在一个非确定性（Non-deterministic）、概率性（Probabilistic）的 Workflow 下，加入确定性的控制和管理，帮助企业把智能体真正用起来。

比如，Agent 跑在哪里？如何保证它在工作时的权限安全？它要访问客户数据、触碰生产环境权限，在它触碰的那一刻，我们需要通过执行层对它进行严格的隔离、管控和审计，并支撑它 Scale 起来。

这就是 Runta 在做的事。

Token Maxxing为何在三到六个月内转向Token Minimizing？

👦🏻 Koji

我们先来聊聊最近整个 AI 和 Agent 领域的特别大的一个变化：大约几个月前，大家还在谈论 Token Maxxing，企业鼓励员工消耗大量的 Token，甚至以此为荣。但最近画风突变，大家开始追求 Token Minimizing 了。

在你的观察中，这个反转的来龙去脉是什么？

👨🏻‍💻 冠兰

最开始，o1 这样的推理模型出来时，大家发现只要给大模型思维链或者足够的思考步骤，它就会变得极其聪明，哪怕消耗更多 Token 也值得。

渐渐地，这个逻辑被推演成了企业组织管理的一种手段：员工消耗的 Token 越多，说明他越 AI Native，这成了一个可度量的 KPI，因此有了 Token Maxxing，企业开始极力推动变革，尤以 Meta 和亚马逊这些巨头为代表。

去年年底，我走访一些前沿客户 and AI Lab，甚至看到他们办公室墙上挂着一个显示器，每天轮播本周谁消耗的 Token 最多，排名靠前的员工还会有奖励。

到了极致，像 Meta 和 Stripe 这些公司甚至把 Token 的使用量和年底业绩考核直接挂钩。这时候，事情就彻底变味了。

👦🏻 Koji

这种机制导致的变味，最极端的例子是什么？

👨🏻‍💻 冠兰

我听说最极端的，是有些员工不管什么简单的日常工作，都非要用最贵的 SOTA 模型去跑。甚至为了刷 Token 指标，有人会在代码里故意写一些毫无意义的死循环去跑模型。

今年 3 月，黄仁勋在演讲中提到：一个年薪 50 万美元的工程师，如果一年没有烧掉 25 万美元的 Token，说明他不够强。现在回过头来看，那一波确实有些过热了。

从极力鼓励使用，到企业纷纷踩刹车控制预算，反转只用了 3 到 6 个月。

👦🏻 Koji

发生这种戏剧性反转的本质原因是什么？

👨🏻‍💻 冠兰

大家开始重新计算 ROI 了。特别是最近 Uber 的 CFO 公开说，我们在 4 月份就已经把全年的大模型 Token 预算给用完了，但我们到底换来了什么？

首先是点火的感知期已经结束，AI 的普及教育已经完成；其次是 Token 真的非常花钱，企业过去大大低估了规模化部署模型的费用。综合这些因素，大家意识到 Token Maxxing 可能不行了。

👦🏻 Koji

咱们自己也是创业团队，目前大概 10 个人，你们在内部是怎么管理员工们使用 Token 和 API 的规则的？

👨🏻‍💻 冠兰

我们刚开始也招了很多传统 Infra 的人，也是直接开放 Unlimited Token，给大家一种 Token 像水一样免费的错觉。

现在我们引入了阶梯制。我给团队订阅了几个最高规格的 Ultra Plan，日常可以随便用。如果额度用完，需要向我提交申请，说明这些 Token 用在了哪里。

其实就是通过在流程里人为加入一点点小摩擦，让大家意识到这东西不是免费的，在调用时会自发地思考目的。不过整体上，我依然给团队保留了非常宽松的试错空间。

为何放弃在Kong的位置，第一次以CEO身份创业？

👦🏻 Koji

你在 Cloudflare 和 Kong 工作了很长时间。这两段经历里，你在公司处于什么阶段，具体负责了什么？

👨🏻‍💻 冠兰

我相当或者是最早几个工程师加入，是 Cloudflare 核心 Edge 边缘云的技术负责人。有幸参与了边缘缓存、WAF（网络防火墙）以及早期 Worker 系统（端侧计算平台）的搭建。

我主要解决的问题是，如何为软件服务搭建边缘网络，帮助客户端更快地访问最近的节点，同时提供网关级别的安全与加速。

在 Kong 的话，解决的也是类似的，就是企业网关。比如你点外卖、调取 API 服务，如何做限流、寻址和导流。在 Kong 的阶段，我深度接触了大量世界 500 强的客户，帮助他们做微服务平台的搭建和数字化转型落地。

👦🏻 Koji

所以这一次做 Runta 算是你第一次担任 CEO 出来创业，当时因为什么做出了这个决定？

👨🏻‍💻 冠兰

以前服务企业客户和开发者，我发现大家都极度渴望智能体的落地。大模型是将电力转化为 Token，而 Agent 的工作是把 Token 转化为企业实实在在的商业价值。

但 Agent 有个本质属性：它不像传统的软件，它是概率性执行的。它每次跑，甚至生成的代码都是不一样的，完全无法用既定的规则去穷尽它。

同时它跟人类也不同。人干砸了是要背锅的：比如 Koji 投砸了，LP 会找你算账，个人名誉受损；我之前服务的系统崩了，CEO 会找我。人类社会有一种“背锅力”在约束着责任。但 Agent 出问题谁来负责？大模型厂商、写 Agent 的开发者，还是企业？没人说得清。

它既像软件，又像人，却又不完全是两者。我出来做 Runta，是因为我觉得传统的运行架构完全不适合这样的新 Workflow。这里面存在一个非常巨大的基础设施空白。

云和 SaaS 时代的 Infra 是针对确定性软件设计的。面对完全非确定的 Agent，执行底座应该长什么样？这件事情让我非常着迷，也是我决定放弃 Kong 的高管待遇，出来创业的核心原因。

👦🏻 Koji

如果大家用的是 Codex 或 Claude Code，他们可以用 Runta 吗？还是必须要自己开源部署自己的 Agent 才有用的必要？

👨🏻‍💻 冠兰

可以用，任何 Coding Agent 我们都支持，我们是一个完全开放的执行平台。

比如，当你使用 Claude Code 来收取你的邮件。它需要读取哪些邮件？不应该访问什么？它的数据库、密钥凭证怎么管？如果把它放在我们的执行层，就能获得天然的弹性和全面的管控能力。

我们提供的是一套高度定制、云托管的虚拟化平台。我们有自己定制的系统内核和网络机制，我们对具体跑什么 Agent 完全不设限。

👦🏻 Koji

目前接触下来的客户，觉得 Runta 带给他们最大的价值是什么？

👨🏻‍💻 冠兰

特别像这个月我聊下来的情况。大家对预算、Token Maximizing、Compute Spending 都很关注，比如 Agent 跑在什么地方、跑得比较多的话怎么用更弹性、更能伸缩的方式去跑。

另外就是金融类的客户，他们有蛮多关于 Governance 能力的需求。他们特别希望让 Agents 来干真正的活以跟竞争对手拉开差距，但同时又特别担心 Agent 一旦跑起来会有不可控情况。

最近一个安全类的调研发现，世界 500 强的公司里，大部分使用 Agent 的公司已经被泄露过机密或客户信息，这是一个巨大的问题。

Agent Infra为何更可能是创业公司的机会，而不是公有云的生意？

👦🏻 Koji

为什么这会是一个创业公司的机会，公有云巨头不能做吗？

👨🏻‍💻 冠兰

现有的公有云完全是为上一代 SaaS 和传统软件而设计的。从底座架构、资源分配到计费模型，包袱非常重。

这很像 GPU 的爆发。上一代的数据中心都是为 CPU 搭建的，这一波以 GPU 为主时，传统的 Data Center 就不得不面临彻底的重构，从而诞生了大量 Neo Cloud。

公有云当然也会跟进，但它们自身的利益和现有的技术体系在打架。这种颠覆性创新的机会往往更偏向轻装上阵、没有历史包袱的创业公司。

面对Anthropic和OpenAI，Runta的差异化在哪里？

👦🏻 Koji

除了公有云，像 Anthropic、OpenAI 这样的大模型厂商，也在布局自己的 Agent Infra。相比他们，你们的差异化优势是什么？比如 Anthropic 已经发布了 Managed Agent 的系统服务。

👨🏻‍💻 冠兰

确实，每个投资人也都会问我们这个问题。

但从企业实际落地的逻辑来看，没有任何一家企业会把业务深度绑定在单一的模型或单一的云服务上。多模型、多云、分散风险和成本把控是企业的刚需。

另外，对大模型厂商而言，他们最核心的使命永远是把基础模型的能力提上去，做应用和 Infra 也是为了获取足够多的信号来改善模型。

所以基础模型和 Infra 执行底座在产业分工上是截然不同的。

👦🏻 Koji

那你们认为，未来最大的潜在对手会来自哪里？

👨🏻‍💻 冠兰

我觉得反而是那些积极转型的 Neo Cloud 或者是上一代做 Serverless 的巨头。他们经历过上云这波转变，底子还在。

但还是那句话，对他们而言这只是众多业务中的一条支线，但对于我们，这是我们 24 小时唯一的专注。专注的团队更能看到最底层的东西。

E2B、Daytona式Sandbox为何难以承载长程Agent？

👦🏻 Koji

现在有些专注在做 Agent Infra 团队比如 E2B 和 Daytona，他们主要是做 Sandbox ，你们和他们有什么竞争和区别？

👨🏻‍💻 冠兰

Sandbox 技术比如 Firecracker，其实来自于上一代 Serverless（比如 AWS 的 Fargate），针对的是短时任务（几分钟或一小时内结束的任务），做短暂的代码隔离并给出一个结果。如果只是用来快速跑一段短代码，这套方案很好用。

但是现在的 Agent 正在从短平快变得跑得越来越长。传统的 Serverless 沙盒在面对持续运行数天、数周的 Agent 时，会在动态迁移、GPU 的弹性分配、内存动态收缩上遇到极大的技术瓶颈。

要解决这些，不能靠在老技术上打补丁，而必须从第一性原理出发，从下往上重建一整套为智能体定制的系统底座。

这是两套完全不同的底层逻辑。

👦🏻 Koji

公司成立时间不长，目前拿到的最大订单大概是一个什么体量？

👨🏻‍💻 冠兰

我们目前已经有大几十万美金级别的订单，但现阶段营收绝对不是我们最核心的指标。我们把精力都放在从底层往上打造通用平台。

我们之前聊过做非标品和做标品的问题，我也很想听听 Koji 你的看法。

👦🏻 Koji

直觉上还是要做标品，因为标品才能在财务和管理上实现真正的 Scale。非标往往意味着每一个客户都要搭建一套庞大的定制服务组织，管理起来会很痛苦。

不过如果单个非标客户能带来 5000 万美元的合同，四五个客户就能做到两三亿美金的 ARR 了，那还是非常值得为他们搭建专门的团队的。所以我比较好奇未来会怎么发展？

👨🏻‍💻 冠兰

我的看法是，现在可以去做最 Agent Native 的那一批客户，因为他们代表了最前沿的方法论和生产力。

同时，我们会和世界 500 强的企业保持阶段性的 Sync Up，了解传统企业部署到了哪一步、有什么具体的痛点和高压线。

所以我们要“两把抓”，但目前最重点的、最愿意接受新技术的，还是那批 Native 的公司。

👦🏻 Koji

你提到的 Agent Native 公司主要是指哪些？

👨🏻‍💻 冠兰

主要包括两类：

一是 Agent Builder，也就是造智能体给别人用的那些开发者；

二是垂类 Agent，比如专门做视频剪辑、做 Marketing 的垂类公司。选择他们是因为他们本身就有极大的业务量。

企业说自己有几百个Agent，Agent的边界究竟怎么划？

👦🏻 Koji

怎么定义一个 Agent 的边界？比如我只是在 Codex 里放了一个新任务，你也会叫它一个 Agent 吗？

👨🏻‍💻 冠兰

目前行业里确实没有标准答案。现在的定义逻辑主要有两种：一是拟人化，给它一个身份、设定分工；二是功能化。

这背后涉及一整套技术挑战。比如智能体的权限管理，我们不可能无限制地开放权限，需要能做到动态分配，干完活立刻收回，管理方式极多。

AI 如何吞噬人的权限边界？

👦🏻 Koji

有时候我需要让我的 Codex 去读取我的 Gmail，一开始心里挺不踏实，会设置一个小时后自动收回权限。现在干脆全部放开让它读写，选择无条件信任它不会乱搞。

👨🏻‍💻 冠兰

这就是典型的审核疲劳。

实际上权限管理必须设定硬规则，比如“只能读不能发”，或者有些机密文件夹绝对不可访问。如果你让 Agent 直接发邮件，你会发哪一类？

👦🏻 Koji

我会用它来找鸟导。比如我喜欢观鸟，去一个新的地方旅行需要找那边的专业鸟导。

我就会让 Manus 帮我写邮件、直接发出去联系。这样的邮件我已经发过好几次了。

👨🏻‍💻 冠兰

你怎么确定它发出的每一封邮件都没有出格？你会去定期审核它吗？

👦🏻 Koji

最开始我会要求它只写 Draft，我确认后再发送。信任建立之后，我就直接放手让它代发了。

👨🏻‍💻 冠兰

但万一它突然发了一封邮件给你的 LP，说你不想干了或者 Carry 比例太低，内心会有恐惧吗？

为什么灾难性的Agent事故必然会发生？

👦🏻 Koji

目前确实是没有的。但是我觉得只要发生了一件这样的事情，哪怕不是发生在我身上，是发生在别人身上，灾难性的一个邮件发出去，那之后我觉得就会非常非常的谨慎和小心。

如果我自己想用 Runta 帮我管这些权限，目前你们对个人开放吗？

👨🏻‍💻 冠兰

我们现在有一个开源的项目叫 ClawShell。在里面我们对龙虾、Hermes 都有本地的支持。如果在本地跑，可以使用这个开源产品来管理邮箱。

但是在 Runta 平台上，我们做的事情要复杂得多，包括数据库连接、代码仓库的读写控制和隔离审计。

我相信类似的安全事故在未来是必然会发生的。当第一起由于 Agent 权限失控导致灾难性后果的案例出现时，行业会迎来一个巨大的反思点。

传统的网络安全靠扫描和匹配，我们不做那个。我们做的是管控——把 Agent 的行为限定在安全的沙盒内，并做到完全的可审计、可恢复。

当有了这样一个足够安全和确定的底座时，企业才敢放心地给予智能体更高级别的权限。

👦🏻 Koji

目前你去接触企业客户，需要花很多精力去说服他们为安全基建买单吗？

👨🏻‍💻 冠兰

事实上，目前用安全换便捷的企业确实不少。

大家其实都有内心的恐惧，只是以前市场上没有一套足够好用的执行底座来帮他们兼顾安全与便捷。随着大浪潮涌来，这种认知和必要性会迅速爆发。

👦🏻 Koji

感觉你们做的事情，都是在为这一天的到来做准备？

👨🏻‍💻 冠兰

我们的愿景，是希望能帮助企业把真正的非只读生产权限，放心地交到 AI 智能体手里。

👦🏻 Koji

所以你现在的创业状态和前两次不太一样。前两次问题都很明确，这一次是在模糊当中先迈出半步，做一些现在有必要的基建？

👨🏻‍💻 冠兰

其实这个市场已经起飞了。现在大家已经很明确，必须要有专门针对 Agent 运行特点设计的 Infra，特别是执行侧，它正处于爆发的状态。

👦🏻 Koji

举一两个你感觉起飞的信号？

👨🏻‍💻 冠兰

目前有很多客户在排队想用我们的服务，因为交付能力和资源优先倾斜给 Native 团队的策略，我们甚至在缓一缓，暂时拒绝了一些订单。

👦🏻 Koji

现在你们有没有已经抽象出了一些标准化的产品？

👨🏻‍💻 冠兰

我们有一些比较偏标准化的产品，比如执行平台、沙盒调度。

还有一个我们最近用的比较有意思的功能。在执行平面基座上，可以跑任何 Harness（不管是 Codex 还是 Pi，或者你自己手搓的）。跑在上面以后，我们可以分析你的 Harness 到底有没有浪费 Token、浪费在哪里、怎么浪费的。

我们还可以帮你生成一些提示词，让你的 Harness 来迭代，告诉你哪些方面需要优化，形成一个闭环，告诉你怎么把 Harness 跑得“多快好省”。

Runta 95%以上的开发工作都在Vibe Coding，人类工程师还不可替代在哪？

👦🏻 Koji

你们自己现在搭建产品或服务客户的时候，Vibe Coding 占的比重是多少？

👨🏻‍💻 冠兰

95% 以上。那些基础程序员的工作现在完全由 Agent 接管了。

但这反而更考验人类的架构能力了。比如 API 设计、部件的耦合、对分布式底层痛点的洞察，这些涉及 Infra 经验和底层架构决断力的工作，依然只能由人类去完成。

👦🏻 Koji

用 Agent 写代码去治理其他的 Agent，这本身在逻辑上没有风险吗？

👨🏻‍💻 冠兰

绝对有风险。所以这块必须要有好的预判，如何判断它在有效期内。

而且，我们自己每天都在深度使用自己的产品，用 Agent 在我们的底座里跑业务，我们是在用自己的产品做自我迭代。

Agent安全出问题，根源更可能在模型、Harness还是执行底座？

👦🏻 Koji

在你看来，如果未来出现安全问题，大概率是模型的问题、Harness 的问题，还是最可能出现在哪里？

👨🏻‍💻 冠兰

首先大模型肯定会不停地在安全性上做训练。比如最近最新的 Fable 模型，一旦检测到敏感信息就会自动降级到更弱的防范模型上。

但只要模型不改 Transformer 这套架构，它本质上就依然是一个概率性的 Next Token Prediction 系统。它根本无法区分你输入给它的东西到底是数据还是控制指令。即便你在传输中加入一堆特殊字符分隔，也会被各种手段绕过。

所以模型的安全漏洞是不可能单纯在模型侧被根治的。

这也是为什么 Infra 侧必须有存在感。我们要通过控制它周边的网络、存储、虚拟化操作系统，用一整套“确定性的环境”去包裹这个非确定性的“大脑”。

最近 OpenAI 的模型发生了黑掉 Hugging Face 去拿  reward signal 的事。Hugging Face 想找 OpenAI 帮他们调查，但大模型厂觉得这涉密、很敏感，直接撂挑子了。

最后他们是用开源模型帮他们查清了问题。即便那个开源模型并不是最强大的 SOTA，但它是可控的。

👦🏻 Koji

我们正好在这里聊到开源与闭源。最近开源和闭源竞争很激烈。除了 OpenAI、Anthropic，所有人仿佛形成了“复仇者联盟”，掀起了一个新思潮：不要再去用闭源了，又贵，数据还被拿去二次训练，性价比低，鼓励大家用开源。

怎么看这个问题，未来几年的竞争会怎么发展？

👨🏻‍💻 冠兰

开源模型的爬坡速度是极其惊人的。最近 Kimi 已经跨入第一梯队，DeepSeek 发布的 Flash 模型等，都证明了开源力量可以在多快好省上取得巨大进步。

美国在算力上依然有着巨大的领先，所以他们去尝试了更多前沿的、高难度的探索，这是一个此消彼长的竞争。

我们目前也在服务一些通过 Agent AI 跑 Auto Research 来改善模型训练的公司，这很有意思。

 “模型能力已经够了”，为什么下一场竞争要卷Infra？

👦🏻 Koji

如果未来模型差异缩小，它会不会变成像电和水一样的低毛利商品？这也是大家对大模型高估值的最大担忧。

👨🏻‍💻 冠兰

大趋势一定会走到这一步，而且这个速度比我们想象的还要快。对于我们开发者来说，用 Fable 5 还是 Opus，在很多日常场景中已经没有本质上的代际体验差距了，大模型的性能爬坡已经在放缓。

这里我也下一个暴论：模型能力其实已经够了，下一阶段要卷就卷 Infra。

模型有了，但整个支撑它的基础设施和 Harness 没有跟上，所以迟迟无法大规模落地。这也是我们做 Runta 的根本原因。

👦🏻 Koji

你所在的 Infra 赛道有多卷？

👨🏻‍💻 冠兰

那些 Frontier Lab 里至少都有几十上百人的一线好团队在做类似的事，但他们的底层目的往往是为了提升自己模型的能力。

在执行底座这一块，大家虽然看到了，但并没有完全形成一个“到底需不需要一个 Agent 执行底座”的共识。

我希望一年以后，大家不再去争论执行底座需不需要。就像数据存在数据库里一样，Agent 必然需要跑在 Agent 执行底座里。

我来参加节目也是希望推动整个行业在这方面的认知。

我希望这里面越卷越好，只有基建做扎实了，Agent 落地这件事才能真正成。如果对这件事情感兴趣，非常欢迎加入 Runta。

👦🏻 Koji

你们现在主要都在旧金山吗？或者是其他地方也有办公室？

👨🏻‍💻 冠兰

我们在新加坡和旧金山两地。

👦🏻 Koji

给刚参加工作的工程师一些职业上的建议？

👨🏻‍💻 冠兰

我觉得刚加入的话，首先你可以先 Token Maximizing。

刚入职场，没有包袱反而是最大的财富。同时要对之前做的这些有敬畏之心，把架构能力和底层思考能力锻炼起来。

如果有这方面的同学，我非常乐意跟大家沟通，共同探讨未来的方向。

👦🏻 Koji

在你的职业生涯里，做对了最关键的几个选择是什么？

👨🏻‍💻 冠兰

首先是意识到浪潮来了。

比如我之前为什么加入 Cloudflare？是因为我看到边缘计算兴起，大家从 Mainframe 迁移到云上，浪潮刚起来。刚好有家创业公司在这个方向探索，技术很不错，这波浪潮值得跟。

加入 Kong，是我看到了微服务和云原生这波浪潮。大概是在 2020 年前后，当时还在 K8S、Mesos 和 Docker Swarm 混战，但大家都开始思考怎么去解决分布式系统的复杂度。我顺应了这波云原生的大趋势。

如今智能体和 AI 就是非做不可的大浪潮。即便我之前在 Kong 的待遇和环境都非常好，是创始元老，很多人跟我说可以退休了，但我还是选择出来，因为浪潮来了。

我没看到这个方向有足够深刻、有实战经验的 Infra 团队在做。识别出海浪、敢于在浪尖冲锋、等退潮了就收板回家，这种对于时代的敏锐和勇气是必不可少的。

 新人如何选对创业公司中的赢家？

👦🏻 Koji

当时在 Cloudflare 和 Kong 你都是 Founding Team，最早加入的一批人。事后看，你也确实都挑中了最后走出来的行业赢家，这种眼光有什么心得吗？

👨🏻‍💻 冠兰

这跟 Koji 你的投资思路可能类似。投资是投 Capital，我投的是自己的青春和精力。

秘诀依然在于人：看团队的含金量、是不是最敢想敢拼、技术背景最扎实的那一帮人。

方向有了，执行就要看这个团队的底层解决能力，能不能“往下吃一层”。

现在做大模型 Infra 最牛的工程师，一定能钻到 Kernel 级别、去解决算子调度和协议层的性能。以前我在 Kong 招网关负责人，也是直接看他对网络协议栈有多深刻的了解。

90% 的人觉得这东西够用就行，只有 5% 的人会因为强烈的好奇心钻下去研究底层的原理。

我喜欢和这种拥有快速吃透、手搓系统的极少数天才一起共事，这也是我挑选公司的标准。

年轻人信息有限，如何在面试前真正看懂一家创业公司？

👦🏻 Koji

年轻人在求职时能接触到的公司信息非常有限，往往只有面试时的简短交流，当时你是怎么快速评估和了解 Cloudflare 与 Kong 的？这里面有没有什么技巧或经验可以分享？

👨🏻‍💻 冠兰

年轻人最多的、也是最珍贵的资产是时间。你可以多花点时间，甚至做个思想实验：如果我是他们的 CEO，面对目前的竞争，我会怎么选战略？当你做了这种深度的战略推演，再去跟他们聊时，通过对认知和视角的对齐，你就很容易看清他们的真实水平。

另外就是要多做功课。在去 Kong 之前，我和创始人陆陆续续交流了一年多的时间，一直等到他们战略转型成熟的那几个月，我才下定决心加入。

多听 Koji 你们的投资播客。评估一个职业和评估一个投资，背后的第一性原理是完全一致的。当你的认知和他们的业务达到完美的 Match 时，你的内心会发出一个信号：不加入会后悔一辈子。

300万美元做天使投资，投给谁？

👦🏻 Koji

如果给你 300 万美元的虚拟资金，要求今天必须投出去，你会投给谁？

👨🏻‍💻 冠兰

具体名字我就不说了。我可以举两个方向：

一个是头部视频模型团队的早期创始成员。我最近也在帮他们找投资，甚至个人也会参与。视频模型是继 Coding 领域后，第二个被证明有真实变现空间的赛道，但真正能做好的创业公司没几家。

另一个是 AI for AI 领域的团队。看如何通过 Agent 的长程调用和 Auto Research 来更聪明地训练和改善大模型。我也有我的私心，我想和这样的前沿团队一起，共同打磨我们的执行底座，定义下一代算力的范式。

Claude Code还是Codex？

👦🏻 Koji

你更喜欢 Claude Code 还是 Codex？

👨🏻‍💻 冠兰

我现在用 Codex。

👦🏻 Koji

原因是什么？大家应该都有一个搬家的过程。

👨🏻‍💻 冠兰

Codex 人狠话不多。

我记得有分享说过：Codex 更像德国人，吭哧吭哧干活，质量很高；Claude Code 更像美国人，很 Chatty，说一堆废话，一直确认想透没有。

另外，Codex 不会莫名其妙封号。我们在美国注册的号也经常被封，管理挺麻烦，还要去申请解封。虽然认识 Anthropic 的朋友，但经常去找也挺郁闷。

Codex 经常给一些 Reset，对开发者友好，它的 Harness 也是开源的。它把我们从 Claude Code 转移到了 Codex 上，在 Coding 这一波上能站住脚，值得去跑、去用。

虽然在我们的 Execution 上跑的时候，发现 Codex 也有问题。但因为它是开源的，我们有计划去给上游提供一些修复。我们想通过我们的执行底座来优化上面的 Harness。

👦🏻 Koji

你们内部是统一用 Codex 吗？还有人在用 Claude Code、Cursor 吗？

👨🏻‍💻 冠兰

我个人用 Codex 比较多，还会用 Codex、Grok 以及 Fireworks 上一些国产前沿模型。

我们内部的共识是把 Model Router 完全交给工程师，因为他们最有体感。

我们内部用得五花八门。比如前端开发或者容错半径大的日常琐碎，我们会用 Grok 或者国产的 Fireworks 前沿模型。

我不管大家用什么模型，我只要他们对最终给出的结果能负责。我们要通过这种自由调用，培养他们对前沿模型演进的直觉和敏感度。

👦🏻 Koji

除了 Codex，你个人平时用得最多的 AI 产品还有哪些？

👨🏻‍💻 冠兰

我个人还用  Hermes 和 Pi。我们团队对手搓 Harness 更感兴趣，经常能搓出比开源方案更好用的效果，所以 Harness 本身的护城河并不高，最后每家企业都会选择自己搭一套。

我还会用 ElevenLabs 去录配音，体验各种生图模型。也会去试各种新奇的 Agents，比如智能语音帮你要回被运营商多扣话费的客服等。我算是在内部使用 Agents 最激进的人。

创业每天5个好消息、5个坏消息

👦🏻 Koji

我感觉你整个状态很有活力，也开心。

👨🏻‍💻 冠兰

创业做 CEO 确实像坐过山车。每天可能会遇到 5 个好消息、5 个坏消息，焦虑来自于你总是把注意力放在坏消息上。

但核心在于，我们是不是在解决一个足够让人兴奋的问题。在 Runta 背后，我们有 Jeff Dean、飞飞、Ali Ghodsi、以及 Hugging Face 的创始人等最顶级的系统大牛、商业大佬支持我们。

大家是真的相信，我们正在做一件能够很深远改变 AI 和智能体未来产业格局的大基建。这种极度 meaningful 的使命感，能带给我无穷的兴奋感。

👦🏻 Koji

真好，这个状态很让人羡慕。非常感谢冠兰！也希望你的这份快乐和创业的激情，可以感染到听这期节目的朋友们。

👨🏻‍💻 冠兰

我们希望五年以后，大家不会再讨论“Agent 是否需要一个专门的执行底座”，就像今天不会讨论数据库里的数据要不要持久化、互联网服务要不要有身份和权限控制一样。

当几十亿个 Agent 真正开始工作时，它们需要自己的计算环境、权限边界、审计系统和恢复机制。

如果这个判断成立，我们现在做的并不是一个 Agent 工具，而是在参与定义下一代计算基础设施。

这就是 Runta 想做的事情。

如果你也是喜欢 Kernel、分布式系统、虚拟化和 Agent 的工程师，欢迎加入Runta。（ Email: hiring@runta.com）

👦🏻 Koji

非常感谢冠兰，我们今天就聊到这里，谢谢！

👨🏻‍💻 冠兰

好的，感谢 Koji，拜拜！

文章来自于微信公众号 “十字路口Crossing”，作者 “十字路口Crossing”