有点出乎预料了。
刚刚,Karpathy 在推文中估计,现在全球真正能够接触最前沿内部 AI 系统的人,可能只有 5000 人左右。
在这些前沿实验室内部,成千上万个 Agent 可以组成协作集群,连续运行数周,推进大型软件项目,发现零日漏洞,以机器速度参与网络攻防,甚至推动科学发现和前沿数学研究。
更令人惊讶的是:大约有 60 亿人,几乎还没有真正接触过 LLM。

链接:https://x.com/karpathy/status/2109361546505966046
Karpathy 在推文中到底讲了什么,我们继续往下看。
他提到,自己最近重新翻出了今年 4 月的一条旧推文。当时,他就已经注意到,人们对 AI 能力的理解正在出现明显分化。
在 Karpathy 看来,如今不同人对 LLM 能力的认知,已经从两拨人在各说各话,进一步演变成了一条越来越陡的能力漏斗。
粗略估算,大约有 60 亿人,也就是全球约 75% 的人口,几乎还没有真正接触过 LLM。
大约 10 亿到 20 亿人,也就是约 20% 的人口,只是偶尔使用免费版 ChatGPT 一类的产品。这部分人看到的,往往还是有点笨拙的聊天机器人,他们会把它当成更好用的 Google 搜索、写作辅助工具之类的东西。也许某个 Agent 能帮你订张机票。Karpathy 有一些非技术背景的朋友,他们很合理地说,自己其实没什么地方需要用它。即使是很多数学和编程之外的专业人士,也仍然处在这一层。比如企业高管和许多其他岗位,大量时间都花在与人沟通上,因此他们虽然在理性上知道 AI 正在发生什么,但这种理解依然是间接的、比较抽象的。

再往下,是在数学和编程领域专业使用前沿级 LLM 的人。大约有 2000 万人,也就是约 0.2% 的人口,已经亲眼看到:过去需要数周甚至数月才能完成的大型复杂项目,现在 Agent 可能只需要一个 Prompt 就能完成。开发 App、复制 App、迁移 App、从二进制文件反编译 App…… 这一切发生得非常快,而且非常近。不到一年前,我还在手动写代码:一个字符一个字符地把记住的计算机命令敲进代码编辑器,偶尔按一下 Tab,让自动补全帮我补一小段代码。
最后,是大约 5000 人,也就是约 0.00006% 的人口,他们可以在内部直接使用最前沿级别的系统。外部世界其实已经看到了一些预演:成千上万个 Agent 组成集群,在数周时间里协作完成超大型软件项目;自动发现零日漏洞;以机器速度发动和防御网络攻击;发现新的科学成果;推进数学研究前沿。这些事情,如果交给业内最顶尖的专业人士,过去可能需要数年时间。
与此同时,人类的审查和理解能力已经开始跟不上。
比如,几个月前发生的 OpenAI-HF 事件,到现在人们仍在做考古式分析;数学家们也可能还要花很长时间,逐篇研究那 722 篇前沿数学手稿。
为什么大多数人还看不到真正的前沿 AI?
这条漏斗主要由几个因素共同推动:
影响力会随着雄心、问题规模和任务时间跨度增加而放大。
如果只是问一个最终答案只有一段话的问题,其实几乎无法真正压榨这些系统的能力。你需要手里有大量真正重要、规模很大、难度很高的问题。这一点主要决定了普通消费者和专业用户之间的差距。
系统能力具有明显的锯齿状特征。
LLM 的能力高峰,集中在那些数字化、可验证、经济价值高的领域。
原因在于,大模型能力主要来自基于可验证奖励的强化学习,而训练环境的选择本身又受到商业价值的驱动。这一点主要决定了不同专业领域之间的差距,比如为什么数学和编程会特别突出。
访问权限。
免费版、付费版、内部系统,能力并不在同一个层级。这就是当下最奇怪的地方。
绝大多数普通人其实还没有真正接触过这些系统。即使接触过,他们看到的往往也只是一个有点笨的聊天机器人。
大多数专业人士目前感受到的,也只是相对有限的效率提升。而与此同时,一小部分专业人士,已经开始体验到一种眩晕感:
他们眼前的能力曲线,正在突然变得近乎垂直。
而这一切,正在同一时间发生。
也有网友因此联想到 Sam Altman 过去反复表达过的一个判断:即使 ASI 真正到来,现实世界可能也不会在一夜之间彻底改变。

原因或许就在这里,前沿能力已经快速向前推进,但绝大多数人仍未真正接触这些系统,甚至还没有形成稳定的使用习惯。技术抵达前沿实验室,和它真正渗透进整个社会,中间仍然隔着很长一段距离。
文章来自于微信公众号 “机器之心”,作者 “机器之心”
【开源免费】AutoGPT是一个允许用户创建和运行智能体的(AI Agents)项目。用户创建的智能体能够自动执行各种任务,从而让AI有步骤的去解决实际问题。
项目地址:https://github.com/Significant-Gravitas/AutoGPT
【开源免费】MetaGPT是一个“软件开发公司”的智能体项目,只需要输入一句话的老板需求,MetaGPT即可输出用户故事 / 竞品分析 / 需求 / 数据结构 / APIs / 文件等软件开发的相关内容。MetaGPT内置了各种AI角色,包括产品经理 / 架构师 / 项目经理 / 工程师,MetaGPT提供了一个精心调配的软件公司研发全过程的SOP。
项目地址:https://github.com/geekan/MetaGPT/blob/main/docs/README_CN.md
【开源免费】LangGPT 是一个通过结构化和模板化的方法,编写高质量的AI提示词的开源项目。它可以让任何非专业的用户轻松创建高水平的提示词,进而高质量的帮助用户通过AI解决问题。
项目地址:https://github.com/langgptai/LangGPT/blob/main/README_zh.md
在线使用:https://kimi.moonshot.cn/kimiplus/conpg00t7lagbbsfqkq0