独家丨张一鸣禁止Seed 蒸馏,开源模型也不放过

首页 AI资讯 AI技术研报 AI监管政策 AI产品测评 AI商业项目 arena全球大模型排行榜 AI产品热榜 AI 源力市场 AI新闻日报

独家丨张一鸣禁止Seed 蒸馏,开源模型也不放过
AI资讯 2026-08-06 11:07
+9102 阅读

独家丨张一鸣禁止Seed 蒸馏,开源模型也不放过


即使眼下会因此落后于国内竞争对手,字节跳动也不会把模型蒸馏当成提升AI能力的捷径。


据 The Information报道,创始人张一鸣在上个月的一场内部会议上向员工明确表达了这一立场,也让外界难得一窥他对字节跳动AI发展路线的思考。


外媒披露,在Seed团队内部,关于公司是否应该转向蒸馏技术的争论由来已久。今年,国内竞争对手开源模型的快速发展给字节跳动带来了更大的压力。员工们称,每当有一个强大的中国开源新模型发布,字节跳动内部关于蒸馏的争论就会升温。


张一鸣过去很少在Seed团队的会议上发言。但在其他管理者解释公司为何不准备依靠蒸馏实现赶超后,他罕见开口,明确表达了自己的态度。据与会员工回忆,张一鸣表示,字节跳动“应该愿意为长期目标牺牲一部分短期收益”。


据外媒报道,字节跳动对蒸馏如此谨慎,与TikTok过去在美国的遭遇有关。此前,美国政府曾多次以国家安全为由威胁封禁TikTok。


而据ZF独家获悉,字节对蒸馏模型的限制不只是美国前沿模型,内部对开源模型也严禁蒸馏,甚至通过API检测等方式在内部加强了相关限制。字节拒绝蒸馏,核心考量并非外界猜测的地缘政治避险,而是技术路线的判断。团队认为,蒸馏会干扰真正意义上的长期技术突破。在张一鸣看来,做模型要坚持长期主义、延迟满足感,而不是用别人的输出,换一时的榜单排名。


就在会议召开前不久,月之暗面发布的Kimi K3刚刚在美国引发警觉:这款模型显示,中国AI模型正以比外界预期更快的速度缩小与美国领先模型之间的差距。


此后几周,一名白宫高级官员指责Kimi K3通过蒸馏美国前沿模型提升了性能。所谓“蒸馏”,是指利用现有先进模型的输出结果训练新模型,使后者学习前者的能力。


在部分字节跳动员工看来,公司不愿采用蒸馏,是其大语言模型落后于阿里巴巴,以及DeepSeek、智谱AI和月之暗面等国内AI公司的一项重要原因。


不过,在AI视频生成领域,情况恰恰相反。凭借Seedance 2.0的成功,字节跳动已被普遍视为这一领域的全球领先者。今年早些时候,Seedance 2.0凭借生成高度逼真视频的能力在行业内引发轰动。


字节跳动也因此逐渐成为中国AI行业中的一个特殊存在。作为一家社交媒体巨头,它几乎是中国主要AI公司中唯一一家大语言模型基本全部闭源的公司,而其他头部厂商大多把重心放在开源模型上。


字节跳动的旗舰大语言模型也并非总能出现在全球主流模型排行榜上,而这些榜单通常是外界观察各家公司模型能力的重要窗口。


目前,客户主要通过字节跳动旗下的云计算平台调用其模型。但与阿里巴巴、华为和腾讯等行业龙头相比,字节跳动云业务在中国市场的份额仍然较小。对于并非其客户的外部人士而言,这进一步增加了评估字节模型真实水平的难度。


字节跳动最新的大语言模型Seed 2.1 Pro没有被收录进目前最受关注的模型排行榜Artificial Analysis。在Arena AI的网页开发编程榜单中,该模型仅排名第19,明显落后于其他中国模型。


据字节跳动员工透露,Seed团队内部长期以来一直在争论,公司是否应该采用模型蒸馏。


今年,国内竞争对手的开源模型进步迅速,也给字节跳动带来了更大压力。几乎每当一款能力强劲的中国开源模型发布,公司内部围绕蒸馏的争论就会再次升温。


随着中美AI竞争不断加剧,模型蒸馏已经成为一个高度敏感、极具争议的话题。特朗普政府官员长期批评中国AI开发商,指责它们通过蒸馏复制Anthropic和OpenAI等美国头部公司的模型能力。


Anthropic此前曾指控多家中国AI公司,称这些企业通过大规模蒸馏,违规提取Claude的能力,再用来改进自己的模型。不过,Anthropic并未对字节跳动提出类似指控。遭到指控的几家中国公司也尚未就此公开回应。


但蒸馏并不是中国模型进步的唯一原因。一些美国AI开发者也承认,中国公司正在形成自己的技术能力。仅靠蒸馏,解释不了中国头部开源模型如今的表现。


Kimi K3在一些基准测试中,已经接近美国最好的模型。DeepSeek被行业认可,也不只是因为模型效果好。它在架构上的一系列创新,显著降低了训练和推理所需的内存。这些能力无法简单地从另一个模型中复制。


不过,中国AI公司的研究人员并不否认蒸馏的价值。训练一个前沿模型,需要数据、算力,也需要时间。蒸馏让新模型直接学习成熟模型的输出和推理过程,而不是只从原始数据开始摸索。它能缩短训练周期,也能减少计算消耗。对一家试图快速追赶的公司来说,这是一条很难忽视的路径。


字节跳动选择不走这条近路。这可能意味着,它的大语言模型还要在一段时间内落后于竞争对手。但经历过TikTok危机后,字节跳动衡量一项技术选择时,考虑的已经不只是模型榜单上的名次。


文章来自于微信公众号 “Z Finance”,作者 “Z Finance”

添加客服微信openai178,进AITNT官方交流群