大家好,我是袋鼠帝
我最近在疯狂使用Fable 5,好用是好用,就是太贵啦!
不过不是在Claude 官方使用的,因为我最新的一个号,在7月1号又tm被封了,服了都(已经记不清是第几个了)

A社真就是那种贱兮兮的公司,看不惯又干不掉它...
所以,我最近都是在Cursor上用的Fable 5,虽然我下血本充了200$的订阅,但跑了两天Fable 5,总用量就已经超过48%了。。。

整的我都有点不敢用了,除非核心任务,其他时候我都只敢开启auto模式(自动选择模型)
不过让我兴奋的是,最近发现了一个很便宜的平替方案,是在X上刷到的一个很有意思的开源项目:OpenSquilla 0.5.0(在Github 已经有5.5K Star)


当时我还发了一篇推文

说实话,用了那么多Agent,也一直浸泡在AI里面。已经很少有让我兴奋的东西了。
但这次看完这个项目,让我久违的产生了兴奋感。
它揭示了一个非常反常识的事:一组便宜的国产模型以一定的方式组合起来,居然可以在公开评测上打赢国外更强的旗舰模型们(Claude Fable 5、Opus4.8、GPT-5.5)
简单来说,就是三个臭皮匠,顶个诸葛亮的意思。

它解决了什么问题?
目前大部分的 AI Agent 存在一个很明显的瓶颈:算力分配过于粗放。
在实际使用过程中或多或少有下面这些问题:
传统的路由方法(如根据输入 Prompt 的难度来决定调用大模型还是小模型)通常只针对“单次对话”。
但在复杂的 Agent 执行过程中(比如涉及多步推理、工具调用等等..),是有状态且多步的。效果就比较差。
而且现在的模型还挺偏科的🤣:有的擅长代码,有的长上下文理解能力强,有的agent能力更强,有的是速度快+便宜(比如flash模型)。貌似很少有六边形战士🤔。
以及实际使用的 Agent 框架(如 OpenClaw),如果全局都用最强模型(比如Fable 5),成本高的就简直没边了...如果全用小模型,一旦在某个关键点失败,连锁反应和时间成本反而会更高。
OpenSquilla 解决的核心问题就是:如何在 Agent 执行的每一个具体步骤中,根据当前的上下文状态和任务风险,动态且精准的匹配最合适的模型,从而在不牺牲甚至提升整体任务成功率的前提下,大幅降低成本。
另外,OpenSquilla完全开源,甚至有桌面客户端,傻瓜式安装好就能用了。

Github仓库地址:
https://github.com/opensquilla/opensquilla
支持Mac、Windows、Linux,这点还挺棒的。

另外,OpenSquilla是通过 步级(Step-level)的上下文感知路由替代了传统的查询级路由,还支持两种核心运行模式:
单模型路由(省钱模式 / Singleton Routing):
在 Agent 运行的每一步,系统会评估当前状态(比如:这是一个简单的格式转换,还是一个高难度的代码 Debug?上下文有多大?上一步工具调用是否报错?)。对于低风险的常规操作,路由会精准分配轻量级模型;只有在关键节点或需要错误恢复时,才拉起更贵的强大模型。
多模型集成路由(高精度模式 / Multi-Model Routing):
面对高难度、高风险或无法撤销的操作时,路由会同时选择几个能力互补的模型(比如:一个主攻逻辑生成,一个负责低成本纠错,一个核对 API 格式),然后通过聚合策略(Aggregator)将它们的输出整合。这种策略能突破单一顶配模型的性能天花板。

我看了下技术报告,他们在 DRACO 测了 100 道高难度研究任务:
对上Anthropic最强模型 Fable5,分数略高(60.85 vs 59.80),成本只有约 1/3(0.39vs1.21)

对上单跑的 Opus 4.8 和 GPT-5.5,质量分更高,成本低约 86-92%
说实话一开始我是保持怀疑的🤔。
但其中有一些细节,又让我觉得这次不太像跑分作秀。
一个是DRACO本身:
它是Perplexity和OpenAI一起开源的公开评测集,100道高难度的研究、分析类任务,题目和评分全都有了。而且数据集在HuggingFace,任何人都可以自己去验证,去复现:
https://huggingface.co/datasets/perplexity-ai/draco

还有一个原因是,我发现这已经是他们第二次用这类数据说话了(第一次没有暴雷,反而Star一直在涨,感觉还是有可信度的)。
之前就在README里放了一组PinchBench的结果:
用一套国产为主的模型路由组合,去跟单跑的Opus 4.7比,25个任务平均分几乎打平(0.9251 vs 0.9255),但成本一边是$0.688,另一边是$6.233。

差了9倍,看到这个的时候我人都麻了。。这也太省钱了吧!
他们更早还发过一篇Claw-SWE-Bench论文,有个结论让我印象深刻:
同一个模型,换一个Harness(Agent的工程外壳),结果最多能差27.4个百分点。

模型没变,但性能天差地别。
然后我还看了一下他们的技术路线:
先是做了智能路由,就是就简单任务自动分给便宜模型;
后面又做了MetaSkill自组织工作流、可验证编码;
这次0.5.0直接上多模型集成。每一次都在死磕同一件事,不改变模型,通过改变模型的用法来降低成本,提升性能。
所以这次DRACO的成绩,在我看来不是一次偶然,而是这条线走到今天的一次阶段性验收。
方向清楚,动作连续,不得不说这个团队执着专研的精神我还是挺佩服的。
而且这事儿背后,有两条一直往前走的曲线:
一条是国产模型本身在变好(迭代非常迅速,体感上也是在明显变得越来越好用)。
国产模型一直在刷新大模型竞技场的开源第一;
Kimi、GLM、Qwen、MiniMax、豆包这一年的迭代速度大家也都看在眼里。
虽然目前它们中的任何一个单拎出来和顶尖旗舰模型确实还有差距,但这个差距在肉眼可见的缩小。
而且国产模型的一大优势就是性价比很高。要不然为什么openrouter调用量排名前10的模型,80%都是国产呢?

另一条是组织模型的方法在变好。
从最早的单模型硬扛,到路由分流,再到现在的并行提案加聚合,Harness这一层的工程化开始逐渐发力。
两条曲线各自往上走,叠加在一起:"用一组国产模型媲美一个顶尖旗舰模型"这件事,大概率会慢慢变成常态。
当然它也不是没有代价,我测试了一下,多个模型并行提案再聚合,速度比单模型慢,那种对时效性要求较高的场景不一定合适。
不过有得就有失,自古鱼和熊掌不可得兼。
便宜和快,目前只能先选一个。你会选哪个呢?欢迎评论区聊聊😄
「最后」
我觉得接下来AI Agent 的效率/性能红利,可能真的不只在「换一个更贵/好用的模型」上。
国产模型单拎出来确实和顶尖旗舰有差距,但组织好了,甚至能打赢,成本还低。
这或许会成为下个阶段的主流方向。
《孙子兵法》里那句"善战者,求之于势,不责于人",没想到两千多年后在AI身上也成立了:不苛求每个兵都能以一挡百,把阵摆对,借助天时地利,就能战胜强大的对手(干掉A社!!)。
对我们这种天天靠Agent干活的人意义非常重大!
对了,OpenSquilla官方还有个产品体验官计划,想参与的朋友可以去看看:
https://opensquilla.ai/zh/invite/

Agent 的下一步,是继续追更贵的模型,还是把高性价比模型组织起来使用?欢迎评论区大胆发表你的看法,大家一起交流交流。
我是袋鼠帝,一个致力于帮你把AI变成生产力的博主。我们下期见~
文章来自于微信公众号 “袋鼠帝AI客栈”,作者 “袋鼠帝AI客栈”
【开源免费】字节工作流产品扣子两大核心业务:Coze Studio(扣子开发平台)和 Coze Loop(扣子罗盘)全面开源,而且采用的是 Apache 2.0 许可证,支持商用!
项目地址:https://github.com/coze-dev/coze-studio
【开源免费】n8n是一个可以自定义工作流的AI项目,它提供了200个工作节点来帮助用户实现工作流的编排。
项目地址:https://github.com/n8n-io/n8n
在线使用:https://n8n.io/(付费)
【开源免费】DB-GPT是一个AI原生数据应用开发框架,它提供开发多模型管理(SMMF)、Text2SQL效果优化、RAG框架以及优化、Multi-Agents框架协作、AWEL(智能体工作流编排)等多种技术能力,让围绕数据库构建大模型应用更简单、更方便。
项目地址:https://github.com/eosphoros-ai/DB-GPT?tab=readme-ov-file
【开源免费】VectorVein是一个不需要任何编程基础,任何人都能用的AI工作流编辑工具。你可以将复杂的工作分解成多个步骤,并通过VectorVein固定并让AI依次完成。VectorVein是字节coze的平替产品。
项目地址:https://github.com/AndersonBY/vector-vein?tab=readme-ov-file
在线使用:https://vectorvein.ai/(付费)
【开源免费】AutoGPT是一个允许用户创建和运行智能体的(AI Agents)项目。用户创建的智能体能够自动执行各种任务,从而让AI有步骤的去解决实际问题。
项目地址:https://github.com/Significant-Gravitas/AutoGPT
【开源免费】MetaGPT是一个“软件开发公司”的智能体项目,只需要输入一句话的老板需求,MetaGPT即可输出用户故事 / 竞品分析 / 需求 / 数据结构 / APIs / 文件等软件开发的相关内容。MetaGPT内置了各种AI角色,包括产品经理 / 架构师 / 项目经理 / 工程师,MetaGPT提供了一个精心调配的软件公司研发全过程的SOP。
项目地址:https://github.com/geekan/MetaGPT/blob/main/docs/README_CN.md
【开源免费】MindSearch是一个模仿人类思考方式的AI搜索引擎框架,其性能可与 Perplexity和ChatGPT-Web相媲美。
项目地址:https://github.com/InternLM/MindSearch
在线使用:https://mindsearch.openxlab.org.cn/
【开源免费】Morphic是一个由AI驱动的搜索引擎。该项目开源免费,搜索结果包含文本,图片,视频等各种AI搜索所需要的必备功能。相对于其他开源AI搜索项目,测试搜索结果最好。
项目地址:https://github.com/miurla/morphic/tree/main
在线使用:https://www.morphic.sh/
【开源免费】LangGPT 是一个通过结构化和模板化的方法,编写高质量的AI提示词的开源项目。它可以让任何非专业的用户轻松创建高水平的提示词,进而高质量的帮助用户通过AI解决问题。
项目地址:https://github.com/langgptai/LangGPT/blob/main/README_zh.md
在线使用:https://kimi.moonshot.cn/kimiplus/conpg00t7lagbbsfqkq0