OptiQ

在您的 Mac 上量化、部署并使用本地模型进行编程

OptiQ 是什么？

OptiQ 是面向 Apple Silicon 的本地大模型工具栈，能逐层分析敏感度并为关键层分配更高比特，同体积下混合精度量化的效果优于统一 4-bit 方案。基于 MLX 原生引擎，它一站式提供 CLI、兼容 OpenAI/Anthropic 的本地服务器、Web 工作台 Lab 和终端编程助手 Code，在 M3 Max 上运行 Gemma-4-12B 时文本解码提速 1.7 倍、代码编辑最高提速 2.9 倍，全程无需 PyTorch 或云端依赖。

产品详细介绍

在您的 Mac 上量化、部署并使用本地模型进行编程

定价方案

需要付费

官网查看

定制方案

✓
暂未采集到具体套餐，价格以官网为准

创始人评论

Maker创始人

OptiQ 源于一个简单的痛点：在 Mac 上跑本地模型，通常只能用一种统一的 4-bit 量化，无论每一层能否承受。

OptiQ 会测量每一层的敏感度（通过一次 KL 散度计算），并把比特预算用在最关键的地方。敏感层保持在 8-bit，其余降到 4-bit，整体体积不变。优势在小模型上最为明显：在 MiniCPM5-1B 上 Capability Score 提升 +4.4，在 Spark-X2.5-4B 上提升 +3.2，在 Qwen3.5-4B 上相比统一 4-bit 提升 +1.9。

只需一次 MLX 原生安装即可获得三个工具：一个同时兼容 OpenAI 和 Anthropic API 的服务器，一个本地 Web 工作台（optiq lab），用于聊天、量化、微调和模型对比；以及一个终端编程代理（optiq code），可用于你正在服务的任意模型。在 M3 Max 上运行 Gemma-4-12B 时，我们测得文本生成速度提升 1.7 倍，代码编辑场景最高可达 2.9 倍，且输出结果完全一致（mlx-optiq.com/compare）。

200+ 个量化版本已发布在 Hugging Face，可直接使用原生 mlx_lm.load 加载。`pip install mlx-optiq`

我们最希望听到的反馈是：你希望接下来量化哪个模型，以及在你的 Mac 上遇到了哪些问题。