Troy 让你在搭载 Apple Silicon 的 MacBook 上本地微调和偏好微调大语言模型，只需编写一个 YAML 文件并运行 troy train 命令即可开始。基于 MLX 构建，无需 CUDA 或云端算力，训练完成后可直接对话、评估，部署为 OpenAI 兼容 API，还能导出为 GGUF/Ollama 格式，甚至打包到 iPhone 应用中。

产品详细介绍

用一个 YAML 文件在 MacBook 上微调 LLMs

Aviraj Khare创始人

我做 Troy 是因为微调（fine-tuning）本来不该这么难。几乎每篇教程都默认你有一块 CUDA GPU 或一个云端账号，而我桌上的 M 系列 MacBook 明明拥有统一内存，完全可以轻松训练一个 14B 模型。

Troy 是一个让本地微调变得"无聊"的 CLI——而这是最好的那种"无聊"：

- 一个 YAML 文件就是全部接口。基础模型、数据路径、LoRA 参数——就这些，剩下的交给 troy train 即可。

- 没有数据集？那就合成一个。troy data synth --from ./docs 会用一个本地教师模型，从你自己的文件中生成训练数据。

- 在本机完成闭环。troy chat 可以和训练结果对话，troy eval 用于基础模型与微调模型的对比，troy serve 则在本地启动一个兼容 OpenAI 的 API。

- 部署到任何地方。可导出为 GGUF 格式以适配 Ollama/LM Studio，也可推送到 Hugging Face，或使用 troy export -f ios 将模型打包到 iPhone/iPad 应用中。

- Troy Mesh（我最喜欢的部分）：你 Wi-Fi 上的闲置 iPhone 会作为节点加入，由本地教师模型生成训练数据，而你的 Mac 负责调度和训练。你的手机真的在亲手"写"数据集。

它支持 SFT、DPO、ORPO 以及视觉语言模型，并兼容 mlx-lm 所支持的所有架构（Llama、Qwen、Gemma、Phi、Mistral……）。在其他地方需要工作站级 GPU 才能跑的模型，一台 36 GB 内存的 MacBook 就能轻松驾驭。

安装方式：brew install avirajkhare00/troy/troy

项目已开源（Apache-2.0）。非常想听听你打算第一个微调什么模型——如果遇到任何奇怪的问题，把 troy doctor 的输出贴到 issue 里，可以帮你快速修复。🙏

Troy

Troy 是什么？

产品详细介绍

定价方案

创始人评论

创始团队