速递｜苹果接触设备端AI初创PrismML，拟将270亿参数大模型部署至iPhone

图片来源：PrismML

Apple 正在努力将强大的人工智能模型缩小以便在 iPhone 上运行，这可以减少云计算成本并提升用户隐私。但一家今年早些时候从隐身模式中浮出水面的初创公司表示，最近他们在一部 iPhone 上运行了一个比以往任何移动端模型都要大的人工智能模型。

这家名为 PrismML 的初创公司表示，已将 Qwen 3.6 缩减至可在 iPhone 17 Pro 上运行，该模型拥有 270 亿参数（参数大致类似于大脑中的突触，能够帮助决定模型可处理数据的复杂性）。相比之下，大多数在手机上运行的模型一次仅有几十亿个参数处于活动状态。

最大的人工智能模型，参数可达万亿级，仍然远大于可在移动设备上运行的规模。但该初创公司表示，PrismML 在 iPhone 上运行的模型能够执行诸如复杂对话、推理、完全自主的智能体和软件编码等任务。该开源模型将于下周二提供下载。

这一里程碑此前未被报道，反映出将 AI 在设备端而非昂贵的高性能数据中心服务器上运行的更广泛推动。Microsoft、Amazon、Meta 等公司正在投入数千亿美元，竞相建设这些数据中心，以跟上他们预期的对 AI 的需求。

不过，Apple 在昂贵的数据中心竞赛中大多保持旁观，同时也是确保尽可能多的 iPhone 人工智能功能在设备而非云端运行的积极倡导者。该公司认为，设备端人工智能将更有助于它兑现对顾客的隐私和安全承诺。

在一次采访中，PrismML 的首席执行官 Babak Hassibi 预测，绝大多数人工智能最终将会在设备上处理。

“想象一个世界，也许是在三年后，95% 你所需要的智能都可以在本地获得，在你的手机、笔记本电脑、家用电器上，而真正需要去云端的，可能只是最后大约 5% 的高端内容，”Hassibi 说。“我认为人们正在把这视为前进的方向。”

他补充说，将模型缩小以在设备上运行“从根本上改变了人工智能的经济学”。

一些知名的人工智能投资者已认同这家初创公司的愿景。Khosla Ventures——曾是 OpenAI 的首家风险投资者——也在今年早些时候向 PrismML 的 1625 万美元种子轮投资了资金。在一次采访中，该公司创始人 Vinod Khosla 表示，他对 PrismML 感兴趣，是因为该公司提供了一种“根本性的突破”。

“我们在 2018 年投资 OpenAI 时大举押注于转换器（transformer）模型，但构建 AI 有哪些新方法？”Khosla 说。“我们的团队始终在寻找新的途径。”

PrismML 使用一种数学技巧将 Qwen 3.6 模型缩小到原始体积的一小部分。缩小模型通常会导致性能下降，但该公司声称其微型化 AI 模型体积的技术并不影响性能。PrismML 已将 Qwen 3.6 的体积从大约 54 GB 压缩到不到 4 GB。

PrismML 是加州理工学院的衍生公司，Hassibi 是该校电气工程学教授，他与联合创始人在该校进行了用于该初创公司技术的数学研究。加州理工学院拥有该技术背后的专利，但已将其专属许可授予 PrismML。

PrismML 计划继续将更大型的 AI 模型缩小，甚至在万亿参数规模上也会这样做，这将使其进入最前沿模型的领域，例如 OpenAI 的 GPT 和 Anthropic 的 Claude，Hassibi 说。

PrismML 的方法可能尤其会吸引 Apple。在该公司六月的全球开发者大会上，它宣布了基于 Google 的 Gemini 模型、长期延迟的 Siri 改造。Siri 中最先进的部分仍然非常庞大，以至于 Apple 需要使用运行在 Google Cloud 中的 NVIDIA 芯片。

作为新 Siri 发布的一部分，Apple 表示 ，部分 iPhone 的新 AI 功能将会在设备上运行。一个新的苹果本地模型有 200 亿参数，但采用所谓的稀疏架构，其中一次只有 10 亿到 40 亿参数处于激活状态。而在 PrismML 的本地模型中，所有 270 亿参数同时处于激活状态。

过去，Apple 在其本地模型工作上遇到过障碍。去年，当它试图将内部 AI 模型缩小以适配 iPhone 时，公司发现性能遭遇了巨大损失，《The Information》已报道 。

Apple 目前正在寻求收购能够帮助其在设备上运行更多人工智能的公司，The Information 早前曾报道 。熟悉谈判的人士表示，Apple 已就如何使用 PrismML 的技术举行过会谈。

还有其他在设备端实现人工智能的方法。例如，初创公司 Argmax 专注于在设备端部署 AI，用于处理语音和图像等任务，然后将这些处理过的信息发送到云端，以完成更复杂的推理工作。

采用这种混合方法的一个重要原因是，云端运行的大模型仍在快速变化，更新几乎每周都有。该方法的支持者认为，完全在设备上运行的人工智能无法享受到最新、最先进模型的优势，而这些模型都运行在云端。

参考资料：

https://www.theinformation.com/articles/khosla-backed-startup-claims-breakthrough-largest-ever-ai-model-iphone?rc=ji9vez

文章来自于微信公众号 “Z Potentials”，作者 “Z Potentials”