手机 AI 的 DeepSeek 时刻：Bonsai 27B 模型登场，苹果 iPhone 17 Pro 可运行
IT之家 7 月 15 日消息，@PrismML 官方账号今天（7 月 15 日）发布博文，宣布推出 Bonsai 27B 模型，基于 Qwen 3.6 27B 模型微调，**在保留 90% 智能水平的情况下，可以在 12GB 内存的 iPhone 上原生运行。**
Qwen 3.6 27B 模型进一步提升本地 AI 的能力，重点涵盖多步推理、结构化工具使用、长上下文工作流，以及连贯的智能体循环。
在 16-bit 精度下，Qwen 3.6 27B 模型需要占用 54GB 空间，而即便在 4-bit 精度下，该模型也需要占用 18GB 空间，对于手机和大部分笔记本而言，内存占用过高导致无法正常运行。
Bonsai 27B 模型基于 Qwen 3.6 27B 模型微调，推出 3-bit 和 1-bit 两个版本：
- Ternary（3-bit）Bonsai 27B：5.9 GB，每权重 1.71 有效位，针对笔记本级质量进行了优化。
- 1-bit Bonsai 27B：3.9 GB，每权重 1.125 有效位，针对手机级占用空间进行了优化。
美国软件工程师，开源本地 AI 客户端 AnythingLLM 的创始人蒂莫西 · 卡兰巴特（Tim Carambat）表示：“它的影响远比 Fable、Mythos 或 GPT 5.6 更重要。甚至可能比它们加起来还要重要。这才是 AI 的真正 DeepSeek 时刻。”
IT之家附上相关截图如下：
---
原文链接：[点击查看](https://www.ithome.com/0/976/772.htm)
Qwen 3.6 27B 模型进一步提升本地 AI 的能力，重点涵盖多步推理、结构化工具使用、长上下文工作流，以及连贯的智能体循环。
在 16-bit 精度下，Qwen 3.6 27B 模型需要占用 54GB 空间，而即便在 4-bit 精度下，该模型也需要占用 18GB 空间，对于手机和大部分笔记本而言，内存占用过高导致无法正常运行。
Bonsai 27B 模型基于 Qwen 3.6 27B 模型微调，推出 3-bit 和 1-bit 两个版本：
- Ternary（3-bit）Bonsai 27B：5.9 GB，每权重 1.71 有效位，针对笔记本级质量进行了优化。
- 1-bit Bonsai 27B：3.9 GB，每权重 1.125 有效位，针对手机级占用空间进行了优化。
美国软件工程师，开源本地 AI 客户端 AnythingLLM 的创始人蒂莫西 · 卡兰巴特（Tim Carambat）表示：“它的影响远比 Fable、Mythos 或 GPT 5.6 更重要。甚至可能比它们加起来还要重要。这才是 AI 的真正 DeepSeek 时刻。”
IT之家附上相关截图如下：
---
原文链接：[点击查看](https://www.ithome.com/0/976/772.htm)
评论
暂无评论。