标签

手机端AI迎来DeepSeek式突破:Bonsai 27B模型问世,iPhone 17 Pro可流畅运行

发布时间:2026-07-16 09:33阅读:2

点击上方蓝字关注我们

Qwen 3.6 27B 模型进一步提升本地 AI 的能力,重点涵盖多步推理、结构化工具使用、长上下文工作流,以及连贯的智能体循环。

在 16-bit 精度下,Qwen 3.6 27B 模型需要占用 54GB 空间,而即便在 4-bit 精度下,该模型也需要占用 18GB 空间,对于手机和大部分笔记本而言,内存占用过高导致无法正常运行。

Bonsai 27B 模型基于 Qwen 3.6 27B 模型微调,推出 3-bit 和 1-bit 两个版本:

Ternary(3-bit)Bonsai 27B:5.9 GB,每权重 1.71 有效位,针对笔记本级质量进行了优化。

1-bit Bonsai 27B:3.9 GB,每权重 1.125 有效位,针对手机级占用空间进行了优化。

美国软件工程师,开源本地 AI 客户端 AnythingLLM 的创始人蒂莫西 · 卡兰巴特(Tim Carambat)表示:“它的影响远比 Fable、Mythos 或 GPT 5.6 更重要。甚至可能比它们加起来还要重要。这才是 AI 的真正 DeepSeek 时刻。”

小编附上相关截图如下:

相同的产品,不同的生活。

正方知品,数字生活引领者。