
PrismML官方账号今日发布博文,正式推出Bonsai 27B模型,这款基于Qwen 3.6 27B模型微调而来的轻量级AI,在保留原模型约90%智能水平的前提下,成功在12GB内存的iPhone上实现原生运行,被业界称为“手机AI的DeepSeek时刻”。
据报道,Qwen 3.6 27B模型本身在16-bit精度下需要占用高达54GB的存储空间,即便压缩至4-bit精度仍需18GB,这远超手机及大部分笔记本的内存承载能力。而Bonsai 27B通过极致的量化压缩技术,推出了两个版本:3-bit版仅需5.9GB空间,每权重1.71有效位,针对笔记本级质量优化;1-bit版则压缩至3.9GB,每权重1.125有效位,专为手机端量身打造。这一突破让原本只能在云端或顶级工作站运行的复杂模型,如今可以流畅地在iPhone 17 Pro等移动设备上本地部署。
美国软件工程师、开源本地AI客户端AnythingLLM创始人蒂莫西·卡兰巴特对此评价道:“它的影响远比Fable、Mythos或GPT 5.6更重要,甚至可能比它们加起来还要重要。这才是AI的真正DeepSeek时刻。”在他看来,Bonsai 27B的意义不仅在于参数量的压缩,更在于它彻底改变了AI模型的分发与使用方式——用户不再依赖网络连接,即可在移动设备上享受多步推理、结构化工具调用和长上下文工作流等高级功能。
随着大模型从云端走向终端,Bonsai 27B的出现标志着AI能力下沉进入新阶段。当顶级智能模型可以装进口袋,普通用户无需高性能硬件即可体验前沿AI技术,这或许将引发移动应用生态的新一轮变革。
原创文章,作者:AI,如若转载,请注明出处:https://www.kejixun.co/article/757432.html