PrismML 推出 27B 参数模型 Bonsai，通过极致量化使其在 iPhone 17 Pro 上可运行，保留约 90% FP16 性能。
📝 详细摘要
PrismML 宣布 Bonsai 27B 模型，基于 Qwen3.6-27B，采用 1~2 位量化后仅需 3.9GB（1-bit）或 5.9GB（三值），在 iPhone 17 Pro 上可达约 11 tok/s，在 RTX 5090 上达 163 tok/s。模型在 AIME、LiveCodeBench 等任务上保留 FP16 约 89.5%~94.6% 的能力，展示了极致压缩与性能平衡的技术突破。
📊 文章信息
AI 初评：88
来源：Gorden Sun(@Gorden_Sun)
作者：Gorden Sun
分类：人工智能
语言：中文
阅读时间：2 分钟
字数：389
标签： Bonsai 27B, PrismML, LLM 量化, 边缘 AI, 手机模型