PrismML 发布 Bonsai 27B：首个可在手机上运行的 27B 级多模态模型

○ 標記已讀 ☆ 收藏

📅 2026-07-15 08:10 Berryxia.AI 人工智能 1 分鐘 949 字 評分: 87

On-Device AI Model Quantization Open Source LLM PrismML Bonsai 27B

📌 一句话摘要 PrismML 开源 Bonsai 27B，通过极致量化技术将 27B 模型压缩至 3.9GB，首次实现手机本地运行，性能保留超 90%。 📝 详细摘要 作者详细介绍了 PrismML 正式发布的 Bonsai 27B 模型。这是全球首个能在手机上本地运行的 27B 级多模态大模型。通过端到端极致低比特技术，模型被压缩为 1-bit（3.9GB，适配手机）和 Ternary（5.9GB，适配笔记本）两个版本，内置 4-bit 视觉塔，支持图片、文档输入，保留 262K 上下文。其智能密度达 0.53/GB，性能保留率在 15 项基准测试中平均达 90%-95%。模型已基于

查看原文 → 發佈: 2026-07-15 08:10:06 收錄: 2026-07-15 12:00:09