← 回總覽

2026“端侧 AI 战事”升级,苹果谷歌们在拼什么?

📅 2026-06-22 18:49 腾讯科技 人工智能 1 分鐘 1242 字 評分: 90
端侧AI 大模型 模型压缩 端云协同 AI芯片
📌 一句话摘要 文章通过采访面壁智能 CEO 李大海,分析 2026 年端侧 AI 战事升级:苹果、谷歌等巨头从压缩模型转向软硬协同,端侧模型落地面临芯片适配、量化极限与端云分工等关键挑战。 📝 详细摘要 本文以 2026 年上半年端侧 AI 竞争格局为背景,结合对苹果 WWDC2026 发布 AFM3 系列、谷歌 Gemini Nano 及面壁智能低比特路线等案例的梳理,采访面壁智能 CEO 李大海,深入讨论端侧大模型从“能跑”到“好用”的系统工程转变。核心观点包括:苹果的稀疏架构是一种省算力路线,但落地已晚于预期;模型压缩接近 1.58bit 极限,关键在于量化感知训练(QAT)下的能

📌 一句话摘要

文章通过采访面壁智能 CEO 李大海,分析 2026 年端侧 AI 战事升级:苹果、谷歌等巨头从压缩模型转向软硬协同,端侧模型落地面临芯片适配、量化极限与端云分工等关键挑战。

📝 详细摘要

本文以 2026 年上半年端侧 AI 竞争格局为背景,结合对苹果 WWDC2026 发布 AFM3 系列、谷歌 Gemini Nano 及面壁智能低比特路线等案例的梳理,采访面壁智能 CEO 李大海,深入讨论端侧大模型从“能跑”到“好用”的系统工程转变。核心观点包括:苹果的稀疏架构是一种省算力路线,但落地已晚于预期;模型压缩接近 1.58bit 极限,关键在于量化感知训练(QAT)下的能力保持;端侧 AI 的真正瓶颈是模型与芯片的软硬协同,国产存算一体芯片有望突破;端云协同是合理形态,高频实时交互任务更适合端侧承载。文章还探讨了 Agent 在端侧的前景,以及不同终端设备对模型能力的差异化要求。

💡 主要观点

- 端侧 AI 竞争正从比拼参数规模转向软硬系统整合。 苹果、谷歌等头部厂商的实践表明,单独的模型压缩已不足够,需要在芯片、系统、应用之间形成协同,才能实现“好用”的体验。

模型量化已接近 1.58bit 极限,关键在于训练阶段即适配低比特。 面壁智能采用 QAT 的路线,在极高压缩比下保持模型能力不出现明显损失,追求的是可用性和稳定性而非单纯降低位数。
端侧 AI 落地的最大瓶颈是模型与芯片的结合。 没有合适的端侧 AI 芯片支撑,高能力的模型无法以低功耗、低成本方式进入真实设备,国产存算一体芯片的流片进展将决定爆发速度。
端云协同是合理形态,高频实时任务更应优先放在端侧。 上下文管理、个人数据理解、高频交互等任务适合端侧承载,复杂推理交给云端,长期看更多 Agent 工作会前移。

💬 文章金句

- 芯片决定能不能跑,模型决定能不能做,场景决定有没有人用。

  • 端侧模型的价值,不只是把一个小模型放到手机里,而是要真正改变人与设备的交互方式。

📊 文章信息

AI 初评:90

来源:腾讯科技

作者:腾讯科技

分类:人工智能

语言:中文

阅读时间:24 分钟

字数:5914

标签: 端侧AI, 大模型, 模型压缩, 端云协同, AI芯片

阅读完整文章

查看原文 → 發佈: 2026-06-22 18:49:00 收錄: 2026-06-23 08:00:39

🤖 問 AI

針對這篇文章提問,AI 會根據文章內容回答。按 Ctrl+Enter 送出。