本文从 Fable 5 下线事件切入,分析芯片厂商与模型厂商在端侧 AI 上的进展,探讨何时能在本地设备运行顶级模型,并预测 2028 年可能实现的场景与代价。
📝 详细摘要
文章以 Anthropic 的 Fable 5 模型提前下线引发用户热议为引子,探讨端侧 AI 的发展现状与未来。硬件侧:高通骁龙 X2 NPU 达 80 TOPS,苹果跳过 M6 Pro/Max 直接押注 2027 年的 AI-focused M7,英伟达推出 DGX Spark 和 RTX Spark 等个人 AI 超算;模型侧:Google Gemma 4、阿里 Qwen3.6、面壁 MiniCPM 等通过量化、MoE 和架构优化大幅降低本地部署门槛,使端侧模型从云端缩水版成为独立品类。文章同时指出端侧 AI 的隐形成本——硬件溢价、功耗散热、生态锁定和隐私权限管理,并给出 2028 年的分层预测:高端电脑可流畅运行强写作/代码/文档模型,但普通设备运行万亿参数级 Mythos 本体仍不现实。最终结论是端侧 AI 已非“是否来临”的问题,而是谁先跑通硬件、模型与体验之间的平衡点。
💡 主要观点
- 端侧 AI 已成真实期待,但顶级模型离端侧设备仍有数量级差距。 Fable 5 下线事件让用户渴望本地运行,但万亿参数模型面临算力、功耗和模型压缩的鸿沟,短期内无法实现。
💬 文章金句
- 如果你不拥有硅和权重,高可用性就是个幻觉。
- 端侧 AI 不是「云端模型的缩水版」,它是一个独立的模型品类,有自己的设计目标、优化路径和使用场景。
- 这台设备能跑什么模型会成为和屏幕多大一样自然的购机参数。
- 本地 AI 不是免费的,可能你省掉了订阅费,但要为高内存带宽、大容量统一内存和高算力 NPU 支付更高的硬件溢价。
- 过去买手机是在选 App 生态,未来买设备可能是在选你的 AI 记忆住在哪里。
📊 文章信息
AI 初评:87
来源:爱范儿
作者:Selina
分类:人工智能
语言:中文
阅读时间:16 分钟
字数:3970
标签: 端侧AI, AI硬件, 模型部署, 高通, 苹果M系列