全部 未讀 (21689) ★ 收藏 (0) 🤖 人工智能 (11201) 📊 商业科技 (4470) 💻 软件编程 (1688) 📁 个人成长 (1607) 📁 生活文化 (864) 📁 媒体资讯 (838) 📁 投资财经 (537) 🎨 产品设计 (409) 📁 AI 产品 (39) 📁 体育运动 (28)
篩選中: 🏷️ Prefill-as-a-Service 共 1 篇 ✕ 清除篩選
21691
全部文章
21689
未讀
53
今日新增
0
收藏
📡 Poller 最後抓取: 1 小時前 (06-09 02:00)
BestBlogs 精選 (21656)

🏷️ 熱門標籤

AI Agent 2173 AI 编程 994 Anthropic 981 Claude Code 917 AI 智能体 780 OpenAI 745 LLM 689 开源 574 OpenClaw 557 Claude 557 AI 517 AI 安全 492 开发者工具 433 Codex 416 软件工程 399 具身智能 338 Agent 334 个人成长 334 GitHub 321 生产力 315
Kimi 新论文:把 KVCache 玩成新商业模式了
📌 一句话摘要 月之暗面与清华大学联合提出 Prefill-as-a-Service 架构,通过混合注意力模型压缩 KV Cache,使其能通过普通以太网跨数据中心传输,实现 Prefill 与 Decode 的异地异构调度,显著提升长上下文推理性能。 📝 详细摘要 本文报道了月之暗面与清华大学
📅 2026-04-19 18:19 (04-19 18:19) 衡宇 人工智能 2 分鐘 ★ 91
大模型推理 KV Cache Prefill-as-a-Service 混合注意力