全部 未讀 (38042) ★ 收藏 (0) 🤖 人工智能 (14362) 📊 商业科技 (6673) 📁 媒体资讯 (5309) 📁 投资财经 (3263) 📁 生活文化 (2825) 💻 软件编程 (2056) 📁 个人成长 (1963) 📁 体育运动 (1005) 🎨 产品设计 (534) 📁 AI 产品 (39)
篩選中: 🏷️ 前缀缓存 共 3 篇 ✕ 清除篩選
38044
全部文章
38042
未讀
30
今日新增
0
收藏
📡 Poller 最後抓取: 1 小時前 (08-08 02:00)
BestBlogs 精選 (37971)

🏷️ 熱門標籤

AI Agent 3182 政策解读 1626 投资与市场 1410 AI 编程 1333 宏观经济 1282 产业动态 1267 国际新闻 1160 LLM 1153 Anthropic 1087 Claude Code 1038 社会议题 1013 国内新闻 980 地缘政治 932 OpenAI 892 科技新闻 884 AI 智能体 788 生活方式 704 开源 684 足球 678 个人成长 672
让 Token 成本爆降近 40%,这个 AI 架构有点猛...
📌 一句话摘要 无问芯穹提出跨集群异构推理架构 PDD,通过 RelayDecode 中继掩盖 KV Cache 传输延迟,实现首 Token 延迟降低 51.5%、单 Token 成本下降 37.5%。 📝 详细摘要 文章围绕无问芯穹在 2026 WAIC 首次公布的 PDD(Prefill-
📅 2026-07-30 17:05 (8 天前) GitHubDaily 人工智能 2 分鐘 ★ 83
大模型推理 异构架构 KV Cache 前缀缓存
“接力跑”盘活全国算力,PD 分离终于破局:延迟砍半、成本直降近 40%!
📌 一句话摘要 无问芯穹提出 PDD 架构,通过三级分离和 Token 传输重算机制,将跨集群 KV Cache 传输延迟掩盖,实现首 Token 延迟降低 51.5%、单 Token 成本降 37.5%,并提升性价比 37.5%。 📝 详细摘要 文章详细介绍了无问芯穹在 2026 WAIC 大
📅 2026-07-30 14:14 (8 天前) 思邈 人工智能 2 分鐘 ★ 88
大模型推理 PDD架构 跨集群异构 KV Cache
Cloudflare Workers AI 深度解析:集成 Kimi K2.5 与基础设施优化
📌 一句话摘要 Cloudflare Workers AI 通过集成 Kimi K2.5 并引入前缀缓存和异步 API 等优化,为 AI 智能体提供高性能、高性价比的无服务器运行环境。 📝 详细摘要 该推文是对 Cloudflare 官方博客的深度解读。Cloudflare 将 Kimi K2.
📅 2026-03-20 11:30 (03-20 11:30) 人工智能 1 分鐘 ★ 88
Cloudflare Workers AI Kimi K2.5 智能体 前缀缓存