● 北大团队改造 DeepSeek 注意力，速度快四倍还不丢精度

📌 一句话摘要 北京大学张牧涵团队提出 HISA 稀疏注意力机制，通过分层索引解决长文本下的计算瓶颈，在不损失精度且无需重训的情况下，将 DeepSeek 等模型的索引速度提升 2-4 倍。 📝 详细摘要 本文介绍了北京大学人工智能研究院提出的新型稀疏注意力机制 HISA（分层索引稀疏注意力）。

● IndexCache，一种新型稀疏注意力优化器，可使长上下文 AI 模型推理速度提升 1.82 倍

📌 一句话摘要 IndexCache 是一种新型稀疏注意力优化技术，通过跨层缓存索引来减少 DeepSeek 风格模型中的冗余计算，在不影响性能的前提下显著提升推理速度。 📝 详细摘要 IndexCache 解决了 DeepSeek 稀疏注意力（DSA）架构中的计算瓶颈问题，即“闪电索引器”（l

● IndexCache：通过索引复用加速稀疏注意力

📌 一句话摘要 IndexCache 提出通过跨层索引复用，以加速 Transformer 模型中的稀疏注意力机制。 📝 详细摘要 这条推文介绍了“IndexCache”，这是一种旨在加速 Transformer 模型中稀疏注意力的技术方法。通过在不同层之间复用索引，该方法减少了冗余计算，有望在