● 小红书“问一问”多模态推理加速实践：让视觉 Token 更精简、MoE 专家更聚焦

📌 一句话摘要 本文通过 Vision Token 动态压缩与 SERE 专家重路由两项技术，实现多模态推理的 Prefill 与 Decode 双端加速，TTFT 降 13%，TPOT 降 16.5%。 📝 详细摘要 文章详细介绍了小红书“问一问”多模态大模型推理的两大瓶颈：视觉 Token