分析了百度开源项目 Unlimited OCR 的核心技术 R-SWA 机制及其在长文档解析与大模型数据清洗中的重要地位。
📝 详细摘要
推文详细介绍了百度开源的 Unlimited OCR 项目，重点解释了其采用的 Reference Sliding Window Attention (R-SWA) 机制。该机制通过借鉴人类阅读方式，将解码阶段的 KV Cache 控制在恒定规模，使得仅需 30 亿参数的模型即可实现数十页文档的连续解析。此外，推文还通过 GitHub Star 数和 HuggingFace 下载量等数据，展示了该项目作为大模型训练数据清洗基建的高热度与影响力。
📊 文章信息
AI 初评：85
来源：向阳乔木(@vista8)
作者：向阳乔木
分类：人工智能
语言：中文
阅读时间：2 分钟
字数：457
标签： Unlimited OCR, 百度, R-SWA, 长文档解析, AI 基建