蚂蚁集团联合浙江省卫健委发布全球首个开源千亿级医疗大模型 AntAngelMed，基于 MoE 架构仅激活 6.1B 参数即登顶三大医疗榜单，推理速度超 200 tokens/s。
📝 详细摘要
文章介绍了蚂蚁·安诊儿医疗大模型（AntAngelMed）的发布，这是全球首个开源千亿级医疗大模型。模型基于 Ling-flash-2.0 的高效 MoE 架构，总参数 100B，仅激活 6.1B 参数即可达到约 40B 密集模型的性能水平。文章详细阐述了其核心亮点：在 OpenAI HealthBench、MedAIBench 和 MedBench 三大权威医疗基准测试中均位居前列，超越所有开源模型及多个顶尖闭源模型。技术层面，模型采用三阶段训练流程（持续预训练、监督微调、GRPO 强化学习），结合高效 MoE 架构、FP8 量化和 EAGLE3 优化，在 H20 硬件上推理速度超过 200 tokens/s，支持 128K 上下文。文章还提供了通过魔搭社区和蚂蚁官方 API 的调用方式，以及使用 vLLM 和 SGLang 进行本地推理的代码示例。
💡 主要观点
- AntAngelMed 是全球首个开源千亿级医疗大模型，基于 MoE 架构实现高效推理。 模型总参数 100B，但仅激活 6.1B 参数即可达到约 40B 密集模型的性能，推理速度超 200 tokens/s，显著降低部署成本。
💬 文章金句
- 全球首个开源的千亿级医疗大模型，MoE 架构，100B 总参数，仅激活 6.1B 即达到约 40B 密集模型的性能水平
- AntAngelMed 在 OpenAI 发布的 HealthBench 评测中，表现超越所有开源模型及一系列顶尖闭源模型
- 在 H20 硬件上，推理速度超过 200 tokens/s——约为 360 亿参数稠密模型的 3 倍
- 采用 GRPO 算法和任务特定的奖励模型，RL 精确塑造模型行为——强调共情能力、结构清晰性与安全边界
📊 文章信息
AI 初评：86
来源：魔搭ModelScope社区
作者：魔搭ModelScope社区
分类：人工智能
语言：中文
阅读时间：10 分钟
字数：2373
标签： AntAngelMed, 医疗大模型, MoE, 开源模型, HealthBench