● 一句话理解大模型蒸馏的本质

📌 一句话摘要 模型蒸馏的本质是让廉价且快速的小模型学习大模型的能力，以达到性价比平衡。 📝 详细摘要 作者通过通俗易懂的语言解释了「模型蒸馏」（Distillation）的核心逻辑：由于大语言模型（LLM）运行成本高、推理速度慢，通过技术手段让参数量较小的模型模仿大模型的输出，从而在保留大部分