本文是一篇学术讲座预告，介绍了东南大学岳立楠副教授关于“基于证据挖掘的可解释方法及其应用研究”的报告，旨在通过规避“捷径学习”提升解释的忠实性，并结合大模型思维链压缩提升推理过程的可解释性。
📝 详细摘要
本文是 MLNLP 社区学术 Talk 的预告文章，介绍了东南大学副教授岳立楠即将进行的主题报告。报告聚焦于“基于证据挖掘的可解释方法及其应用研究”。证据挖掘旨在从输入文本中提取支撑模型预测的关键信息，是实现模型可解释性的关键技术，尤其适用于高风险决策场景。报告指出，现有方法易陷入“捷径学习”陷阱，过度依赖表层特征，导致证据可靠性不足，且在大模型场景应用不充分。为此，报告将从理论和应用两个层面展开：首先介绍基于捷径规避的证据挖掘方法，从机制上提升解释的忠实性与可靠性；其次，介绍团队将证据挖掘与大模型思维链压缩相结合的应用实践，以提升大模型高效推理过程的可解释性。文章还提供了讲者、主持人的详细背景介绍以及直播信息。
💡 主要观点
- 证据挖掘是实现模型可解释性的关键技术，但现有方法易陷入“捷径学习”陷阱。 现有方法过度依赖数据中的表层统计特征，而非真正因果性的证据，导致提取的“证据”缺乏可靠性，无法忠实反映模型的决策逻辑。
💬 文章金句
- 证据挖掘技术旨在通过分析原始输入文本，提取能够支撑模型预测结果的关键信息，是实现模型可解释性的重要手段，已成为高风险智能决策场景中的关键技术。
- 然而，现有证据挖掘方法容易陷入“捷径学习”陷阱，过度依赖数据中的表层特征，导致证据缺乏可靠性。
- 此外，相关方法大多局限于小模型范式，在大模型场景中的应用仍不充分。
- 首先介绍基于捷径规避的证据挖掘方法，从机制上提升解释的忠实性与可靠性。
- 在此基础上，进一步介绍团队近期将证据挖掘方法与大模型思维链压缩相结合的应用实践，以提升大模型高效推理过程的可解释性。
📊 文章信息
AI 初评：78
来源：大模型智能
作者：大模型智能
分类：人工智能
语言：中文
阅读时间：6 分钟
字数：1376
标签： 可解释人工智能, 证据挖掘, 大模型, 思维链, 捷径学习