● 线性与非线性探针在可解释性研究中的对比 — LessWrong

📌 一句话摘要 本文探讨了线性探针与非线性探针在可解释性方面的权衡，指出探针复杂度的提升会从根本上改变阳性结果对模型内部表征的意义。 📝 详细摘要 作者探讨了机械可解释性领域的一个核心挑战：如何在线性探针与非线性探针之间做出选择。虽然非线性探针（如 MLP）表达能力更强，且在提取概念时往往能达到