● 潜在推理冲刺 #3：激活差异引导与 Logit Lens — LessWrong

📌 一句话摘要 这篇研究文章探讨了激活引导和调优后的 Logit Lens 技术在 CoDI Llama 3.2 1B 模型上的有效性，发现虽然隐藏状态引导的效果微乎其微，但引导 KV 缓存可以提高模型准确率。 📝 详细摘要 本文详细介绍了作者研究冲刺的第三部分，重点关注应用于 CoDI（密度/

● 潜在内省（以及其他开源内省论文）— LessWrong

📌 一句话摘要 这项研究表明，LLM 具备潜在的、依赖于提示词的内省能力。研究揭示，尽管模型在采样输出中经常否认，但它们实际上能够检测到激活中注入的概念，且这些信号可以通过 Logit Lens 分析检测出来。 📝 详细摘要 本文探讨了大语言模型（LLM）是否能够进行内省——具体来说，它们是否能

● 潜在推理冲刺 #2：基于 Token 的信号与线性探针 — LessWrong

📌 一句话摘要 一项对 CODI 模型潜在推理链的实验性分析，使用了调优后的 Logit Lens 和线性探针，揭示了模型内部处理过程中特定的基于 Token 的信号模式和计算不对称性。 📝 详细摘要 本文详细介绍了一项旨在研究 CODI Llama 3.2 1B 模型内部推理机制的实验性“冲刺