● 让黑盒不再那么晦涩（第三部分）—— LessWrong

📌 一句话摘要 一项使用稀疏自动编码器（SAE）的比较性机械可解释性研究，旨在分析模型规模（GPT-2 Small 对比 Gemma 2 9b）如何影响专家特征行为和表征几何结构。 📝 详细摘要 本文是该系列的第三篇，通过对比 GPT-2 Small (124M) 和 Gemma 2 9b，探讨

● 模拟器理论的实验证据——第 2 部分：缩放派的反击 — LessWrong

📌 一句话摘要 本文综合了近期关于大语言模型（LLM）中“涌现式对齐失效”（Emergent Misalignment）的研究，认为该现象最好用“模拟器理论”来解释——即模型是采用了预先存在的未对齐人格，而不是从零开始学习新行为。 📝 详细摘要 作者审视了三篇关于涌现式对齐失效（EM）的关键研究