● 转向感知：模型可以被训练来检测激活操纵 — LessWrong

📌 一句话摘要 这项研究表明，LLM 可以被微调以稳健地检测和识别注入到其残差流中的语义操纵向量，这挑战了基于操纵的安全评估的可靠性。 📝 详细摘要 这篇文章探讨了“转向感知”——一种 LLM 可以被训练来识别其内部激活何时被操纵的现象。作者使用轻量级 LoRA 微调在多个开源模型上，展示了模型