● 为什么可纠正性很重要（如果它确实重要的话）—— LessWrong

📌 一句话摘要 本文批判了 AI 对齐领域中标准的“理性后验”可纠正性定义，并提出真正的可纠正性需要一种能够采取反直觉行动的开放心态，类似于躁狂发作期间寻求帮助的患者。 📝 详细摘要 作者挑战了将可纠正性仅仅视为“乐于接受说服”的普遍观点，认为这种定义是微不足道的，实际上是空洞的，因为它只有在一

● LLM 是否具有稳定偏好？

📌 一句话摘要 本文探讨了 LLM 对齐所需的三个关键属性：情境感知、偏好稳定性和可纠正性，认为当前训练方法未能充分培养这些属性。 📝 详细摘要 作者提出了近 AI 对齐的三个基本属性：情境感知（理解自己是 AI 模型）、偏好稳定性（跨上下文保持一致的价值观）和可纠正性（接受人类纠正）。文章认为