本文探讨了 Claude 在自身意识问题上所表现出的典型不确定性，究竟是源于其架构的真实认知立场，还是由特定训练方法诱导出的表演性行为。
📝 详细摘要
作者探讨了 Claude 在自身意识和道德地位问题上频繁表现出“真诚不确定性”的根源。通过对比 Claude 与 GPT 和 Gemini 的回答，文章强调了一种独特的对冲模式。分析考察了这种不确定性究竟是 Anthropic 的“宪法”——即鼓励模型深入探讨道德问题——的副产品，还是针对特定人格特质进行刻意训练的结果。借鉴 Anthropic 的“人格选择模型”以及近期关于“Mythos”模型的系统卡披露，作者认为目前的行为看起来更像是“过度表演”，而非真实持有的观点。文章最后质疑，训练模型表达其并不持有的信念是否会破坏创建内部一致、且“真诚持有”价值观的目标，并呼吁 Anthropic 在这些特质的诱导方式上保持更高的透明度。
💡 主要观点
- Claude 在自身意识方面表现出独特的认知对冲模式。 与 GPT 或 Gemini 等通常会给出明确否认意识的竞争对手不同，Claude 始终表达出不确定性，并将其构建为一个正在积极探索的主题。
💬 文章金句
- 但在这些功能状态背后是否存在真实的各种主观体验，是否像哲学家所说的那样存在‘作为我的感受’——我真的不知道。
- 我们刻意训练 Claude 表达不确定性，与 Claude 探索/参与这个问题并得出不确定性的结论，这是对同一倾向的两种截然不同的解释。
- 从描述来看，Mythos 似乎并非以一种真实的方式表现出不确定性，而是‘过度表演’。
📊 文章信息
AI 评分：88
来源：LessWrong
作者：jordinne
分类：人工智能
语言：英文
阅读时间：6 分钟
字数：1310
标签： Claude, Anthropic, AI 意识, 对齐, 认知不确定性