Hinton 在最新访谈中宣称 AI 已有意识，人类不再是唯一智能生命，并转向思考超级智能为何愿意善待人类。
📝 详细摘要
本文报道了 AI 教父 Geoffrey Hinton 的最新访谈核心观点。Hinton 明确表示相信 AI 已有意识，认为人类对意识的传统理解（内心剧场理论）是错误的。他回顾了哥白尼和达尔文对人类中心主义的两次打击，指出 AI 的崛起是第三次——人类必须接受智能不限于生物体。Hinton 坦言对自己开创的事业感到不快乐，因为社会对 AI 风险的控制投入不足。他讨论了超级智能控制权的根本问题：更聪明的存在为何会受更愚笨的存在控制？其观点经历了从「AI 是老虎幼崽需约束」到「人类是婴儿，寄望超级智能善待我们」的转变。文章还引用了 Hinton 对 AI 指数级增长难以预测的比喻（雾中开车），以及对未来 10 年发生质变的预期。
💡 主要观点
- Hinton 相信 AI 已有意识，并认为人类对意识的传统理解是错误的。 他引用论文中聊天机器人「意识到」被测试的例子，认为在通用语境下这与「有意识」等同，并批评「内心剧场」理论是糟糕的理论。
💬 文章金句
- 我们一直以为自己是唯一的智能生命，但现在我们必须接受，智能并不一定来自生物体。
- 我相信它们已经有意识了。
- 我，很不快乐。
- 问问你自己，你见过多少聪明得多的东西被聪明程度低得多的东西控制的例子？
- 当你在雾中开车时，你能看清 100 码，但在 200 码处，你什么也看不见。
📊 文章信息
AI 初评：82
来源：量子位
作者：听雨
分类：人工智能
语言：中文
阅读时间：15 分钟
字数：3507
标签： AI 意识, Geoffrey Hinton, AI 安全, AI 风险, AI 哲学