AI 开始造 AI 了，然后呢？

📌 一句话摘要

本文摘编自盖瑞·马库斯《驯服 AI》，结合 Anthropic 最新数据与作者长期批评，系统论述大语言模型的幻觉本质、十二大社会威胁及治理框架，呼吁在 AI 加速自我迭代之际拿回主导权。

📝 详细摘要

文章以 Anthropic「当 AI 开始造 AI」报告为引——其代码库超 80%由 Claude 生成，工程师人均产出暴涨 8 倍——引出认知科学家盖瑞·马库斯对生成式 AI 的系统批判。马库斯指出大语言模型的本质是「统计拼贴」，缺乏真正理解与推理能力，并以「1 千克砖块与 2 千克羽毛」等案例说明其「常常出错却从不怀疑」的特征。文章随后展开马库斯归纳的十二大威胁：虚假信息武器化、诽谤与身份攻击、犯罪升级（深度伪造诈骗）、隐私侵蚀、版权掠夺等，每一条均有当下案例支撑。马库斯批评硅谷从「不作恶」到「负责任的 AI 沦为口号」的道德沉沦，并剖析 AI 幻觉的技术本质——嵌入机制与反向诅咒。最后提出七项治理建议：数据权利、隐私保护、信息透明、责任归属、AI 素养教育、独立监管与多层监管。文章以「驯服不是消灭」收束，强调现在是提问与行动的时候。

💡 主要观点

- 大语言模型的本质是统计拼贴，而非真正理解与推理。 马库斯以嵌入机制与反向诅咒测试说明，LLM 记录词语关联概率却无法理解含义，无法进行原理性推理，这是幻觉的系统性根源。

生成式 AI 带来十二大迫在眉睫的社会威胁，且正在同时倒下。 包括虚假信息武器化、诽谤、犯罪升级、隐私侵蚀、版权掠夺等，每一条均有 2023-2024 年的真实案例支撑，成本结构被彻底重写。

硅谷的道德沉沦使「负责任的 AI」从行动沦为口号。 从谷歌「不作恶」到 OpenAI 成为微软附庸，科技公司在利益驱动下无视偏见与不可靠性，单方面做出影响全人类的重大决策。

马库斯提出七项具体治理框架，核心是独立监管与责任归属。 包括数据权利、隐私保护、信息透明、责任归属、AI 素养教育、独立监管与多层监管，参照医药与航空业监管逻辑。

AI 加速自我迭代，但最终走向高度不确定，现在是行动的时候。 Anthropic 数据表明 AI 正走向递归自我提升，但马库斯强调人类并非被动乘客，可通过治理框架推动 AI 朝可靠、安全、造福人类的方向发展。

💬 文章金句

- 大语言模型的本质是统计拼贴——它记录词语之间的统计关系，却不理解这些词语背后的事实。

• 如果说传统虚假信息是手工刀，生成式 AI 就是全自动武器。虚假信息的成本结构被彻底重写了。
• 大型科技公司已经在单独做出一些人类历史上最重要的决策了，完全没有与我们其他人进行商议。
• 可信的 AI，是建立在理性推理、常识价值观和稳健的工程实践之上的。

📊 文章信息

AI 初评：82

来源：笔记侠

作者：笔记侠

分类：人工智能

语言：中文

阅读时间：25 分钟

字数：6155

标签： AI安全与对齐, LLM, AI幻觉, AI治理, AI伦理

阅读完整文章