你刷到的“内幕”“真相”，可能是 AI 批量生产的

📌 一句话摘要

本文深入分析 AI 生成虚假信息的机制，指出“AI 生成”标签治理效果有限，核心问题在于信任竞争，并提出多层面治理建议。

📝 详细摘要

文章从 AI 大幅降低虚假信息生产门槛出发，指出虚假信息可能从孤立谣言演变为持续弥漫的信息环境。作者引用跨国研究说明，“AI 来源”标签并未显著降低人们的可信度判断，标签治理因“AI 生成不等于虚假”、浏览习惯及既有立场而效果有限。文章进一步分析虚假信息被相信的深层原因：它嵌入并激活社会情绪，利用了公众对主流媒体、专家、企业的不信任，且重复制造熟悉感转化为可信。作者提出四方面治理建议：精细化标签（区分合成程度与领域风险）、从单条内容治理转向传播链条治理（识别异常传播模式）、企业将 AI 内容纳入声誉治理体系、公共部门提升可信表达能力（不仅告知结论，更要提供证据与解释）。文章强调，AI 时代的治理核心是信任竞争，重建值得信赖的信息环境是根本挑战。

💡 主要观点

- AI 大幅降低了虚假信息的生产门槛，使其可能演变为持续弥漫的信息环境。 AI 让一个人可以同时扮演多种身份并生成无数版本的内容，虚假信息不再是孤立谣言，而是通过重复和相似叙事构建“可信”假象。

“AI 生成”标签的治理效果有限，不能自动改变受众的信任判断。 研究显示，即使标注 AI 来源，人们的可信度判断和分享意愿并未显著降低，原因是标签无法对抗浏览习惯、既有立场以及“AI 生成≠虚假”的现实。

虚假信息被相信的根源在于它激活了社会情绪，并利用了已有的不信任。 当公众对主流媒体、专家、企业不信任时，标榜“内幕”“真相”的内容反而更容易被接受，标签甚至可能强化对立心态。

治理需要多维手段：精细化标签、传播链条分析、企业声誉监测、公共表达升级。 作者建议平台按内容类型和风险细化标签，分析传播行为识别系统性操纵，企业建立异常内容监测，公共部门提供详实、及时的解释而非简单结论。

重建值得信赖的信息环境是 AI 时代信息治理的核心挑战。 在合成表达日益普及的情况下，最稀缺的是值得相信的内容，平台、企业和公共部门需共同努力建设可信的信息生态。

💬 文章金句

- 虚假信息已不再只是几条孤立的谣言，它可能演变成一种持续弥漫的信息环境。

• 重复本身就会制造熟悉感，而熟悉感又会悄然转化为某种‘可信’。
• 这就是 AI 时代虚假信息治理的核心难题：它不只是内容的竞争，更是信任的竞争。
• 未来的信息社会中，最稀缺的是值得相信的内容。

📊 文章信息

AI 初评：84

来源：南方人物周刊

作者：南方人物周刊

分类：人工智能

语言：中文

阅读时间：11 分钟

字数：2554

标签： AI生成内容, 虚假信息, 信息治理, 媒体素养, 社会信任

阅读完整文章