通过 AI 培育数字信任：自动化事实核查对抗虚假信息

Title: 通过 AI 培育数字信任：自动化事实核查对抗虚假信息丨复杂系统管理学第四季第五期 | BestBlogs.dev

URL Source: https://www.bestblogs.dev/article/0f4f058b?amp%3Butm_medium=feed&%3Butm_campaign=resources&%3Bentry=rss_article_item

Published Time: 2026-07-09 14:31:00

Markdown Content: 87

This article introduces Professor Li Yupeng from Hong Kong Baptist University's sharing at the Complex Systems Management Science Reading Group regarding the framework, robustness challenges, and interdisciplinary applications of automated fact-checking, exploring the opportunities and limitations of AI in combating misinformation. 集集智俱乐部

Today 4880 words (about 20 min) View Source →

集智俱乐部 2026-07-09 14:31 湖南

!Image 1

本期时间为7月11日周六14:30-16:30。

!Image 2 导语当今世界正深受信息失真与信任危机的困扰。虚假信息在多个领域持续扩散，人为生成或由人工智能生成的不实内容不断涌现，数字空间中的可信度面临前所未有的挑战。与此同时，面对不断演化的攻击与威胁，人工智能系统自身的安全性与鲁棒性也亟待重新审视。本期读书会将聚焦塑造当代技术生态的关键议题：自动化事实核查及其可信性挑战。本期读书会为「复杂系统管理学读书会第四季」第五期，香港浸会大学李钰鹏教授将从技术框架、鲁棒性评估到跨学科视角，全面剖析自动化核查的机遇与挑战，展望人机协同的未来。本期读书会将于7月11日周六14:30-16:30线上进行。集智俱乐部「复杂系统管理学读书会第四季」邀请清华大学教授、西南财经大学社会发展研究院客座教授罗家德，电子科技大学计算机科学与工程学院教授周涛，复旦大学计算与智能创新学院教授陈阳，暨南大学新闻与传播学院副教授赵甜芳，以及产业复杂科学推动者、北大纵横合伙人陈雁鸿共同发起，聚焦讨论如何在人工智能时代用复杂科学与AI技术滋养自组织生态，用复杂系统理论指导真正的AI原生组织重构。

!Image 3: 图片

!Image 4

报告简介

在数字信任既是进步基石又是脆弱商品的时代，当前技术景观面临着关键挑战：人为或AI生成的不实信息肆意传播，以及AI系统面对不断演化威胁的脆弱性。本次讲座将深入探讨对抗虚假信息的斗争。我们将探讨不实信息辟谣的鲁棒性问题，并介绍一个精心构建的基准数据。随着虚假信息的广泛传播，自动化事实核查已成为学术研究与社会关注的焦点。报告还将讨论在大语言模型时代信息可信度面临的新挑战。当今世界正深受信息不可信现象在多个领域无节制扩散之苦，我们希望通过对信息可信度与人工智能可信度的持续研究，为构建更安全、更具韧性的数字未来贡献力量，助力让世界变得更加美好。

分享大纲

数字信任危机与虚假信息挑战

数字信任为何正在成为数字社会的重要基础？从人为制造到AI生成，不实信息的生产与传播方式正在发生变化，并持续影响个人判断、社会共识与公共决策。本部分将梳理虚假信息治理面临的现实挑战，说明自动化事实核查研究的社会意义。

AI驱动的自动化事实核查

介绍自动化事实核查的基本框架，包括待核查声明识别、可信证据检索、证据分析、真实性判断与结果解释等关键环节，展示人工智能如何帮助人们更快速、更系统地辨别信息真伪。

事实核查的鲁棒性与基准数据

现实中的虚假信息并不会以固定形式出现。措辞改写、语境变化、证据缺失和有意干扰，都可能导致事实核查系统失效。本部分将聚焦自动化辟谣的鲁棒性问题，并结合相关研究中构建的基准数据，介绍如何系统评估模型在复杂场景下的稳定性与泛化能力。

自动化事实核查的跨学科研究属性

虚假信息不仅是一个算法问题，也与信息传播、社会认知、新闻实践及公共治理密切相关。本部分将说明自动化事实核查如何连接计算机科学、传播学、社会科学等领域，通过整合多学科理论、方法与实践知识，更完整地理解不实信息的生成、传播、影响与干预。

人机协同：从可信信息走向数字信任

事实核查的未来并非以机器完全取代人类，而是充分发挥人与AI各自的优势：机器负责大规模筛查、证据检索与模式识别，人类承担语境理解、复杂判断与结果审核。本部分将进一步讨论人机协同如何提升事实核查的效率与可靠性，为构建更安全、更具韧性的数字信息生态提供支撑。

核心概念

* 数字信任（Digital Trust）

指个人和社会对数字信息、网络平台及人工智能系统真实性、可靠性与安全性的信心。数字信任不仅取决于信息是否准确，也与信息来源、传播过程和技术机制能否被验证有关。

* 不实信息与虚假信息（Misinformation and Disinformation）

不实信息泛指与事实不符或可能误导受众的内容，既包括因误解或疏忽而无意传播的错误信息，也包括被有意制造和扩散、用于欺骗或操纵认知的虚假信息。宣传标题中使用“虚假信息”更具辨识度，研究中则需要对不同类型的不实信息进行区分。

* 自动化事实核查（Automated Fact-Checking）

指利用自然语言处理、信息检索、机器学习等技术，自动识别待核查声明、寻找相关证据，并判断声明是否得到事实支持。其目标是提升事实核查的速度、规模与一致性。

* 事实核查的鲁棒性（Fact-Checking Robustness）

指事实核查系统在信息表述变化、证据不完整、数据环境改变或受到有意干扰时，仍能维持稳定判断能力的程度。鲁棒性决定了系统能否从实验环境真正走向复杂的现实场景。

* 基准数据集（Benchmark Dataset）

指按照统一任务和标准构建、用于训练与评估不同事实核查方法的数据集合。高质量的基准数据能够揭示模型在准确性、鲁棒性和泛化能力方面的优势与局限，为相关研究提供可比较、可复现的基础。

* 跨学科研究（Transdisciplinary Research）

指围绕复杂现实问题，超越单一学科边界，整合不同领域的理论、方法与实践知识。自动化事实核查既涉及计算机科学中的算法与系统，也需要结合传播学、社会科学、新闻实践及公共治理，理解不实信息从产生到干预的完整过程。

* 人机协同（Human-AI Collaboration）

指人类与人工智能在事实核查过程中形成互补分工。机器擅长处理海量信息、快速检索证据和识别模式，人类则更适合进行语境理解、复杂推理、社会与伦理判断以及最终审核。二者协同能够更好地兼顾核查效率、判断质量与社会责任。

主讲人介绍

!Image 5 主讲人：李钰鹏，香港浸会大学互动媒体系，博士生导师，现任人工智能媒体研究中心“AI向善实验室”主任。

主要从事面向社会的人工智能、可信大模型与社会计算等跨学科研究，致力于研发具有社会价值的创新人工智能技术，应对虚假信息甄别、可信网络系统、听障群体无障碍沟通等具有重要社会意义的前沿挑战。

现任计算社会科学交叉学科期刊《ACM Transactions on Social Computing》信息主任，曾担任 IEEE ICDCS程序委员会联合主席（TPC Co-Chair），并两度获评 IEEE INFOCOM 杰出程序委员会委员。入选微软亚洲研究院 StarTrack Scholars计划，先后获香港浸会大学校长杰出青年研究学者奖、香港浸会大学知识转移奖、日内瓦国际发明展“国际传媒大奖”等多项荣誉。

参考文献

[1] “Debating Truth: Debate-driven Claim Verification with Multiple Large Language Model Agents,” H. He et al., Proceedings of the ACM Web Conference (WWW), 2026.

当真假信息在数字媒体中不断交锋，AI能否像专业核查员一样“辩论求真”？DebateCV让多个大模型智能体分别陈述、质疑和裁决证据，以提升复杂信息的核查准确率和论证质量。这项研究融合人工智能、事实核查与传播研究，为理解人机协同的信息验证提供了新视角。

[2] “TVGN: Mastering Predictions of Information Transmissibility in Time-Varying Networks,” X. Shi and Y. Li, Proceedings of International Conference on Computational Data and Social Networks, 2024. [Best Student Paper Award]

一条信息为何会迅速扩散，另一条却悄无声息？TVGN聚焦不断变化的传播网络，预测信息在不同时间和网络结构中的传播潜力。研究连接网络科学、计算社会科学与传播研究，可为舆情分析、内容传播和扩散风险研判提供技术支持，并获“最佳学生论文奖”。

[3] “Near-Optimal Online Learning with Non-Stochastic and Unbounded Erroneous Feedback,” D. Wen et al., Proceedings of IEEE INFOCOM, 2026.

当反馈数据充满噪声、故障甚至恶意操纵，AI还能否持续作出可靠决策？RONEF通过识别和削弱极端错误反馈的影响，帮助在线学习系统在复杂环境中保持稳定。这项工作为资源分配、移动众包和智能网络等应用提供了更具韧性的决策方法。

[4] “Message Injection Attack on Rumor Detection under the Black-Box Evasion Setting Using Large Language Model,” Y. Luo et al., Proceedings of the ACM Web Conference (WWW), 2024.

社交媒体上的谣言检测系统，可能仅因几条由大模型生成的新回复而受到误导。HMIA-LLM模拟现实平台中的黑盒攻击，通过注入恶意信息干扰检测结果，揭示自动化内容治理工具的潜在漏洞，也提醒传媒平台重新审视AI审核与传播安全之间的关系。

[5] “Fact2Fiction: Targeted Poisoning Attack to Agentic Fact-checking System,” H. He et al., Proceedings of AAAI, 2026.

事实核查AI本应阻止虚假信息，却也可能被精心设计的证据“带偏”。Fact2Fiction针对智能体核查系统构造定向投毒攻击，揭示自动化事实核查在数字媒体环境中的安全风险。这项研究连接人工智能安全、信息可信与传播治理，为构建更可靠的媒体核查机制敲响警钟。

[6] “Robust Decentralized Online Learning against Targeted and Untargeted Malicious Data Feature Manipulation,” Y. Li et al., IEEE Trans. Mobile Comput., vol. 25, no. 6, pp. 7611–7625, 2026.

当多个设备共同训练AI时，少量被篡改的数据也可能在系统中持续扩散。该研究针对不同类型的数据操纵攻击提出三种防御方法，提升去中心化学习的稳定性与可靠性。工作横跨机器学习、网络系统与安全研究，为可信分布式AI提供了新的解决思路。

[7] “Augment Online Linear Optimization with Arbitrarily Bad Machine-Learned Predictions,” D. Wen et al., Proceedings of IEEE INFOCOM, 2024.

AI系统常常需要参考其他模型给出的预测，但这些“建议”也可能严重失准。OLOAP能够在预测可靠时充分利用其价值，在预测错误时及时降低依赖，让在线决策既能借助AI，又不被AI误导，为复杂环境中的稳健智能决策提供了实用方法。

[8] “MCFEND: A Multi-source Benchmark Dataset for Chinese Fake News Detection,” Y. Li et al., Proceedings of the ACM Web Conference (WWW), 2024.

社交媒体、即时通讯和网络新闻中的虚假信息，往往具有截然不同的表达与传播方式。MCFEND汇集多类数字媒体平台的中文新闻，为检验模型能否跨平台识别虚假内容提供了重要基准。该研究结合人工智能、新闻传播、心理学与计算社会科学，推动虚假新闻检测走向更加真实、复杂的传播场景。

时间信息

2026年7月11日周六14:30-16:30，腾讯会议线上进行，集智俱乐部B站号同步直播。

感兴趣的朋友下滑扫描二维码报名，加入复杂系统管理学第四季读书会后，可进入学员群进行交流。

报名读书会：

「寻找AI驱动复杂组织进化的新路径丨复杂系统管理学第四季」

集智俱乐部「复杂系统管理学读书会第四季」邀请西南财经大学社会发展研究院客座教授、清华大学教授罗家德，电子科技大学计算机科学与工程学院教授周涛，复旦大学计算与智能创新学院教授陈阳，暨南大学新闻与传播学院副教授赵甜芳，以及产业复杂科学推动者、北大纵横合伙人陈雁鸿共同发起。

第四季复杂系统管理学读书会立足于“AI驱动的复杂组织系统管理”这一主题，旨在突破单一视角的局限，从管理哲学与前沿技术的双重视角，探寻人工智能时代组织进化的未来路径。从 2026 年 6 月 13 日开始，每周六14:30-16:30，预计持续 8～10 周，采用腾讯会议线上直播与北京、广州、成都、上海四城线下联动的混合模式。期待与各位同仁共同学习复杂系统管理领域的前沿理论、共同探讨复杂科学理论在 AI 组织管理场景的实践与展望，一起应对百年未有之大变局下的组织发展未来。

扫描海报中二维码报名参加读书会

!Image 6 报名方式：

第一步：微信扫码填写报名信息。

!Image 7

（扫码报名）

第二步：填写信息后，付费报名。如需用支付宝支付，请在PC端进入读书会页面报名支付：

第三步：添加运营助理微信，拉入对应主题的读书会社区（微信群）。

PS：我们鼓励围绕复杂系统管理学与人工智能及相关具体问题的深入探讨。为保证讨论质量，请避免发表脱离本期读书会主题、缺乏实证基础或过于空泛的哲学思辨类内容。

若讨论内容明显偏离主题，经主持人提醒后仍未调整，为维护整体学习环境，我们将不得不将该成员请出讨论群，并根据其实际参与进度，对未参与部分按比例办理退费。

感谢您的理解与配合，让我们共同营造一个专注、深入、有收获的共学空间。 加入社区后可获得的资源

完整权限包括：线上问答、录播回看、资料共享、社群交流、信息同步、共创任务获取积分等。

!Image 8

特色退费与激励机制

我们提供以下两种途径，让您的投入获得实际回馈：

任务达标退费路径

认领并合格完成任意两期字幕任务，即可退还全额报名费，并额外获得集智专属周边奖励。

运营成长激励路径

合格完成一个字幕任务后，可申请成为运营助理。在读书会项目顺利结项后，将退还学费。表现优异者，还有机会获得额外的奖学金。