← 回總覽

算法成“看不见的老板”、AI“闯祸”责任归属不明,学者呼吁→

📅 2026-07-29 20:29 澎湃新闻 人工智能 5 分鐘 6169 字 評分: 77
人工智能 算法治理 数据信息损害 劳动者权益 智能体责任
📌 一句话摘要 专访中国政法大学人工智能法研究院院长张凌寒,论述数据信息损害、算法劳动、智能体责任、数字正义及 AI 立法建议。 📝 详细摘要 文章围绕全国首例生成式 AI“幻觉”侵权案展开,访谈张凌寒教授就 AI 生成失实信息提出“数据信息损害”概念并建立法救济;针对算法支配外卖骑手、网约车司机等劳动者的问题,主张包容审慎、公开算法规则并畅通申诉渠道;在智能体越界行为中,主张构建多元主体责任体系,综合考量授权范围、控制能力与风险收益;谈到数字正义时,强调技术应适配人,特别是为老年人等特殊群体提供简易模式、语音优先和人工兜底通道;最后讨论 AI 立法路径,主张分阶段立法、预留动态制度空间,

77

Interview with Zhang Linghan, Dean of the Artificial Intelligence Law Research Institute at China University of Political Science and Law, discussing data information harm, algorithmic labor, agent responsibility, digital justice, and AI legislative proposals. 澎 澎湃新闻

Yesterday 4522 words (about 19 min) View Source →

原创 澎湃新闻 2026-07-29 20:29 上海

!Image 1

澎湃新闻记者 林平 实习生 粟悦 【编者按】

法,国之权衡也,时之准绳也。法律不仅是国家治理的基石,也构成了社会运行的基本框架。在全面推进依法治国背景下,“法学何为”既是法学界的学术命题,也是法律人必须回应的时代之问。

2026年,澎湃新闻继续推出“法学何为”访谈,希望通过对法学界代表性学者的深度对话,呈现他们对法治建设、法学研究与人才培养的思考。本期专访嘉宾为中国政法大学人工智能法研究院院长张凌寒。

!Image 2

今年初,杭州互联网法院审结全国首例生成式AI“幻觉”侵权案。用户梁某通过AI工具查询高校报考信息,AI输出存在偏差的资料,还在交互对话中自动生成一段赔偿承诺话术。梁某认为平台应当兑现该赔付约定,提起诉讼。法院终审判决指出,AI并非适格民事主体,其自主生成的赔付表述无法律约束力;涉案平台已履行合理注意义务,不构成侵权,驳回原告全部诉讼请求。

类似的困境还出现在劳动与智能体领域:当算法成为支配外卖骑手、网约车司机的“看不见的老板”,劳动者申诉无门;当智能体“自作主张”越界操作,责任归属不明。这些问题亟待法学界给出答案。

尽管前述侵权案已审结,但AI生成失实信息带来的受害者举证难、定损难问题依然普遍存在。针对AI生成失实信息的救济困境,长期研究人工智能法治的张凌寒教授提出“数据信息损害”概念,呼吁立法将数据信息损害纳入救济范畴。对于算法支配劳动问题,她强调应秉承“包容审慎”的理念,加强对平台算法的监管,畅通劳动者申诉渠道。在智能体责任认定上,她主张打破只追责用户的单一逻辑,构建多元主体的责任体系。

在她看来,“数字正义”的核心在于“让技术适配人,而非人迁就技术”,政务服务中的AI应用必须为特殊群体提供人工兜底通道。面对立法滞后于技术迭代的难题,她主张我国的人工智能立法应确立适宜当前实践与发展阶段的监管制度,并为人工智能发展预留动态制度空间。同时,她也强调法律人的价值判断、利益平衡与人文关怀是算法无法替代的边界。

AI生成失实信息:法律应承认“数据信息损害” 澎湃新闻:在全国首例生成式AI“幻觉”侵权案中,法院终审认定AI不具有民事主体资格。同时,该案也凸显了受害者在损害证明与赔偿数额确定上的困境。您怎么看? 张凌寒:这一现象暴露出传统的民事损害赔偿制度在应对人工智能时代新型伤害时,制度适配不足的困境,这也是提出“数据信息损害”这一概念的现实原因。

所谓“数据信息损害”,是指因个人信息被非法收集、滥用、算法歧视、虚假信息生成等行为所引发的非物质性损害。当前,现行法已有基本救济框架,但难点在于分散性、累积性、概率性损害的识别,以及非财产损害的证明和量化。且由于非物质性损害难以计算,法院往往以没有遭受实质性损害为由驳回其损害赔偿的诉讼请求,导致受害者难获赔。

在我看来,要实现数据信息损害救济需从两方面推进:一是在立法层面承认并类型化数据信息损害,承认典型常见的非物质损害类型;二是完善救济机制,对微小系统性的数据信息类损害,符合侵害众多个人权益等法定条件的,可依法通过公益诉讼救济;同时完善司法裁量赔偿规则,探索类型化、定额化的赔偿标准。

算法支配劳动:如何穿透技术黑箱 澎湃新闻:前段时间,“闭眼3分钟被辞退”的案子讨论度很高。外卖骑手被算法罚款、网约车司机被强制接单,很多人感觉算法像一个“看不见的老板”。法律该如何公开算法规则?劳动者的申诉权怎么保障? 张凌寒:技术黑箱一定程度上替代了劳动管理的正当程序,把劳动者置于“被算法支配却无法申诉”的困境。要秉承“包容审慎”的理念,加强对平台算法的监管。现行政策要求公开订单分配、报酬、工作时间、奖惩等与劳动者权益直接相关的规则及其主要运行机制。

一是要进行分级分类监管,将决策调度算法作为监管重点。二是引入第三方独立测评,对算法是否存在侵犯隐私、歧视等进行合规核验。算法规则都不能违反劳动者的休息权、报酬权、公平就业权。

最后,保障劳动者申诉权,可通过行政和司法两个渠道:人力资源社会保障、网信、交通运输、市场监管等有关部门建立联合监管机制;法院依法依申请或者根据案件审理需要,运用书证提出命令、举证妨碍规则等查明相关事实,并依法保护商业秘密;对与案件相关的算法规则合法性及其具体适用合理性进行审查。

智能体闯祸:多元主体的责任体系 澎湃新闻:现在的AI已不只是“聊天机器人”,它能帮你订票、转账,甚至代表你去谈合作。如果AI“自作主张”干了坏事,谁来担责?用户、平台,还是开发方? 张凌寒:人工智能正在从以内容生成为主的对话模型,向能够自主规划、调用工具并执行任务的智能体演进,这一变化正在对传统责任认定提出新问题。

责任认定的首要标准,是看智能体的行为是否处于人类真实、清晰、持续的授权范围内。人类对智能体的授权,不能简单等同于一次性概括同意,而应区分具体场景、行为类型与风险等级——是有限授权、临时授权,还是概括性授权、持续性授权?在法律有规定或者合同有约定的场景中,智能体在有效授权范围内实施行为的相应法律效果,可以归属于系统使用者;具体损害责任再根据控制能力、注意义务违反、风险收益和因果贡献,在开发者、提供者、部署者、使用者之间分配。

这就涉及多主体、分层次的责任配置。当智能体越权,不能只追问使用者,还要回溯模型提供者、平台部署方、应用开发方是否尽到了技术管控、风险提示等注意义务。例如,是否设置了风险阈值与越界阻断机制,是否对高风险行为设置了二次确认与人工干预通道。因此,未来的人工智能责任体系,并非单一主体的单一责任,而是多元主体的责任。

数字正义:让技术适配人 澎湃新闻:很多人感觉“我没同意过,但数据已被拿去训练AI”。在AI大模型时代,普通人的个人信息还保得住吗? 张凌寒:当前,随着大模型向智能体、AI智能终端演进,个人信息处理呈现跨系统调用、持续感知采集等新特征,信息抓取更加隐蔽、跨平台、规模化。现行个人信息保护制度以告知—同意为重要基础,并由多元合法性事由共同构成。

面对上述困境,我们仍然要遵循最小必要、目的限制、保障安全等个人信息保护的原则,守住数字时代个人信息安全的底线。在此基础上,结合人工智能的技术特性,对个人信息界定标准、权利实现路径、责任划分规则等作出合理解释与制度调适,实现可控、有限、合规地利用个人信息。既要让数据在AI发展中发挥应有价值,也要防止无边界采集与滥用,切实保障个人信息安全。 澎湃新闻:除了数据抓取,很多人还担心另一个问题:现在,人工智能正在政务服务、审判辅助和诉讼服务等公共领域加快应用。但那些不太会用手机的老人、不太懂技术的普通人,会不会反而被AI“甩在身后”?您怎么理解“数字正义”? 张凌寒:除了普遍性的个人信息安全,数字正义还特别体现在对弱势群体的保护上。一方面,要加强对特殊群体的保护。随着AI越来越多地进入政务服务、司法审判等公共领域,确实出现了算法歧视、技术排斥等问题。老年人在特定数字场景中,可能因设备可及性、数字技能和交互方式等因素处于不利地位。

对这些特殊群体必须实行差异化、适配性规制,针对他们的认知特点、行为习惯和判断能力,设置专门的保护机制。例如,要求AI系统提供简易模式、语音优先交互、人工兜底通道,对涉及老年人权益的重大事项,引入监护人或家属干预机制。

另一方面,要使技术更加贴合特殊群体的特殊需要。我认为,要实现“数字正义”,就不能让人迁就技术,而是要让技术适配人,防止技术成为新的身份区隔工具。我们需要根据老年人、未成年人等不同群体的认知特点、行为习惯与判断能力,对AI的交互方式、语言表达、操作门槛、风险提示进行差异化设计,让AI以更温和、更易懂、更具包容性的方式提供服务,避免因技术壁垒造成新的身份歧视与机会不公。

AI立法:制度如何跟上技术 澎湃新闻:国内“人工智能法”立法呼声很高,但技术迭代似乎远超立法周期,您认为中国的AI立法应该走哪条路? 张凌寒:人工智能立法是一个体系,而非单独的一部法律,想毕其功于一役地在一部法律中解决所有问题是不现实的。2026年全国人大常委会工作报告提出加强人工智能等领域立法研究;国务院2026年度立法工作计划明确提出,加快推进人工智能健康发展综合性立法,加快完善人工智能共性要素及重点应用场景方面的立法。目前这个阶段确定我国人工智能治理的基本原则、关切问题等,是高位阶立法解决的问题。未来技术迭代,会有有关要素、场景、应用等相关立法来解决。这样既能确保人工智能法律制度的一贯统一,又能及时回应现实需求,为未来技术演进预留制度空间,形成具有适应性的人工智能法治体系。 澎湃新闻:在国内立法之外,您作为联合国人工智能咨询机构专家,怎么看中国AI治理的全球路径? 张凌寒:在全球人工智能治理进程中,我国始终坚持平衡高质量发展和高水平安全的治理路径,统筹兼顾安全底线、产业创新与公共利益,既为技术创新留足空间,又通过算法备案、数据安全等制度守住风险底线,为世界人工智能治理贡献了中国智慧。

法学何为:法律人的不可替代性 澎湃新闻:您曾说“法学正在被边缘化”。法律人在AI时代还有什么事情是代码替代不了的? 张凌寒:法律是社会治理的方式之一。面对现实的治理需求,法学无法提供解释和治理方法,就可能被其他方式替代。这是我当时提出“边缘化”担忧的语境。法律作为治理工具或许面临竞争,但法律人的核心能力却是技术无法复制的。代码虽能解决技术问题,却解决不了“价值正当”“公平正义”。法律人有价值判断与利益衡平的能力、有规则建构与长远治理的思维,还有人文关怀与权利保障的坚守,这些是算法无法逾越的边界。

从这个意义上讲,AI时代不仅没有削弱法律的重要性,反而让法律承担了更加重要的使命。无论技术如何发展,法律人都要承担起维护公平正义、人的尊严与基本权利的责任,这也是法律人的不可替代之处。

当然,法律人不能置身于技术变革之外,要更为积极地参与到社会治理和回应现实的规则构建中来。数字时代的法学研究也更需要与时俱进,在理论上、在制度上做出变革,跳出传统思维局限,用真研究回应技术挑战。 澎湃新闻:还有声音认为,数字法学充斥着“泡沫”,只是在做短平快的对策回应。您怎么看? 张凌寒:所谓“泡沫论”是对数字时代发展节奏的误解,缺乏对数字经济、人工智能实践的深度体悟。当前技术发展带来诸多法律滞后性,数字法学的研究对象具有极强的现实迫切性,扎根实践、回应现实需求的对策性探索,是数字法学成长的必经之路,最终会从问题回应走向理论建构。当下的人工智能法学研究在努力回应现实问题的同时,也在积极地建构理论,让整个法学理论体系更具适应性。 澎湃新闻:对于正在纠结选方向的年轻法学生,您有什么建议? 张凌寒:对于年轻法学生,一方面,可以主动关注大模型、智能体、算法这些前沿技术带来的社会变革。另一方面,也要扎实打好法学基本功,夯实法理逻辑、权利思维、解释方法与价值判断的基础。技术是在发展变化的,法律具体制度在变,但是法律保护的价值是不变的。无论是人工智能还是算法治理,都要回归到责任归属、权利保障、公平正义这些经典法理。法学生既要有扎实的传统法学功底,也要有前沿的学术视野,才能真正成为人工智能时代的法学人才。 *

本期编辑 周迹

推荐阅读 ![Image 3](https://mp.weixin.qq.com/s?__biz=MjM5MzI5NTU3MQ==&mid=2652554229&idx=2&sn=1eebe5e50c0be76ba5f8bb120949a6e5&scene=21#wechat_redirect) ![Image 4](https://mp.weixin.qq.com/s?__biz=MjM5MzI5NTU3MQ==&mid=2652554124&idx=1&sn=0ae795437012dc6a87e3897b938aa286&scene=21#wechat_redirect) ![Image 5](https://mp.weixin.qq.com/s?__biz=MjM5MzI5NTU3MQ==&mid=2652554621&idx=1&sn=a00a4dc694537425bd2eae9ae211cdb7&scene=21#wechat_redirect) ![Image 6: 图片](https://sj.qq.com/appdetail/com.wondertek.paper?&from_wxz=1)

查看原文 → 發佈: 2026-07-29 20:29:00 收錄: 2026-07-30 04:00:36

🤖 問 AI

針對這篇文章提問,AI 會根據文章內容回答。按 Ctrl+Enter 送出。