越懂你，越危险？MemPrivacy 揭示 AI 记忆下一站

📌 一句话摘要

MemPrivacy 提出了一种面向端云协同 Agent 的隐私保护框架，通过本地可逆伪匿名化技术，在保护用户敏感数据不离开本地的同时，保留语义结构供云端使用，在隐私提取 F1 分数上最高比 OpenAI privacy-filter 高出 50.47%。

📝 详细摘要

本文介绍了记忆张量 MemTensor 团队与荣耀 HONOR 联合开源的 MemPrivacy 框架，旨在解决端云 Agent 长期记忆场景下的隐私保护难题。文章指出，OpenAI 的 privacy-filter 仅提供 8 类基础隐私标签，粒度太粗，无法满足 Agent 对复杂上下文的理解需求。MemPrivacy 的核心思路是「本地可逆伪匿名化」：在端侧将敏感信息替换为细粒度类型化占位符（如），映射关系仅保存在本地，云端只能看到语义结构而看不到明文。该方案引入了四级隐私分类法（PL1-PL4），支持用户按需调控脱敏阈值。在 MemPrivacy-Bench 基准上，MemPrivacy-4B-RL 的综合 F1 分数达 85.97%，远超 OpenAI privacy-filter 的 35.50%，且系统效用损失控制在 0.71%-1.60% 之间。模型采用 Qwen3 系列基座，经过 SFT 和 GRPO 强化学习两阶段训练，已全部开源。

💡 主要观点

- MemPrivacy 提出本地可逆伪匿名化方案，解决端云 Agent 隐私与效用矛盾。 在端侧将敏感信息替换为细粒度类型化占位符，映射关系仅存本地，云端只能看到语义结构，实现「明文不上云，语义仍可用」。

四级隐私分类法（PL1-PL4）实现了精细化的隐私保护粒度。 从致命核心级凭证到基础画像级偏好，按可识别性、危害性和可利用性分层，支持用户自由调控脱敏阈值，避免一刀切。

MemPrivacy 在隐私提取准确率上大幅领先 OpenAI privacy-filter 和通用大模型。 在 MemPrivacy-Bench 上 F1 达 85.97%，比 OpenAI 的 35.50% 高出 50.47%，且 0.6B 微型版本也能碾压 GPT-5.2 等千亿级模型。

系统效用损失极低，最高防御级别下准确率下降不到 1.6%。 相比传统不可逆掩码导致记忆系统准确率暴跌 16%-42%，MemPrivacy 在保护隐私的同时几乎不影响 Agent 的个性化能力。

💬 文章金句

- 让 Agent 可用，但不可见。

MemPrivacy 选择的是第三条路：细粒度类型化占位符。
隐私提取不是简单堆大参数就能解决的问题。它更像一个高度结构化、强约束、强边界感的任务。
MemPrivacy 真正做到了在不伤害智能体智商的前提下，把隐私泄漏风险降到了最低。
对端云 Agent 来说，'可记忆' 之后，'可安全记忆' 正在成为下一阶段真正的基础设施问题。

📊 文章信息

AI 初评：86

来源：机器之心

作者：机器之心

分类：人工智能

语言：中文

阅读时间：22 分钟

字数：5276

标签： AI 隐私保护, 端云协同, Agent 记忆, MemPrivacy, 伪匿名化

阅读完整文章

越懂你，越危险？MemPrivacy 揭示 AI 记忆下一站

🤖 問 AI