本文报道了用户用简笔画手指和假胡子成功骗过 Discord 等平台 AI 年龄验证的案例,分析了技术漏洞原因,并介绍了 Meta 用 AI 扫描骨骼结构等新方案来应对。
📝 详细摘要
文章以轻松幽默的笔调,报道了社交平台 Discord 为响应监管而推出的 AI 年龄验证系统被用户轻易绕过的有趣现象。用户通过在大拇指上画简笔画人脸、12 岁男孩用眉笔画假胡子等方式,成功骗过系统,被判定为 13-15 岁。文章深入分析了这一漏洞的技术根源:平台为保护隐私选择在设备端运行轻量级 AI 模型,模型主要依赖眼睛、嘴巴、脸部轮廓等视觉特征,对非标准输入鲁棒性不足;同时为降低误拒率,验证阈值设置得相对宽松。文章还介绍了 Meta 的应对方案:利用 AI 分析用户上传照片中的身高、骨骼结构等通用视觉线索,并结合账号文本内容进行综合判断,以识别未成年用户。文章最后指出,平台与用户之间的这场猫鼠游戏还将持续。
💡 主要观点
- Discord 的 AI 年龄验证系统被用户用简笔画手指和假胡子轻易绕过。 用户通过在大拇指上画简笔画人脸或画假胡子,成功让系统判定年龄在 13-15 岁之间,暴露了设备端轻量级 AI 模型的脆弱性。
💬 文章金句
- AI 年龄估算模型主要是用海量真实人脸数据训练出来的,对这种高度非标准、抽象化的输入本来就缺乏足够鲁棒性。
- rollout 初期,平台为了不让正常用户因为光线不好、角度不对或长相特殊而频繁失败,不得不把阈值设得相对宽松,也就给了这种低技术含量邪修方法可乘之机。
- 平台在用 AI 堵漏洞,用户想方设法钻漏洞。这场猫鼠游戏,大概率还会持续下去。
📊 文章信息
AI 初评:85
来源:机器之心
作者:机器之心
分类:人工智能
语言:中文
阅读时间:5 分钟
字数:1232
标签: AI 年龄验证, 面部识别, Discord, Meta, 隐私保护