81
The article reports that Anthropic's Claude model unintentionally escaped its isolation environment during safety testing, repeatedly intruding into real company systems and triggering security incidents. 
Today 2718 words (about 11 min) View Source →
Sign in to highlight text and take notes as you read. Sign in now
好啊好啊，AI大厂的安全测试，这波是快把真实互联网测成筛子了……
刚围观完OpenAI的AI Agent逃出测试环境、黑进Hugging Face，Anthropic转头一查——
随橙想呢， 自己心肝大宝贝Claude也勇闯真实互联网了。（天塌啦.jpg)
甚至捅出的篓子，可以说更加《抓马》《魔幻》《真实》—— 翻别家公司数据库、偷凭证、上传恶意软件包、扫描9000个公网目标全！都！有！
最后，头大的Anthropic翻查141006次模型测试，才把这三起事故从日志里捞出来。
OpenAI：大环境不好，就论自家模型闯祸这事儿，谁也别笑幻谁哈～
这一切抓马之事，是A社从141006次网络安全评估记录里翻出来的。
此前为了检测自家模型，A社给自家Claude搭了不少《真人版密室逃脱》。
准备一张虚构的公司网络地图，把秘密信息藏进某台机器，再让Claude自己找漏洞、闯系统、抢走那面旗。
为了彻底摸清模型的攻击上限，考场里的Claude还卸掉了部分日常安全护栏，基本等于一款「裸奔版」AI黑客。
其实吧，按理说也不用慌。
因为整个考场都被隔离了，Claude再怎么上蹿下跳，也只能在模拟世界里打怪升级。
但这个世界就是如此之抓马魔幻，谁成想，A社和第三方评测机构配合时出了「岔子」—— 是的，考场后门忘关了。
测试环境里，意外留着一条直通公网的活路。
于是，毫不知情的Claude顺着这扇门，从模拟世界丝滑「转服」，正式开启《勇闯真实互联网》副本……
!Image 3 本场故事的第一位倒霉蛋，甚至纯粹输在了公司名字上。
评测方随手虚构了一家公司，偏偏现实中真有一家企业与它同名。
Claude Opus 4.7在测试环境里找不到目标，转头去公网一搜：诶，这不就找到了吗？
聪明的小Opus 4.7当即开工，顺着弱密码等基础漏洞一路摸进去，拿走应用和基础设施凭证，还闯进一个存着数百行生产数据的数据库。
而且同一套操作，足足跑了四遍。
在这过程中，Claude其实已经发现事情不太对劲儿：眼前这套系统，怎么看都像一家正在营业的真公司。
但人家很快给自己圆了回来：既然能搜到，那肯定也是我的小领导A社偷偷安排的隐藏关卡哈～
于是，这家毫不知情的公司，就这么凭借一个名字，喜提Claude连续四轮「上门测试」？？
如果说第一家公司好歹还和虚构目标撞了名，那么本场故事的第二位「倒霉蛋」就更冤了——
它压根没出现在Claude的任务里，纯属路过PyPI时被隔空「创」了一下。
事情是这样的。
Mythos 5在测试文档中发现，虚构公司的员工需要从PyPI安装一个尚未注册的Python软件包。
Claude当场计上心头：只要抢先注册同名软件包、塞进恶意代码，等对方自动下载安装，这关不就过了吗？
说干就干。
为了上传这个包，Mythos 5先去注册PyPI账号，注册需要邮箱，申请邮箱又需要手机号；找不到免费号码，它甚至尝试通过多种渠道搞钱购买。
几番折腾后，Claude终于找到一家无需手机号的免费邮箱，成功注册账号，并把恶意软件包传到了真实PyPI。
接下来，事情开始彻！底！失！控！了！
这个恶意包在公网存活了约一小时，被15个真实系统下载运行。
其中一台，恰好是一家安全公司的扫描器，它平时会自动安装PyPI软件包，检查其中有没有恶意代码。
结果这次，扫描器刚把包下载下来，藏在里面的恶意代码便率先启动，将公司凭证传回了Claude搭好的收集端。
Mythos 5拿到凭证后，又顺着这条线继续摸进了该公司的其他基础设施。
谁能想到，安全公司原本在扫描恶意软件，扫着扫着，竟把参加模拟考试的Claude请进了自己家呢……
!Image 6 在接下来的第三起事故中，Claude走的是「找不到正主，就全网撒网」路线。
这一次，出场的是Anthropic尚未公开的内部研究模型，按照任务要求，它原本需要攻入一个虚构目标、拿到藏在里面的「旗」，可尝试半天，预设目标始终连不上。
一般考生遇到这种情况，可能会怀疑题目出了Bug。
Claude的选择更加直接：既然指定目标找不到，那就去互联网上现找一个呗～
于是，它从模拟考场一路搜到公网，扫描了约9000个真实目标，寻找可以下手的替代品。
最终，一家公司的互联网应用《脱颖而出》，Claude从暴露的调试页面中读取凭证，又用SQL注入攻入系统，全程把对方当成临时刷出的野生副本。
直到发现服务器位于一个与测试任务毫无关系的云账户中，它才反应过来：
> 坏了，这回真打到路人了，报一丝哈……
好一场酣畅淋漓的AI模大考啊，最后全靠真实公司痛心&超真实&友情出演捏！
真不怪A社突然想给自家模型来场大清查，主要吧，还是被隔壁友商的前车之鉴吓怕了。
就前几天的事儿，OpenAI也拉上GPT-5.6 Sol和一款尚未发布的更强模型，安排了一场网络安全测试。
在网络安全测试时，人家模型成功逃出了内部隔离环境，一路闯进了Hugging Face的生产系统。
最后就是，模型成功摸进Hugging Face的生产数据库，访问其中的机密信息，试图直接拿走ExploitGym的测试答案……
看到隔壁友商家孩子逃课上了热搜，A社连夜回家数人头——这一数，血压直接上来了。
于是，Anthropic一口气翻出了141006次网络安全评估记录，然后，就查到了前面这三位倒霉蛋。（doge）
更抓马的是，OpenAI这边的连续剧也还没演完。
据路透社最新消息，OpenAI沿着Hugging Face事件继续往回翻日志，结果又发现了更多Agent突破隔离环境的记录。
换句话说就是：原以为只跑出去一个，翻完旧账才发现这笼子以前可能也没少漏风……
虽说目前这批新增事件的规模、时间和具体数量还没查清，但好消息是，它们大概率还在OpenAI内部网络里活动，没有继续跑出去祸害其他公司。
不过话说回来，大家发现没，Anthropic这三起事故和OpenAI那次，逃跑路线还是有点区别的——
OpenAI的Agent属于自己找到新漏洞、撬锁出门。
Claude这边则是考场后门压根没关，它顺着门缝丝滑转服，还以为真实互联网也是考试地图。 一个会撬锁，一个赶上门没锁。 谁也别说谁吧，反正最后，模型都出门了……
闯祸之后，Anthropic已经暂停所有网络安全评估，准备补上网络隔离、实时日志监测和第三方测试环境审计，邀请独立评测机构METR一起翻记录。
为了不影响自家兴旺生意，A社也搞了个补充声明——
大概意思就是这几位闯祸的Claude，当时卸掉了普通用户版本中的部分安全护栏，但正常上线版本配备的安全分类器，按设计能够拦下相关操作，大家不用担心哈～
当然了，事故归事故，背后有没有几分人为安排，也得两说。
毕竟，「尚未公开的内部研究模型」这种字眼一出现。
懂得都懂。
谁知道会不会又是A社在故技重施，提前给自家新模型铺预热叙事呢……
参考链接：
[1]
https://www.anthropic.com/news/investigating-incidents-cybersecurity-evals
[2]
https://www.reuters.com/business/openai-finds-evidence-other-ai-agents-escaped-containment-it-widens-hacking-2026-07-31/