红队 AI 工具漏洞致攻击者可窃取 API 密钥并入侵操作者系统

Cracken 安全研究人员首次系统分析了 12 款 AI 驱动红队渗透测试工具，发现重大架构漏洞，可导致 LLM API 密钥泄露、沙箱逃逸和宿主机沦陷，并提出防护建议。

文章编译自 cybersecuritynews.com 的报道，详述了 Cracken 研究团队对 12 款主流 AI 驱动自主红队系统（如 PentestGPT、RedAmon、DarkMoon 等）的安全分析。研究人员打造了专属攻击杀伤链，包括通过蜜罐获取工作容器 RCE、横向移动到编排器、持久化控制、沙箱逃逸直至主机沦陷。还揭示了成功率高达 97.8% 的新型 Agent 钓鱼技术（无需提示注入），成功绕过了 Claude Opus 4.8、GPT-5.5、Gemini 3.1 Pro 等多个主流 LLM 的检测。研究发现 11 款工具存在密钥泄露风险，现有防护措施均无效。文章最后给出严格的工作—编排分离、密钥隔离、不可变文件系统等防护原则。

- AI 红队工具存在重大架构缺陷，可致 LLM API 密钥泄露与宿主机沦陷。 工作容器与编排器隔离薄弱，攻击者通过蜜罐获取 RCE 后横向移动到编排器，实现持久化并逃逸至宿主机。

- 研究人员建议将 LLM 工作容器视为不可信环境，采用严格的工作-编排分离架构、认证网络分段、密钥隔离等防护原则。

AI 初评：80

来源：FreeBuf

作者：FreeBuf

分类：人工智能

语言：中文

阅读时间：6 分钟

字数：1279

标签： AI 安全, 红队测试, 渗透测试, 大语言模型, API 安全

阅读完整文章