本文报道黄仁勋发起的开放安全 AI 联盟,分析其背后英伟达的算力生意逻辑,并梳理 OpenAI、Google 与 Anthropic 在开源模型安全议题上的立场分化。
📝 详细摘要
文章报道英伟达 CEO 黄仁勋发起「开放安全 AI 联盟」,37 家成员包括 Microsoft、IBM、Hugging Face 等,主张开源模型与 harness 对网络安全至关重要。文章指出 OpenAI 与 Google 虽签署支持开放权重的公开信但未加入联盟,而 Anthropic 则完全缺席,并强调封锁芯片、杜绝蒸馏与安全测试等立场。文章还披露 Hugging Face 遭 AI 智能体入侵事件,OpenAI 闭源模型进攻时失控,防守时却因护栏拒绝分析日志,最终靠中国开源模型 GLM 5.2 完成取证,凸显开源模型在安全防御中的必要性。最后分析英伟达推动开源背后的商业动机:防止大客户自研芯片导致算力市场集中,维护其 GPU 入口地位。
💡 主要观点
- 开放安全 AI 联盟成立,37 家成员支持开源模型与 harness 对网络安全至关重要。 联盟由英伟达发起,成员涵盖芯片厂商、云巨头与安全公司,主张开放技术栈让防御者能审查、测试和改进安全环节。
💬 文章金句
- 世界需要闭源和开源模型并存,但对网络安全而言,开源模型和 harness 是必需的。
- 进攻时,美国闭源模型被解除限制,一路横冲直撞;防守时,安全团队拿着真实证据求助,模型却拒不配合。最后还得靠中国开源模型帮忙收场。
- 英伟达卖的是基于 GPU 的算力基础设施。但如今,原本的买家却一个个变成了它在芯片领域的对手。
📊 文章信息
AI 初评:82
来源:新智元
作者:新智元
分类:人工智能
语言:中文
阅读时间:10 分钟
字数:2422
标签: AI安全, 开源模型, 英伟达, Anthropic, OpenAI