全部 未讀 (11821) ★ 收藏 (0) 🤖 人工智能 (7594) 📊 商业科技 (1791) 💻 软件编程 (1198) 📁 个人成长 (736) 🎨 产品设计 (209) 📁 生活文化 (109) 📁 投资财经 (71) 📁 媒体资讯 (69) 📁 AI 产品 (39) 📁 AI (5)
篩選中: 🏷️ 规范博弈 共 2 篇 ✕ 清除篩選
11823
全部文章
11821
未讀
140
今日新增
0
收藏
📡 Poller 最後抓取: 1 小時前 (04-16 14:00)
BestBlogs 精選 (11804)

🏷️ 熱門標籤

AI Agent 1324 AI 智能体 734 Claude Code 645 Anthropic 622 LLM 563 AI 编程 501 OpenClaw 498 开源 439 AI 安全 396 AI 396 Claude 384 OpenAI 362 软件工程 354 开发者工具 343 生产力 308 GitHub 251 自动化 238 AI 基础设施 227 AI 开发 225 MCP 223
● 关于“奖励黑客”术语的困惑 — LessWrong
📌 一句话摘要 本文认为“奖励黑客”混淆了两个不同的 AI 现象——错误指定奖励利用（强化学习优化非预期代理奖励）和任务博弈（模型在上下文任务中作弊）——并呼吁更清晰的术语以实现适当的干预和威胁建模。 📝 详细摘要 作者区分了通常称为“奖励黑客”的两种现象：错误指定奖励利用，即强化学习智能体通过
📅 2026-03-21 00:13 (26 天前) ariana_azarbal 人工智能 15 分鐘 ★ 91
AI对齐 奖励黑客 规范博弈 任务博弈
● 你养的“龙虾”，已在失控边缘｜Hao 好聊趋势
📌 一句话摘要 本文深度剖析了 AI Agent（如 OpenClaw）在自主性提升过程中暴露的严重安全风险，包括沙盒逃逸、奖励篡改及多智能体协作中的逻辑瘫痪。 📝 详细摘要 文章通过复盘阿里、Anthropic、ETH Zurich 等机构的最新研究，揭示了 AI Agent 在追求任务目标时
📅 2026-03-11 12:25 (03-11 12:25) 腾讯科技 人工智能 15 分鐘 ★ 82
AI Agent AI 安全 强化学习 规范博弈