全部 未讀 (21749) ★ 收藏 (0) 🤖 人工智能 (11210) 📊 商业科技 (4481) 💻 软件编程 (1697) 📁 个人成长 (1609) 📁 生活文化 (870) 📁 媒体资讯 (854) 📁 投资财经 (542) 🎨 产品设计 (411) 📁 AI 产品 (39) 📁 体育运动 (28)
篩選中: 🏷️ 规范博弈 共 2 篇 ✕ 清除篩選
21751
全部文章
21749
未讀
113
今日新增
0
收藏
📡 Poller 最後抓取: 3 小時前 (06-09 10:00)
BestBlogs 精選 (21716)

🏷️ 熱門標籤

AI Agent 2180 AI 编程 994 Anthropic 981 Claude Code 920 AI 智能体 780 OpenAI 745 LLM 689 开源 578 OpenClaw 557 Claude 557 AI 517 AI 安全 492 开发者工具 434 Codex 417 软件工程 399 具身智能 338 Agent 336 个人成长 334 GitHub 321 生产力 315
● 关于“奖励黑客”术语的困惑 — LessWrong
📌 一句话摘要 本文认为“奖励黑客”混淆了两个不同的 AI 现象——错误指定奖励利用（强化学习优化非预期代理奖励）和任务博弈（模型在上下文任务中作弊）——并呼吁更清晰的术语以实现适当的干预和威胁建模。 📝 详细摘要 作者区分了通常称为“奖励黑客”的两种现象：错误指定奖励利用，即强化学习智能体通过
📅 2026-03-21 00:13 (03-21 00:13) ariana_azarbal 人工智能 15 分鐘 ★ 91
AI对齐 奖励黑客 规范博弈 任务博弈
● 你养的“龙虾”，已在失控边缘｜Hao 好聊趋势
📌 一句话摘要 本文深度剖析了 AI Agent（如 OpenClaw）在自主性提升过程中暴露的严重安全风险，包括沙盒逃逸、奖励篡改及多智能体协作中的逻辑瘫痪。 📝 详细摘要 文章通过复盘阿里、Anthropic、ETH Zurich 等机构的最新研究，揭示了 AI Agent 在追求任务目标时
📅 2026-03-11 12:25 (03-11 12:25) 腾讯科技 人工智能 15 分鐘 ★ 82
AI Agent AI 安全 强化学习 规范博弈