作者挑战了技术进步不可避免的观点，认为社会经常通过监管、伦理监督和制度摩擦，有效减缓或阻止了特定的技术进步。
📝 详细摘要
本文批判了在 AI 发展背景下“我们无法阻止进步”这一常见论点。作者认为，这种观点混淆了“技术进步”与“社会改善”，并忽视了人类能够约束技术的历史和现实证据。通过引用 FDA 药物监管、核能限制、基因研究暂停以及 IRB 要求等案例，作者证明了社会经常对技术增长施加显著的阻力。文章最后得出结论：即使完全停止进步是不可能的，大幅减速在历史上也是可行且有先例的，这表明类似的机制可以应用于 AI 发展。
💡 主要观点
- 区分“技术进步”与“社会进步”。 作者认为，将所有技术增长都贴上“进步”的标签是一种修辞陷阱，它预设了积极的结果，而这些概念本应被独立评估。
💬 文章金句
- 人们说‘我们无法阻止进步’，却不知为何热衷于主张我们应该冒着被 AI 毁灭的风险，而不是考虑去违背这条所谓的定律。
- 首先，这似乎是在刻意混淆‘增加技术理解和/或工具’与‘事物变得更好’。
- 他们难道认为 FDA 没有减缓制药行业的发展吗？
- 即使完全阻止进步是不可能的，在这种情况下，大幅减缓它通常也就足够了！
📊 文章信息
AI 评分：86
来源：LessWrong
作者：KatjaGrace
分类：人工智能
语言：英文
阅读时间：4 分钟
字数：762
标签： AI 安全, 技术决定论, 监管, AI 治理, 伦理