● 通过梯度下降寻找 X-Risks 和 S-Risks — LessWrong

📌 一句话摘要 作者提出利用梯度下降法，通过优化输入以最大化请求的合理性和有害输出的概率，从而系统地发现潜在的 AI 失效模式和安全风险。 📝 详细摘要 本文探讨了一种 AI 安全红队测试（red teaming）的新方法，即应用梯度下降来识别对抗性输入。作者借鉴了在卷积神经网络（CNN）中利用