Concrete Problems in AI Safety

本文提出 AI 安全领域中五个具体的研究问题，涉及机器学习系统中可能因设计缺陷导致的意外有害行为。这些问题包括避免副作用、防止奖励黑客、可扩展监督、安全探索和分布偏移。文章回顾了相关领域的先前研究，并探讨了如何更有效地思考未来 AI 应用的安全性。