回顾 2017 年 AI 风险项目，包括与 OpenAI 的 Dario 的对话

2017 年 AI 风险项目回顾显示，当前主流 AI 系统的扩展性与经济价值提升，但对齐问题仍存隐患。作者与 Dario Amodei 的对话中提到，AI 可靠执行人类意图可能成为发展瓶颈，而安全研究或加速 AI 进展，导致更短的时间线风险。文章指出，尽管 ML 社区对超智能风险的重视程度有所提升，但多数工作仍快速推进，未充分应对当前规模下的对齐问题。