2017年AI风险项目回顾：扩展性提升但对齐问题存隐患

一篇回顾性文章指出，当前主流AI系统的扩展性与经济价值已提升，但对齐问题（即AI可靠执行人类意图）仍是隐患。 作者回顾了2017年与OpenAI的Dario Amodei等人的对话，其中提到对齐问题可能成为发展瓶颈，而安全研究本身或加速AI进展，导致更短的时间线风险。 文章认为，尽管机器学习社区对超智能风险的重视程度有所提升，但多数工作仍在快速推进，未充分应对当前规模下的对齐问题。

AI 根据报道生成 · 53 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。