Vanessa Kosoy提出计算智能体理论以应对ASI对齐风险

Vanessa Kosoy发表文章，提出计算智能体理论与超智能对齐系列，旨在从理论计算机科学和知识决策哲学角度填补理解空白，以确保人工超级智能（ASI）的安全。 Kosoy称，她自2013年起关注该问题，并于2018年创建了学习理论对齐研究议程（LTA）。她表示，今年在LTA的一个关键缺失部分——组合学习理论方面取得了突破。 2023年，Kosoy更新了议程概述，提出了计算超级模仿对齐协议，并于今年成立了计算理性智能体实验室（CORAL）以推进相关研究。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。