计算智能体理论与超智能对齐系列前言

本文提出计算智能体理论与超智能（ASI）对齐系列，探讨如何在理论计算机科学与知识决策哲学领域填补理解空白以确保ASI安全。作者自2013年起关注该问题，并于2018年创建了学习理论对齐研究议程（LTA），尝试构建智能体的数学理论。2023年作者更新了议程概述，提出计算超级模仿对齐协议，并于今年成立了计算理性智能体实验室（CORAL）推进相关研究。