Desiderata for the Theory of Agents

本文提出用于解决超级智能（ASI）对齐问题的智能体理论应具备的概念目标，并指出现有理论在这些目标上的不足。智能体被非正式定义为能在多种环境中有效引导其行为以实现特定偏好的系统，需构建环境模型并制定长期计划，同时具备统计效率和计算效率。人类、未对齐的ASI和对齐的ASI（如GDS）是该理论下的主要智能体案例，而岩石、细菌和恒温器则不被视为智能体。