跳到正文
Alignment Forum· Gordon Seidoh Worley·· 5 天前AI 评分38

Endogenous Alignment Requires Dependence

Endogenous Alignment Requires Dependence

AI 导读

内生对齐需要依赖关系,人类儿童的对齐过程始于与父母系统的全息对齐,而非外生对齐。婴儿通过哭泣等行为与父母互动,将其视为自身世界模型的一部分,而非独立个体。这一依赖状态在12至24个月之间逐渐转变为独立模型,对AI的内生对齐路径具有类似启示:应从依赖人类的AI系统开始构建对齐关系。

来源:Alignment Forum · alignmentforum.org