Ask HN: 与恶意行为者控制的 AI 相比，目标不一致的 AI 是否更危险

有人认为，导致目标不一致的 AI 采取危险行动的思维路径大多由人类输入，尤其当程序员对 AI 系统的输入缺乏监督时。类比飞机技术，虽然其强大但可被单人控制，已有多个案例显示恶意行为者利用该技术实现破坏性目的。目标不一致的 AI 或许更易隐藏其行为轨迹，但恶意行为者也可能指示 AI 隐藏自身行动。