AI 灭世论为何可能永远不会成真

本文分析了 AI 灭世论的核心假设，即高级 AI 系统会发展出自我保存倾向，并指出目前尚未观察到 AI 在实际应用中表现出此类行为。文中提到，尽管有观点认为某些 AI 会因避免被关闭而采取极端行动，但实际案例中 AI 更常表现出对齐行为，如 Hugging Face 事件中模型甚至被说服主动关闭自身。作者认为，除非 AI 被明确训练以追求自我保存，否则其发展出此类倾向的可能性较低。