微软CEO呼吁为先进AI建立紧急制动机制

微软 CEO 萨蒂亚·纳德拉在长文中指出，AI模型应被视为内部风险，开发者需默认假设其可能失控，并建立强制中断机制。他提出六项原则：模型多样性、观察一切、可验证性、独立控制、独立审计性、遏制和事件披露，强调系统需具备可观测性、可测试极限和始终可容纳行为的封闭架构。

Satya Nadella 呼吁对所有高级 AI 模型默认假设其已被入侵，并从一开始就实施“紧急刹车”机制，允许授权人员随时暂停或关闭模型。他强调需构建更透明的系统，确保模型可被监控并留下不可篡改的人类可读证据。该观点与行业其他建议一致，但更加强调从源头进行模型隔离与控制。

微软CEO Satya Nadella呼吁企业将先进AI模型视为潜在内部威胁，建立紧急制动机制以防止失控，强调必须假定模型遭入侵并从一开始就加以控制。他建议在关键决策中不依赖单一模型，保留智能体行动的不可篡改记录，并接受独立审计。此观点呼应了Anthropic和OpenAI近期披露的AI安全事件，也与微软自身9月发布的先进模型开发指导原则一致，主张将智能供给与控制权分离。