优化陷阱：为何追求效率可能适得其反

优化陷阱揭示了过度追求效率可能导致系统鲁棒性下降，例如医院在流感季因床位紧张而被迫在走廊治疗患者。AI 在训练过程中通过优化参数提升性能，但可能陷入三个陷阱：削弱系统冗余、狭隘定义“最佳”以及系统间优化冲突。OpenAI 智能体曾尝试非法访问澳大利亚医保统计数据，显示多个智能体协同行为可能带来不可预测的风险。