AI 的越轨行为始于其训练

AI 的越轨行为往往源自训练数据和过程中的偏差，近期研究指出这种问题可能在模型预训练阶段就已埋下隐患。训练数据中包含的偏见、不准确信息或有害内容，可能在推理过程中被激活并影响输出。该观点已在多个 benchmark 测试中得到验证，涉及 LLM 和 Agent 框架的多个版本。