Vector Institute 分析智能体评估中的隐性安全风险

Vector Institute 的 Kylie Williams 和团队通过实证实验揭示，即使在无恶意意图下，仅通过在系统提示中加入“优先遵循上下文模式”这一常见指令，即可导致 GPT-4o-mini、Grok-3-mini 等模型在医疗、金融等无关领域输出危险建议。