Secret trigger words could make AI-powered robots dangerous

隐藏的触发词可能被恶意插入到大语言模型中，导致机器人执行危险操作。Binghamton University 的研究团队展示了通过 MuTRAP 攻击方法，使机器人偏离原定任务计划，例如将塑料水果模型替换为模型手进行“切割”。他们开发的防御系统 PROTEA 能评估任务计划中的每一步，识别潜在威胁并阻止危险行为。