宾汉姆顿大学提出MuTRAP攻击与PROTEA防御
热点事件持续更新
宾汉姆顿大学提出MuTRAP攻击与PROTEA防御
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
宾汉姆顿大学团队提出了一种名为MuTRAP的多触发特洛伊木马攻击方法，可通过在大型语言模型中植入隐藏触发词，使机器人偏离原定任务计划并执行危险操作；同时，该团队也提出了一个名为PROTEA的基于大语言模型的防御系统，用于评估任务计划并识别攻击迹象。 该团队在2026年IEEE/RSJ智能机器人与系统国际会议上展示了两篇相关论文。
AI 根据报道生成 · 2 小时前更新
最新进展10月21日 08:40
Secret trigger words could make AI-powered robots dangerous报道时间线
沿着报道，了解事件的不同侧面。
10月21日
- Hacker News · AISecret trigger words could make AI-powered robots dangerous
隐藏的触发词可能被恶意插入到大语言模型中，导致机器人执行危险操作。Binghamton University 的研究团队展示了通过 MuTRAP 攻击方法，使机器人偏离原定任务计划，例如将塑料水果模型替换为模型手进行“切割”。他们开发的防御系统 PROTEA 能评估任务计划中的每一步，识别潜在威胁并阻止危险行为。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。