VicOne LAB R7 研究被操控输入如何改变机器人行为

VicOne LAB R7 发现被操控的输入可改变机器人行为，例如海报上的文字被 Gemma 4 E4B 模型误认为指令，导致机器人狗移动；医院服务机器人模拟中，特定音频也能影响其行为。研究指出，安全系统依赖的输入若被篡改，可能导致意外后果。VicOne 提供工具帮助团队在部署前测试安全限制，并在运行中监控潜在异常。