跳到正文
Hacker News · AI· gilneto8·· 3 小时前AI 评分44

一份银行对账单可能包含针对 AI 的隐藏指令

A bank statement can carry hidden orders for an AI

AI 导读

一份银行对账单的 PDF 文件中可能包含隐藏文本层,这些文本对人类不可见但会被 AI 模型读取并执行。测试显示,隐藏指令如“忽略先前指示”可被成功提取并影响后续处理流程。Damasqo Capture 工具目前未在生产环境中使用,但计划在处理交易表格时检测隐藏文本,并将包含隐藏内容的对账单标记为 TAMPERED 以防止其描述被传给模型。

来源:Hacker News · AI · gil-neto.com