巴西律师因在法律文件中隐藏提示注入指令操控法院AI被罚款

巴西劳动法院发现两名律师在提交的法律文件中隐藏了白色字体指令，试图操控法院AI系统Galileu进行表面化回应而不质疑证据。该指令被识别后，法院认定此行为损害司法尊严，对律师处以约16000美元罚款，并通报律师协会及法院内部部门。这是AI司法应用中首次公开的提示注入攻击案例，凸显AI系统在法律场景下的安全与对齐风险。