OpenAI为欧盟ChatGPT和Codex添加隐形水印
OpenAI宣布将在未来几周内,为欧盟地区符合条件的ChatGPT和Codex用户生成的文本添加名为textGrain的隐形水印,以满足《欧盟人工智能法案》的透明度要求。全球API客户可选择为部分模型启用水印,但默认关闭。 该水印通过在模型选词时嵌入统计信号实现,检测器可识别但不泄露用户内容。OpenAI称其技术“匹配或超越”了Google DeepMind和Anthropic的方案,但表示无法保证可靠检测,也不能验证文本准确性或作者身份。 根据The Next Web报道,检测器在200个token的文本中识别率约为80%,在400个token的文本中可达95%,但若替换25%的词汇,检测率会降至17%。目前,检测器仅向获批的研究人员和专家组织开放申请。
最新进展OpenAI将在欧盟为ChatGPT文本加入隐形水印