跳到正文
Hacker News · AI· timbowhite·· 3 小时前AI 评分30

如何防止秘密进入 AI 智能体的上下文窗口?

Ask HN: How do you keep secrets out of your AI agents' context?

AI 导读

Ask HN 提出如何防止秘密进入 AI 智能体的上下文窗口的问题,引发关于数据安全和隐私保护的讨论。用户关注在训练和推理过程中避免敏感信息被嵌入模型或影响生成结果的方法。相关话题涉及 Prompt 安全、数据过滤和模型对齐策略,但未明确提及具体模型或技术方案。

来源:Hacker News · AI · news.ycombinator.com