跳到正文

技术方向

安全对齐 最新动态

AI 安全与对齐：越狱与防御、模型行为研究、安全评测与治理框架的进展。

101 条精选近 30 天 88 条共收录 725 条

更新

精选归档 · 第 6 页

5月1日周五第 101–101 条
  1. OpenAI Alignment70

    Codex 发布自动审查功能

    Codex 发布自动审查功能，通过独立智能体对越界操作进行审批，将人工审批频率降低约200倍，同时保持99%的批准率和对危险行为的高识别能力。该功能已用于 OpenAI 内部多数桌面端 token 使用，支持在不牺牲安全性的前提下提升自动化效率。

    推荐理由：原文给出了能力变化和开放入口，读者可以据此判断它会怎样改变现有工作流。