技术方向
AI 安全与对齐：越狱与防御、模型行为研究、安全评测与治理框架的进展。
123 条精选近 30 天 110 条共收录 929 条
Vector Institute 发布了免费开源 AI 工具 UnBias-Plus，可检测、解释并改写文本和 AI 训练数据中的偏见语言。该工具提供基于浏览器的公开版本（支持最多 750 词）和供开发者集成的安装包，旨在帮助新闻编辑、人力资源、医疗保健和 AI 开发团队识别并修正偏见。
推荐理由：原文给出了工具的具体功能、应用场景和获取方式，读者可以据此评估它如何帮助筛查和改写文本中的偏见。
安大略省审计长办公室对20家获准供应商的AI笔记系统评估发现，这些系统普遍遗漏关键细节、插入错误信息并产生幻觉内容。在模拟医患录音测试中，9个系统编造了治疗建议，12个系统插入了错误的药物信息，17个系统遗漏了患者心理健康的关键细节。报告指出，采购评估标准存在严重问题，医疗笔记准确性仅占总评分的4%，而供应商是否在安大略有本地存在却占30%。
推荐理由：审计报告揭示了医疗AI笔记工具在关键事实上的系统性错误，以及采购评估标准中存在的权重失衡问题。
Codex 发布自动审查功能，通过独立智能体对越界操作进行审批，将人工审批频率降低约200倍，同时保持99%的批准率和对危险行为的高识别能力。该功能已用于 OpenAI 内部多数桌面端 token 使用，支持在不牺牲安全性的前提下提升自动化效率。
推荐理由：原文给出了能力变化和开放入口，读者可以据此判断它会怎样改变现有工作流。