Hacker News · AI· gmays·· 3 小时前精选AI 评分59
AI安全评估机构正进入聚光灯：OpenAI与Anthropic推动独立审查
AI's quiet safety gatekeepers are stepping into the spotlight
AI 导读
OpenAI和Anthropic正推动将独立第三方评估机构嵌入其安全流程，以应对AI模型风险。Anthropic CEO Dario Amodei提出让评估者拥有与内部风险团队相当的权限，OpenAI也宣布将与METR等机构合作，但双方在评估者资金来源、访问权限和报告机制上仍存争议。
推荐理由
原文梳理了独立评估机构在AI安全中的角色变化，以及OpenAI和Anthropic的应对策略，读者可借此理解当前AI安全治理的行业共识与矛盾点。
来源：Hacker News · AI · cnbc.com