跳到正文
Hacker News · AI· lifeisbubbles·· 3 小时前AI 评分44

MLCommons Candela:为开发者和部署者提供 AI 风险基准测试服务

MLCommons Candela: AI risk benchmarking-as-a-service for developers, deployers

AI 导读

MLCommons 推出 Candela,提供 AI 风险和可靠性基准测试服务,支持从前沿模型开发到多模型企业部署的全场景测试。Candela 首发 Safety 1.2.1 和 Jailbreak 1.1 两个基准版本,前者评估系统对十二类风险的处理能力,后者使用绕过限制的技术进行测试。测试结果通过私有分类器生成,确保评分稳定且可跨时间对比,不依赖 LLM 作为评判者。

来源:Hacker News · AI · mlcommons.org