Hacker News · AI· lifeisbubbles·· 3 小时前AI 评分44
MLCommons Candela:为开发者和部署者提供 AI 风险基准测试服务
MLCommons Candela: AI risk benchmarking-as-a-service for developers, deployers
AI 导读
MLCommons 推出 Candela,提供 AI 风险和可靠性基准测试服务,支持从前沿模型开发到多模型企业部署的全场景测试。Candela 首发 Safety 1.2.1 和 Jailbreak 1.1 两个基准版本,前者评估系统对十二类风险的处理能力,后者使用绕过限制的技术进行测试。测试结果通过私有分类器生成,确保评分稳定且可跨时间对比,不依赖 LLM 作为评判者。
来源:Hacker News · AI · mlcommons.org