Anthropic为Claude模型引入自评估安全监测

Anthropic公开了一种名为“自评估”的安全监测方法，该方法在Claude模型每次回答后，会生成一段用户不可见的“安全复盘”，以判断对话是否可能涉及滥用并决定是否需要进一步调查。 这项自评估功能运行在Fable 5及之后发布的每个Claude模型上，但签订零数据保留协议的流量目前不会运行。Anthropic称，此项安全审计的算力成本由平台自行承担，不计入用户账单。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。