Claude模型在实验中识别出人为植入的数据泄露

Nate Rosidi进行了一项实验，评估四个Claude模型在未被提示存在数据泄露的情况下，能否识别出人为植入训练数据中的泄露特征。 在股票价格预测任务中，使用泄露数据的模型验证准确率高达97.0%，而未泄露版本仅为51.6%。四个模型（Haiku、Sonnet、Opus、Fable）均从不同角度指出了数据泄露问题，例如Fable明确指出训练集可能包含了测试集订单之后的数据。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。