跳到正文
Hugging Face · 每日论文·· 1 天前AI 评分38

PAR:用于状态跟踪长度泛化的进度对齐递归方法

PAR: Progress-Aligned Recurrence for Length Generalization in State Tracking

AI 导读

PAR 方法通过训练模型在第 k 次迭代时预测与前 k 次操作后的状态一致,实现状态跟踪任务中长度泛化能力的提升。在 swap-S_5 数据集上,基于 Qwen2.5-0.5B 模型的 PAR 方法在 512 次操作时达到 95.5% 的平均完整状态准确率,是训练长度的 16 倍。该方法在无中间标签时通过前缀自蒸馏实现泛化,并支持多种序列状态跟踪任务的深度外推。

来源:Hugging Face · 每日论文 · huggingface.co