Hugging Face · 每日论文·· 2 天前精选AI 评分55
UNREAL:统一检索与长上下文推理的单一模型框架
UNREAL: Unifying Retrieval and Long-Context with a Single Model
AI 导读
UNREAL 是一个统一检索与长上下文推理的模型内证据选择框架,直接从冻结LLM的内部表示中生成检索查询,仅增加少于500K可训练参数。在3B-token、21M-chunk的维基百科索引上,其四个密集与混合变体均优于现有检索重排序系统。
推荐理由
UNREAL 将检索与长上下文推理统一于单一模型机制,显著提升多个基准的召回率与生成性能,且参数开销极低。
来源:Hugging Face · 每日论文 · huggingface.co