UNREAL提出统一检索与长上下文推理的模型框架
热点事件观察中
UNREAL提出统一检索与长上下文推理的模型框架
1 篇报道1 个报道来源2 天前更新
先了解这件事
AI 综述
Hugging Face的研究者提出了UNREAL框架,通过从冻结大语言模型的内部表示中生成检索查询,旨在用一个模型统一处理检索与长上下文推理任务。 该框架仅增加少于50万个可训练参数,在基于2100万个文本块构建的索引上进行测试,其四个变体的性能据称优于现有的检索重排序系统。
AI 根据报道生成 · 2 小时前更新
最新进展10月6日 04:00
UNREAL:统一检索与长上下文推理的单一模型框架报道时间线
沿着报道,了解事件的不同侧面。
10月6日
- Hugging Face · 每日论文精选UNREAL:统一检索与长上下文推理的单一模型框架
UNREAL 是一个统一检索与长上下文推理的模型内证据选择框架,直接从冻结LLM的内部表示中生成检索查询,仅增加少于500K可训练参数。在3B-token、21M-chunk的维基百科索引上,其四个密集与混合变体均优于现有检索重排序系统。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。