跳到正文
Hugging Face · 每日论文·· 14 小时前AI 评分36

Hugging Face 发布 Continuum Attention:一种连续注意力机制

Continuum Attention

AI 导读

Hugging Face 提出 Continuum Attention (CA),一种因果 Transformer 注意力操作符,通过连续分段线性记忆曲线替代离散键值查找,每个查询沿曲线诱导指数相关性密度。

来源:Hugging Face · 每日论文 · huggingface.co