跳到正文
Amazon Science·· 3 小时前AI 评分36

Amazon Science:Speeding up language models for travel applications

Speeding up language models for travel applications

AI 导读

Amazon Science 探索了两种优化技术,将知识蒸馏(KD)与 Medusa 框架结合,使语言模型在旅行应用中运行速度提升 20 倍且成本降低至原模型的三分之一。

来源:Amazon Science · amazon.science