Amazon Science·· 3 小时前AI 评分36
Amazon Science:Speeding up language models for travel applications
Speeding up language models for travel applications
AI 导读
Amazon Science 探索了两种优化技术,将知识蒸馏(KD)与 Medusa 框架结合,使语言模型在旅行应用中运行速度提升 20 倍且成本降低至原模型的三分之一。
来源:Amazon Science · amazon.science