跳到正文
MarkTechPost· Asif Razzaq·· 6 小时前AI 评分54

Liquid AI发布RIPL实时推理引擎,支持LFM模型在50毫秒内响应

Liquid AI Launches RIPL, a Real-Time Inference Engine for Sub-50 ms LFMs

AI 导读

Liquid AI发布RIPL(Real-time Inference Pipeline)实时推理引擎,用于在低延迟路径中服务其LFM2.5系列模型,端到端响应时间低于50毫秒。

来源:MarkTechPost · marktechpost.com