MarkTechPost· Asif Razzaq·· 6 小时前AI 评分54
Liquid AI发布RIPL实时推理引擎,支持LFM模型在50毫秒内响应
Liquid AI Launches RIPL, a Real-Time Inference Engine for Sub-50 ms LFMs
AI 导读
Liquid AI发布RIPL(Real-time Inference Pipeline)实时推理引擎,用于在低延迟路径中服务其LFM2.5系列模型,端到端响应时间低于50毫秒。
来源:MarkTechPost · marktechpost.com