5 个 LLM 推理工程趣味项目

本文介绍了 5 个用于学习现代大语言模型推理系统的项目，涵盖从零构建推理引擎、编写 FlashAttention 内核、量化实验、实现推测解码到搭建生产级推理服务。