如何构建可复现的 AI 产品：LLM 不确定性的实践应对

作者基于多年生产环境经验指出，即使设置温度 0 和固定种子，LLM 在实际部署中仍会产生不同输出，主要源于批处理、模型更新和工具调用变化。文章提出六层策略：在代码中写硬规则、使用校准分类器、采用决策模型、约束 LLM 输出、多次采样取平均、存储决策而非重生成。