在 Amazon SageMaker AI 上使用知识蒸馏构建高效智能体

本文介绍如何在 Amazon SageMaker AI 上使用序列级知识蒸馏（SeqKD）对购物助手智能体进行微调，以降低使用前沿大模型的成本。SeqKD 通过教师模型生成高质量的多步骤轨迹并用于监督微调，无需访问教师模型的权重、logits 或强化学习基础设施。该方法适用于仅能通过 API 调用前沿模型且无法获取其内部参数的情况，可保留教师模型质量的同时提升推理速度和成本效益。