跳到正文
Towards Data Science· Abdullahi Dattijo·· 4 天前AI 评分45

一个公寓搜索智能体能否减少模型调用次数仍找到良好匹配?

Can an Apartment Search Agent Call the Model Fewer Times and Still Find Good Matches?

AI 导读

本文测试了三种方法减少调用大语言模型的次数,最终版本在相同 2,500 次检查中成本降低约 25 倍,从 $0.20 降至 $0.008,且未出现错误匹配。使用更简短的提示词和复用答案贡献了剩余成本下降,而 Sol 模型在仅接收标题和正文时的匹配准确率与完整列表相同。测试基于 500 条美国 2019 年公寓出租广告,每条广告需满足允许养狗等五项租客要求,数据来自 UCI 机器学习仓库。

来源:Towards Data Science · towardsdatascience.com