ALTK-Evolve 从智能体在训练任务中的成功与失败中提炼行为规则,再把规则加入系统提示,不需要更新模型权重。研究在留出的客服测试任务上评估这种做法。

据作者报告,在 τ²-bench 的 40 个零售测试任务中,每个任务进行四次试验;使用 GPT-4.1 时,四次均成功的任务占比(Pass^4)从 57.5% 升至 67.5%,提高 10 个百分点。

这一结果来自特定评测设置,不代表真实客服业务已取得相同收益。更长的规则也会增加提示输入与调用成本,需要结合任务选择规则数量。原文已链接公开代码库,本站尚未独立复现评测结果。

关键要点
  • 从训练任务中提炼规则,追加到系统提示
  • 零售测试 Pass^4:57.5% 至 67.5%,增加 10 个百分点
  • 更长规则带来额外输入成本,需按任务权衡

本站图解 · 基于原文整理;各项不表示先后顺序,非原始截图或实测结果

分析

编辑分析:对正在搭建客服智能体的团队,这项研究提示可以先评估提示层规则整理,再决定是否需要训练模型。判断价值时应同时看严格成功率、输入成本和真实业务规则;小规模模拟任务的结果仍需在自己的场景复测。