大数跨境

Skill 路由优化实战:基于真实业务请求的 description 自进化

Skill 路由优化实战:基于真实业务请求的 description 自进化 阿里云开发者
2026-11-03
4

阿里妹导读

文章内容基于作者个人技术实践与独立思考,旨在分享经验,仅代表个人观点。

针对Agent在Skill选择上的错误,传统做法是直接修改description并重新运行整批任务。这种方式虽能生成新版本,但缺乏对修改原因、冲突根源及后续学习机制的解释,且耗时较长。本次实践将问题拆解为两部分:通过本地首路由回放缩短反馈周期;建立“归因与优化方向→description改写→回归验证→经验沉淀”的迭代闭环。在34条开发请求的测试中,最终选定候选命中31条,准确率达91.18%。

本文案例聚焦于两种相邻能力的混淆:两者均涉及数据查询,但一个用于会话内交付结果,另一个用于向外部渠道投递通知。明确共同步骤背后的交付目的,比单纯补充查询关键词更能有效指导修改方向。

首路由评测:聚焦选择过程

首路由指Agent首次将请求分配给特定Skill或子Agent的过程。它决定了任务的承接方,但不代表后续执行的成功。例如,“筛选后处理”与“直接处理明确记录”虽调用相似工具,但入口不同;“新建计划”与“在已有计划中执行”也需严格区分。

当前任务状态或交付目的

通用首入口

需要保护的边界

对象未确定,需先发现、筛选,再交接

发现与编排

不能承诺由其他能力执行的操作

对象已明确,直接操作

直接执行

不应接管尚缺必要筛选的请求

新建或修改周期安排

计划创建

在已有计划中执行不等于新建计划

联合信息进行趋势、风险或原因分析

综合分析

与单项数据查询区分

向外部渠道发送通知

通知投递

内部查询步骤不自动构成独立查询入口

图1 职责与首入口分工。按当前步骤、必要输入和交付目的区分入口;并列能力不代表后续步骤。

本地回放保留“消息历史→模型→前置工具→追加调用与返回→模型”的循环。模型受真实调用,但检索和目录读取由冻结材料提供。观察到首次Skill调用即停止,省去后续业务执行。比较新旧简介时,需冻结题目、人工预期、身份、模型参数等变量,仅修改授权范围内的description。

图2 本地首路由回放循环。轮次耗尽计为未命中,基础设施异常单列;首路由正确不等于完整任务成功。

首次路由错误、参数非法、无路由响应及达到轮次上限均计为未命中。接口异常等基础设施问题单列,受影响结果不用于候选晋级。除准确率外,还需报告异常数和覆盖率。若模型使用模拟器不支持的合理检索写法,应先修复模拟器并重新冻结环境,严禁为绕开模拟缺口而压制正常检索。

归因假设与优化方向

从可观察错误开始

以一类请求为例:用户希望查询某对象的汇总数据与记录明细,并在会话中交付。实际首路由却选择了通知投递能力。现象确认为预期与实际选择不一致,且用户未要求外部通知。对此提出以下可检验假设:

归因假设

当前可检查的证据

区分假设的验证方式

通知描述把内部查询步骤写成了宽泛适用范围

简介同时列出查询汇总、读取明细与发送通知,未清楚限定交付目的

只收窄通知描述,检查会话查询是否恢复、真实通知是否仍正确

数据交付能力没有表达组合查询场景

简介未清楚说明汇总与明细可以联合交付

只补充该场景,检查相关查询及相邻分析任务

两侧缺少交付目的的分工

简介都强调数据步骤,未清楚区分会话展示与外部投递

分别修改与联合修改,比较相邻边界

这些证据支持假设,但无法读取模型内部真实决策原因。错例分簇有助于发现共同冲突,但不能证明根因成立。

归因与修改方向分开记录

同一边界问题可有多种修法:补充正向适用条件、增加排除条件或明确复合请求承接规则。简单提高优先级可能修复目标错例,但可能引入新的相邻错误。因此,生成description前需明确本轮方向。例如:

围绕最终交付目的区分入口。会话内交付汇总与明细的请求,由具备该能力的查询入口承接;向外部渠道发送通知的请求,由通知入口承接。保留两者已有能力,不因共享查询步骤而相互接管。

这一中间产物明确了审校和评测对象:本轮是澄清交付边界还是提高优先级?借鉴ProTeGi方法,通过错误样本生成自然语言批评(语义反馈),指导提示词编辑,并结合搜索策略寻找候选。

将方向落实为Description的具体修改

Description是模型选择能力时的职责简介,需表达适用条件、必要输入、交付物和相邻分工。修改只能澄清已有能力,不能增加工具能力或扩大权限。

对象

修改前的表达问题

修改后的表达重点

数据交付入口

未清楚说明汇总与明细的组合交付

支持联合查询,并在会话中交付汇总表与记录清单;用户无需先提出后续操作

通知入口

查询、生成内容、发送通知并列,容易混淆步骤与适用范围

先限定通知投递目的,再说明查询只是内部步骤,排除单纯会话查询

数据交付入口概括:

支持针对指定对象联合查询汇总数据与记录明细,在当前会话中交付统计表和记录清单,并在需要时衔接后续处理。仅请求数据交付、尚未要求继续操作时,也属于本能力范围。

通知入口概括:

当请求的交付目的是向外部渠道发送通知时使用。流程内部可以查询条件、汇总和明细,但这些步骤不构成独立查询入口。仅要求查询、筛选或在当前会话中展示数据时,不使用本能力。

此处改变的是模型对分工的理解:将会话数据交付写成正向职责,将通知投递写成适用条件,并解释内部查询与外部服务范围的区别。业务正文、工具定义和实现回答“能否做到”;人工确认的职责规则回答“应该由谁先承接”;回放轨迹回答“模型实际上选了谁”。三类证据不可相互替代。

图3 三类证据的关系:能力依据约束承诺,职责规则约束预期首入口,回放结果验证实际选择。

若能力证据摘录不全,应补原文;若承诺超出实现,应收窄。借鉴ToolRewrite思路,优化接口描述并利用可迁移规律,但本文未复现其训练方法。

用回归结果检验修改

图4 旧流程示意:候选通过能力审校后,直接进行整批配对回放。

图5 迭代流程。归因与方向、实际改写、审校及回归保持一致;安全互补候选可以保留,入池不等于冠军。

候选生成后,依次进行机械校验、语义审校和回放。机械校验由程序负责,恢复证据引用、应用替换、核对差异和长度。模型负责判断能力承诺、适用范围及消解歧义。需注意,诊断、实际差异和审校必须围绕同一组竞争入口。

先测目标与保护例

小批验证需包含需修复的错例和原本正确的保护例。对于查询与通知的冲突,至少覆盖会话查询、真实通知及交付目的不同的相似请求。只有修复目标且保护不退化,候选才值得进入整体回归。

整体回归继续检查误吸、漏接和关键边界。高分不能抵消重要保护失败。复用观测必须满足同候选、同环境、同请求及对应重复轮次。

保留互补候选后仍需实际测试

总分较低的安全候选可能修复另一组错例,值得留在研究池。借鉴GEPA方法,利用轨迹反思和互补候选搜索。但合并后的description必须重新回放验证。

当前结果支持什么

最终选定候选在34条开发请求上命中31条。每题回放3次,按多数首路由计分。两道真实通知保护题均被正确承接,查询与通知的分界有所改善。但由于同时修改了两份简介,尚不能分离两侧描述的独立贡献。剩余三题涉及其他冲突,需进一步提出新假设。

将验证过程转化为下一轮可用的经验

保存候选历史仅保证可追溯。要让下一轮少走弯路,需将反馈转化为可检索、可限定范围的经验。归因经验与修改经验应分别保留。

经验内容

在查询与通知案例中的记录方式

错误模式

会话数据交付被选到通知入口

因假设与证据

描述共享查询步骤,交付目的区分不足;引用对应语句

优化方向

明确会话交付与外部投递,不改工具能力

实际编辑

记录两侧修改及最终差异,不能只保存修改意图

验证结果

逐题修复、退化、保护表现、重复回放和环境版本

适用范围与反例

适用于交付目的混淆;不能推广为所有查询都优先某入口

失败反馈需具体,指出字段、允许值、原句与证据。建议形成如下迭代流程:当前错例与冻结环境→提出归因假设→检索适用经验并复核→明确优化方向→生成并审校description→小批与整体回归→记录成功、失败及适用范围。

控制描述增长和反馈成本

优先替换和合并

每遇一题新增例外会导致description冗长且适用范围变窄。借鉴TextReg思路,关注增长背后的过拟合。当前实现设置600字符上限,要求先替换错误边界、合并重复和删除冗余,再考虑新增。未来可尝试在覆盖率和准确率相同时优先短版,或从有效父版本生成压缩候选。

分清候选阶段与完整验收

本地首路由即停、小批淘汰和并发执行分别影响不同成本。在34题实验中,两次自动候选的生成、审校、小批和整体评测阶段合计约3分23秒与3分25秒(回放并发为8)。此计时不含初始基线、收口复测及人工验收,不能简单等同于完整优化耗时。

图6 当前34题实验的候选核心阶段计时。仅含生成、审校、小批与整体评测,不含完整验收。

下一步验证归因与泛化

本次实践将路由优化推进至有方向、有差异、有逐题证据的迭代阶段。核心收获是用交付目的解释相邻能力分工,并通过保护例检查修改边界。

接下来需验证三个问题:显式归因与定向改写是否优于直接修改;经验检索是否减少失败尝试;开发集选定候选能否通过独立留出和真实环境验收。验证需固定可比条件,记录命中、误吸、退化及成本。只有首路由与完整任务分别得到验证,才有依据决定采用范围。

参考文献:

1. Pryzant, R., et al. 2023. Automatic Prompt Optimization with “Gradient Descent” and Beam Search. EMNLP 2023.

2. Guo, R., Dong, K., Gao, X., and Das, K. 2026. Learning to Rewrite Tool Descriptions for Reliable LLM-Agent Tool Use. arXiv:2602.20426, v2.

3. Agrawal, L. A., et al. GEPA: Reflective Prompt Evolution Can Outperform Reinforcement Learning. arXiv:2507.19457.

4. Fu, L., et al. 2026. TextReg: Mitigating Prompt Distributional Overfitting via Regularized Text-Space Optimization. arXiv:2605.21318, v2.

【声明】内容源于网络
0
0
阿里云开发者
阿里巴巴官方技术号,关于阿里的技术创新均呈现于此。
内容 3840
粉丝 0
阿里云开发者 阿里巴巴官方技术号,关于阿里的技术创新均呈现于此。
总阅读120.4k
粉丝0
内容3.8k