大数跨境

从风控到语义,再到自进化工程:智能体如何“进化”,又如何避免“退化”

从风控到语义,再到自进化工程:智能体如何“进化”,又如何避免“退化” DataFunSummit
2026-07-06
10

直播推荐

Harness Engineering 与 Agent 实践——从单 Agent 翻车到多 Agent 协作的工程化之路

7 月 2 日晚,一场围绕智能体落地实践展开的直播,把讨论从热门概念重新拉回到一线工程现场。主持人项翘睿与两位嘉宾——长期深耕金融风控与信贷智能化的李钦,以及聚焦数据工程智能体的赵恒,沿着十个问题逐层推进:Agent 系统到底该怎么搭、什么技术路线值得放弃、怎样定义“好用”、人和 Agent 的边界在哪里,以及当智能体从单点试验走向规模化复制后,新的问题究竟会从哪里冒出来。

这场对话最有价值的地方,在于它没有把 Agent 神化成“无所不能的自动化体”。相反,三位嘉宾都在强调同一件事:企业真正需要的,不是一个看起来很聪明的演示系统,而是一个能在约束里稳定工作、能解释、能复盘、能持续优化,出了问题还能找到责任边界的工程系统。所谓“进化”,不是让 Agent 越来越像人;所谓“防退化”,也不是把能力死死锁住,而是在复杂业务、成本约束与组织摩擦之间,找到一条可持续的演进路径。

01

不是讨论“会不会用”,而是讨论“怎么用得起、用得稳、用得久”

直播一开场,项翘睿就把主题落在了企业最现实的三个问题上:怎么协作、怎么进化、怎么控制成本。他没有把 Agent 定义成一个新的聊天界面,而是把它定义成从“单点工具”走向“真正行动者”的过程。也正因为如此,问题不再只是模型能力够不够,而是它如何嵌进真实流程,如何和已有系统协同,如何在反复迭代里不失控。

这种开场很快为整场讨论定了基调。李钦所在的金融场景,天然要求确定性、可解释性和合规留痕;赵恒所在的数据工程场景,则更强调端到端开发、自动化编排与语义一致性。一个更靠近风险责任,一个更靠近生产效率,但两边最终都指向同一个命题:Agent 不是一个单独的软件能力,而是一套新的工程组织方式。

02

架构的第一性原理:不要把大模型直接推到责任前线

当话题转向"Agent 系统架构怎么设计”时,李钦的回答很有代表性。他没有先谈框架,而是先谈边界:在银行和金融机构里,业务处理天然要求严谨、稳定、可审计,而大模型最不稳定的恰恰也是确定性。正因为看清了这一点,他们最关键的架构决策,并不是“把大模型用到最深”,而是重新定义大模型在流程中的位置。

他的大意非常清楚:大模型不应该直接扮演“审批决策者”,而更适合承担“复杂推理者”和“证据链组织者”的角色。真正守住底线的,仍然应该是规则引擎、微调小模型,以及那些可被验证、可被追责的确定性模块。换句话说,是“小模型守底线,大模型补上限”。这种架构看上去不够“激进”,却非常符合企业现实——尤其当每一次决策都可能对应监管审计、客户申诉乃至直接经济损失时,这种保守并不是落后,而是一种必要的工程理性。

项翘睿的补充则更偏平台视角。他提到,顺丰在做架构时,也会根据客户场景做不同推荐。高确定性的场景仍然需要 Workflow、规则链和大小模型结合;但更开放、更探索式的场景,例如动态分析、归因、财报或新闻理解,则可以更多交给 ReAct 式 Agent 去自主调用工具、组织推理。为了兼顾这两种需求,他们把底层的数据、权限、语义处理统一收敛到一层,把上层 Agent 做轻,把复杂能力都抽成原子工具。这样一来,同一套能力既能被编进确定性的工作流,也能被开放式 Agent 调用。

赵恒的视角更进一步。他认为现在很多 Agent 架构,本质上都在趋同:一组 Tools,加上一套 Prompt、Skills 或行为规范。真正的差别不在“有没有 Agent 框架”,而在你如何设计可验证的子任务结构,如何让系统随着模型能力增强而吃到红利。他更倾向于把架构做得更“原生”:弱化沉重框架,强化 function calling、sub-agent 和验证闭环,让系统尽量少依赖外部编排的复杂性,而更多依赖清晰的能力边界和执行反馈。

03

真正成熟的团队,都做过“放弃路线”的决定

第二个问题很尖锐:有没有主动放弃过某条技术路线?

这恰恰是整场直播里最见功力的部分。李钦坦率地提到,他们早期也尝试过让大模型更直接地介入金融审批,甚至尝试多智能体协同去覆盖完整流程。但实践很快暴露出问题:时延难控、幻觉难防、可解释性不足,业务方也不敢真正把关键决策交出去。最后他们选择回撤,把大模型从“最后拍板的人”改成“辅助推理的人”。这不是能力下降,而是角色重构。

他还提到另一个很有现实意味的放弃:单 Agent 包打天下。理论上,一个强大的 Agent 似乎可以贯穿反欺诈、授信、催收、贷后等全链路;但只要业务专业跨度一拉大,上下文就会污染,内部目标也会冲突,最后出了错甚至不知道该怪谁。于是他们转向多 Agent 体系,让每个智能体守住清晰业务边界,再在更高一层解决冲突与协调。

项翘睿谈到的“放弃”,则更像是一种工程减法。他们主动放弃了过重的第三方框架体系,也减少对固定流程的依赖。原因很简单:当系统变重,灵活性就会下降;当业务变化比框架抽象更快时,越复杂的外壳,越容易成为新的束缚。与其背着一整套宏大框架前进,不如把能力拆成足够轻的模块,让系统自己长出组合能力。

赵恒则把这种取舍说得更彻底。他们从一开始就没有执着于把所有问题塞进固定工作流里,而更愿意相信模型的原生能力,再通过 Skill 和 Validation Hook 把它“牵住”。他对 RAG 的态度也很有意思:不是说 RAG 没用,而是随着长上下文和模型自主探索能力增强,很多过去必须靠检索解决的问题,正在被新的上下文组织方式替代。于是,团队真正该投入的,不是给系统继续堆功能,而是把验证、反馈和语义组织这几件最关键的事做好。

04

衡量 Agent 的“好坏”,不能只看它有没有答对

到了评测问题,三位嘉宾都表现出很强的“反表演型”倾向。他们几乎一致认为,评估 Agent 绝不能停留在一次性效果演示上。

李钦所在的金融场景,天然会把评测落在业务指标上:通过率与坏账率之间如何平衡,催收回收率有没有提升,投诉率有没有下降,人工复核通过率是否更稳定。这些指标背后,其实是在问:Agent 有没有在真实业务里产生净增益,而不是仅仅显得很聪明。

但光看结果还不够。项翘睿提到一个非常工程化的指标:轨迹长度。一个任务最终做成了,不代表系统“好用”;如果它为此走了过长的链路、消耗了大量 Token、调用了太多轮工具,那它只是“能用”,还谈不上“可规模化”。因此,他们除了看任务结果,也看执行路径是否收敛、成本是否可控、响应是否足够快。

赵恒则强调 Benchmark 的重要性。他的意思很明确:没有基准集,就没有进化方向。尤其在数据工程场景里,系统不仅要生成 SQL、跑数据、做指标,还要过数据质量、语义一致性和规范校验。你需要把“什么算成功”拆开定义,才能知道问题究竟出在模型、上下文、工具调用,还是验证环节。他特别重视验证闭环,因为 Agent 真正危险的,不是明显报错,而是“看起来像对的,其实错了”。

05

从“能用”到“好用”,最大的鸿沟不是功能,而是稳定性

当主持人追问“最大的瓶颈是什么”时,讨论一下子从理念层落回了工程现实。

李钦提到的难点非常典型:多步任务的误差会指数级放大。单步成功率看起来不低,但只要流程一长,最终整体效果就会明显塌陷。更麻烦的是,这类错误不像传统系统 Bug 那样容易复现和定位,它往往裹着一层“语言上的合理性”,让你误以为系统在正常工作。

他还提到,Prompt 工程常常带有某种“玄学”色彩。一个小小的措辞变化,可能就会引起输出风格、推理路径甚至决策结果的大幅波动。对于金融这种高风险业务来说,这种不稳定是无法接受的。

赵恒则把瓶颈放在“用户真正怎么用”上。在数据工程领域,用户不是不想要 Agent,而是不一定习惯 AI 原生的工作方式。让工程师像管理代码一样管理指标、语义层和版本,本身就是一种组织习惯的迁移。产品如果不能帮助用户跨过 Onboarding 阶段,再强的模型能力也只能停留在试用层面。

项翘睿说得更接地气:用户预期常常两极化。有人把它当成低配机器人,只愿意给一句话;也有人把它当成能读懂潜台词的全能助手,对它寄予不现实的想象。于是,一个 Agent 是否“好用”,不只取决于模型本身,还取决于它能不能通过提问、表单、补充信息等方式,把用户一步步带到正确的使用姿势里。

06

最头疼的问题,往往不是技术本身,而是责任怎么落地

这一轮讨论里,有一句近乎全场共识的话可以概括核心:如果做错了要“背锅”,那这件事就不能完全交给 Agent。

李钦面对的是最典型的高风险场景。反欺诈 Agent、信用评分 Agent、额度管理 Agent,可能会对同一个客户给出不同判断。技术上看,这是多 Agent 协同;业务上看,这其实是在问:谁拥有最终否决权?谁来承担错误责任?因此,他们最后不是靠“更强模型”去解决,而是靠业务治理规则去定义边界,例如给反欺诈更高优先级,把冲突显式转化成可治理的决策结构。

项翘睿把这个问题总结得很实用:需要背责任的决策,必须保留人在环;不需要背责任、可以回滚、可以反复试错的工作,则应该大胆交给 AI。这种划分方式看起来朴素,却比任何抽象定义都更接近企业落地的真实标准。

赵恒则把视角延伸到了组织层面。他提到,很多员工并不天然欢迎 Agent,因为他们担心自己的知识被“蒸馏”进系统,最终反过来削弱自己的岗位价值。于是,Agent 落地的难点,开始从“模型够不够强”转向“组织是否相信这是赋能而不是替代”。如果这个问题处理不好,再好的技术也很难真正规模化。

07

人和 Agent 的边界,不在“谁更聪明”,而在“谁承担后果”

关于“人机边界”,这场讨论给出了一个很成熟的判断:边界不是按能力划的,而是按责任划的。

在三位嘉宾看来,人类最重要的职责,不再是每一步都亲手完成,而是定义目标、校准过程、验收结果。Agent 则更适合承担中间的大量探索、执行和重复性组织工作。换句话说,人负责“一头一尾”,AI 负责中段的高频动作。这种分工不是削弱人,而是把人的注意力从低价值劳动中释放出来。

但这并不意味着人类只剩“签字”功能。恰恰相反,越到关键场景,人越要站在系统最前面。金融审批、合规申诉、重大客户投诉、监管报送,这些不仅仅是技术任务,它们天然带着法律与伦理后果。Agent 可以提供证据、方案和风险提示,但最终承担后果的主体,仍然必须是人。

这也是为什么三位嘉宾都强调 Human-in-the-loop。人机协同不是因为技术“不够先进”,而是因为真实世界的责任结构本来就不是自动化能完全接管的。

08

算力预算有限时,最好的策略不是省模型,而是省浪费

谈到成本控制,三位嘉宾都没有落入“只用便宜模型”的简单逻辑,而是强调按任务分配能力。

李钦的策略是典型的分层:高频、实时、规则清晰的环节,交给小模型或规则系统;复杂推理、证据链整合、跨模态分析,则交给大模型。这样做不是妥协,而是在预算约束下把昂贵能力用在最该用的地方。

赵恒进一步指出,成本真正失控的地方,往往不是某一次模型调用太贵,而是系统整体轨迹太长、上下文组织太差、无效调用太多。一个架构如果缺乏语义层、验证环和清晰的 sub-agent 分工,再便宜的模型也会被用出昂贵成本。

项翘睿则强调把能力原子化。工具一旦足够细、足够清楚,Agent 做决策时就不需要在模糊的大能力块里来回试探,这本身就在省 Token、省时间,也在省失败成本。所以说,预算问题表面上是算力问题,实质上仍然是工程设计问题。

09

如果重新做一遍,他们最想做的,几乎都是“减法”

这一段复盘很有意思。看起来三位嘉宾来自不同领域,但回头看,他们最想重来的地方几乎都指向两个字:减法。

他们会更早放弃重型框架,更早把能力抽象成 Skill 和原子工具,更早建立 Benchmark 和验证闭环,更早厘清不同 Agent 的职责边界,也更早把记忆系统提到优先级前列。因为真正让系统“活起来”的,往往不是堆更多功能,而是让它在每一次执行里更可复用、更可学习、更可追踪。

尤其是“记忆”这个点,项翘睿强调得很鲜明。Agent 之所以常常停留在“能聊”,很大程度上是因为它没有形成稳定的关系连续性。用户反馈记不住、偏好记不住、错误修正记不住,于是每次对话都像重新开始。一个不能积累的 Agent,很难变成真正的生产力伙伴。

10

从单点试点到规模复制,真正的新问题才刚刚开始

到了规模化问题,讨论明显变得更“冷静”。

单点试点时,大家最关注的是“这个 Agent 能不能跑通”;一旦进入复制阶段,问题就变成“它能不能在不同组织、不同人群、不同数据条件下保持效果”。这时候,技术复杂度和组织摩擦会同时上升。

赵恒提到,Agent 数量一多,协作复杂度会迅速增加,边界模糊、认知偏差、责任冲突都会被放大。与此同时,员工对 AI 的态度也会变得更复杂:一方面希望它提高效率,另一方面又担心它取代自己。这种组织张力,往往比技术问题更难解决。

李钦所在的金融场景,还叠加了数据壁垒、合规限制与跨机构协同难题。很多看起来在单点上成立的能力,一旦涉及跨部门、跨系统甚至跨机构,就必须重新定义数据权限、责任路径和监管边界。

而在产品层,项翘睿最看重的仍然是用户教育。只有当用户逐渐学会什么该交给 AI、什么必须自己确认,Agent 才可能从新鲜体验变成日常工作流的一部分。

11

未来 1 到 2 年,最大的机会仍然在“工程化成熟”,最大的变数则在“组织与监管”

对于未来,三位嘉宾的判断都带着明显的“审慎乐观”。

机会当然很多。强化学习会更深地进入 Agent 闭环,小模型在私有化和端侧场景里会越来越有价值,多模态能力会把 Agent 从文本世界推向更真实的业务环境。尤其在数据工程、风控运营、客户协同这些高度流程化、又存在大量信息组织成本的领域,Agent 仍有巨大的增量空间。

但他们也都意识到,最大的变数并不只来自模型本身。监管怎么定义 AI 参与决策的边界,消费者如何申诉,企业如何处理“知识蒸馏”与员工信任之间的关系,组织是否愿意把 AI 看成增强工具而不是替代工具——这些都将深刻影响 Agent 未来两年的落地速度

所以,整场直播虽然谈的是“进化”,但落脚点并不激进。它更像是在提醒所有做 Agent 的人:真正的进化,不是一次性把系统做得更聪明,而是把它嵌进真实世界之后,仍然能持续成长、不轻易退化。

12

结语:智能体的终局,也许不是替人做决定,而是帮人把决定做得更好

直播最后三位嘉宾都没有回避问题:幻觉会发生,误差会放大,组织会有阻力,成本会失控,监管会提出新的约束。但也正因为如此,他们关于 Agent 的判断才显得更可信。

李钦给出的启发是,越高风险的行业,越需要先想清楚可解释性和责任边界;赵恒的启发是,Agent 的真正价值不在“会不会聊天”,而在能不能融进生产链路;项翘睿则提醒我们,系统想跑得快,往往先要学会做轻、做细、做可组合。

如果要为这场对话提炼一句总结,也许可以这样说:智能体不是一个“替代人”的终极答案,而是一种重新分配判断力、执行力与责任的工程方式。它真正要解决的,不只是自动化,而是让组织在复杂性持续上升的时代,仍然能保持清晰、稳定与进化能力。

活动推荐

2026 年 7 月 24-25 日,Agentic AI Summit 超级智能体系统架构峰会·深圳即将在深圳机场凯悦酒店举办!

现日程已上线 90%+,除了两天的技术干货分享,大会现场还会组织闭门会、晚场圆桌交流,讲师们会围绕具体的技术点进行介绍,旨在丰富大家在参会体验,希望大家不虚此行,满载而归。

🔥 9 折优惠购票倒计时!点击「阅读原文」即可报名参会,咨询更多购票详情。

往期推荐


基于 Harness+Skill 的 ChatBI 落地新范式!

基于 DataWorks Data Agent 的数据研发范式升级:淘宝直播从 ETL 到全托管的实践

DACon 北京站大会启动:语义层、上下文工程、Agentic RAG、数据工程等技术全覆盖

七月更新议题:Agentic AI Summit 超级智能体系统架构峰会·深圳站 | 内容整理志愿者招募

走进蚂蚁集团:破解 Agent 数据架构面临的根本性挑战!

七月更新议题:Agentic AI Summit 超级智能体系统架构峰会·深圳站 | 内容整理志愿者招募

Agent Native:面向 Agent 的极速分析数据库新范式!

本地小模型的 Claude Code 来了,拆解它的完整 Harness!

智能体架构与实践:构建下一代推荐与搜索系统

Gemini AI 分析情感与海量数据抓取!

点个在看你最好看

SPRING HAS ARRIVED

【声明】内容源于网络
0
0
DataFunSummit
DataFun社区旗下账号,专注于分享大数据、人工智能领域行业峰会信息和嘉宾演讲内容,定期提供资料合集下载。
内容 1290
粉丝 0
DataFunSummit 北京鸿润嘉诚企业管理咨询有限公司 DataFun社区旗下账号,专注于分享大数据、人工智能领域行业峰会信息和嘉宾演讲内容,定期提供资料合集下载。
总阅读30.2k
粉丝0
内容1.3k