

Open Agent Summit | 聚焦 Agentic AI的盛会

PyTorch

2025-10-22

Part.01

Welcome & Opening Remarks - Matt White, Executive Director, PyTorch Foundation

开场来自PyTorch基金会的执行总监Matt White，介绍了Agent的现状、挑战，近年来，具备自主性与多步骤任务执行能力的AI系统，正以前所未有的速度发展。这一跃迁得益于强大的基础模型，它们不仅能够理解语言，更具备初步的规划（planning）与推理（reasoning）能力，使AI Agent能够设定子目标、调用工具、评估结果并自主调整策略。他认为面向下一代的人机交互协作，包含了多代理协同（Multi-agent Orchestration）、科学发现与自动化加速、可组合智能（Composable Intelligence）几个方向。

然而，当前Agent生态仍处于高度碎片化状态：

工具链、运行时环境与开发框架分散，缺乏统一标准，缺少标准的“语言”；

Agent行为的可靠性、安全性与可复现性难以系统评估；

不同系统之间互操作性有限，严重制约了在真实场景中的规模化部署与跨平台协作。

因此，需要一个开放的标准从而实现跨工具与框架的互操作性、建立Agent间通信的通用语言，避免形成封闭生态系统与平台锁定（vendor silos），从而构建可持续、可演进的长期技术生态。在开放标准的基础上，开源（Open Source）被视作推动Agentic AI健康发展的核心动力，能够使代码透明、减少重复造轮子，保障技术发展方向的多样性与公平性（技术平权）。

Part.02

Towards Building Safe and Secure Agentic AI - Dawn Song, Professor, UC Berkeley

来自伯克利的Dawn Song分享了在Agentic AI安全方面的思考。

与LLM的安全相比，LLM Agent的安全，是一件更为复杂的事情，因为不光是模型，也要关心环境、工具等全链路的安全。

在演讲中，演讲者举了一个很简单的例子，就是在评论中留下一些恶意的URL，当你让Agent去总结评论的时候，就会访问不安全的链接。

因此，面对这些复杂性，演讲者认为，对于Agentic AI的整体的防御原则是:

Defense-in-depth（纵深防御）：是要建立在多层防御机制之上的“纵深防御”机制。即使某一层被攻破，其他层仍能提供保护。

Least privilege & privilege separation（最小权限与权限分离）：Agent只应拥有完成其任务所需的最低权限，将不同功能模块（如推理、工具调用、数据访问）隔离，避免一个组件出错影响全局。

Safe-by-design, secure-by-design, provably secure（设计即安全，架构即保障，可证明安全）：在系统设计之初就考虑安全性，而不是事后补救；从架构层面嵌入安全保障机制，同时尽可能使用形式化方法或数学证明来验证系统的安全性，确保其行为在理论上是可控和可预测的。

基于上述的原则，每层需要做的防御包括：

第一层：Model Input Sanitization / Validation（模型输入清洗与验证），防止恶意或异常输入进入模型；
第二层：Model-level Defense（模型级防御），在模型内部增强鲁棒性，防止生成有害输出；
第三层：Policy enforcement on actions（动作层面的策略执行），控制Agent在执行具体操作时的行为边界。
第四层：Monitoring and anomaly detection（监控与异常检测），实时观察Agent行为，及时发现偏离正常模式的情况。

随后，演讲也介绍了几个近期研究的成果，包含AgentVigil、Agentxploit、Progent，有兴趣的可以自行搜索，都有对应的论文。

Part.03

The AI Scientist-v2: Workshop-Level Automated Scientific Discovery via Agentic Tree Search - Yutaro Yamada, Sakana

介绍了AI科研的项目，简单说就是“用AI写论文“。作者之前有一个V1的版本是基于模板的，大概就是给一些初始的idea，实验的脚本，论文的模板，而V2则更加智能不再需要模板了，大概分为三个步骤，第一步先进行Idea生成，并进行打分。然后基于idea，通过一个基于树的算法，逐步选择合理的实验，这写都是自动化并且不依赖模板的。第三步，把论文写出来。

感兴趣的可以看看：https://github.com/SakanaAI/AI-Scientist-v2

Part.04

Accelerating Open-Source RL and Agentic Inference with vLLM

来自Redhat的vLLM Committer分享了vLLM在Agentic推理和RL的进展。

首先介绍了vLLM对模型与硬件的支持，可以注意到近期大家比较关心的Qwen、DeepSeek系列（Qwen Next、Qwen3 VL、DeepSeek v3.2、DeepSeek OCR）等都是0 day支持。同时对于国内外的主流芯片例如NVIDIA/AMD/Intel GPU、Google TPU、Ascend NPU等都进行了支持。