摘要
一次 AI coding 请求,横跨四层系统。
🚀 Qwen Code 是 Agent 运行时,负责准入、翻译、工具批、权限、回注、压缩,以及组装最终发给模型的 messages 数组。
🌐 Ollama 是本地推理网关,负责 HTTP 服务、调度、模型加载、Runner 进程管理,并按 GGUF 中的 Chat Template 把 messages 渲染成线性 token 流。
⚙️ llama.cpp 是计算引擎,llama_decode 执行前向传播,把 token 序列变成 logits。
📦 GGUF 是共享载体,权重、分词器、Chat Template 打包在一个文件里。
每一层只做一件事。主循环不关心后端在哪里,但每一层都必须在自己的边界内完成职责。
目录
🚀 起点:用户敲下命令,四层全景
🚪 准入:模型之前做的六件事
🌐 请求进入 Ollama:调度与渲染
⚙️ llama.cpp 计算:Prefill 与 Decode
📡 流式返回:Turn 把 chunk 翻译成事件
🛠️ 工具批:从模型意图到可执行调用
🔐 权限:调度前的治理
💾 执行与回注:结果如何回到 messages
🔄 下一轮循环:压缩与遗忘
📋 附录:messages 形状变化速查
🎯 收束
🚀 起点:用户敲下命令,四层全景
用户敲下 qwen,输入“给 config.ts 的 timeout 加一个可配置项,从环境变量读,默认 30 秒”。这一刻,四个系统同时被卷入。
🏗️ Qwen Code 是意图层。用户输入什么、模型请求什么、工具执行什么,都由它编排。它管准入、翻译、工具批、权限、回注、压缩、打断,以及 messages 数组的逻辑组装。它不关心模型在云端还是本地,只消费统一事件。
🌐 Ollama 是调度层兼渲染层。接收 HTTP 请求,决定用哪个已加载的模型,并按 GGUF 中的 Chat Template 把 messages 渲染成模型期望的线性 token 流。它管模型加载与卸载、显存驱逐、引用计数、Keep-Alive,不执行张量计算。
⚙️ llama.cpp 是执行层。llama_decode 把 token 序列变成 logits。它管 KV Cache 的读写、计算图的构建与执行、采样,不知道 Agent Loop 的存在,也不知道哪些 token 来自 user、哪些来自 tool,只处理线性 token 序列。
📦 GGUF 是共享载体。权重、分词器、Chat Template 打包在一个自包含文件里。Ollama 读取它来加载模型和渲染提示词,llama.cpp 读取它来构建计算图。
上图解读:
-
• 上半部分是 Qwen Code 的领地。Surface 层负责呈现,Agent Loop 层负责编排,OpenAI 兼容路径负责组装 messages数组。 -
• Ollama 承担调度与渲染双重角色。它不只转发请求,还要用 GGUF 里的 Chat Template 把 messages渲染成线性 token 流。 -
• llama.cpp 只看到线性 token。它不知道哪些 token 来自 user、哪些来自tool,模板在它之前已经完成了 role 到特殊 token 的映射。 -
• GGUF 包含三个关键要素:权重、分词器、Chat Template。模板决定同一 messages数组在不同模型上呈现完全不同的 token 形状。 -
• 工具批独立于模型链路。工具执行不经过 Ollama,由 Qwen Code 自己调度。
🚪 准入:模型之前做的六件事
用户输入进入 LlmClient 之后,模型还没有看到它。在提示词真正发给模型之前,运行时做了六件事。
-
1. 🪝 用户输入钩子。公司配置的合规钩子扫描提示词里有没有 API key 明文,发现就拦截并改写。 -
2. 🎯 目标准入。Goal 设了预算 5000 token,当前已用 4800,这一轮请求还没发就被拒绝。 -
3. 🧠 上下文注入。项目是 React 应用, LlmClient自动把package.json的关键依赖、最近的git diff、当前打开的文件路径拼进请求。 -
4. 🔁 循环检测。模型连续 3 轮请求同一个 read_file,参数完全一样,循环检测命中并提示模型已经读过这个文件。 -
5. 🚧 上限检查。默认 maxTurns是 100,跑到第 100 轮还没结束,直接终止。 -
6. 📤 发起模型调用,消费续发触发。Stop hook 检查测试没跑,要求再跑一下;或者你在中途补充“顺便加个默认值”,steering 把这条补充注入到下一轮。
这六件事都发生在模型看到提示词之前,或者一次 Turn 结束之后、下一轮开始之前。
📚 几个基础概念:
-
• 🔄 Agent Loop:发送提示、流式接收回复、执行工具、回注结果,直到模型不再请求工具为止。一次编码任务通常包含多轮循环。 -
• 🎬 Turn:一次模型调用及其产生的全部事件。主循环由多个 Turn 组成,中间夹着工具执行。 -
• 🧩 Chunk:模型流式返回的原始数据块。一个 Turn 里模型可能返回几十到几百个 chunk。 -
• 🆔 Call ID:工具调用的唯一标识符。调度器用它来去重、关联请求和结果。
LlmClient.sendMessageStream 只负责一次 Turn,外加它自己的续发逻辑。它从不执行工具。“执行工具、发回结果、继续下一轮”由各入口分别实现,设计文档指出这个循环有七份实现(TUI、Headless、ACP、Daemon、Subagent、Fork、SDK),已经各自走样。统一 Agent Loop 的使命是把七份副本收编成一份。
准入不只做逻辑判断,它还会改写 messages 数组的形状。最典型的两处副作用是:
💡 <system-reminder> 是 user 消息的前缀,不是 system role。 Qwen Code 把长期稳定的基础指令作为 API 级别的 systemInstruction 发送,而动态上下文(当前模式、Todo 状态)则前置到用户消息的 content 中,用标签包裹。Ollama 渲染后,llama.cpp 看到的仍然是 <|im_start|>user 开头的一个轮次,只是 content 内部多了一段被标签包裹的文本。
📎 Hook 的 additionalContext 追加到 user content 末尾,不新增 role。UserPromptSubmit 钩子返回的上下文不会塞成新的 user 轮次,而是追加在当前用户消息的 content 末尾。它不改变 role 的数量和顺序,只改变 user content 的内部文本。
上图解读:
-
• 入口到发起模型调用之间是六道准入,每一步都可能终止本轮,只有全部通过才真正发起模型调用。 -
• 上下文注入这一步同时改变 messages形状:<system-reminder>前置到usercontent,hook 的additionalContext追加到末尾,但都不新增 role 条目。 -
• 发起模型调用之后的续发循环由 LlmClient自己拥有,Stop hook、steering、next-speaker 都会回到模型调用。 -
• 这一层不接触 Ollama 和 llama.cpp。准入是纯逻辑判断,模型在哪不重要。
🌐 请求进入 Ollama:调度与渲染
六道准入全部通过后,LlmClient 把 messages 数组交给 Turn,Turn 通过 ContentGenerator 的 OpenAI 兼容路径发出 HTTP 请求。请求到达 Ollama。
Ollama 的 HTTP 服务器监听 127.0.0.1:11434,同时提供 OpenAI 兼容和 Anthropic 兼容的接口。请求经过路由之后进入调度器,调度器负责模型加载与卸载、显存驱逐、引用计数、Keep-Alive。
冷启动时,你第一次问 qwen3-coder:30b,调度器检查显存是否够权重加 KV Cache 预算,够就加载,不够就驱逐或拒绝。热复用时,引用计数从 0 加到 1,直接复用 Runner,延迟从 15 秒降到 200ms。切换模型时,调度器检查显存,决定并行加载还是驱逐旧的。空闲超时后,Keep-Alive 到期,模型被卸载,显存释放。
然后,调度器把请求交给 Chat Template 渲染层,再交给 Runner 进程。Ollama 曾经通过 CGO 绑定在 Go 进程内直接调用 llama.cpp,现在改用上游 llama.cpp 构建的 llama-server 作为推理引擎。
Chat Template 逐条读取 messages,把每个 role 渲染成模型特定的特殊 token。同一个 messages 数组,在不同模型的模板下会呈现完全不同的 token 形状。tool role 在某些 Qwen 模板下会被渲染成 <|im_start|>user 加 <tool_response> 标签,而不是 <|im_start|>tool。Qwen 的 Ollama 模板本身也明确要求:模型调用工具时,应当在 <tool_call> 标签内返回一个 JSON 对象,包含函数名和参数。
也就是说,Qwen Code 发给 Ollama 的请求,tools 字段里是完整的 JSON Schema 声明。比如:
{
"tools": [
{
"type": "function",
"function": {
"name": "read_file",
"description": "Read a file from the local filesystem",
"parameters": {
"type": "object",
"properties": {
"path": { "type": "string", "description": "Absolute or relative path" }
},
"required": ["path"]
}
}
}
]
}
这段 JSON 经 Chat Template 渲染后,会变成模型系统提示词里的一段工具声明。模型看到这段声明后,才知道有 read_file 这个工具、参数是 path。
上图解读:
-
• HTTP 服务器是 Ollama 的入口,接收 messages数组和tools声明。 -
• 调度器是大脑,它不执行推理,只决定用哪个模型、什么时候加载、什么时候驱逐。 -
• Chat Template 是渲染层,把 messages和tools渲染成模型特定的特殊 token。从这里开始,role 的概念消失,只剩下线性 token 序列。 -
• Runner 内部包含 llama.cpp。 llama_decode和 KV Cache 属于 llama.cpp 的边界,Ollama 不直接操作。
⚙️ llama.cpp 计算:Prefill 与 Decode
模板渲染完成之后,线性 token 流进入 Runner,Runner 调用 llama_decode。所有真正的计算收敛到这里:给定一批 token,执行一次前向传播,产出 logits。
🔵 Prefill:整个 prompt 作为一个大 batch 送入,并行处理所有 prompt token,写满 KV Cache,产出第一个生成 token 的 logits。2000 token 的 prompt,一次前向传播大约 200ms。
🟢 Decode:每一步 batch 里通常只有一个 token,也就是上一步采样出来的新 token。拿着它和已积累的 KV Cache 做一次前向传播,产出下一个 logits,采样,再喂回下一步。生成 100 个 token,每步 20ms,总耗时 2 秒,llama_decode 被调用 100 次。
上图解读:
-
• Prefill 是一整块蓝色执行,整个 prompt 作为一个 batch 送入,一次前向传播写满 KV Cache。 -
• Decode 是绿色循环,每一步只处理一个新 token,严格串行。 -
• KV Cache 在两个阶段都被读写。Prefill 写入全部 prompt 的 K/V,Decode 每步读写增量 K/V。 -
• 这一层是纯计算,它不知道 system、user、tool的区别,只处理线性 token 序列。
📡 流式返回:Turn 把 chunk 翻译成事件
llama.cpp 每采样出一个 token,Runner 就把它包装成 chunk 流式回传。经过 Ollama 的 HTTP 层、Qwen Code 的 OpenAI 兼容路径,chunk 到达 Turn。
模型不是一次性返回完整回复,而是逐块返回。每个 chunk 可能包含几个字、一段思考、或一个工具调用的片段。Turn 的职责是把这些碎片拼成有意义的事件:Content、Thought、ToolCallRequest、Retry / ModelFallback、Finished。
用户看到的是“我先看一下 config.ts 的现有结构”,以及随后出现的读文件卡片。这两部分内容在原始流里是混在一起的。
工具调用在 chunk 里长什么样
模型决定调用 read_file 时,流式返回的 chunk 可能长这样:
chunk 1: {"text": "我先看一下"}
chunk 2: {"text": " config.ts 的"}
chunk 3: {"text": "现有结构"}
chunk 4: {"text": "<tool_call>\n{\"name\": \"read_file\", \"arguments\""}
chunk 5: {"text": ": {\"path\": \"config.ts\"}}\n</tool_call>"}
注意第 4、5 个 chunk:JSON 被拆成了两半。第 4 个 chunk 里的 JSON 甚至不是合法的——"arguments" 后面缺了冒号和值,直接断掉。如果解析器看到一个 chunk 就急着 JSON.parse,会直接抛异常。
Turn 的 StreamingToolCallParser 处理的就是这件事。它把文本先累积到缓冲区,不立即解析。只有当缓冲区里出现完整的 <tool_call>...</tool_call>,或者检测到 JSON 的括号已经闭合,才尝试解析:
{
"name": "read_file",
"arguments": { "path": "config.ts" }
}
解析成功后,产出一个 ToolCallRequest 事件,带上模型给出的工具名和参数。如果缓冲区到了流结束还没闭合,就标记 hadIncompleteArguments,让下游调度器拒绝执行。
另一种形状:OpenAI 兼容的 tool_calls
如果走的是 OpenAI 兼容路径,工具调用可能不以 <tool_call> 标签出现,而是以 tool_calls 数组的形式出现在 chunk 里:
{
"choices": [{
"delta": {
"tool_calls": [{
"index": 0,
"id": "call_abc123",
"type": "function",
"function": {
"name": "read_file",
"arguments": "{\"path\":"
}
}]
}
}]
}
注意 arguments 字段是一个字符串,而且只写了半截 {"path":。下一个 chunk 可能继续补:
{
"choices": [{
"delta": {
"tool_calls": [{
"index": 0,
"function": { "arguments": "\"config.ts\"}" }
}]
}
}]
}
Turn 需要按 index 把同一个工具调用的参数片段拼接起来,再统一解析。arguments 是字符串还是对象、是完整还是半截、是一个还是多个,这些差异都在这一层被吸收。
两种形状最终归一
无论模型返回的是 <tool_call> 里的 JSON envelope,还是 OpenAI 兼容的 tool_calls 数组,Turn 最终都归一到同一个内部结构:
{
"type": "ToolCallRequest",
"callId": "call_abc123",
"name": "read_file",
"args": { "path": "config.ts" },
"isTruncated": false,
"isIncomplete": false
}
调度器不关心这个结构是怎么从 chunk 里拼出来的,它只消费归一后的 ToolCallRequest。
Turn 还标记两类异常:wasOutputTruncated(输出被截断)和 hadIncompleteArguments(工具参数不完整)。一个被截断的 edit_file 参数如果被当作完整参数执行,可能写入半截文件。Turn 的标记让调度器有机会拒绝。
上图解读:
-
• 输入来自 Ollama 的 chunk 流,对 Turn来说它和 Gemini、OpenAI 的 chunk 没有区别。 -
• 五种事件类型对应模型能产出的全部内容:文本、思考、工具调用、异常信号、结束。 -
• 工具调用可能以 JSON envelope 或 tool_calls数组的形式出现,流式解析器负责把碎片拼接起来,归一到统一的ToolCallRequest。 -
• ToolCallRequest带异常标记,截断或参数不完整时,下游调度器能看到标记并拒绝执行。
🛠️ 工具批:从模型意图到可执行调用
Finished 之后,如果这一轮出现了 ToolCallRequest,主循环面对的是工具批。职责是重复调用处理、调度、按序输出结果。
重复 call_id 的调用不会再次执行。provider 因为网络抖动重放了上一批请求,同一个 call_abc123 出现了两次,调度器看到 id 已经在历史里,不再执行第二次,直接返回缓存结果。每个没有执行的调用也都会得到一个响应,模型不会悬置。
整批交给 CoreToolScheduler,按并发安全性分批。只读调用可以并行,存在依赖的调用必须串行,同一文件的重复编辑也必须串行。状态机从 validating 开始,校验工具存在性和参数 Schema;失败直接 error;通过进入 scheduled,然后按权限和槽位进入 waiting 或 executing;执行完成 success,抛错 error,信号中止 cancelled。
上图解读:
-
• 入口是 validating,批量进入后每个调用先校验工具存在性和参数 Schema。 -
• scheduled之后有两条路:需要确认或等待槽位时进入waiting,不需要时直接executing。 -
• executing是唯一真正调用invocation.execute()的状态,三条出口是成功、抛错、中止。 -
• 这一层不涉及 Ollama。工具执行完全由 Qwen Code 的调度器负责,模型后端不参与。
🔐 权限:调度前的治理
调度器知道有哪些调用、怎么分批,但还没回答允不允许执行。权限系统在工具调度前读取,不在循环内部判断。
五种审批模式是 Plan、Ask Permissions、Auto-Edit、Auto、YOLO。
-
• 🧪 Plan:只读分析。你切到 Plan 模式问“怎么给 timeout 加配置”,模型只读地搜索引用、读文件,输出计划,不会尝试编辑。 -
• 🛡️ Ask Permissions:默认模式。编辑 config.ts 弹 diff 卡片,你按 y批准。 -
• ✏️ Auto-Edit:编辑直接执行,但跑测试命令仍需确认。 -
• 🤖 Auto:分类器判断有风险的命令拒绝,安全的命令放行。 -
• 💥 YOLO:CI 环境里全部直接执行。
Plan 模式改变的是 Agent Loop 的合法路径,不只是审批更严。普通工具在调度阶段被直接拦截,模型只能使用只读工具,不能自行“降权”。
上图解读:
-
• 第一层是规则匹配, deny → ask → allow,first-match-wins。 -
• 规则不匹配时回退到审批模式,这是模式层和规则层的双轨结构。 -
• Plan 是唯一直接拦截普通工具的模式,其他模式要么放行,要么询问。 -
• 这一层的判断在工具真正执行之前完成,它不改变工具执行的结果,只决定能不能开始执行。
💾 执行与回注:结果如何回到 messages
权限通过,工具执行。结果回到主循环的方式经过整理、记录、注入三步。
finalizeToolResponses 把原始结果整理成模型可消费的 ToolResult。如果输出超大,超过阈值的完整内容写入临时文件,历史中只保留预览和 read_file 指针。记录环节把 call_id、工具名、参数、结果、状态写入历史。最后,ToolResult 被注入下一轮请求的 messages 数组,作为 role: "tool" 的消息。
工具结果里携带的 JSON
MCP 工具经常返回结构化的 JSON 输出。比如一个查询数据库的 MCP 工具,返回的原始结果可能是:
{
"columns": ["id", "name", "timeout_ms"],
"rows": [
[1, "config-service", 30000],
[2, "auth-service", 15000]
]
}
这个对象不能直接塞进 messages 的 content 字段——content 通常是字符串或内容块数组。finalizeToolResponses 需要把 JSON 对象序列化成字符串再注入历史:
{
"role": "tool",
"tool_call_id": "call_abc123",
"content": "{\"columns\":[\"id\",\"name\",\"timeout_ms\"],\"rows\":[[1,\"config-service\",30000],[2,\"auth-service\",15000]]}"
}
如果工具返回的本身就是字符串(比如 read_file 返回文件内容),则直接注入,不做二次序列化。这个区分是必要的:把字符串再包一层 JSON 会让模型看到转义字符,增加理解和 token 开销。
此刻,tool 消息在 Ollama 渲染后会变形
Qwen Code 层面它是 role: "tool",但 Ollama 的 Qwen Chat Template 在渲染时,可能把 tool 渲染成 <|im_start|>user,而不是 <|im_start|>tool,content 外面包上 <tool_response> 标签。llama.cpp 看到的 token 流里,工具结果的轮次以 <|im_start|>user 开头,里面是 <tool_response>。
如果 Qwen Code 在工具调用之后的 follow-up 请求里省略了原始的 role: "user" 消息,只保留 system、assistant(带 tool_calls)和 tool,Ollama 的模板会因为找不到真正的 user 轮次而直接返回 HTTP 500。tool 渲染成的 user 不能替代原始用户轮次,因为模板在渲染之前就做了结构检查。
上图解读:
-
• 超大输出走卸载路径,完整内容写入临时文件,历史中只保留预览和指针。 -
• finalizeToolResponses是统一收口点,无论走哪条路径,最终都整理成模型可消费的ToolResult。如果工具返回的是 JSON 对象,这里负责序列化;如果本来就是字符串,直接透传。 -
• 注入这一步同时改变 messages形状:toolrole 在 Ollama 渲染后可能变成<|im_start|>user加<tool_response>,原始user轮次不能被省略。 -
• 这一层是遗忘的第一道防线,在输出进入历史之前就拦截了超大内容。
🔄 下一轮循环:压缩与遗忘
第二轮模型请求带着工具结果发出。这一次,messages 数组里多了一条 tool 消息。请求再次经过前面的完整链路:Ollama 调度、模板渲染、llama.cpp 计算、chunk 流式返回、Turn 翻译。
模型可能说“config.ts 里 timeout 是硬编码的 30000,我会改成读环境变量”,发起编辑调用。编辑执行,结果回注。模型跑测试,输出回注。模型判断完成,不再调用工具,循环终止。
如果任务更复杂,历史会膨胀,压缩在后台介入。第一层是工具输出卸载,超大输出在进入历史之前拦截。第二层是历史压缩,token 接近阈值时触发,用摘要替换旧消息。新版 compact 采用全量摘要加恢复附件:摘要覆盖主要请求、涉及文件、错误、用户消息并逐字保留;恢复附件补上最近的文件和图片。第三层是反应式救援,模型返回上下文溢出时自动触发压缩兜底。
Compact 之后的恢复附件追加在摘要所在的 user 条目中,而不是新开独立的 system 轮次。文件恢复采用大小自适应,小文件从磁盘读取全文嵌入,大文件只保留路径引用;图片恢复以带元数据头部的用户消息注入。压缩后的 messages 数组比普通轮次多出文件嵌入和图片附件的内容,但 role 结构仍然保持“摘要 user → 模型 ack → 附件 user”的交替。
压缩后的 messages 数组会变短,下一次递交给 Ollama 的 prompt 也随之变短。llama.cpp 处理的 token 序列更短,Prefill 更快,KV Cache 占用更少。这是 Qwen Code 层面对遗忘的管理,Ollama 和 llama.cpp 不知道历史被压缩过,它们只看到更短的 prompt。
上图解读:
-
• 三层防线按顺序检查:先看单次输出是否超大,再看 token 是否接近阈值,最后看模型是否返回溢出。 -
• Compact 是历史级别的压缩,它改变的是即将发给模型的 messages数组,不是单条工具输出。恢复附件追加在user条目中,不新增 role 轮次。 -
• 这一层完全在 Qwen Code 内部。Ollama 和 llama.cpp 不知道历史被压缩过,它们只看到更短的 messages。 -
• 下一轮请求重新走 Ollama 调度、模板渲染、llama.cpp 计算。时间线是一个循环。
📋 附录:messages 形状变化速查
时间线上几个时刻会改变 messages 的形状。这张表是跨时间线的速查索引。
|
|
|
|
|
|
|
|---|---|---|---|---|---|
|
|
|
user
|
|
<|im_start|>user |
<system-reminder>
|
|
|
additionalContext |
user
|
|
user 轮
|
<qwen:user-prompt-submit-context>
|
|
|
|
tool |
|
<|im_start|>user
|
<tool_response> |
|
|
|
tool
user
|
|
user 轮
|
tool_response,媒体独立轮
|
|
|
|
user content
|
|
user 轮
|
|
|
|
|
system |
|
<|im_start|>system |
|
Qwen Code 的 messages 数组里,system 是固定的第一轮,user 和 tool 随事件动态增减。Ollama 的模板把 tool 渲染成 user 的变体,所以 llama.cpp 最终看到的线性 token 里,用户轮和工具轮的边界不是靠 role token 区分的,而是靠 <tool_response> 之类的标签。
🎯 收束
按时间线回看“给 timeout 加配置”这个任务,每一层都在自己该做的时刻做自己该做的事。
🚀 起点:用户输入,四层系统同时卷入。Qwen Code 是意图层,Ollama 是调度与渲染层,llama.cpp 是计算层,GGUF 是共享载体。
🚪 准入:六件事在模型看到提示词之前完成,messages 数组的逻辑形状在这里开始变化。<system-reminder> 前置,additionalContext 追加,但都不新增 role。
🌐 请求进入 Ollama:调度器决定用哪个模型,Chat Template 把 messages 和 tools 声明渲染成线性 token。从这一刻起,role 的概念消失。
⚙️ llama.cpp 计算:Prefill 一次处理整个 prompt,Decode 逐 token 自回归,KV Cache 让历史不必重算。
📡 流式返回:Turn 把 chunk 翻译成 Content、Thought、ToolCallRequest、Finished。工具调用可能以 <tool_call> 里的 JSON envelope 出现,也可能以 OpenAI 兼容的 tool_calls 数组出现,arguments 可能是字符串也可能是对象、可能被拆成多个 chunk。流式解析器负责把它们收拢成统一事件,并标记截断和不完整参数。
🛠️ 工具批:调度器按并发安全性分批,校验、排队、执行、收尾。
🔐 权限:五种模式在调度前读取,决定能不能走。
💾 执行与回注:结果整理成 ToolResult,记录到历史,注入下一轮 messages。如果工具返回 JSON 对象,这里会序列化成字符串;如果本来就是字符串,直接透传。tool role 在 Ollama 渲染后可能变形为 user,这是 Qwen Code 和 Ollama 之间最容易被忽略的边界。
🔄 下一轮循环:历史膨胀时压缩介入,messages 变短,恢复附件追加到 user 条目,回到 Ollama。
所有这些局部,服务于同一个结构:一个 core,多种 surface。主循环不是一段代码,而是由准入、翻译、调度、治理、回注、消息组装共同支撑的责任链。每一层只做一件事,所以七个入口可以复用同一条链;每一层不越界,所以模式切换、后端切换、中断恢复可以在不触碰循环骨架的情况下完成。

