转型 AI 开发——LangChain 实战第七课：豆包、DeepSeek 的流式输出原来这么简单？2行代码就能搞定！

昨天我们聊了 AI 的三种记忆策略，比较硬核，今天换个轻松的话题：流式输出。

说白了，就是 边生成边显示。
这个场景应该很多同学都见过，比如在DeepSeek，比如在豆包，比如在元宝。

相比较我们之前开发的代码内容，没有流失输出，大家应该体会到了那种等待的痛。

流失输出相比一次性等待结果返回，有这些优势：

1. 1. 体验更丝滑：等大模型一口气输出完，可能要好几秒。流式就像打字机，一点点蹦出来，你不至于怀疑它是不是死机了。
2. 2. 提升交互感：有些场景下（比如写作助手、编程助手），你能边看边打断，节省时间。

举个栗子：

• • 你做了一个客服助手，用户提问。
• • 如果没流式，用户点了发送后要干等 5 秒，体验很差。
• • 如果用了流式，前 1 秒就开始有回答滚出来了，用户立刻安心，觉得 AI 很聪明。问了问题一秒反馈，说不定还夸一声，这AI脑子转得真快。

那我们如何重现我们习以为常的流式输出呢？

老规矩，上代码。
我们就来写个最小 demo，看看流式输出到底咋实现。

新建文件07_stream.py

流式输出实战代码

           
           
           
           import os
from langchain_openai import ChatOpenAI
from langchain.callbacks.streaming_stdout import StreamingStdOutCallbackHandler
from dotenv import load_dotenv

load_dotenv()

# 初始化 LLM，打开 streaming=True
llm = ChatOpenAI(
    model="deepseek-chat",
    base_url="https://api.deepseek.com/v1",
    api_key=os.getenv("deepseek_api_key"),
    streaming=True,  # 开启流式输出
    callbacks=[StreamingStdOutCallbackHandler()]  # 把生成的内容直接打印出来
)

print("=== 流式输出实验 ===")
print("输入你的问题，AI 会边生成边输出。输入 quit 退出。\n")

while True:
    user_input = input("你：")
    if user_input.lower() in ["quit", "exit", "退出"]:
        break

    print("AI：", end="", flush=True)
    llm.invoke(user_input)
    print("\n")  # 换行

搞定流失输出，核心就是两个点：

打开streaming=True

• • 默认是 False（非流式），必须手动改成 True。

加回调函数（callback）

• • 你得告诉 LangChain：“每生成一个 token，就立刻交给谁来处理”。
• • 最常见的就是用 StreamingStdOutCallbackHandler()，它会把 token 一边生成一边打印到终端。

是不是很简单，直接上手试试吧。