在构建生成式 AI 应用时，我们经常面临一个关键挑战：“记忆管理（Memory Management）”。在简单的 Demo 中，我们通常把聊天记录（Chat History）直接存在内存的 List<ChatMessage> 中，这很容易。但在实际的生产环境，尤其是构建无状态（Stateless）的 Web API 时，这种方式就完全不够用了：
-
服务器重启，内存里的数据丢失 -
负载均衡导致请求落在不同服务器，导致上下文无法共享 -
用户刷新浏览器，session 消失 -
多终端（App / Web）无法共享对话历史
因此，我们需要将“记忆”托管到一个外部存储中，例如：
-
向量数据库（Azure AI Search / pgvector） -
Redis -
Cosmos DB -
SQL / NoSQL 数据库 -
任意持久化服务
本节我们将使用 Microsoft Agent Framework 来演示如何通过实现自定义的 ChatMessageStore，将 AI 的记忆托管给外部存储。示例中我们采用 InMemory VectorStore（仅用于演示），你可以替换为任意数据库。
引用包
-
需要的 NuGet 包： -
Azure.AI.OpenAI (2.1.0) -
Azure.Identity (1.18.0-beta.2) -
Microsoft.Agents.AI.OpenAI (1.0.0-preview.251125.1) -
Microsoft.Extensions.AI.OpenAI (10.0.1-preview.1.25571.5) -
Microsoft.SemanticKernel.Connectors.InMemory (1.67.1-preview)
可选：使用命令行安装
dotnet add package Azure.AI.OpenAI --version 2.1.0
dotnet add package Azure.Identity --version 1.18.0-beta.2
dotnet add package Microsoft.Agents.AI.OpenAI --version 1.0.0-preview.251125.1
dotnet add package Microsoft.Extensions.AI.OpenAI --version 10.0.1-preview.1.25571.5
dotnet add package Microsoft.SemanticKernel.Connectors.InMemory --version 1.67.1-preview
我们这一节中使用 Microsoft.SemanticKernel.Connectors.InMemory 包来实现一个简单的内存存储。关于更多的第三方存储实现，可以参考： Semantic Kernel与Postgres向量存储
引用外部包后，我们就可以开始编写代码了。老生常谈，基础配置请参考：使用 Microsoft Agent Framework 构建你的第一个 Agent 应用
组装 Agent：注入自定义 ChatMessageStore
在创建 Agent 时，通过 ChatMessageStoreFactory 参数，告诉框架如何为每个 AgentThread 创建消息存储器。
AIAgent agent = new AzureOpenAIClient(
new Uri(endpoint),
new AzureCliCredential())
.GetChatClient(deploymentName)
.CreateAIAgent(new ChatClientAgentOptions
{
Instructions = "你是一位江湖说书人，擅长用幽默、接地气的方式讲笑话和故事。",
Name = "Joker",
ChatMessageStoreFactory = ctx =>
{
return new VectorChatMessageStore(vectorStore, ctx.SerializedState, ctx.JsonSerializerOptions);
}
});
接着我们就可以使用这个 Agent 来进行对话了。
// 创建线程并运行对话
AgentThread thread = agent.GetNewThread();
// 运行代理，传入线程以存储对话历史记录在向量存储中。
Console.WriteLine(await agent.RunAsync("给我讲一个发生在茶馆里的段子，轻松一点的那种。", thread));
// 序列化线程状态，以便稍后使用。
JsonElement serializedThread = thread.Serialize();
Console.WriteLine("\n--- Serialized thread ---\n");
Console.WriteLine(JsonSerializer.Serialize(serializedThread, new JsonSerializerOptions { WriteIndented = true }));
// 反序列化线程状态以恢复对话。
AgentThread resumedThread = agent.DeserializeThread(serializedThread);
// 继续与代理对话，传入恢复的线程以访问以前的对话历史记录。
Console.WriteLine(await agent.RunAsync("现在把这个段子加上一些表情符号，并用说书人的语气再讲一遍。", resumedThread));
// 我们能够通过线程的 GetService 方法访问 VectorChatMessageStore，如果我们需要读取存储线程的键。
var messageStore = resumedThread.GetService<VectorChatMessageStore>()!;
Console.WriteLine($"\n线程唯一ID存储在向量数据库中: {messageStore.ThreadDbKey}");
Console.WriteLine("\n--- 完成 ---\n");
接下来我们定义 VectorChatMessageStore 来实现存储逻辑。
internal sealedclassVectorChatMessageStore : ChatMessageStore
{
privatereadonly VectorStore _vectorStore;
public VectorChatMessageStore(VectorStore vectorStore, JsonElement serializedStoreState, JsonSerializerOptions? jsonSerializerOptions = null)
{
this._vectorStore = vectorStore ?? thrownew ArgumentNullException(nameof(vectorStore));
if (serializedStoreState.ValueKind is JsonValueKind.String)
{
this.ThreadDbKey = serializedStoreState.Deserialize<string>();
}
}
publicstring? ThreadDbKey { get; privateset; }
public override async Task AddMessagesAsync(IEnumerable<ChatMessage> messages, CancellationToken cancellationToken = default)
{
this.ThreadDbKey ??= Guid.NewGuid().ToString("N");
var collection = this._vectorStore.GetCollection<string, ChatHistoryItem>("ChatHistory");
await collection.EnsureCollectionExistsAsync(cancellationToken);
await collection.UpsertAsync(messages.Select(x => new ChatHistoryItem()
{
Key = this.ThreadDbKey + x.MessageId,
Timestamp = DateTimeOffset.UtcNow,
ThreadId = this.ThreadDbKey,
SerializedMessage = JsonSerializer.Serialize(x),
MessageText = x.Text
}), cancellationToken);
}
publicoverrideasync Task<IEnumerable<ChatMessage>> GetMessagesAsync(CancellationToken cancellationToken = default)
{
var collection = this._vectorStore.GetCollection<string, ChatHistoryItem>("ChatHistory");
await collection.EnsureCollectionExistsAsync(cancellationToken);
var records = await collection
.GetAsync(
x => x.ThreadId == this.ThreadDbKey, 10,
new() { OrderBy = x => x.Descending(y => y.Timestamp) },
cancellationToken)
.ToListAsync(cancellationToken);
var messages = records.ConvertAll(x => JsonSerializer.Deserialize<ChatMessage>(x.SerializedMessage!)!);
messages.Reverse();
return messages;
}
public override JsonElement Serialize(JsonSerializerOptions? jsonSerializerOptions = null) =>
JsonSerializer.SerializeToElement(this.ThreadDbKey);
/// <summary>
///
/// </summary>
privatesealedclassChatHistoryItem
{
[VectorStoreKey]
publicstring? Key { get; set; }
[VectorStoreData]
publicstring? ThreadId { get; set; }
[VectorStoreData]
public DateTimeOffset? Timestamp { get; set; }
[VectorStoreData]
publicstring? SerializedMessage { get; set; }
[VectorStoreData]
publicstring? MessageText { get; set; }
}
}
实现存储逻辑
需要继承 ChatMessageStore 并重写关键方法。
-
存（ AddMessagesAsync）：不存内存，直接写库。 -
取（ GetMessagesAsync）：通过 ID 去库里查，按时间排序。 -
序列化（ Serialize）：当系统要求 Agent “序列化当前状态”时，只返回 ID。
public override JsonElement Serialize(JsonSerializerOptions? options = null) =>
// 哪怕聊了 100 句，序列化结果也只是一个轻量级的 ID 字符串
JsonSerializer.SerializeToElement(this.ThreadDbKey);
代码执行逻辑序列
总结
通过解耦“计算”（Agent）与“存储”（VectorStore），让 AI 应用更健壮。
-
扩展性：可替换底层存储（Redis、CosmosDB、Postgres），可以使用不同的连接器。 -
轻量化：前端或客户端只需保存一个极小的 Thread ID。 -
云原生友好：无状态的服务端设计，便于水平扩展。
源代码地址