牧马人本地推理引擎（Herdsman AI）全新版本正式发布

牧马人本地推理引擎新版本现已正式上线。

本次更新重点围绕「使用体验」「模型部署效率」以及「本地 AI 能力扩展」进行了全面调整。

新版本对视觉界面进行了重构，风格更加现代且直观。相比以往版本，新 UI 大幅降低了本地 AI 环境的上手门槛。即便您是技术小白，也可以通过图形化界面轻松完成模型管理、参数调节与功能调用。

Herdsman首页

Herdsman首页暗黑模式

在模型选择上，新版本引入了硬件感知推荐系统：

• 智能匹配： 引擎将自动识别您的 CPU、显卡（GPU）及显存配置。

• 按需推荐： 根据您的实际使用场景（如代码编写、文案创作或图像生成），自动推荐参数规模最契合的大模型，确保运行流畅。

• 一键部署： 支持模型一键下载与自动安装，无需手动配置复杂的底层环境。

智能对话推荐模型

翻译推荐模型

NPU系列模型推荐

新版本在模型启动阶段提供了丰富的配置选项：

• 参数自定义： 用户可根据任务需求设置上下文长度。

• 深度思考模式： 支持开启“深度思考”及其他高阶推理参数调节，以获得更精准的逻辑输出。

• 状态监控： 实时查看显存占用与推理速度，确保设备运行状态透明。

模型启动配置项-1

模型启动配置项-2

牧马人不仅是一个聊天工具，更是您的本地多媒体创意中心：

• 多维问答： 稳定支持各类主流大语言模型（千问、deepseek、gpt、智谱等）的智能对话。

• 本地生图： 集成文生图、图生图、图片编辑等功能。

• 隐私安全： 所有操作均在本地完成，无需联网，从物理层面确保您的数据隐私安全。

切换GPT-OSS-20B模型

Herdsman文生图

Herdsman图生图

Herdsman图片编辑

本次更新进一步强化了底层架构的稳定性与兼容性：

1.FlowyAIPC 深度适配： 本地部署的模型在接入 FlowyAIPC 时更加稳定。配合“精简模式”，可高效处理复杂的 Agent 自动化任务。

FlowyAIPC切换本地模型

使用Herdsman本地模型生图

Herdsman开放接口API

与新版本同步上线的还有 FlowyAIPC 官方社区论坛。为了更好地服务用户，我们特别在论坛内设立了【牧马人专区】：

• 问题反馈： 您在使用过程中遇到的任何安装疑问或技术故障，均可发帖提问。

• 需求建议： 欢迎分享您对新功能的需求，我们将定期整理并纳入开发计划。

• 快速响应： 官方技术团队将入驻专区，针对用户反馈进行快速响应与专业支持。

快速加入社区：https://server.flowyaipc.cn/

FlowyAIPC社区论坛

牧马人本地推理引擎快速下载地址：

https://flowyaipc.cn/#ai-engine