第一次以教共学,把我自己摸索的传授给我的兄弟姐妹们。
【复盘总结】
打开豆包,问个问题,几秒出答案。
打开元宝,让它写个文案。打开 DeepSeek,让它帮你理一段代码。
用得很顺,很爽,对吧?😌
然后有一天,有人跟你说:
"来,我教你买台云服务器,装个 Ubuntu,配个面板,部署个网关。"
你内心 OS:???我手机上用得好好的,为什么要搞这些?
这就是我昨天那场实操课的真实写照。学员全程懵圈,问出来的问题一个比一个真实:
-
"我买的这个服务器,能跑大模型吗?" -
"我花了钱买服务器,为啥还要去调 API?" -
"这 2 核 2G 到底能干嘛?" -
"Ubuntu 是什么?我连这东西都没见过。"
这些提问,问得非常好——说明大家是真在动脑子想"我花这个钱到底值不值"。
(感谢东莞松山湖蒋总提供场地设备,并提出他的疑惑。感谢宋佳琪小姐姐用她的账号从零到实操部署演示给大家)
今天这篇,就是对这些问题的统一回答。也是我那场课的一次完整复盘,给同样在懵圈的你。
一、结论先说:你用的 AI 和你搭的服务器,是两回事
你用豆包、元宝、DeepSeek,本质上只干了一件事:调用别人的服务。
你打字 → 文字发到对方服务器 → 对方的 GPU 跑模型 → 结果返回给你。
你不需要知道它在哪、什么配置、怎么运转——就像你用电,不需要知道发电厂怎么烧煤。
但问题也在这儿:你永远只能"用",不能"控"。
-
豆包今天限流了?你只能等。 -
元宝某个模型下线了?你只能换。 -
想把多个 AI 接进自己的工作流自动跑?没入口。 -
想让 AI 24 小时帮你盯着某个东西、自动处理?做不到。
一句话区分:用豆包 = 坐出租车,方便,但路线别人定。自己搭服务器 = 考驾照 + 买车,前期麻烦,但以后想去哪去哪。
二、我们今天到底在搭什么?
一句话:一个属于你自己的、24 小时在线的网络节点,以后所有 AI 服务都挂在它上面。
整条链路是这样的 👇
你的本地服务 →【云服务器 · 公网 IP】→ 反向代理 → 外部访问 & API 调用
打个比方,一秒就懂 👇
🌉 云服务器 = 桥墩 有固定公网 IP,外面才能找到你
🏪 宝塔面板 = 前台管理 管环境、建站点、配证书,不用纯敲命令
🔧 harmes = 修桥工程师 统一管理通道和转发规则,自动调度
🚦 New API = 调度中心 把多个模型接口统一成一个出口
今天跑 New API 不是目的。目的是让你亲眼看到:从买服务器到部署到可用,整条链路是通的。
以后你想接什么、挂什么、跑什么,都是在这条链路上加东西。
三、"我买了服务器,为啥还要调 API?"
这是当天最核心的困惑。拆开说就一句:这两笔钱,买的完全是两种东西。
|
|
|
|
|---|---|---|
|
(99 元/年) |
|
|
|
(按量付费) |
|
|
你租了办公室,不代表原材料免费送;你买了原材料,不代表场地不用租。两笔钱各买各的,谁也替代不了谁。
但有了自己的服务器 + 网关之后,"调 API"这件事的质感完全变了 ✅
-
DeepSeek、Claude、Gemini 的 key 全接进来,一个接口调用 -
一个模型挂了自动切另一个,不用手动换 -
集中管额度、管日志、管权限 -
以后团队共用一套接口,不用每人都去单独买 key
这就是"调度中心"的价值——你还是在花钱调 API,但花得更聪明了。
四、"2 核 2G 能不能跑大模型?"
不能。实话实说。
大模型推理吃的是 GPU 显存。2 核 2G 没有独立显卡,连最小的 7B 模型都跑不动,内存直接溢出。
那它能干嘛?它能做 AI 调度:
-
跑 New API 网关(不吃算力,只做转发) -
部署 AI 聊天面板前端(界面在服务器,后端调外部 API) -
跑自动化脚本,让 AI 定时处理文档、抓取信息 -
做内网穿透,让家里的服务也能被外面访问
这台机器做不了"AI 计算",但能做"AI 调度"。算力在外面,调度在你手里。
想本地跑模型?得上 GPU 服务器,起步几百块一个月。那是下一步的事。
今天这 99 块,是让你先把地基踩实。
五、Ubuntu 是什么?为什么不用 Windows?
你们平时用的 Windows、macOS,都是有桌面的系统,看得见图标,能双击打开软件。
Ubuntu 也是操作系统,但属于 Linux 家族——全球 90% 以上的云服务器跑的都是它。
|
|
|
|
|---|---|---|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
服务器不需要桌面,不需要你坐在前面点图标。它要的是:轻量、稳定、免费、安全——Linux 全占了。
没桌面怎么操作?SSH 连上去敲命令。昨天你们体验过了,常用命令就那几条,没想象中恐怖。
六、宝塔和 harmes 到底什么关系?
分工其实很简单:
- 宝塔
= 服务器管家。装环境、建站点、配证书,可视化操作。 - harmes
= 交通指挥官。管"谁走哪条道、怎么转发、怎么调度",通道越多越省心。
一个管服务器本身,一个管桥上的交通。一个在硬件层,一个在网络层。
七、那到底什么时候能"用 AI 干活"?
答案分两层。
第一层:昨天。
你昨天学的,就是"用 AI 干活"的前提条件。你不会连服务器、不懂端口转发、不知道 API 怎么调,后面所有自动化、工作流、Agent 都无从谈起。
昨天不是"还没开始用 AI",是在铺管道。
第二层:管道铺完之后。
等你熟了,这台机器可以这么用 👇
-
部署一个 24 小时在线的 AI 助手,多个模型一个界面全搞定 -
跑定时任务:每天自动抓信息 → AI 总结 → 推到你微信 -
搭一个团队内部的 AI 工具平台,同事都能用 -
把 AI 接进你的业务系统:客服、文档处理、数据分析
这些事,你在豆包的对话框里做不到。但在你自己的服务器上,全都可以。
关键认知转变:从"打开 App 跟 AI 聊天"到"让 AI 自动帮你干活",中间差的就是昨天这些"基础设施"。你学的不是怎么用 AI,是怎么拥有 AI。
八、复盘:为什么大家会懵?问题在我
说实话,问题在我。
我脑子里有一条完整链路:买服务器 → 装系统 → 装面板 → 部署网关 → 部署DSH(deepseek harness)→活字格(工程化部署)。但学员脑子里没有这条链路。
我上来就讲操作,相当于没给地图就让人跟着跑。
加上昨天一次塞了太多新概念:Ubuntu、SSH、宝塔、Docker、网关、harmes、内网穿透、反向代理……全是新的,认知负荷直接爆表。
下次我改这四点 👇
-
先给全景图,先演示终点效果,再讲每一步 -
每一步先讲"为什么",再讲"怎么做" -
节奏放慢,跟丢随时喊停 -
课前发前置知识(SSH、Linux 基础命令)
写在最后
你能用豆包、元宝、DeepSeek,说明你已经迈过了"AI 是什么"这个阶段。
下一步,是从 "AI 用户" 变成 "AI 玩家"——不是被动等别人给你功能,而是自己搭管道、自己接服务、自己定义 AI 怎么为你干活。
那 99 块钱、那天的懵圈、那每一个问号,都是这个转变的起点。慢就是快,先把地基打牢。
📌 本文技术栈:Ubuntu 24.04 LTS · 轻量应用服务器 2核2G · 宝塔面板 · Docker · New API · harmes · 内网穿透
📌 适合人群:已经用过 AI 对话工具,想进一步了解 AI 部署与自动化的朋友
你们现在最卡在哪一步?是"服务器买什么配置",还是"装完不知道能干嘛"?
评论区聊聊,我挨个回 🙌
#AI #云服务器 #AI部署 #NewAPI #服务器教程 #AI入门指南 #自动化 #副业搞钱 #经验分享 #程序员

