.env 里放好 OPENAI_API_KEY。若 import 报 AttributeError,跑 pip show openai 看 Version——<1.0 用老式 openai.Completion 写法。
# 依赖:pip install openai python-dotenv(基于 openai 1.x 新 SDK)
# 若 import 报 AttributeError,跑 pip show openai 看 Version;<1.0 用老式 openai.Completion 写法
import os
from dotenv import load_dotenv
load_dotenv() # .env 里放 OPENAI_API_KEY=sk-xxx
import openai
openai.api_key = os.getenv("OPENAI_API_KEY") # 走全局,别在每个调用塞 key
# 路由:对用户输入的 prompt 判断难度,自动选模型
def pick_model(prompt: str) -> str:
# 粗粒度:prompt 含这些信号 → 派贵模型
hard_signals = ["写代码", "推理", "规划", "分析", "判断", "为什么", "怎么设计"]
prompt_lower = prompt.lower()
if any(s in prompt_lower for s in hard_signals):
return "gpt-4o"
return "gpt-4o-mini"
def ask(prompt: str) -> str:
resp = openai.chat.completions.create(
model=pick_model(prompt),
messages=[{"role": "user", "content": prompt}],
)
return resp.choices[0].message.content
print("摘要:", ask("用一句话总结:AI 让打工人早下班"))
print("推理:", ask("公司两条制度冲突,怎么判断优先适用哪条"))
print("当前模型:", pick_model("用一句话总结:AI 让打工人早下班"), "→", pick_model("公司两条制度冲突,怎么判断优先适用哪条"))
摘要: AI 通过自动化重复劳动,把人从枯燥事务里解放出来。
推理: 先看上位法与新法,再看专门规定;冲突时通常新法优于旧法。
当前模型: gpt-4o-mini → gpt-4o
pick_model 这一层:它决定难活走 GPT-4o、粗活走 4o-mini。换成级联也很简单——先调 mini,发现返回空或太短,再补一次 4o。路由规则想细就能细:按长度、按是否含代码块、按业务标签都行。有人按"是否要联网查"分流,静态知识走缓存、动态查询才调模型,又省一层。
只要记住——贵的模型别浪费在粗活上,按难度分档派活,成本能砍一大半还不影响体验。
有人一开始全用旗舰模型跑客服,月账单两万;把七成一句话的活分给小模型,直接降到三千。省下的不是精度,是冤枉钱。
下篇讲模型怎么挑才不冤?评测清单(附代码)。你现在是"一个模型用到老",还是已经开始分档了?评论区聊聊。有用的话点个在看,转给也在被账单吓到的朋友。
①一个 Agent 扛不动了?让几个 AI 角色分工(多 Agent)
②Agent 只会聊天?两步让它会调工具、分步思考(附代码)
③接大模型 API 之前,这 3 件事想不清楚,多花 80% 成本(决策清单)
④最小 RAG 问答:带代码半小时跑通,搭建自己的知识库(实战)
⑤手写最小 MCP Server:30 行代码,让你的工具被 AI 调用(附代码)

