109.1K+ Star！ Caveman：一个省Token神器- 大数跨境

首页

109.1K+ Star！ Caveman：一个省Token神器

AIGC创想者

2026-10-03

导读：caveman简介AI/MLCaveman 是一个用于降低 AI 编程助手 Token 消耗的工具集。

caveman简介

AI/ML

Caveman 是一个用于降低 AI 编程助手 Token 消耗的工具集。它通过压缩 AI 的输出文本（Skill）和输入上下文（Proxy/Middleware），在不影响代码生成质量的前提下，显著减少按量计费场景下的 API 开销。

它解决了 AI 编程代理在长会话中因输出冗长废话、读取大量日志和测试报告而导致 Token 费用高昂的问题。它提供从单文件规则到本地代理再到 SDK 中间件的完整方案，支持 Claude Code、Codex、Cursor 等 30 多种主流 AI 编程工具。

亮点特性

01三层架构设计

Skill 压缩输出文本，Proxy 压缩输入上下文，Middleware 供自建应用调用，可叠加使用

02智能无损压缩

代码、命令、文件路径和错误信息绝不被修改，安全警告会自动恢复为完整句子

03数据完全可控

本地运行，压缩前的原始数据保存在本地 SQLite 中，AI 随时可请求恢复原文

04自带诊断与 A/B 测试

caveman learn 可分析历史会话找出 Token 浪费点，caveman trial 可直接对比开启前后的真实消耗

05像素模式黑科技

可将 Skill 规则文件渲染为 PNG 图片让模型读取，进一步将规则本身的 Token 消耗降低 61%

使用场景

场景 1日常使用 AI 编程助手时，消除冗长的解释性废话，直接获取核心修复建议，降低按量计费的 API 成本

场景 2在 CI/CD 或自动化脚本中运行 AI 代理处理大量测试日志和 diff 时，通过本地代理压缩上下文，避免超出模型上下文窗口限制

场景 3开发者构建自定义 AI Agent 应用时，通过中间件自动压缩工具调用的返回结果（如 JSON、网页内容），优化整体 Token 预算

使用环境

编程语言	Python 3.11+
运行方式	能访问终端的代理(Claude Code/Codex/Hermes/Openclaw)

快速上手

1. 最简安装（Skill 模式：仅压缩 AI 输出）
无需账号和 API Key，一条命令全局安装，适用于 30+ 种 AI 代理：

●●●

npx skills add JuliusBrussee/caveman -g

安装后，向你的 AI 助手提问即可看到精简回复。可通过 /caveman lite、/caveman full、/caveman ultra 调整压缩强度，输入 stop caveman 恢复正常。

2. 进阶安装（Proxy 模式：同时压缩 AI 读取的上下文）
安装 CLI 并配置本地代理，拦截并压缩日志、JSON、diff 等输入数据：

●●●

npm install -g @caveman-ai/cli && caveman setup --install
caveman claude # 启动包裹了代理的 Claude Code（也支持 codex, gemini 等）

3. 开发者集成（Middleware 模式：用于自建 Agent）
在 TypeScript (Vercel AI SDK) 中集成：

●●●

import { createMiddlewareRuntime } from "@caveman-ai/sdk/middleware";
import { withCaveman } from "@caveman-ai/middleware/ai-sdk";

const runtime = createMiddlewareRuntime({ endpoint: "http://127.0.0.1:8787", mode: "compress" });
const result = streamText(withCaveman(options, { runtime, scope }));

在 Python (LangChain) 中集成：

●●●

from caveman_cloud.middleware import MiddlewareRuntime, Scope
from caveman_middleware.langchain import with_caveman_agent

runtime = MiddlewareRuntime(endpoint="http://127.0.0.1:8787", mode="compress")
agent = create_agent(**with_caveman_agent({"model": model, "tools": tools}, runtime=runtime, scope=scope))