11月11日，硅心科技（aiXcoder）正式开源aiXcompact-4B上下文压缩专用小模型。该模型支持在单张A100-40GB显卡上进行私有化部署，旨在解决编程智能体（Agent）在长程复杂研发场景中面临的上下文膨胀、Token消耗高昂及推理质量下降等工程痛点。
aiXcompact-4B通过结构化压缩技术精简历史上下文，保留关键任务信息，从而大幅降低每轮Agent推理的Token消耗，以更低的成本支撑复杂研发任务的高效推进。
开源地址：
https://github.com/aixcoder-plugin/aiXcompact-4B
测试数据显示，在目标任务场景下，aiXcompact-4B可将历史上下文平均压缩至原长度的25.89%。相较于Claude Code、OpenCode等主流Agent Harness直接调用通用大模型进行压缩的方式，aiXcompact-4B在降低Token开销、提升压缩效率的同时，兼顾了压缩质量与后续任务的执行效果。
在Terminal-Bench基准测试中，接入aiXcompact-4B后的OpenCode任务完成准确率相对于DeepSeek-V4-Pro并未下降。在私有化部署情景下，针对特定任务的Benchmark显示，aiXcompact-4B单次GPU推理成本较DeepSeek-V4-Pro直降78%。
若采用API调用方式，根据公开API费用代理估算，aiXcompact-4B单次上下文压缩请求的Token费用仅为0.019元。相比DeepSeek-V4-Pro、GLM-5.3和Qwen3.8-Max，费用分别降低97.30%、97.08%和97.98%。凭借高达97%的成本优势，aiXcompact-4B为高频上下文压缩提供了更轻量化且经济的选择。
痛点解析：复杂AI研发需动态治理上下文
在企业级研发场景中，Agent常需执行跨多文件、多环节的复杂迭代任务。以增加用户注册功能为例，Agent需理解项目结构、查找逻辑、修改文件、运行测试并根据日志调整。这一过程中，文件读取、工具调用和执行日志不断累积，导致上下文持续膨胀，引发Token总量暴涨、推理时延增加及算力成本上升。
此外，重要工程约束、有效决策与大量过程信息混杂，易导致智能体遗忘早期需求、丢失关键报错信息，进而造成推理质量下滑。即便使用大上下文窗口模型，也难以完全规避长上下文的性能退化问题。因此，编程Agent需要动态治理历史上下文，过滤无效信息并保留关键业务约束，在有限Token预算内保障任务推进。aiXcompact-4B正是为此打造，通过减少重复Token消耗，让有限窗口承载更多有效信息。
核心机制：结构化压缩决策显著降低消耗
AI研发上下文具有明确的角色和结构（如用户需求、Agent分析、工具调用及返回结果等）。有效的压缩需理解信息间的关系及其对后续任务的价值。aiXcompact-4B创新采用结构化判别机制，主要包含三类处理逻辑：
1. 保留核心信息
对于核心需求、关键约束等重要原始信息（如兼容现有接口、不引入新依赖、沿用鉴权组件等），aiXcompact-4B选择完整保留，避免关键限定条件被弱化，确保后续工作有明确依据。
2. 精简工具结果
针对文件读取、代码搜索和测试运行产生的大量上下文，模型会保留工具调用关系，但用压缩后的简洁文本替换冗长的原始输出。此举既减少了输入Token，又保留了下一步所需的关键线索。
3. 删除无效冗余
对于重复记录或已失去参考价值的中间输出，模型会选择删除以削减Token占用。删除操作伴随校验动作，确保关键业务和调试信息已保留在任务摘要中。
所有决策均有操作记录，便于开发者检查。同时，aiXcompact-4B会生成结构化的任务摘要，记录用户意图、关键技术信息、错误修复过程及待办事项。输出的并非无结构文本，而是一套可直接供Agent继续执行的消息序列，完整维持工具调用与返回结果的配对关系，保障任务无缝接续。
该结构化处理在保障关键信息不丢失的前提下，将历史上下文平均压缩至原长度的25.89%，为后续调用腾出空间，有效降低整个研发任务的总Token消耗。
技术路径：蒸馏+微调，表现比肩超大模型
为确保压缩后信息的完整性与可用性，aiXcoder构建了专项评测集。结果显示，aiXcompact-4B在规则综合分、信息保留等关键指标上，接近参数量达1.6万亿的DeepSeek-V4-Pro的表现。
aiXcompact-4B的高效能得益于“教师大模型蒸馏 + 4B学生模型LoRA微调 + 结构化压缩决策”的技术路径。其训练数据全部来源于真实研发场景下的Agent运行轨迹，经归一化、筛选和采样后，由教师模型生成参考决策，再用于学生模型的专项训练。这使得模型能够学习如何结合研发进度处理历史上下文，并在任务摘要中保留后续工作依据，将高频特定任务从通用大模型中拆分，以更低成本实现专用能力。
生态布局：构建小模型矩阵，推进大小协同
aiXcompact-4B是aiXcoder小模型矩阵的最新成员。秉持“场景定义模型”理念，aiXcoder已推出面向代码生成与补全的aiXcoder-7B、面向代码变更应用的aiXapply-4B，以及面向Token消耗优化的aiXpruner-4B。此外，专注于Agent决策环节的aiXdecision模型也即将推出。
此次开源进一步拓展了小模型在Agent上下文管理环节的应用，体现了aiXcoder从具体场景出发定义模型能力，通过大小模型协同支撑不同领域复杂任务的技术路线。
aiXcompact-4B开源地址：
https://github.com/aixcoder-plugin/aiXcompact-4B
欢迎下载体验，在真实Agent场景下开展验证。aiXcoder期待与社区及各行业共同探索大小模型架构在企业级AI研发私有化和领域化落地的更多可能。
为什么大模型能力难以直接转化为企业研发生产力？
百万行代码的企业级存量系统，如何用AI迭代？aiXcoder大型复杂软件工程实践
突破复杂公式解析瓶颈，aiXcoder「公式转代码方案」落地航天多家院所
