大数跨境

小米开源Xiaomi-OCR-0 的 0.8B: 统一 OCR 专用视觉语言模型

小米开源Xiaomi-OCR-0 的 0.8B: 统一 OCR 专用视觉语言模型 苏哲管理咨询
2026-11-01
8
导读:Xiaomi-OCR-0 小米推出的 0.8B 参数 OCR 专用视觉语言模型,基于 Qwen3.5-0.8B-Base 基座训练,采用 Apache-2.0 协议开源。该模型为统一架构,单模型兼顾文
编者摘要:Xiaomi-OCR-0 是小米推出的 0.8B 参数 OCR 专用视觉语言模型,基于 Qwen3.5-0.8B-Base 基座训练,采用 Apache-2.0 协议开源。该模型为统一架构,单模型兼顾文档解析、表格公式识别、手写书法识别、关键信息抽取与 OCR 视觉问答,适配扫描、扭曲、翻拍等复杂文档。模型依托约 1.7 亿样本的自研数据引擎,通过 ETC 三元专家共识、渲染校验、难例挖掘与定向合成保障数据质量;训练链路包含 Q-Mask 文本锚定、OCR 持续预训练与 Mix-RL 混合任务强化学习。评测上,它在 Real5-OmniDocBench 取得 95.24 分位列第一,OCR-VQA 五项基准均值 83.2,超越参数量更大的 Qwen3.5-2B。研究同时发现:OCR 理解任务比文档解析更依赖参数规模,Mix-RL 相比双教师蒸馏 MOPD 能取得更高性能上限。社区已提供 GGUF 量化、Ollama、NInfer 等多种本地部署方案,适合离线文档结构化、票据抽取、本地文档 Agent 等场景。

10个关键问题Q&A 

  1. Q:Xiaomi-OCR-0 和普通 OCR(PaddleOCR)区别是什么? A:传统 OCR 只做文字识别;Xiaomi-OCR-0 是 VL 模型,识别 + 结构理解 + 问答 + 抽取一体化,可以直接输出表格、公式、回答文档里的问题。
  2. Q:0.8B 这么小,为什么 OCR 解析分数很高? A:核心不在模型容量,而在 1.7 亿样本的数据引擎:多专家投票标注、渲染校验、定向合成难例,高质量标注是关键。
  3. Q:Mix-RL 和 MOPD 是什么? A:MOPD 是双教师蒸馏(解析教师 + VQA 教师),收敛快;Mix-RL 是混合任务强化学习,训练更慢、最终指标更高。
  4. Q:Q-Mask 的作用? A:文本锚定,把文字内容和图像空间位置精细对齐,保证布局、阅读顺序识别准确。
  5. Q:OTSL 是什么? A:一种结构化表格表示格式,模型原生输出,方便程序解析表格结构。
  6. Q:Ollama 版本可以直接跑收据识别、PDF 解析吗? A:拉取镜像后,需要配套官方 MCP 服务或 Demo 脚本,内置预处理和 prompt 模板;单独拉模型不能直接开箱即用。
  7. Q:可以商用吗? A:许可证 Apache-2.0,允许商用,需要遵守协议,第三方组件单独看声明。
  8. Q:和 MinerU 对比优势在哪? A:MinerU 侧重文档解析流水线;Xiaomi-OCR-0 单模型同时支持解析 + VQA 问答,体积更小,适合轻量本地 Agent。
  9. Q:手写、行书草书识别效果怎么样? A:Chronicles-OCR 数据集 73 分,和 Seed2.0 Pro 持平,在小模型里属于不错水平,但距离专业书法识别还有差距。
  10. Q:适合哪些落地场景? A:小票 / 票据 KIE、论文公式表格提取、档案扫描件结构化、本地文档问答 Agent、离线文档质检。
附录  Xiaomi-OCR-0 解读

Xiaomi-OCR-0 是小米开源的 0.8B 统一 OCR 专用视觉语言模型,基座基于 Qwen3.5-0.8B-Base,一套模型同时完成文档解析、表格 / 公式识别、手写识别、关键信息抽取 KIE、OCR 视觉问答,训练集约 1.7 亿样本,Apache-2.0 协议开源,适合本地轻量部署arXiv。

一、亮点 ✨

  1. 轻量化统一模型
    仅 0.8B 参数,不再拆分 OCR 识别模型 + 文档理解 VQA 模型;支持扫描件、扭曲、倾斜、翻拍文档,鲁棒性强。输出格式原生支持 Markdown、OTSL 表格、LaTeX 公式、JSON 结构化抽取。
  2. 自研自动化数据引擎(核心创新)
    • ETC 异构专家三元共识:8 个主流 OCR/VL 专家模型投票标注文本、表格、公式,选出三方一致样本,不确定样本进入精修
    • 渲染校验(Render-Guided Refine-and-Judge):标注结果回渲染成图片,和原图比对,自动发现表格、公式结构错误
    • 多因子样本挖掘 + 定向合成:从专家一致性、模型自一致性、语义聚类、历史错误模式筛选样本;补覆盖不足、复现高频错误样本
  3. 渐进式训练链路
    • Q-Mask 文本锚定:细粒度对齐文本内容与空间位置
    • OCR 持续预训练 CPT:多任务基础能力搭建
    • Mix-RL 混合任务强化学习:基于可验证奖励优化难题样本
  4. 三大实验结论(关键学术发现)
    • 当文档解析能力已经较强时,增加 OCR 理解类数据,反而可以进一步提升解析指标;早期加理解数据会带来小幅负向影响
    • OCR 视觉问答(理解任务)比纯文档解析更吃参数量:0.8B→4B,解析提升极小(≈0.15 分),理解任务提升明显(≈4.9 分)
    • MOPD 双教师蒸馏收敛更快;Mix-RL 训练更久,但最终性能上限更高
  5. 开源生态友好
    社区已产出 GGUF 量化版本、NInfer 包、Ollama 镜像,支持本地 CPU/GPU 推理;配套 MCP 服务、Agent 能力、批量处理代码。

二、Benchmark 成绩

  • Real5-OmniDocBench:95.24(第 1)
  • OmniDocBench v1.6:96.83(第 2)|Wild-OmniDocBench:87.94(第 2)
  • UniMER-Test 公式识别:97.84;PubTabNet 表格识别:92.27
  • 古文字 / 书法(Chronicles-OCR):73,对标 Seed2.0 Pro (72),支持隶书、草书、行书、楷书
  • OCR VQA 五榜均值:83.2,超过 Qwen3.5-2B(80.9),参数只有对方 40%

三、支持任务与 Prompt 模板

任务
Prompt 要求
输出
全文文档解析
提取正文,Markdown,表格 OTSL,公式 LaTeX,按阅读顺序
Markdown+OTSL+LaTeX
局部文本
提取图中文字
纯文本
局部表格
解析表格为 OTSL
OTSL
局部公式
识别公式输出 LaTeX
LaTeX
KIE 关键信息抽取
按给定 schema 抽取字段
JSON

四、部署方式

  1. Transformers 原生:torch+transformers,支持 cuda/mps/cpu,样例代码已给出
  2. Ollama:longwayxu/xiaomi-ocr-0:bf16(约 1.8GB),配套 MCP、浏览器 Demo
  3. GGUF 量化:Q3_K_L/Q4_K_M/Q5_K_M/Q6_K 等,需要单独 mmproj 视觉投影器
  4. NInfer BF16 包:包含语言权重、视觉权重、tokenizer、图像预处理配置

五、局限性

  • 社区 GGUF、Ollama 版本均非官方评测,精度会有变化
  • 理解类 VQA 任务天然上限受 0.8B 参数约束;复杂多步推理弱于更大模型
  • 主要面向中文、英文文档,其他语种未充分验证

【声明】内容源于网络
0
0
苏哲管理咨询
为企业及组织提供AI+战略、数智化转型咨询及观点、建议等
内容 2437
粉丝 0
苏哲管理咨询 为企业及组织提供AI+战略、数智化转型咨询及观点、建议等
总阅读77.9k
粉丝0
内容2.4k