MinerU OV Models — OpenVINO IR 模型集合
本仓库提供 MinerU2.5-Pro 文档解析系统所需的完整 OpenVINO IR 模型集合,包含VLM backend 和hybrid backend中 VLM 视觉语言模型及相关辅助模型(版面检测、OCR、公式识别),经过 INT4 量化优化,可在 Intel CPU / GPU / NPU 上高效运行。
模型列表
| 模型 | 用途 | 精度 | 大小 |
|---|---|---|---|
MinerU2.5-Pro-2605-1.2B-int4 |
VLM 主推理引擎(Qwen2-VL 架构) | INT4 (AWQ) | ~800 MB |
PP-DocLayoutV2 |
文档版面分析(标题/段落/表格/图片区域检测) | FP16 | ~20 MB |
PP-OCRv5 (det) |
文本区域检测 | FP16 | ~10 MB |
PP-OCRv5 (rec) |
文本行识别 | FP16 | ~15 MB |
unimernet_hf_small_2503 |
数学公式识别(MFR),输出 LaTeX | FP16 | ~300 MB |
模型详情
MinerU2.5-Pro-2605-1.2B-int4
- 基础架构:Qwen2-VL-1.5B-Instruct
- 量化方式:AWQ (Activation-aware Weight Quantization),组大小 128,32 样本校准
- 用途:文档理解核心引擎,接收页面图像,输出结构化 Markdown / JSON
- 子模型文件:
openvino_language_model— 大语言模型(LLM)部分openvino_vision_embeddings_model— 视觉编码器(Vision Encoder)openvino_vision_embeddings_merger_model— 视觉-语言特征融合投影层openvino_text_embeddings_model— 文本嵌入层openvino_tokenizer / openvino_detokenizer— 分词器 / 反分词器(已应用 MinerU 补丁)
- 推理方式:两阶段协议(版面检测 prompt → 内容识别 prompt),与 MinerU 官方一致
PP-DocLayoutV2
- 来源:PaddleOCR 套件中的文档版面分析模型
- 用途:检测页面的版面元素,输出检测框和类别(text / title / table / equation / figure / chart 等)
- 输入:页面图像(~1036×1036)
- 输出:边界框坐标 + 类别标签 + 置信度
PP-OCRv5
- det:DB (Differentiable Binarization) 文本检测器,定位图像中文字行区域
- rec:CRNN + Attention 文本识别器,将文字行图像转为字符串
- 支持语言:中英文混合识别,同时支持数字和符号
unimernet_hf_small_2503
- 用途:数学公式识别,将公式图像转为 LaTeX 表达式
- 组成:
encoder— 视觉编码器(ViT 架构)unimernet_full— 编码器-解码器完整推理图
文件结构
ov_models/
├── MinerU2.5-Pro-2605-1.2B-int4/
│ ├── openvino_language_model.{bin,xml}
│ ├── openvino_vision_embeddings_model.{bin,xml}
│ ├── openvino_vision_embeddings_merger_model.{bin,xml}
│ ├── openvino_text_embeddings_model.{bin,xml}
│ ├── openvino_tokenizer.{bin,xml}
│ ├── openvino_detokenizer.{bin,xml}
│ ├── config.json / openvino_config.json / generation_config.json
│ ├── tokenizer.json / tokenizer_config.json / vocab.json / merges.txt
│ ├── added_tokens.json / special_tokens_map.json
│ ├── chat_template.jinja
│ ├── preprocessor_config.json / video_preprocessor_config.json
│ └── .mineru_detokenizer_patched
├── PP-DocLayoutV2/
│ └── PP-DocLayoutV2.{bin,xml}
├── PP-OCRv5/
│ ├── det/det.{bin,xml}
│ └── rec/rec.{bin,xml}
└── unimernet_hf_small_2503/
├── encoder.{bin,xml}
└── unimernet_full.{bin,xml}
所有模型均为 OpenVINO IR 格式,每对 .xml(网络结构)+ .bin(权重)组成一个完整模型。
使用方法
环境要求
pip install openvino>=2024.5 openvino-genai>=2024.5
SDK 下载
from modelscope import snapshot_download
model_dir = snapshot_download('Crystal2020/mineru-ov-models')
# model_dir 即指向包含上述模型目录的根路径
Git 下载
git clone https://www.modelscope.cn/Crystal2020/mineru-ov-models.git
设备兼容性
| 设备 | 支持情况 | 说明 |
|---|---|---|
| Intel CPU | 完整支持 | 自动利用 AVX2/AVX-512 指令集 |
| Intel GPU (Iris/Arc/UHD) | 完整支持 | 需安装 Intel GPU 驱动(推荐使用) |
许可
本项目基于 Apache License 2.0 开源。
模型原始权重来自:
如果您是模型贡献者或发现问题,请在 ModelScope 模型页提交 Issue 或通过 Pull Request 完善本卡片。