📄 论文总结
POINTS-Reader：一种无需蒸馏的文档转换框架
POINTS-Reader: A Distillation-Free Document Conversion Framework
1️⃣ 一句话总结
本文提出了一种名为POINTS-Reader的两阶段无蒸馏文档转换框架，通过统一格式预热和迭代自改进阶段，自动生成高质量训练数据，显著提升了端到端文档转换模型的性能。
2️⃣ 论文创新点
1. 无蒸馏两阶段框架
- 创新点是什么：提出完全自动化的无蒸馏框架，包含统一格式预热阶段和迭代自改进阶段
- 与已有方法的区别/改进：避免了传统蒸馏方法对教师模型的依赖和性能限制问题
- 为什么有意义：能够构建高质量文档提取数据集和模型，处理多样化文档格式和布局
2. 统一格式预热阶段
- 创新点是什么：通过生成大规模多样化合成数据，使模型能够以统一格式提取关键元素
- 与已有方法的区别/改进：解决了文档中不同元素需要不同输出格式的学习难题
- 为什么有意义：为模型提供强初始性能，为后续自改进阶段奠定基础
3. 迭代自改进阶段
- 创新点是什么：通过模型标注、质量验证和重新训练的迭代过程提升性能
- 与已有方法的区别/改进：实现了模型在真实文档上的自适应和持续性能提升
- 为什么有意义：逐步增强模型转换能力和生成数据质量，超越现有公开和专有模型
4. 多样化数据生成框架
- 创新点是什么：设计四类文档数据（纯文本、文本+公式、文本+表格、多列布局），结合LLM生成和规则过滤
- 与已有方法的区别/改进：解决了文档布局组合爆炸问题，在保证多样性的同时简化了数据构建过程
- 为什么有意义：为文档理解模型提供了大规模、多样化的合成训练数据
5. 迭代自改进机制
- 创新点是什么：利用前一阶段训练的模型为真实文档生成标注，并通过多轮基于规则的过滤不断优化数据质量
- 与已有方法的区别/改进：减少了人工标注成本，通过自改进循环持续提升模型性能
- 为什么有意义：建立了从合成数据到真实数据的有效迁移路径，显著提升模型在真实场景下的表现
3️⃣ 主要结果与价值
实验结果亮点
- 在多个基准测试中表现优于或与更大的通用视觉语言模型相当
- 通过F1分数阈值（0.9）过滤低质量文本样本，编辑距离从0.470降至0.380
- 文本、表格和数学公式的识别准确率在自改进阶段稳步提升
- 多列布局数据的加入显著提升了阅读顺序性能
实际应用价值
- 为文档理解任务提供了更有效的训练数据来源
- 实现了端到端文档转换模型的性能提升
- 减少了对外部教师模型的依赖，降低了部署成本
- 能够处理复杂布局文档，提升实际应用中的提取准确性
4️⃣ 术语表
- POINTS-Reader：无需蒸馏的文档转换框架，包含统一格式预热阶段和迭代自改进阶段
- UWS：统一格式预热阶段，通过合成数据使模型获得统一格式提取能力
- 迭代自改进阶段：通过过滤低质量数据进一步提升模型性能的训练阶段
- F1-score filtering：使用F1分数作为质量指标过滤文本数据，通过比较模型预测与传统OCR提取的参考文本来计算精度、召回和F1值
- Iterative Self-improvement：通过多轮训练和数据过滤的循环过程，利用模型自身生成标注并通过质量筛选不断改进数据质量和模型性能的方法
- POINTS-1.5：文档理解基础模型，采用预训练和视觉指令调优两阶段训练范式
- DocMatix：从PDFA提取的超200万文档图像数据集，包含学术论文等多种文档类型
- OmniDocBench：文档转换性能评估基准测试，包含文本、公式、表格、顺序等多个指标