SmolDocling是什么?一文让你看懂SmolDocling的技术原理、主要功能、应用场景

来源:卓商AI
发布时间:2025-04-05

SmolDocling概述简介

SmolDocling(SmolDocling-256M-preview )是高效轻量级的多模态文档处理模型。能将文档图像端到端地转换为结构化文本,支持文本、公式、图表等多种元素识别,适用于学术论文、技术报告等多类型文档。模型参数量仅 256M,推理速度快,A100 GPU 上每页处理仅需 0.35 秒,与 Docling 完全兼容,可导出多种格式。

SmolDocling的功能特色

多模态文档转换:能将图像文档高效转换为结构化文本,支持科学和非科学文档。

快速推理:在 A100 GPU 上处理一页文档仅需 0.35 秒,使用不到 500MB 的显存。

OCR 与布局识别:支持光学字符识别(OCR),保留文档结构和元素的边界框。

复杂元素识别:能识别代码块、数学公式、图表、表格等复杂文档元素。

与 Docling 无缝集成:支持将结果转换为多种格式(如 Markdown、HTML 等),兼容 Docling。

指令支持:支持多种指令,如将页面转换为 Docling 格式、将图表转换为表格、将公式转换为 LaTeX 等。

SmolDocling的技术原理

轻量级设计:SmolDocling-256M-preview 是仅包含 256M 参数的视觉语言大模型,专为文档光学字符识别(OCR)和转换而设计。能在消费级 GPU 上快速处理文档,使用不到 500MB 的显存,每页文档的处理时间仅需 0.35 秒。

视觉骨干网络:模型采用了 SigLIP base patch-16/512 作为视觉骨干网络,网络参数量为 93M,能高效地处理图像输入。通过像素压缩技术,每个 512×512 的图像块被压缩为 64 个视觉标记,显著降低了计算资源需求。

文本编码器:SmolDocling-256M-preview 使用 SmolLM-2 作为文本编码器,编码器参数量为 135M,能处理文本输入并与视觉信息进行融合。

多模态融合与输出:模型能接收图像和文本的多模态输入,生成结构化的文本输出。支持多种文档处理功能,包括将文档图像转换为结构化文本、提取图表和表格信息、将数学公式转换为 LaTeX 格式等。

优化的数据集与训练策略:SmolDocling-256M-preview 的训练数据集包括科学和非科学文档,文档理解占比达到 41%。训练过程中采用了更高的像素标记率(4096 像素/标记),相比之前的 1820 像素/标记,显著提升了效率。

SmolDocling项目介绍

HuggingFace模型库:https://huggingface.co/ds4sd/SmolDocling-256M-preview

arXiv技术论文:https://arxiv.org/pdf/2503.11576

SmolDocling能做什么?

文档转换与数字化:SmolDocling-256M-preview 能高效地将图像形式的文档转换为结构化的文本格式,同时保留文档的原始布局和复杂元素(如代码块、数学公式、图表等)。支持多种输出格式,包括 Markdown、HTML 等,适用于文档的数字化处理。

科学与非科学文档处理:能处理非科学内容(如商业文档、专利文件等)。识别和提取文档中的关键信息,如公式、图表和表格。

快速 OCR 与布局识别:SmolDocling-256M-preview 提供高效的光学字符识别(OCR)功能,能从图像中准确提取文本,保留文档的结构和元素边界框。

移动与低资源设备支持:SmolDocling-256M-preview 可以在移动设备或资源受限的环境中运行,例如智能手机或便携式计算机。

© 版权声明:本站所有原创文章版权均归卓商AI工具集及原创作者所有,未经允许任何个人、媒体、网站不得转载或以其他方式抄袭本站任何文章。
卓商AI
卓商AI

AI爱好者的一站式人工智能AI工具箱,累计收录全球10,000⁺好用的AI工具软件和网站,方便您更便捷的探索前沿的AI技术。本站持续更新好的AI应用,力争做全球排名前三的AI网址导航网站,欢迎您成为我们的一员。

猜你喜欢
  • VHire
    VHire VHire是一款面向企业的自动化视频面试软件,旨在通过AI技术帮助企业更快速、智能地筛选和评估候选人。它与传统的视频面试工具相比,如Zoom,能够节省...
  • Microsoft Power Automate
    Microsoft Power Automate Microsoft Power Automate是一个综合的云平台,利用低代码和人工智能技术,自动化和优化企业流程。它支持跨几乎无限的系统、桌面应用程...
  • headshot by rupa ai
    headshot by rupa ai rupa.ai是AI照片增强器,可以在您的家中舒适地为您提供专业的照片。它非常适合爆头,婴儿照片,化身和社交媒体资料 - 只需单击几下即可,您就可以拥...
  • o1-engineer
    o1-engineer o1-engineer 是一个命令行工具,旨在帮助开发者通过 OpenAI 的 API 高效地管理和交互项目。它提供了代码生成、文件编辑、项目规划等功...
  • notice
    notice 一个位置ToCreate&Publishall Web ContrentNotice是一个Nocode编辑器,可让您在任何Web或移动应用程序中创建,...
  • GeForce RTX 5070 Ti
    GeForce RTX 5070 Ti GeForce RTX 5070 Ti是NVIDIA推出的高性能显卡,采用最新的Blackwell架构,支持DLSS 4多帧生成技术。该显卡能够为游戏...
  • ComfyUI-StableAudioSampler
    ComfyUI-StableAudioSampler ComfyUI-StableAudioSampler 是一款集成在 ComfyUI 节点中的音频采样器插件,它允许用户生成音频并输出原始字节和采样率,...
  • Video Subtitles
    Video Subtitles 视频字幕是一款采用先进的AI技术,能够自动转录音频并将其翻译成准确的英文字幕的应用。通过自动转录和同步字幕,提高可访问性并节省时间。支持50多种语言,...