Baidu publie Unlimited-OCR-2 3B sous MIT avec attention SR-SWA

Baidu a mis en ligne Unlimited-OCR-2, un modèle vision-langage 3B publié sous licence MIT, qui vise explicitement le parsing de documents dépassant la centaine de pages en un seul passage.

L'innovation centrale s'appelle Sparse Reference Sliding Window Attention. La fiche modèle en décrit le fonctionnement : « Compresses text-visual attention interactions from ultra-long sequences down to a fixed-size set of working references (e.g., 512 tokens) ». Baidu en tire une revendication technique sur le profil d'exécution, en gardant la « per-step decoding latency and memory footprint nearly constant regardless of document length ».

Côté benchmarks, l'équipe revendique un état de l'art « across both dozens-of-pages benchmarks (e.g., MPDocBench) and extreme hundred-page benchmarks (e.g., MarathonDocBench) ». La fiche ne publie aucun chiffre détaillé par benchmark ; MarathonDocBench est de surcroît un nouveau benchmark publié le même jour, 2026/10/27, par la même équipe, ce qui limite la portée immédiate du résultat SOTA.

Le dépôt propose deux modes d'inférence, `infer_multi` pour parser toutes les pages d'un document en une seule requête avec contexte inter-pages, et `infer` pour une seule page en haute résolution via tiling dynamique. Les tests de référence tournent sur un GPU NVIDIA A800-80GB avec Python 3.10, torch 2.13.0 et transformers 4.52.1 ; SGLang est « recommended for serving with page-window scheduling » et vLLM est pris en charge via contribution communautaire. La sortie arrive dans une journée dense côté open-source, avec Mistral libérant Large 4 et Liquid AI publiant LFM3 le même jour.

Le papier associé est référencé dans la fiche sous l'identifiant arXiv 2606.23050.