Baidu publie Unlimited-OCR-2 3B sous MIT, parse des documents de centaines de pages via SR-SWA
Résumé
Baidu publie Unlimited-OCR-2, un modèle 3B OCR sous licence MIT revendiquant 'l'ère OCR-3.0'. L'innovation Sparse Reference Sliding Window Attention (SR-SWA) comprime l'attention texte-image à une fenêtre fixe de ~512 tokens et obtient une latence quasi-constante quelle que soit la longueur. Il atteint l'état de l'art sur MPDocBench (dizaines de pages) et MarathonDocBench (centaines de pages).
Shared on Bluesky by 1 AI expert
Article original publié par huggingface.co
Lire l'article original →Titre original : Baidu publie Unlimited-OCR-2 3B sous MIT, parse des documents de centaines de pages via SR-SWA