LingBot-Vision égale DINOv3-7B avec sept fois moins de paramètres

Un Vision Transformer de 1,1 milliard de paramètres qui rivalise avec un modèle de sept milliards sur la perception dense, ce n'est pas le refrain habituel des leaderboards, mais le papier « Vision Pretraining for Dense Spatial Perception » publié sur Hugging Face mérite qu'on s'y arrête. LingBot-Vision, un ViT-g/16 signé Zelin Fu, Bin Tan et leurs coauteurs, atteint 0,296 RMSE sur NYU-Depth v2, devant les 0,309 de DINOv3 à sept milliards de paramètres, tout en étant environ sept fois plus petit.

L'idée technique est un pré-entraînement auto-supervisé baptisé masked boundary modeling. Plutôt que de laisser un objectif purement sémantique gouverner le masquage, les auteurs forcent les tokens de frontières découverts par un enseignant dans le masque de l'étudiant, avec une supervision géométrique explicite en plus de la reconstruction sémantique. Le corpus tient à 160,75 millions d'images curées à partir de deux milliards d'images brutes, soit moins d'un tiers des échantillons d'entraînement de DINOv3.

Les tâches qui profitent le plus de ce choix ne sont pas la classification globale, mais la perception dense : profondeur, segmentation, suivi vidéo. Sur ADE20K, LingBot-Vision atteint 53,5 mIoU, à quelques points de DINOv3-H+ (54,8), et sur DAVIS-2017 il obtient 70,0 J&F contre 71,1 pour DINOv3-7B. Les auteurs ajoutent LingBot-Depth 2.0 en changeant simplement l'initialisation de l'encodeur, et rapportent une position de tête sur quatorze benchmarks de complétion de profondeur, avec un avantage qui s'élargit à mesure que le jeu de données aval grossit.

La contrepartie honnête, c'est que sur ImageNet-1K en probe linéaire, LingBot-Vision reste derrière DINOv3-7B (86,32% contre 87,87%) : l'orientation frontière rétrograde légèrement la représentation sémantique globale, ce que les auteurs assument comme un compromis. Ce que le papier ne donne pas, en revanche, c'est le coût total d'entraînement en heures GPU, ni un engagement clair sur l'ouverture des poids et du code. Pour la robotique et l'IA physique, où l'inférence embarquée et la qualité géométrique dominent la contrainte, ce résultat suggère que spécialiser l'objectif de pré-entraînement peut compter davantage que la seule échelle de paramètres, et qu'un backbone dense compétitif ne demande plus forcément sept milliards de poids.