LARC raisonne en latent continu, +7 pts GenEval vs BAGEL

Raisonner directement dans l'espace latent continu, sans repasser par des tokens discrets, suffit à faire gagner sept points sur GenEval à un modèle multimodal unifié. C'est la thèse de LARC, un cadre publié le 2 novembre qui part de BAGEL comme modèle de base et pousse son score global de 0,81 à 0,88, dont +15 points sur la sous-tâche Attribute Binding.

Les auteurs attribuent l'échec habituel des UMMs à raisonnement augmenté à un décalage de modalité : « reasoning is performed in a discrete token space, whereas image generation operates in a continuous space », écrit l'abstract. LARC alterne donc segments textuels et états cachés continus, marqués par un token spécial <latent>, et s'entraîne en deux étapes. D'abord un SFT curriculaire sur un million de traces interleaved issues de FLUX-Reason, WEAVE et ScaleEdit, où les étapes latentes sont activées progressivement. Puis un RL auto-évolutif piloté par GRPO, avec une reward « information-gain » qui mesure combien la trace de raisonnement améliore la prédiction de l'image cible, assortie d'une reward de diversité pour empêcher les latents de converger vers des vecteurs identiques.

Au-delà de GenEval, l'écart sur BAGEL se retrouve ailleurs : 90,04 contre 85,07 sur DPG-Bench (+5,8 %), +10,2 points sur OneIG-Bench, 22,509 contre 20,434 sur le LC-T de CompBench en édition d'image, et +2,6 points sur MIRA en raisonnement visuel. Surtout, les auteurs décrivent un « clear test-time scaling behavior, outperforming token-based generation under both parallel and sequential test-time scaling strategies » : les gains croissent de manière monotone à mesure que le budget de raisonnement latent augmente, à travers génération, édition et raisonnement visuel.

La page huggingface ne liste pas d'auteurs individuels — seule mention, « Equal advising » en note de bas de page — et ne détaille ni le coût d'entraînement du stage RL, ni l'inflation de latence d'inférence associée aux gains. C'est le dernier venu d'une petite vague de papiers que notre tracker recherche remonte cette semaine, après celui de CMU, JHU et Aurora sur la réduction du pré-entraînement.