KAIST publie World Observer, un world model attentif au hors-champ
TL;DR
- Sept chercheurs de KAIST AI, menés par Hyunwook Choi, publient World Observer, un world model vidéo joint acteur-observateur, posté le 2 octobre sur Hugging Face.
- L'architecture génère conjointement une vue agent-centrique et un ou plusieurs observateurs panoramiques qui continuent de voir évoluer les objets sortis du champ.
- Un composant « Observer Sink » conserve des références haute résolution pour restaurer l'apparence fine des objets quand ils reviennent dans la vue de l'acteur.
Un objet qui sort du champ d'un agent, dans la plupart des world models vidéo actuels, cesse d'exister et revient figé, dupliqué ou effacé. Le papier World Observer, signé par sept chercheurs de **KAIST AI** et posté le 2 octobre sur Hugging Face, propose de régler ce défaut en séparant l'acte d'agir de l'acte d'observer.
L'équipe, menée par Hyunwook Choi, « decouples observing from acting by jointly generating a perspective actor for the agent-centric view with one or more panoramic observers that watch selected world regions », écrit l'abstract. Les observateurs panoramiques scrutent en continu des zones choisies, pilotables ou fixes, pendant que l'acteur produit la vue agent-centrique. Un composant baptisé Observer Sink conserve des références haute résolution pour restaurer l'apparence fine des objets quand ils reviennent dans le champ, et un mécanisme de warping depuis une source panoramique partagée assure la correspondance géométrique.
Le comparatif revendiqué est frontal : sur la page projet, les auteurs écrivent qu'« existing models often fall into a frame-locked, lost, frozen, or impostor state, while World Observer preserves its identity and state evolution ». Les baselines affrontées incluent Matrix-Game 3, PanoWorld, OmniRoam, HY-World 1.5, HyDRA, FantasyWorld, DreamX-World et LingBot-World ; le benchmark introduit mélange scènes réelles et séquences synthétiques rendues avec CARLA.
L'abstract revendique une amélioration « substantielle » des dynamiques hors champ et affirme rester compétitif en fidélité visuelle, contrôle caméra et cohérence 3D, sans publier de chiffre par métrique. C'est la 26ᵉ histoire que nous classons en AI Video sur les 90 derniers jours.
Article original publié par huggingface.co
Lire l'article original →Titre original : KAIST publie World Observer, un modèle de monde qui préserve la dynamique des objets hors champ