OeAW dévoile Apollo, LLM grec ancien co-signé Mistral et Reply

L'Académie autrichienne des sciences (OeAW) présente le 23 septembre à Vienne Apollo, un modèle de langue spécialisé pour le grec ancien co-développé avec Mistral AI et Sail Reply. Selon le rapport technique Apollo Restore, un fine-tune de 24 milliards de paramètres dérivé de Mistral Small, 20 papyrologues, épigraphistes et philologues ont jugé à l'aveugle ses reconstructions au moins aussi bonnes que des restaurations humaines dans 77 % des cas.

Le modèle est entraîné sur 600 millions de mots issus de manuscrits, papyrus et inscriptions historiques, avec un objectif « fill-in-the-middle » qui lui permet de combler des lacunes sans en connaître la longueur. Ses concepteurs indiquent que l'entraînement l'aide à répondre à différentes variétés de grec, dont l'homérique et le dorique.

« Was unthinkable a year ago », déclare Dimitris Vlitas, associé chez Sail Reply, à propos de la capacité du chatbot à explorer des collections entières de papyrus non déchiffrés, selon Wired. L'OeAW rappelle qu'un million de papyrus grecs n'ont jamais été lus dans le monde, dont plusieurs dizaines de milliers dorment dans la Collection de papyrus de la Bibliothèque nationale d'Autriche.

Le chatbot sera gratuit pour la communauté académique et proposera plusieurs mots ou passages candidats qu'un chercheur devra évaluer. Apollo clôt la première phase de l'initiative « Decoding Antiquity » de l'OeAW, achevée le 17 septembre, et prolonge la série de partenariats souverains que nous suivons chez Mistral depuis l'été.