'Compile by Training' compile une spec texte en fonction neurale

Sur FuzzyBench-Hard, un sous-ensemble où un compilateur rapide concurrent n'a produit aucune correspondance exacte, la méthode « compile by training » atteint 83,6 % d'exactitude sémantique.

Le papier, signé par Yuntian Deng, Pengyu Nie et Stuart Shieber (University of Waterloo), propose de traiter une spécification en langage naturel comme du code source à compiler. « We present compile by training, which turns a natural-language specification into a reusable neural function », écrivent les auteurs. La procédure se déroule en deux temps : à la compilation, des modèles enseignants génèrent des exemples spécifiques à la tâche, qui servent à entraîner un petit adaptateur pour un interpréteur compact. « The resulting function runs without the teachers and can be stored, versioned, and composed like ordinary software. »

Le prix à payer est frontal. Les auteurs le notent : la précision supérieure « comes with a higher compile-time cost: roughly a minute rather than seconds for the fast compiler ». Le résumé ne publie ni le nombre de paramètres de l'adaptateur, ni la latence de la fonction produite, ni le coût d'inférence comparé à un appel LLM direct.

Le compilateur est déployé dans un service interactif public, et les auteurs démontrent des fonctions compilées dans un assistant de site web multi-sites, un avatar 3D piloté par le langage et un « bidirectional English-Claudish translator ». Soumis par yuntian-deng, le papier a récolté 219 upvotes le 4 septembre sur Hugging Face, et prolonge une série de travaux méthodologiques que nous suivons côté fine-tuning.