Reisner (Atlantic) : l'IA générative, un désastre d'ingénierie

Il y a une distinction utile entre « la technologie ne marche pas » et « la technologie marche à un coût d'ingénierie déraisonnable », et c'est la seconde que le journaliste Alex Reisner cherche à documenter dans The Atlantic. Sa phrase-clé, telle que citée par les résumés qui circulent : « le travail de construction de systèmes IA efficaces et scalables n'a pas réellement été fait, et l'inefficacité qui en résulte commence à coûter aux gens hors de l'industrie ». Le chiffre censé matérialiser l'accusation est frappant : les entreprises tech achèteraient jusqu'à 70 % de la mémoire haut de gamme produite dans le monde pour alimenter ChatGPT, Claude et leurs concurrents.

Ce que cette lecture décrit, c'est un déplacement du problème plus qu'une résolution. Là où une discipline d'ingénierie mature aurait poussé sur les algorithmes, la compression, la représentation, l'industrie a préféré racheter la contrainte en dollars et en silicium. Le récit de la scaling law fonctionne alors moins comme un résultat scientifique que comme un permis d'investir davantage sans avoir à trancher les questions dures.

La réponse publique a été immédiate. Selon la synthèse du débat compilée par Digg, Aidan Clark, VP of Research (Training) chez OpenAI, écrit sur X que Reisner « semble sincèrement croire qu'on utilise tous les LLM à cause du nombrilisme de la Silicon Valley » et défend la position inverse : les LLM sont « la seule chose que nous ayons trouvée qui marche ». Il reproche à l'auteur d'avoir cité « quatre papiers arxiv au hasard » et renvoie à des travaux qu'il juge plus représentatifs (SMoE, MQA, FlashAttention, Chinchilla). Gary Marcus, à l'opposé, relaie la thèse sur X : il dit avoir demandé à plusieurs chercheurs de citer un autre logiciel réel qui passe à l'échelle aussi mal, aucun n'a su répondre.

Le caveat honnête est que Reisner écrit un essai polémique dans un magazine généraliste, pas un audit technique. Les résumés disponibles ne précisent pas si les 70 % désignent un instantané ou une projection, ne nomment pas les papiers reprochés, et ne rapportent aucune réponse de fond de Meta, Google ou Microsoft. Pour un lecteur exécutif, l'intérêt de cette semaine n'est pas de trancher le débat mais de le prendre au sérieux : si l'inefficacité mémoire est structurelle plutôt que transitoire, les paris CAPEX des douze prochains mois sont plus fragiles que les slides d'investisseurs ne le laissent penser.