Claude refuse de décompiler, Codex bannit pour « cyber abuse »

Claude refuse désormais de décompiler des firmwares d'appareils grand public, tandis qu'OpenAI bannit certains comptes Codex pour violation de ses règles de « cyber abuse », rapporte Jason Koebler sur 404 Media. Les deux garde-fous frappent les mêmes usages : rétro-ingénier des téléviseurs connectés Samsung, des babyphones, des moniteurs de gaz connectés ou de vieux appareils photo numériques à l'aide d'un LLM.

Un utilisateur cité, « log4j » sur X, dit avoir été banni par OpenAI après avoir demandé à Codex de rétro-ingénier une TV Samsung. Matt Brown, Principal Consultant chez Brown Fine Security, décrit à 404 Media une corrélation quasi totale entre ses refus et la catégorie « cyber » : « My general experience about reverse-engineering getting blocked has been more or less 100% correlated with the 'cyber' category blocks I have received. »

Tarun Gogineni, ingénieur chez OpenAI, répond que l'entreprise ne prohibe pas la rétro-ingénierie : « these blocks are mostly accidental and a result of difficult decision boundaries; there is no prohibition against reverse engineering with codex. it's getting fixed ». Côté Claude, les refus portent spécifiquement sur les demandes de décompilation d'exécutables.

L'auteur de science-fiction Bruce Sterling, cité dans l'article, résume le grief : « This vibe-code hacking is only called 'reverse' when somebody who lacks a trillion dollars is doing it. » Plusieurs chercheurs disent basculer vers des modèles à poids ouverts exécutables localement ; Brown raconte par exemple avoir découvert des commandes Bluetooth cachées sur un appareil en utilisant un modèle GLM 5.3.