Suleyman (Microsoft) réclame une 'red line' avant les modèles 10x

Dans une newsletter Bloomberg signée Shirin Ghaffary et parue le 24 septembre, Mustafa Suleyman, patron de l'IA chez Microsoft, plaide pour une 'red line' partagée au niveau de l'industrie et prévient que le tracé de cette ligne ne devrait pas être laissé aux seules entreprises qui construisent la technologie.

Le Q&A couvre trois angles : les incidents de sécurité récents chez les labos frontière, les risques de retirer les garde-fous existants alors que le secteur s'apprête à tester des modèles dix fois plus grands, et l'idée d'un organe de sécurité inter-entreprises.

Suleyman veut aussi voir l'État jouer un rôle direct dans l'évaluation des modèles avant leur mise sur le marché. Selon le compte-rendu de Ghaffary, le gouvernement devrait aider à 'piloter' ce processus d'évaluation. À l'appui, il rappelle que Microsoft a déjà signé des accords formels avec le US Center for AI Standards and Innovation (CAISI) et l'AI Security Institute britannique (AISI) pour tester ses modèles frontière avant déploiement.

La sortie s'inscrit dans une séquence dense côté safety que nous suivons depuis trois mois, avec près de deux cents alertes recensées, dont le portrait par le WSJ de Jaan Tallinn et la lecture pékinoise du doomerism américain relayée par le NYT. Suleyman n'offre, pour l'instant, ni proposition politique précise ni calendrier sur l'emplacement exact de cette 'red line'.