Newsom signe SB 947 : fin des licenciements par IA seule

Gavin Newsom a signé le 30 septembre SB 947, la No Robo Bosses Act of 2026, qui interdit aux employeurs californiens de s'appuyer uniquement sur un système automatisé pour licencier ou sanctionner un salarié. CNBC rapporte qu'il s'agit de la première loi d'État du genre, et qu'elle revient sur le veto que le gouverneur avait opposé en octobre 2025 à une version antérieure, SB 7.

Le mécanisme est précis. Un employeur qui s'appuie « principalement » sur la sortie d'un ADS pour discipliner ou licencier doit faire corroborer la décision par un vérificateur humain, à partir d'autres éléments listés par le texte : « managerial evaluations, peer reviews, and personnel files ». Le salarié visé reçoit ensuite une notification écrite indiquant que l'IA était dans la boucle, une description des données personnelles utilisées, et un point de contact humain capable d'expliquer la décision. Chaque infraction est passible d'une amende civile de 500 $, avec en plus un droit d'action privé du salarié, l'action du Labor Commissioner, celle de procureurs publics, et la possibilité de dommages punitifs et honoraires d'avocat.

La loi devient opérationnelle le 1er juillet 2027.

L'auteur du texte, le sénateur Jerry McNerney, a déclaré à CNBC : « No worker should ever be fired or disciplined by a machine, AI or not. » Il ajoute que « Artificial intelligence systems have the potential to boost productivity, but they've also made errors and misjudgments and exhibited bias », et que « AI must remain a tool controlled by humans, not the other way around ».

Pour obtenir la signature après le veto de l'an dernier, McNerney a retravaillé le texte : l'obligation de notification est passée d'avant à après l'utilisation de l'ADS, et les protections pour les travailleurs des plateformes ont été retirées, après une opposition appuyée d'Uber et de Lyft. C'est le troisième dossier régulation IA que nous suivons cette semaine, après l'enquête FTC sur Anthropic, OpenAI et METR et la sanction du Nouveau-Mexique contre un avocat pour témoins inventés par ChatGPT.