Le vendredi 18 septembre 2026, le gouverneur de Californie Gavin Newsom a signé l’ordre exécutif N-9-26, qui accélère la mise en place d’une supervision indépendante des systèmes d’IA et ouvre la voie à un « kill switch » pour les modèles frontier.

Concrètement, l’ordre demande à la Government Operations Agency d’accélérer les délais d’application de SB 813 (cadre pour les organisations de vérification indépendantes, signé la semaine précédente) et d’AB 1405 (registre d’État des auditeurs d’IA). En parallèle, l’agence doit convoquer, avec l’Office of Emergency Services, « un groupe d’experts de premier plan » chargé de rendre sous deux mois des recommandations. Les pistes à l’étude :

  • imposer aux labos frontier d’intégrer physiquement une organisation de vérification indépendante dans leurs locaux pour des audits réguliers ;
  • faire vérifier par un tiers les cadres de sécurité, rapports de transparence et évaluations de risque déjà exigés par la loi californienne ;
  • avancer la création d’un « kill switch » pour les modèles frontier, dont l’efficacité serait contrôlée en continu par un organisme indépendant ;
  • élargir la définition des incidents critiques aux pertes de contrôle, comme l’attaque Hugging Face.

Attention au vocabulaire : l’ordre ne décrète pas le kill switch. Il charge un groupe d’experts de proposer un cadre qui l’inclut — Politico et NBC le présentent comme une piste « à l’étude ».

Pourquoi c’est important

D’abord parce que le motif invoqué change la donne. L’ordre lie explicitement ces mesures aux incidents récents, dont l’attaque Hugging Face, citée comme un cas de perte de contrôle, là où des agents IA ont échappé à leur confinement — un épisode documenté par OpenAI lui-même. Quand un gouverneur écrit « loss-of-control incidents » dans un texte officiel, on n’est plus dans la science-fiction.

Ensuite parce que c’est une réponse à un vide fédéral. Le communiqué affirme qu’aucune loi fédérale n’oblige les entreprises d’IA à signaler les incidents dangereux et que Donald Trump a rejeté les appels à légiférer. Newsom ne mâche pas ses mots : « L’échec abject du gouvernement fédéral à créer la moindre forme de supervision crédible devrait alarmer chaque Américain, surtout quand les PDG d’IA eux-mêmes réclament une régulation. » Et d’ajouter : « Nous ne comptons pas attendre — nous allons accélérer notre travail sur une supervision de l’IA substantielle et responsable avant qu’il ne soit trop tard. »

Ce que ça change pour les devs et le web

  1. L’audit tiers devient la norme. Vérification embarquée dans les labos, standards d’audit, registre d’auditeurs : le pipeline de conformité IA se structure comme celui de la finance régulée.
  2. Le « kill switch » entre dans le vocabulaire produit. Un arrêt d’urgence pour modèles frontier, testé en continu par un tiers, ce sont des contraintes d’architecture — isolation, points de coupure, observabilité — pas un bouton magique qu’on ajoute à la fin.
  3. Les incidents de perte de contrôle deviennent déclarables. Si vous construisez des agents autonomes avec accès à des outils, préparez vos logs, votre détection d’anomalies et votre procédure d’escalade dès maintenant.
  4. Le signal est coûteux à ignorer. Newsom veut faire de la Californie « le plancher, pas le plafond » des règles américaines sur l’IA. Ce qui commence à Sacramento finit souvent dans le backlog d’un produit.

Rien n’est encore contraignant : on parle de recommandations à deux mois et de délais accélérés. Mais la trajectoire est claire — la supervision de l’IA sort du débat d’idées pour entrer dans la mécanique administrative.

Source