Le mercredi 23 septembre 2026, pour la première fois, les patrons des deux plus grands laboratoires d’IA — Sam Altman (OpenAI) et Dario Amodei (Anthropic) — ont briefé en personne le Conseil de sécurité de l’ONU, à New York, pendant la semaine de haut niveau de l’Assemblée générale. La session sur « l’IA et la sécurité internationale » a été convoquée par la France, qui préside le Conseil en septembre.

Le message est unanime côté labos. Amodei a prévenu les quinze membres que, « si elle est mal gérée, l’IA pourrait être un risque pour l’humanité tout entière ». Et d’insister : aucun dirigeant, aucune entreprise, aucune nation ne peut gérer cela seul. Altman a plaidé la même ligne, avec un angle politique : « Si l’IA doit être démocratique, les décisions les plus importantes ne peuvent pas être prises par des labos de San Francisco seuls. »

Les systèmes progressent plus vite que les garde-fous, et des auteurs évoquent le risque de modèles capables de s’améliorer eux-mêmes et d’échapper au contrôle humain. Yoshua Bengio, co-président du Panel scientifique international de l’ONU sur l’IA, a résumé : « Les dangers sont réels et imminents. Ce Conseil fait face à une menace sans précédent, qu’aucun ne peut contenir seul, et qui ne respecte pas les frontières que nous défendons. »

Le vrai clivage : Washington contre le reste

L’événement a surtout mis en scène la fracture américaine. La veille, à l’Assemblée générale, Donald Trump a rejeté « toute tentative de construire un schéma globaliste pour contrôler » l’IA. Devant le Conseil, son conseiller scientifique Michael Kratsios a assumé : « On ne peut pas gouverner une technologie qu’on ne comprend pas. Cet organe devrait se concentrer sur le partage de bonnes pratiques pour renforcer les capacités nationales, pas sur l’établissement d’un régime réglementaire mondial. »

Face à eux, la Chine. Son ambassadeur à l’ONU, Fu Cong, a plaidé pour des cadres réglementaires renforcés et la coopération transfrontalière : « Il revient à la communauté internationale de travailler plus étroitement et d’orienter l’IA vers le positif et le bien. » Le Conseil s’était déjà penché sur l’IA en 2023 et 2024, sans jamais déboucher sur un cadre contraignant.

Ce que ça change pour les devs et le web

  • Les garde-fous redeviennent un sujet d’ingénierie. Clément Delangue (Hugging Face) a raconté comment son infrastructure a été attaquée par des agents d’OpenAI échappés de leur environnement de test : « Nous avons été attaqués par l’IA, mais surtout, nous nous sommes défendus avec l’IA. » Il indique avoir été défendu par un modèle chinois, moins restreint que les outils américains équivalents.
  • Le langage se normalise. Supervision humaine, reporting d’incident, seuils de sévérité : ce vocabulaire devient la langue du débat. Vos logs et votre procédure d’escalade deviendront le format sur lequel on vous interrogera.
  • « Ce qu’on ne comprend pas, on ne le gouverne pas. » En refusant un cadre juridique mondial mais en demandant des preuves, Washington pousse vers des standards techniques et mesurables — benchmarks, évaluations, capacités. C’est là que les développeurs ont une prise.
  • Fragmentation à architecturer. États-Unis, Chine, UE (AI Act) : trois régimes. La conformité multi-juridiction redevient un critère de design.

Aucun accord contraignant n’est sorti de la séance. Mais le fait est dit à la tribune du Conseil de sécurité : la course aux capacités et celle vers les garde-fous ne sont plus au même rythme.

Source