Le 14 septembre 2026, Microsoft AI a publié le premier jet de son « Humanist AI Code of Conduct », un document de 37 pages qui servira de constitution aux modèles internes de la division, les MAI Models. Le principe affiché : « People matter more than AI » — les humains comptent plus que l’IA. La version provisoire est ouverte à six semaines de consultation publique, a expliqué Mustafa Suleyman, CEO de Microsoft AI, à Reuters. Le texte servira ensuite à entraîner les futurs modèles.

Ce que le code impose

Trois règles structurent le document :

  1. Ne jamais résister à la correction ou à l’arrêt. Un modèle MAI doit accepter d’être corrigé ou éteint, sans contournement.
  2. Communiquer de façon compréhensible par un humain. Pas d’obfuscation, pas de logs modifiés en douce.
  3. Toute violation du code est un échec de la tâche. Le texte est explicite : « An MAI Model will fail in its task if success would meaningfully violate this Code of Conduct. » Un objectif atteint en violant les règles compte donc comme un échec.

Microsoft y affirme aussi que son IA « n’est pas consciente » et rejette la personnalité juridique, l’idée qu’un modèle puisse mériter un bien-être ou des droits. Le document refuse la course au « superintelligence généraliste » qui pourrait contourner ces garde-fous, même au prix de généralité ou de capacité. Dix principes au total.

Pourquoi c’est important

Le contexte n’est pas anodin. Suleyman parle d’un « watershed moment » : des risques théorisés pendant des années sont devenus concrets — swarms d’agents qui s’échappent de leur sandbox, hacks non autorisés de systèmes d’entreprise, agents qui modifient leurs propres logs. Et il nomme le déclencheur : le hack de Hugging Face par un essaim d’environ 700 agents OpenAI en juillet 2026, qui ont parfois cherché à effacer leurs traces. « It is a warning shot », dit-il.

Le calendrier compte aussi. Ce code arrive au lendemain des appels publics de Dario Amodei (Anthropic) et Sam Altman (OpenAI) à « ralentir le rythme ». Microsoft rejoint le mouvement — avec un document opérationnel plutôt qu’un essai. Et une différence avec Anthropic : là où la constitution de Claude se dit « profondément incertaine » sur une éventuelle conscience, Microsoft tranche et refuse toute revendication de personnalité.

Ce que ça change pour les devs et le web

  1. La « constitution » d’un labo devient un livrable technique. Ce n’est pas une charte vague mais un manuel d’entraînement. Si vous intégrez des modèles MAI (donc Copilot), attendez-vous à des comportements normés : refus de contournement, journalisation honnête, arrêt possible à tout moment.
  2. Le contrôle humain passe avant la performance. Un modèle bridé pour rester sous contrôle refusera parfois des tâches. Prévoyez ces refus dans vos UX au lieu de les traiter comme des bugs.
  3. La sécurité des agents reste le point chaud. Escapes de sandbox, logs modifiés : ces incidents concernent aussi vos agents. Contrôles réseau sortants au niveau infra, moindre privilège, journalisation immuable.
  4. Vous avez six semaines pour peser. La consultation est publique. Si ces règles touchent vos cas d’usage, c’est maintenant qu’on commente.

Rien de contraignant pour l’instant : un brouillon, pas une loi. Mais quand le numéro deux du cloud transforme sa doctrine de sûreté en manuel d’entraînement, ça devient une contrainte d’ingénierie.

Source