Le PDG de Microsoft, Satya Nadella, plaide pour une posture de sécurité qui part du principe que les modèles d'IA avancés pourraient déjà être compromis, et qui les confine dès le départ. Selon The Verge, qui a rapporté ce message le 10 octobre 2026, Nadella a exposé cette position dans un long message publié sur X.
Ce que propose Nadella
Selon The Verge, Nadella affirme que les modèles d'IA très avancés comportent des dangers auxquels il faut faire face. Il estime que la société ne peut plus accepter l'IA comme un ensemble de boîtes noires imbriquées dont les résultats sont simplement acceptés ou rejetés.
À la place, il décrit un système plus transparent, reposant sur trois propriétés :
- les modèles peuvent être confinés ;
- les modèles peuvent être observés pendant leur fonctionnement ;
- le système laisse une trace infalsifiable et lisible par un humain de ce qui s'est passé.
Le principe de sécurité central, tel que rapporté, consiste à considérer un modèle comme compromis et à le confiner dès le départ. Cela inverse l'ordre habituel, dans lequel la confiance est d'abord accordée puis retirée en cas de problème.
Un « frein d'urgence » et un confinement standardisé
Nadella affirme aussi qu'une personne autorisée doit toujours pouvoir suspendre ou arrêter un modèle au milieu d'une tâche. The Verge parle à ce sujet de « frein d'urgence ».
Il ajoute que les modèles plus performants auront besoin de technologies de confinement plus performantes, et que celles-ci devraient être standardisées.
Comparaison avec d'autres prises de position du secteur
Selon The Verge, les recommandations de Nadella recoupent celles d'autres acteurs du secteur : divulgation rapide des incidents, audits indépendants, données vérifiables et confinement. Selon l'analyse du média, sa position sur le confinement va un peu plus loin que celle de certains autres acteurs.
The Verge relève aussi que Nadella emploie tout au long du message le terme « super-intelligence » pour désigner l'IA.
