Il CEO di Microsoft Satya Nadella ha chiesto una postura di sicurezza che presuma che i modelli di IA avanzati possano già essere stati compromessi e che li tenga contenuti fin dall'inizio. Secondo The Verge, che ha riportato il post il 10 ottobre 2026, Nadella ha esposto la sua posizione in un lungo post su X.
Cosa propone Nadella
Secondo The Verge, Nadella sostiene che i modelli di IA molto avanzati comportino rischi che vanno affrontati. Afferma che la società non può più accettare l'IA come una serie di scatole nere annidate, i cui output vengono semplicemente accettati o respinti.
Al loro posto descrive un sistema più trasparente, costruito su tre proprietà:
- i modelli possono essere contenuti;
- i modelli possono essere osservati mentre sono in esecuzione;
- il sistema lascia registrazioni resistenti alle manomissioni e leggibili dagli esseri umani su ciò che è accaduto.
Il principio di sicurezza centrale, secondo quanto riportato, è che un modello vada considerato compromesso e contenuto fin dall'inizio. Questo ribalta l'ordine consueto, in cui la fiducia viene concessa per prima e revocata solo quando qualcosa va storto.
Un «freno di emergenza» e contenimento standard
Nadella afferma inoltre che una persona autorizzata dovrebbe sempre poter mettere in pausa o spegnere un modello nel mezzo di un'attività. The Verge chiama questo meccanismo un «freno di emergenza».
Aggiunge che i modelli più capaci avranno bisogno di tecnologie di contenimento altrettanto capaci, e che queste dovrebbero essere standardizzate.
Come si confronta con altri appelli del settore
The Verge scrive che le raccomandazioni di Nadella si sovrappongono a quelle di altre figure del settore: comunicazione tempestiva degli incidenti, audit indipendenti, dati verificabili e contenimento. Secondo la valutazione della testata, la sua posizione sul contenimento va in qualche misura oltre quella di alcuni altri esponenti del settore.
The Verge osserva anche che Nadella usa il termine «super intelligence» per riferirsi all'IA in tutto il post.
