Microsoft-CEO Satya Nadella plädiert für eine Sicherheitsstrategie, die davon ausgeht, dass fortschrittliche KI-Modelle bereits kompromittiert sein könnten, und sie von Anfang an eingrenzt. Laut The Verge, das am 10. Oktober 2026 über den Beitrag berichtete, hat Nadella seine Position in einem langen Beitrag auf X dargelegt.
Was Nadella vorschlägt
Laut The Verge argumentiert Nadella, dass hochentwickelte KI-Modelle Gefahren mit sich bringen, denen man sich stellen muss. Die Gesellschaft könne KI nicht länger als verschachtelte Black Boxes akzeptieren, deren Ergebnisse man schlicht übernehme oder verwerfe.
Stattdessen beschreibt er ein transparenteres System mit drei Eigenschaften:
- Modelle lassen sich eingrenzen.
- Modelle lassen sich während des Betriebs beobachten.
- Das System hinterlässt manipulationssichere, für Menschen lesbare Nachweise darüber, was geschehen ist.
Das zentrale Sicherheitsprinzip lautet laut Bericht: Ein Modell sollte von Beginn an als kompromittiert gelten und eingegrenzt werden. Damit wird die übliche Reihenfolge umgekehrt, bei der zuerst Vertrauen gewährt und erst im Problemfall wieder entzogen wird.
Eine „Notbremse“ und standardisierte Eindämmung
Nadella sagt außerdem, dass eine autorisierte Person ein Modell mitten in einer Aufgabe jederzeit anhalten oder abschalten können sollte. The Verge nennt dies eine „Notbremse“.
Er ergänzt, dass leistungsfähigere Modelle leistungsfähigere Eindämmungstechnologien benötigen und dass diese standardisiert werden sollten.
Vergleich mit anderen Branchenstimmen
Laut The Verge überschneiden sich Nadellas Empfehlungen mit denen anderer Branchenvertreter: rechtzeitige Offenlegung von Vorfällen, unabhängige Audits, überprüfbare Daten und Eindämmung. Nach Einschätzung des Mediums geht seine Haltung zur Eindämmung etwas weiter als die einiger anderer in diesem Feld.
The Verge merkt außerdem an, dass Nadella im gesamten Beitrag den Begriff „Superintelligenz“ für KI verwendet.
