Alex Stamos, Chief Security Officer bei Cognition, sagt, dass herunterladbare KI-Werkzeuge Angreifern erlauben, Softwarefehler während eines Angriffs zu finden und auszunutzen. Dadurch sinkt das nötige Können, um große Unternehmen zu knacken. In einem Decoder-Interview mit The Verge beschrieb er eine Abfolge von Kompromittierungen, deren Folgen sich von einem KI-Dienstleister auf Unternehmen ausweiten können, die die Software von dessen Kunden einsetzen.
Die Warnung ist besonders relevant für Organisationen, die auf miteinander verbundene KI-Dienste und Entwicklungswerkzeuge setzen. Stamos schilderte eine mutmaßliche Kette mit Fireworks und Cursor, die seiner Aussage nach 5.000 Unternehmen möglichen Einbrüchen ausgesetzt habe. Außerdem sagte er, ein Open-Source-Angriffswerkzeug sei in der Woche des Interviews gegen drei südkoreanische Banken und etwa 200 weitere Unternehmen eingesetzt worden.
Diese Angaben stammen von Stamos, der zugleich Dozent am Cyber Policy Center der Stanford University ist. Er sagte, er habe über Cognition einigen betroffenen Unternehmen geholfen, auch wenn das Unternehmen kein Anbieter für Incident Response sei.
Ein Einbruch, der sich über Zulieferer ausbreitet
Stamos beschrieb den Oktober als eine andauernde Phase des Drucks für Sicherheitsteams. Er verwies auf schwerwiegende Fehler in PHP und Node sowie auf Einbrüche bei einer Reihe KI-naher Unternehmen, darunter spezialisierte Cloud-Anbieter. Außerdem nannte er den Hack bei Binance, den er als größten Raub der Geschichte einstufte.
Sein konkretestes Beispiel betraf Fireworks, einen Anbieter von KI-Diensten für andere Unternehmen. Seiner Darstellung nach stahlen Angreifer bei Fireworks API-Schlüssel – Zugangsdaten, mit denen Software auf einen Dienst zugreifen kann – und nutzten sie, um in Cursor einzudringen. Anschließend verbreiteten sie über Cursor ein schädliches Plugin, das weitere 5.000 Unternehmen erreichte und damit 5.000 mögliche Einbrüche auslöste.
Die Unterscheidung ist wichtig: Seine Darstellung beschreibt mögliche nachgelagerte Kompromittierungen und nicht 5.000 bestätigte erfolgreiche Einbrüche. Sie zeigt außerdem, wie ein gestohlener Dienst-Zugang einen Angriff über das zunächst betroffene Unternehmen hinaus tragen kann.
Stamos führte die breitere Welle auf verschiedene Gruppen zurück. Er sprach über staatliche Hacking-Organisationen und kriminelle Akteure, ordnete die gesamte Abfolge aber nicht einem einzigen Akteur zu.
Schwachstellen während des Angriffs finden
Stamos’ zentrales Argument ist, dass KI die Reihenfolge und die Wirtschaftlichkeit eines Eindringens verändert.
Traditionell, so erklärte er, recherchieren Angreifer Software, entdecken eine Schwachstelle und schreiben einen Exploit – Code, der diese Schwachstelle ausnutzt –, bevor sie ihn gegen eine ausgewählte Organisation oder viele Ziele einsetzen. KI-Systeme könnten inzwischen Ziele untersuchen, Fehler finden und Exploits schreiben, während ein Angriff bereits läuft, sagte er.
Dadurch wird die sogenannte „Kill Chain“ verkürzt, wie Sicherheitsteams die Schritte nennen, die ein Angreifer unternimmt, um ein Ziel zu erreichen, etwa das Stehlen von Informationen, das Stören eines Systems oder das Erbeuten von Geld. Stamos argumentierte, dass Open-Weight-Modelle, deren Parameter anderen zum Ausführen zur Verfügung stehen, inzwischen einen großen Teil dieses Prozesses automatisieren können.
Besonders hob er ARTEX hervor, das er als chinesisches Open-Source-Werkzeug mit einer englischen Übersetzung auf GitHub beschrieb. In Kombination mit einem Modell wie dem „obliterated GLM-5.3“ könne es Einbrüche in eine erstaunlich große Zahl von Organisationen ermöglichen, sagte er. Seine Zahlen zu den südkoreanischen Banken und den rund 200 zusätzlichen Unternehmen wurden als Beispiele für den Einsatz dieses Werkzeugs angeführt.
Stamos sagte außerdem, er betreibe auf seinem M5 Mac Ultra Studio eine quantisierte Version dieses Modells. Seiner Einschätzung nach verringert die Fähigkeit von Angreifern, Modelle selbst auszuführen, ihre Abhängigkeit von gehosteten Frontier-Modellen mit Schutzmechanismen und Protokollen, die möglicherweise für Strafverfolgungsbehörden verfügbar sind.
Druck auf die Annahmen der Sicherheitsbranche
Stamos verglich die heutige Lage mit den 1990er-Jahren, als öffentlich verfügbare Werkzeuge Schwachstellen bei einer großen Zahl von Unternehmen offenlegen konnten. Der Unterschied sei, so sein Argument, dass die Gesellschaft heute weit stärker von internetfähigen Systemen abhängt, während Angreifer ihre Arbeit automatisieren und von Orten aus operieren können, die für eine wirksame Strafverfolgung nicht erreichbar sind.
Die moderne Softwaresicherheitsbranche führte er auf die frühen 2000er-Jahre und Bill Gates’ Memo zum „Trustworthy Computing“ zurück. Unternehmen stellten ehemalige Hacker ein, während sich verantwortungsvolle Offenlegung, Bug-Bounty-Programme und Sicherheitsberatungen zu einem Geschäft mit mehreren Milliarden Dollar entwickelten.
Dieses System beruhte laut Stamos zum Teil auf knapper Expertise: Relativ wenige Menschen konnten schwierige Schwachstellen finden, ausgefeilten Exploit-Code entwickeln oder Sicherheitspatches durch Reverse Engineering analysieren. Auch Angriffsorganisationen brauchten Leute, die diese Forschung in Operationen umsetzten. Seiner Argumentation nach schwächt KI beide Einschränkungen, indem sie weniger erfahrenen Akteuren Fähigkeiten zugänglich macht, die bisher bei Spezialisten konzentriert waren. Er verwies zudem auf Bitcoin als früheren Wandel, der die Wirtschaftlichkeit von Kriminalität veränderte, weil Geldwäsche für technisch versierte Täter leichter zugänglich wurde.
Auf der Verteidigerseite bestand die konkrete Reaktion, die Stamos beschrieb, darin, KI-Werkzeuge einzusetzen, um die durch Einbrüche offengelegten Schwachstellen zu beheben. Er sagte, Cognition helfe nach Angriffen einigen betroffenen Unternehmen, ihre Fehler zu beseitigen.
