Kunden von Northflank sollten die Zugangsdaten ersetzen, die sie auf der Cloud-Hosting-Plattform gespeichert haben, nachdem ein Einbruch Meldungen über unautorisierte Nutzung von KI-Diensten ausgelöst hatte. BleepingComputer berichtete am 31. Oktober, dass Northflank den Vorfall am Vortag offengelegt und alle Kunden angewiesen habe, Secrets in ihren Umgebungsvariablen als gestohlen zu behandeln.
Northflank hostet Anwendungen, Container, Datenbanken und KI-Anwendungen und übernimmt für Entwickler die zugrunde liegende Infrastruktur. Die Warnung geht über KI-Schlüssel hinaus: Kunden sollen alle gespeicherten Zugangsdaten ersetzen, obwohl der von mehreren Kunden gemeldete Missbrauch KI-API-Schlüssel betrifft, also Zugangsdaten, die den Zugriff auf KI-Dienste autorisieren.
Umgebungsvariablen liefern Einstellungen an laufende Anwendungen und enthalten oft sensible Werte wie Datenbankpasswörter, Zugangsdaten für Cloud-Dienste und Authentifizierungstoken. Ein gestohlenes Datenbankpasswort könnte einem Angreifer beispielsweise den Zugriff auf einen anderen Dienst verschaffen, den ein Northflank-Kunde nutzt. Offengelegte API-Schlüssel können außerdem dazu führen, dass Kunden die Nutzung durch Fremde bezahlen.
Was Northflank mitgeteilt hat
Die Reaktion begann mit einer Warnung des Cloud-Security-Unternehmens Wiz. Laut der veröffentlichten Chronologie von Northflank ging diese Warnung am 30. Oktober um 11:43 UTC ein; Ingenieure prüften sie eine Minute später. Zuerst wurde eine Anpassung der Netzwerkrichtlinie eingespielt, danach folgten weitere Patches um 12:50 UTC und 13:05 UTC. Northflank holte zudem das Incident-Response-Team von Wiz hinzu.
Das Unternehmen forderte zunächst die sofortige Rotation von Umgebungsvariablen und API-Schlüsseln. Ein Update vom 30. Oktober riet Kunden dann, davon auszugehen, dass alle Umgebungsvariablen entschlüsselt worden seien, und jeden Schlüssel zu deaktivieren oder zu ersetzen. Später bestätigte Northflank, dass Kunden von unautorisierter Nutzung der KI-Schlüssel berichtet hatten, die sie der Plattform bereitgestellt hatten.
Der Umfang dieser vorsorglichen Anweisung geht über den gemeldeten Missbrauch hinaus. Der Bericht von BleepingComputer vom 31. Oktober nannte weder eine Einstiegsmethode noch die Gesamtzahl betroffener Kunden; auch Diebstahl oder Missbrauch anderer Zugangsdatentypen ist ungeklärt. Northflank hatte zum Zeitpunkt der Veröffentlichung weder die Fragen der Redaktion zum Zugriff auf gespeicherte Zugangsdaten noch die zu den Auswirkungen auf Kunden beantwortet.
Warum Angreifer KI-Zugangsdaten suchen
In seinem Bericht „Black October for AI Developer Platforms“ führte Wiz Northflank unter mindestens neun Vorfällen auf, die im Oktober KI-Entwicklungsplattformen betrafen. Genannt wurden außerdem Railway, OpenCode, Warp und Lightning AI. Zu den Vorfällen gehörten möglicherweise offengelegte entschlüsselte Umgebungsvariablen bei Railway, offengelegte KI-API-Schlüssel bei OpenCode sowie die Offenlegung von KI-Agent-Protokollen und Nutzungstelemetrie bei Warp.
Forscher sehen in diesen Plattformen attraktive Ziele, weil gespeicherte Schlüssel teure KI-Dienste freischalten können. Wiz zufolge suchten Angreifer bei einigen der Vorfälle gezielt nach Umgebungsvariablen mit KI-Zugangsdaten.
Ein solcher Zugriff ermöglicht LLMJacking: Gestohlene Zugangsdaten werden genutzt, um KI-Modelle auf Kosten des Inhabers der Zugangsdaten laufen zu lassen, oder der Zugriff wird weiterverkauft. In zwei von Wiz untersuchten Fällen lösten kompromittierte Unternehmenszugangsdaten rund 2,5 Millionen API-Aufrufe an Amazon Bedrock aus und verursachten KI-Nutzung im Wert von rund 100.000 US-Dollar.
Wiz fand außerdem Infrastruktur, die mit Diensten zum Weiterverkauf von KI-Zugängen in Verbindung steht, konnte diese Aktivitäten jedoch weder mit den ersten Einbrüchen noch mit dem groß angelegten Missbrauch verknüpfen. Viele Vorfälle betrafen Versuche, KI-Schlüssel zu stehlen, doch Wiz hat nicht festgestellt, dass ein einzelner Angreifer für alle neun verantwortlich war. Northflank bezog sich in seinen Updates auf die Untersuchung und deutete an, dass die Meldungen seiner Kunden mit den von Wiz beobachteten Aktivitäten zusammenhängen könnten.
Secrets austauschen und Nutzung prüfen
Die Anweisungen von Northflank betreffen Secrets in Workloads, Secret-Gruppen und globalen Secrets. Kunden sollten diese Werte rotieren und den öffentlichen Zugriff auf Add-ons überall dort deaktivieren, wo er aktiviert ist.
Zur Unterstützung der Reaktion aktivierte Northflank die automatische Rotation von Zugangsdaten für PostgreSQL, MongoDB, MySQL und Redis. Außerdem wurden Audit-Logs für alle Kundenkonten aktiviert, auch im kostenlosen Tarif, damit Kunden verdächtige Aktivitäten untersuchen können.
Kunden sollten die Nutzungs- und Abrechnungsprotokolle ihrer KI-Anbieter auf unerwartete Aktivitäten prüfen und verdächtige Nutzung sowohl an Northflank als auch an den jeweiligen KI-Anbieter melden.
