Fireworks AI zufolge hat die Kompromittierung bei einem externen Cloud-Anbieter Angreifern den Zugriff auf die eigenen Entwicklungsrechner ermöglicht. Dadurch wurden Abrechnungsdaten von Kunden und einige KI-Modelldaten offengelegt. Der Bericht von BleepingComputer vom 10. November beschreibt die zweite Sicherheitsmeldung des Unternehmens. Sie folgt auf einen früheren Vorfall, den das Unternehmen Anfang Oktober Kunden und Strafverfolgungsbehörden gemeldet hatte.
Entwickler nutzen die Inferenzplattform von Fireworks – die Infrastruktur, die KI-Modelle ausführt, um Antworten zu erzeugen –, um Open-Source-Modelle wie Mistral, Llama von Meta und Gemma von Google zu betreiben. Der nun offengelegte Vorfall betraf Kontoinformationen von Kunden sowie unvollständige Modellgewichte und Datensätze, die einigen Kunden gehören.
Zu den abgerufenen Abrechnungsdaten gehörten Rechnungs- und Lieferadressen, Rechnungs- und Zahlungsverläufe, Kontostände und Kreditnutzung. Fireworks erklärte, Zahlungskartennummern seien von dieser Offenlegung nicht betroffen, da das Unternehmen sie nicht speichert.
Außerdem griffen die Angreifer auf Metadaten zu, also beschreibende Informationen zu Ressourcen: Fireworks-Kennungen, Anzeigenamen, Beschreibungen und Erstellungszeiten. Das Modellmaterial umfasste unvollständige Gewichte – die numerischen Parameter, die das Verhalten eines Modells prägen – sowie Datensätze.
Vom Cloud-Anbieter zu Entwicklungssystemen
BleepingComputer datiert die Entdeckung eines weiteren Sicherheitsvorfalls durch Fireworks auf den 23. Oktober, nachdem das Unternehmen Zugangsdaten widerrufen hatte, die mit dem früheren Vorfall in Verbindung standen. Gesondert liefert ein im Bericht zitierter Hinweis vom Montag die Darstellung von Fireworks zur Kompromittierung beim Anbieter und zu den anschließenden Aktivitäten.
Demnach erlebte der Cloud-Anbieter, der die Forschungs- und Entwicklungsrechner von Fireworks hostet, am 23. Oktober einen Sicherheitsvorfall. Am 24. Oktober nutzte ein Unbefugter diese Kompromittierung, um auf die Entwicklungsrechner von Fireworks zuzugreifen und eine Rechenaufgabe auszuführen, die zusätzliche Auswirkungen auf Kundendaten hatte.
Fireworks erklärte, die Aktivität am 24. Oktober erkannt, sofort Gegenmaßnahmen ergriffen und bekannte kritische Schwachstellen geschlossen zu haben. Die Erklärung, wonach keine weiteren Belege für einen erfolgreichen Zugriff von Angreifern auf die kundenseitige Plattform gefunden worden seien, war auf den 25. Oktober datiert.
Beim früheren Vorfall ging es um den Zugriff auf Umgebungsvariablen – Einstellungen, die laufender Software zur Verfügung stehen –, in denen geheime API-Schlüssel und Tokens für eine begrenzte Anzahl von Konten gespeichert waren. Fireworks informierte Kunden und Strafverfolgungsbehörden Anfang Oktober und ordnete die Aktivität einer finanziell motivierten Gruppe zu. Diese wollte Tokens für unbefugten Zugriff auf große Sprachmodelle über illegitime Routing-Gateways verkaufen. Außerdem widerrief Fireworks kompromittierte interne Zugangsdaten, betroffene Fireworks-API-Schlüssel sowie Schlüssel, die die Angreifer angelegt hatten.
Diese Form des Missbrauchs wird als LLMjacking bezeichnet: Gestohlene Zugangsdaten ermöglichen es unbefugten Nutzern, auf Kosten des Opfers KI-Anfragen zu stellen. BleepingComputer verwies außerdem auf Erkenntnisse, die eine Woche zuvor von Googles Threat Intelligence Group und Mandiant veröffentlicht wurden. Diese berichteten von betrügerischen Anfragen mit gestohlenen API-Schlüsseln, die bei kompromittierten Organisationen Cloud-KI-Kosten von bis zu einer Million US-Dollar verursachten.
Zugangsdaten ersetzt und Systeme isoliert
Zu den Maßnahmen von Fireworks als Reaktion auf den neuen Angriff gehörten das Widerrufen und Ersetzen von Zugangsdaten und Dienstkonten, die Einschränkung nicht autorisierter Netzwerkrouten und die Isolierung betroffener Systeme. Das Unternehmen verschärfte außerdem die Kontrollen für Speicher- und Analysesysteme, um öffentlichen oder unbefugten Zugriff auf gespeicherte Daten zu verhindern.
Die Incident-Response-Abteilung Unit 42 von Palo Alto Networks unterstützt Fireworks derzeit dabei, das volle Ausmaß und die Auswirkungen des Vorfalls zu untersuchen und die Systeme gegen weitere Angriffe zu stärken.
