Fireworks AI indique qu'une compromission chez un fournisseur cloud tiers a permis aux attaquants d'atteindre ses machines de développement, exposant les données de facturation des clients ainsi que certaines données de modèles d'IA. Le rapport de BleepingComputer du 10 novembre décrit la deuxième divulgation de sécurité de l'entreprise, faisant suite à un incident antérieur signalé aux clients et aux forces de l'ordre début octobre.
Les développeurs utilisent la plateforme d'inférence de Fireworks — l'infrastructure qui fait tourner les modèles d'IA pour générer des réponses — afin d'exploiter des modèles open source, dont Mistral, Llama de Meta et Gemma de Google. La fuite nouvellement révélée concerne les informations de compte des clients, ainsi que des poids de modèles incomplets et des jeux de données appartenant à certains clients.
Les informations de facturation consultées comprenaient les adresses de facturation et de livraison, l'historique des factures et des paiements, les soldes de compte et l'utilisation des crédits. Fireworks indique que les numéros de carte bancaire n'ont pas été exposés, car l'entreprise ne les stocke pas.
Les attaquants ont également accédé aux métadonnées, c'est-à-dire aux informations descriptives associées aux ressources : identifiants Fireworks, noms d'affichage, descriptions et dates de création. Les éléments relatifs aux modèles comprenaient des poids incomplets — les paramètres numériques qui façonnent le comportement d'un modèle — ainsi que des jeux de données.
Du fournisseur cloud aux systèmes de développement
Selon BleepingComputer, Fireworks a découvert un autre incident de sécurité le 23 octobre, après avoir révoqué des identifiants liés à la fuite précédente. Par ailleurs, un avis publié un lundi et cité dans le rapport expose la version de Fireworks concernant la compromission du fournisseur et l'activité qui a suivi.
Selon ce récit, l'hébergeur cloud qui héberge les machines de recherche et développement de Fireworks a subi un incident de sécurité le 23 octobre. Le 24 octobre, une partie non autorisée a exploité cette compromission pour atteindre les machines de développement de Fireworks et exécuter une charge de calcul ayant causé des impacts supplémentaires sur les données clients.
Fireworks indique avoir détecté cette activité le 24 octobre, pris des mesures d'intervention immédiates et corrigé les vulnérabilités critiques connues. Sa déclaration selon laquelle elle n'avait trouvé aucune autre preuve d'un accès réussi de l'attaquant à la plateforme destinée aux clients était datée au 25 octobre.
L'incident précédent portait sur l'accès à des variables d'environnement — des paramètres accessibles aux logiciels en cours d'exécution — qui contenaient des clés API secrètes et des jetons pour un nombre limité de comptes ; Fireworks a notifié les clients et les forces de l'ordre début octobre, a relié l'activité à un groupe motivé par l'argent qui cherchait à vendre des jetons donnant un accès non autorisé à de grands modèles de langage via des passerelles de routage illicites, et a révoqué les identifiants internes compromis, les clés API Fireworks touchées ainsi que les clés créées par les attaquants.
Ce type d'abus est connu sous le nom de LLMjacking : des identifiants volés permettent à des utilisateurs non autorisés d'envoyer des requêtes d'IA aux frais de la victime. BleepingComputer cite aussi des conclusions publiées une semaine plus tôt par le Threat Intelligence Group de Google et Mandiant, selon lesquelles des requêtes frauduleuses utilisant des clés API volées ont généré des frais cloud liés à l'IA pouvant atteindre 1 million de dollars chez des organisations compromises.
Identifiants remplacés et systèmes isolés
La réponse de Fireworks à la nouvelle attaque comprenait la révocation et le remplacement des identifiants et des comptes de service, la restriction des routes réseau non autorisées et l'isolement des systèmes touchés. L'entreprise a également renforcé les contrôles autour des systèmes de stockage et d'analyse afin d'empêcher tout accès public ou non autorisé aux données stockées.
La division de réponse aux incidents Unit 42 de Palo Alto Networks aide désormais Fireworks à examiner l'ampleur et l'impact complets de la fuite, ainsi qu'à renforcer ses systèmes contre de nouvelles attaques.
