Fireworks AI afferma che una compromissione presso un fornitore cloud terzo ha permesso agli attaccanti di raggiungere le sue macchine di sviluppo, esponendo i dati di fatturazione dei clienti e alcuni dati dei modelli di IA. Il report di BleepingComputer del 10 novembre descrive la seconda comunicazione di sicurezza dell'azienda, che segue un incidente precedente, segnalato a clienti e forze dell'ordine all'inizio di ottobre.
Gli sviluppatori usano la piattaforma di inferenza di Fireworks, cioè l'infrastruttura che esegue i modelli di IA per generare risposte, per far funzionare modelli open source tra cui Mistral, Llama di Meta e Gemma di Google. La violazione appena comunicata ha riguardato le informazioni sugli account dei clienti, insieme a pesi di modelli incompleti e dataset appartenenti ad alcuni clienti.
Le informazioni di fatturazione accedute comprendevano indirizzi di fatturazione e di spedizione, storico di fatture e pagamenti, saldi dei conti e utilizzo del credito. Fireworks ha dichiarato che i numeri delle carte di pagamento erano protetti da questa esposizione, perché l'azienda non li conserva.
Gli attaccanti hanno inoltre avuto accesso ai metadati, ovvero le informazioni descrittive associate alle risorse: identificativi di Fireworks, nomi visualizzati, descrizioni e orari di creazione. Il materiale sui modelli comprendeva pesi incompleti, cioè i parametri numerici che determinano il comportamento di un modello, oltre a dataset.
Dal fornitore cloud ai sistemi di sviluppo
Secondo BleepingComputer, Fireworks ha scoperto un altro incidente di sicurezza il 23 ottobre, dopo aver revocato le credenziali collegate alla violazione precedente. Parallelamente, un avviso di lunedì citato nel report riporta la versione di Fireworks sulla compromissione del fornitore e sull'attività successiva.
Secondo questa versione, il fornitore cloud che ospita le macchine di ricerca e sviluppo di Fireworks ha subito un incidente di sicurezza il 23 ottobre. Il 24 ottobre, un soggetto non autorizzato ha sfruttato quella compromissione per raggiungere le macchine di sviluppo di Fireworks ed eseguire un carico di calcolo che ha causato un ulteriore impatto sui dati dei clienti.
Fireworks ha dichiarato di aver rilevato quell'attività il 24 ottobre, di aver adottato misure di risposta immediate e di aver chiuso le vulnerabilità critiche note. La dichiarazione secondo cui non erano emerse ulteriori prove di accessi riusciti da parte degli attaccanti alla piattaforma rivolta ai clienti è aggiornata al 25 ottobre.
Il precedente incidente riguardava l'accesso alle variabili d'ambiente, cioè impostazioni disponibili al software in esecuzione, che contenevano chiavi API segrete e token per un numero limitato di account. Fireworks ha informato clienti e forze dell'ordine all'inizio di ottobre, ha collegato l'attività a un gruppo motivato da fini di lucro che cercava di vendere token per accedere senza autorizzazione a modelli linguistici di grandi dimensioni tramite gateway di instradamento illeciti, e ha revocato le credenziali interne compromesse, le chiavi API di Fireworks coinvolte e le chiavi create dagli attaccanti.
Questo abuso è noto come LLMjacking: credenziali rubate consentono a utenti non autorizzati di inviare richieste di IA a spese della vittima. BleepingComputer ha inoltre citato i risultati pubblicati una settimana prima dal Google Threat Intelligence Group e da Mandiant, che hanno segnalato richieste fraudolente effettuate con chiavi API rubate, le quali hanno generato addebiti per servizi cloud di IA fino a un milione di dollari presso organizzazioni compromesse.
Credenziali sostituite e sistemi isolati
La risposta di Fireworks al nuovo attacco ha compreso la revoca e la sostituzione di credenziali e account di servizio, la limitazione dei percorsi di rete non autorizzati e l'isolamento dei sistemi interessati. L'azienda ha inoltre rafforzato i controlli sui sistemi di archiviazione e analisi, per impedire l'accesso pubblico o non autorizzato ai dati conservati.
La divisione di risposta agli incidenti Unit 42 di Palo Alto Networks sta ora aiutando Fireworks a indagare sull'intera portata e sull'impatto della violazione e a rafforzare i propri sistemi contro ulteriori attacchi.
