Alex Stamos, chief security officer di Cognition, afferma che gli strumenti di IA scaricabili permettono agli attaccanti di individuare falle nei software e sfruttarle durante gli attacchi, abbassando le competenze necessarie per violare grandi aziende. Nel corso di un'intervista a Decoder con The Verge, ha descritto una serie di compromissioni le cui conseguenze possono propagarsi da un fornitore di servizi di IA alle aziende che usano il software dei suoi clienti.
L'avvertimento riguarda in particolare le organizzazioni che dipendono da servizi di IA e strumenti di sviluppo interconnessi. Stamos ha descritto una presunta catena di attacchi che coinvolge Fireworks e Cursor e che, a suo dire, ha esposto 5.000 aziende a potenziali violazioni. Ha inoltre affermato che, nella settimana dell'intervista, uno strumento di attacco open source è stato usato contro tre banche sudcoreane e circa 200 altre aziende.
Queste informazioni provengono da Stamos, che è anche docente presso il Cyber Policy Center della Stanford University. Ha spiegato di aver aiutato alcune aziende coinvolte tramite Cognition, pur precisando che la società non è un fornitore di servizi di risposta agli incidenti.
Una violazione che si propaga attraverso i fornitori
Stamos ha descritto ottobre come un periodo prolungato di pressione per i team di sicurezza, citando gravi bug che riguardano PHP e Node, insieme alle violazioni subite da una serie di aziende legate all'IA, tra cui alcuni fornitori cloud specializzati. Ha anche menzionato l'attacco a Binance, che ha definito la rapina più grande della storia.
L'esempio più concreto riguarda Fireworks, un fornitore di servizi di IA per altre aziende. Secondo la sua ricostruzione, gli attaccanti hanno sottratto a Fireworks le chiavi API, cioè le credenziali che permettono a un software di accedere a un servizio, e le hanno usate per entrare in Cursor. Da lì hanno distribuito un plugin dannoso tramite Cursor, che ha raggiunto altre 5.000 aziende, creando 5.000 potenziali violazioni.
La distinzione è importante: il suo racconto descrive potenziali compromissioni a valle, non 5.000 intrusioni confermate con successo. Mostra anche come il furto di una credenziale di servizio possa portare un'intrusione oltre l'azienda inizialmente violata.
Stamos attribuisce l'ondata più ampia a gruppi diversi. Ha parlato di organizzazioni di hacking governative e di operatori criminali, ma non ha attribuito l'intera sequenza a un unico attore.
Trovare falle durante l'attacco
L'argomento centrale di Stamos è che l'IA sta cambiando l'ordine e l'economia di un'intrusione.
Tradizionalmente, ha spiegato, gli attaccanti studiano il software, scoprono una vulnerabilità e scrivono un exploit, cioè un codice che sfrutta la falla, prima di usarlo contro un'organizzazione scelta o contro molti bersagli. Secondo lui, oggi i sistemi di IA possono analizzare i bersagli, individuare i bug e scrivere gli exploit mentre l'attacco è in corso.
Questo comprime quella che gli addetti alla sicurezza chiamano «kill chain», cioè le fasi che un attaccante percorre per raggiungere un obiettivo, come sottrarre informazioni, interrompere un sistema o ottenere denaro. Stamos sostiene che i modelli open-weight, i cui parametri sono disponibili per essere eseguiti da altri, possono oggi automatizzare gran parte di questo processo.
Ha citato in particolare ARTEX, che ha descritto come uno strumento open source cinese con una traduzione inglese disponibile su GitHub. Secondo lui, abbinarlo a un modello come un «GLM-5.3 reso privo di restrizioni» potrebbe consentire intrusioni in un numero sorprendente di organizzazioni. I dati sulle banche sudcoreane e sulle circa 200 aziende in più sono presentati come esempi dell'uso di quello strumento.
Stamos ha inoltre detto di aver fatto girare una versione quantizzata di quel modello sul suo M5 Mac Ultra Studio. Secondo la sua valutazione, la possibilità per gli attaccanti di eseguire i modelli da soli riduce la loro dipendenza dai modelli di frontiera ospitati, che hanno controlli di protezione e registri potenzialmente accessibili alle forze dell'ordine.
Pressione sulle certezze del settore della sicurezza
Stamos paragona il momento attuale agli anni Novanta, quando strumenti disponibili pubblicamente potevano esporre le debolezze di un gran numero di aziende. La differenza, sostiene, è che oggi una parte molto più ampia della società dipende da sistemi connessi a internet, mentre gli attaccanti possono automatizzare il proprio lavoro e operare da luoghi fuori dalla portata effettiva delle forze dell'ordine.
Fa risalire l'attuale industria della sicurezza del software ai primi anni Duemila e al memo di Bill Gates sul «trustworthy computing». Le aziende hanno iniziato ad assumere ex hacker, mentre le pratiche di divulgazione responsabile, i programmi di bug bounty e le società di consulenza sulla sicurezza si sono sviluppate fino a diventare un'industria da miliardi di dollari.
Secondo Stamos, quel sistema si basava in parte su competenze rare: relativamente poche persone erano in grado di scoprire vulnerabilità difficili, sviluppare exploit sofisticati o effettuare il reverse engineering delle patch di sicurezza. Anche le organizzazioni di attacco avevano bisogno di persone capaci di trasformare quella ricerca in operazioni concrete. Sostiene che l'IA indebolisce entrambi questi vincoli, dando a operatori meno esperti l'accesso a capacità prima concentrate tra gli specialisti. Ha citato anche Bitcoin come un cambiamento precedente che ha modificato l'economia del crimine, rendendo più accessibile il riciclaggio di denaro a chi ha competenze tecniche.
Per i difensori, la risposta concreta indicata da Stamos è usare strumenti di IA per riparare le falle portate alla luce dalle intrusioni. Ha detto che Cognition sta aiutando alcune aziende coinvolte a correggere i propri bug dopo gli attacchi.
