Un’analisi AI non verificata mise le forze statunitensi sulla rotta per intercettare una nave cinese

Una valutazione d’intelligence errata arrivò ai pianificatori operativi

Una valutazione d’intelligence assistita dall’AI identificò erroneamente una nave cinese in Medio Oriente come un’imbarcazione che trasportava componenti collegati a un programma di armi nucleari, spingendo secondo quanto riferito le forze statunitensi a preparare un’intercettazione armata.

L’episodio si verificò durante la guerra contro l’Iran, questa primavera. È stato reso pubblico in un rapporto pubblicato il 20 settembre 2026, basato sul resoconto di CNN e sulle informazioni fornite da persone a conoscenza della vicenda.

Secondo quattro fonti citate nel servizio, il personale militare iniziò a pianificare il fermo della nave dopo che la valutazione circolò nei canali militari statunitensi. Due fonti hanno riferito che personale armato si stava preparando a salire a bordo dell’imbarcazione. Secondo una di queste fonti e un’altra persona informata sull’incidente, alcuni velivoli militari erano già in volo.

L’operazione non fu portata avanti secondo i piani iniziali perché in seguito si scoprì che la valutazione d’intelligence era completamente falsa. Se il personale statunitense avesse tentato di sequestrare la nave o di salire a bordo, lo scontro avrebbe potuto causare vittime o provocare un confronto diretto con la Cina.

Non si trattava di un’arma autonoma che selezionava e attaccava un bersaglio per conto proprio. Il pericolo più immediato derivava dal fatto che una conclusione generata dall’AI era stata accettata, formalizzata e distribuita abbastanza rapidamente da influenzare decisioni operative umane.

Due passaggi assistiti dall’AI, senza verifiche intermedie

Secondo quanto riferito, il processo ebbe inizio presso lo Special Operations Command Pacific, dove un analista utilizzò un chatbot per esaminare informazioni d’intelligence relative al manifesto di carico della nave.

Il sistema combinò materiale open source con intelligence elettronica classificata. Generò quindi la conclusione errata secondo cui il carico della nave comprendeva materiale associato a un programma di armi nucleari.

In seguito, l’analista utilizzò nuovamente un sistema di AI, questa volta per trasformare la conclusione in un rapporto d’intelligence formale. Non è noto se nelle due fasi sia stato impiegato lo stesso modello o se siano stati utilizzati strumenti distinti.

Secondo quanto riferito, tra l’analisi iniziale e la preparazione del documento ufficiale non si verificò alcuna verifica indipendente da parte di un essere umano. Di conseguenza, il secondo passaggio assistito dall’AI non mise in discussione il primo risultato. Gli conferì invece la struttura e l’aspetto di una valutazione d’intelligence convenzionale.

Una volta distribuito, il rapporto uscì dall’ambiente di analisi ed entrò nella catena decisionale operativa. I pianificatori militari presero le sue affermazioni abbastanza sul serio da preparare un’intercettazione con il coinvolgimento di velivoli e, potenzialmente, di personale armato destinato a salire a bordo.

Questo passaggio rappresenta il principale fallimento dei controlli. La risposta di un chatbot diventò intelligence operativa senza un punto di verifica documentato che imponesse a un altro analista di esaminare le fonti sottostanti, riprodurre il ragionamento o corroborare la valutazione sul carico.

L’AI può rendere più difficile individuare questo tipo di errore, perché i rapporti generati possono apparire coerenti anche quando le loro conclusioni non sono supportate dai fatti. Una presentazione fluida non dimostra che le prove citate esistano, che il modello le abbia interpretate correttamente o che siano state considerate informazioni contraddittorie.

Il modello e il fornitore restano sconosciuti

Non sono stati resi noti né il chatbot né il sistema interno di redazione dei rapporti. Non sono stati divulgati la versione del modello, la piattaforma software, il fornitore, l’identificativo del sistema o l’architettura tecnica.

Sulla base delle informazioni disponibili, è quindi impossibile stabilire se la conclusione errata sia derivata da una comune allucinazione, da un recupero difettoso, da un’errata interpretazione dell’intelligence elettronica, da una correlazione scorretta delle fonti, da un prompt dell’analista o da una combinazione di questi fattori.

Anche l’ambiente di implementazione coinvolto non è chiaro. Il chatbot aveva accesso sia a informazioni pubbliche sia a intelligence classificata, ma non sono noti i meccanismi utilizzati per recuperare, separare e citare tali fonti.

Non vi sono prove che indichino un cyberattacco, un’infezione da malware o una manipolazione ostile all’origine dell’errore. Non sono stati divulgati indicatori di compromissione, artefatti di rete, campioni di malware o vulnerabilità software associati all’incidente. Nessuna voce CVE o del catalogo CISA Known Exploited Vulnerabilities è pertinente.

Secondo quanto riferito, un ex alto funzionario statunitense con esperienza nei sistemi di AI militari e d’intelligence ha descritto molti strumenti interni come sostanzialmente simili ai prodotti commerciali di AI, pur operando in contesti classificati o sensibili per la missione. Il paragone non identifica il sistema coinvolto, ma solleva interrogativi sull’adeguatezza dei controlli rispetto alle conseguenze di una risposta errata.

L’implementazione rapida supera le garanzie più comuni

L’episodio si verifica mentre il Pentagono accelera l’adozione dell’AI nelle operazioni militari e civili. Secondo quanto riferito, la “Artificial Intelligence Acceleration Strategy” di gennaio del segretario alla Difesa Pete Hegseth mira a mettere i modelli di AI nelle mani di circa tre milioni di persone, a ogni livello di classificazione.

La strategia dà priorità alla sperimentazione rapida e alla rimozione degli ostacoli burocratici. L’attuazione, tuttavia, resta disomogenea nelle forze armate.

Secondo quanto riferito, i diversi corpi utilizzano strumenti, politiche e misure di sicurezza differenti. Non esiste un quadro di verifica comune per stabilire quando un’affermazione generata dall’AI sia sufficientemente affidabile da entrare in un rapporto d’intelligence o da influenzare un’operazione.

Una fonte ha inoltre riferito che errori analoghi legati all’AI si sono verificati anche in altre aree della comunità d’intelligence. I dettagli di tali incidenti non sono stati divulgati, pertanto non se ne conoscono la gravità, la frequenza o gli effetti operativi.

Il rischio è in parte di natura organizzativa. Gli analisti sottoposti alla pressione di produrre rapidamente le proprie valutazioni possono utilizzare l’AI per comprimere ricerca, sintesi e redazione dei rapporti in un processo molto più breve. Il personale meno esperto potrebbe inoltre essere più propenso ad accettare risposte rifinite senza esaminare il modo in cui il sistema le ha generate.

La velocità può quindi eliminare il tempo normalmente dedicato alla valutazione delle fonti, alla corroborazione e all’espressione di pareri dissenzienti. Un’affermazione debole non si limita a superare la revisione: può arrivare prima ai comandanti.

Selezione dei bersagli ed escalation richiedono limiti più rigorosi

In questo caso, le conseguenze immediate avrebbero potuto andare ben oltre un rapporto inesatto. Un abbordaggio armato di una nave cinese avrebbe potuto provocare resistenza, vittime, ritorsioni o una crisi militare più ampia.

Lo stesso schema di errore diventa ancora più pericoloso quando l’AI contribuisce alla selezione dei bersagli. Un’associazione errata potrebbe far identificare una struttura civile, un’unità amica o una nave non combattente come un bersaglio legittimo.

Secondo quanto riferito, mancano ancora indicazioni chiare su come gli operatori umani debbano prevenire vittime civili o incidenti di fuoco amico quando l’AI contribuisce in modo sostanziale alla selezione di un bersaglio. La semplice presenza di una persona nella catena di approvazione non risolve il problema se quella persona riceve un rapporto dall’aspetto autorevole senza avere accesso ai suoi punti deboli sul piano delle prove.

Un controllo umano significativo richiede più di una firma di autorizzazione finale. Il revisore deve poter esaminare l’intelligence originale, comprendere quali affermazioni provengano da un modello, individuare le incertezze e respingere il risultato senza che la pressione operativa prevalga sul suo giudizio.

I sistemi dovrebbero inoltre conservare la provenienza delle informazioni. Chi prende le decisioni deve sapere quali parti di una valutazione derivano da fonti open source, da raccolta classificata, dall’interpretazione di un analista o da testo generato.

Controlli necessari prima che l’output dell’AI diventi intelligence operativa

Non è stato divulgato alcun programma formale di intervento né alcuna correzione tecnica confermata. La misura correttiva più diretta consiste nell’introdurre un passaggio obbligatorio di verifica tra l’analisi assistita dall’AI e qualsiasi documento ufficiale che possa supportare decisioni di intercettazione, selezione dei bersagli o uso della forza.

Come minimo, i flussi di lavoro ad alto impatto dovrebbero richiedere:

• Una revisione indipendente da parte di un analista che non abbia prodotto la conclusione iniziale assistita dall’AI.
• Un confronto diretto con l’intelligence originale, anziché il semplice affidamento alla sintesi del modello.
• La corroborazione attraverso fonti distinte delle accuse relative ad armi.
• L’indicazione esplicita dei contenuti generati o trasformati dall’AI.
• La registrazione delle incertezze, delle prove contrastanti e delle lacune informative note.
• Procedure di autorizzazione separate per l’azione operativa.
• Una valutazione dedicata dei rischi di danni ai civili, fuoco amico ed escalation geopolitica.
• Standard di convalida coerenti tra corpi, strumenti e livelli di classificazione.

L’incidente dimostra inoltre perché utilizzare l’AI due volte non costituisca una conferma indipendente. Se il secondo sistema si limita a riscrivere la prima conclusione, può amplificare l’errore originale facendolo apparire al tempo stesso più formale e più credibile.

La garanzia decisiva è quindi tanto procedurale quanto tecnica. Nell’intelligence militare, l’AI può accelerare l’analisi, ma non si può permettere che acceleri il passaggio diretto di un’affermazione non verificata a un’operazione armata.