OpenAI afferma di aver rimosso gli account collegati a due campagne di influenza non correlate, una russa e una iraniana, che hanno usato ChatGPT nell'ambito di attività di propaganda politica. L'azienda ha illustrato i risultati in un rapporto sulla sicurezza pubblicato giovedì, come riportato da The Record. Entrambe le operazioni diffondevano i propri messaggi attraverso canali che sembravano indipendenti, come un centro di ricerca o articoli firmati, e non si affidavano solo a falsi profili sui social media.
Campagna russa: un centro di ricerca che era una facciata
Al centro dell'operazione russa c'era il Social Research Center (SRC). Si presentava come una piattaforma di ricerca dedicata alla diaspora indiana in America Latina e ai rapporti dell'India con i Paesi della regione. Secondo OpenAI, in realtà a gestirlo erano agenti russi che operavano dietro un'identità inventata.
La campagna aveva anche assunto persone in America Latina per svolgere ricerche per conto dell'SRC, apparentemente senza dire loro chi ci fosse dietro. La valutazione di OpenAI è che questi collaboratori abbiano agito in buona fede e non fossero al corrente del legame con la Russia. Il rapporto sostiene che gran parte di ciò che l'SRC pubblicava sembrava il lavoro di ricerca degli stessi collaboratori, e non testi generati da una macchina.
Secondo OpenAI, l'obiettivo principale della campagna era danneggiare la reputazione dell'Ucraina in America Latina. Alcune attività sembravano inoltre mirare alla politica interna di Paesi come Argentina e Bolivia.
Il ruolo di ChatGPT, stando al rapporto, è stato produrre falsi documenti riservati e copioni per registrazioni audio. Parte di questo materiale è circolata online. OpenAI sostiene che almeno alcune delle affermazioni false si siano diffuse abbastanza da provocare verifiche dei fatti e smentite ufficiali.
Chi c'era dietro
OpenAI non ha attribuito la campagna a un attore della minaccia identificato per nome. Ha però dichiarato che le prove portano a un collegamento con un gruppo russo chiamato Politology, noto anche come La Compania. Questo gruppo è stato indicato come successore delle operazioni di influenza legate al defunto Evgenij Prigožin e al Gruppo Wagner.
Gli operatori scrivevano a ChatGPT per lo più in russo e sembravano lavorare dalla Russia. OpenAI blocca l'accesso ai propri modelli dal Paese, quindi gli operatori raggiungevano i servizi tramite VPN.
Campagna iraniana: sette giornalisti inventati
L'operazione iraniana ha creato sette falsi profili di giornalisti e li ha usati per proporre a testate online articoli sul conflitto tra Stati Uniti e Iran. OpenAI ha individuato circa 100 articoli pubblicati, o ripubblicati, con quei nomi su una decina di testate. La maggior parte erano siti piccoli o medi che si occupavano di affari internazionali, geopolitica e Medio Oriente. OpenAI non ha rivelato i nomi di queste testate.
Il rapporto colloca il primo articolo identificato a luglio 2025 e l'ultimo a ottobre 2026.
ChatGPT ha aiutato gli operatori a rifinire articoli lunghi, a scrivere proposte per i redattori e a preparare bozze di report interni. Lo hanno usato anche per generare serie di commenti sui social media, in inglese e in persiano, su temi politici e geopolitici.
Questi commenti hanno avuto scarsa eco, con pochi like, visualizzazioni e risposte. Le testate che pubblicavano gli articoli, invece, avevano un pubblico considerevole: alcune contavano un seguito notevole e OpenAI sostiene che una di esse avesse quasi 2 milioni di follower su Facebook.
OpenAI ritiene che gli account avessero origine in Iran, abbiano usato il modello soprattutto in persiano e si siano collegati tramite VPN. Non ha indicato i nomi delle persone o delle organizzazioni responsabili.
Cosa hanno in comune i due casi
In entrambi i casi, gli operatori hanno costruito o preso in prestito una facciata di indipendenza: da una parte un centro dall'aspetto di think tank, dall'altra firme di collaboratori freelance su testate reali. OpenAI riassume lo schema affermando che le operazioni «hanno somigliato da vicino a complesse operazioni di influenza dell'era pre-IA», con l'IA che ha alleggerito una parte del lavoro.
Gli usi di ChatGPT riportati differiscono. Gli operatori russi lo hanno usato per fabbricare documenti riservati e copioni audio, mentre la ricerca pubblicata dall'SRC sembra essere stata in gran parte scritta da esseri umani. Gli operatori iraniani lo hanno usato per la revisione dei testi, le proposte alle redazioni, i report interni e la generazione di commenti multilingue.
