OpenAI teilt mit, dass es Konten entfernt hat, die mit zwei voneinander unabhängigen Einflusskampagnen in Verbindung stehen, einer russischen und einer iranischen. Beide nutzten ChatGPT als Teil ihrer politischen Propaganda. Das Unternehmen hat seine Ergebnisse in einem am Donnerstag veröffentlichten Sicherheitsbericht dargelegt, über den The Record berichtete. Beide Operationen verbreiteten ihre Botschaften über Kanäle, die unabhängig wirkten, etwa ein Forschungszentrum oder Artikel mit Autorennamen. Sie setzten also nicht allein auf gefälschte Social-Media-Profile.
Russische Kampagne: ein Forschungszentrum als Fassade
Im Mittelpunkt der russischen Operation stand das Social Research Center (SRC). Es gab sich als Forschungsplattform aus, die sich mit der indischen Diaspora in Lateinamerika und mit den Beziehungen Indiens zu Staaten der Region befasst. Laut OpenAI wurde es tatsächlich von russischen Agenten betrieben, die hinter einer erfundenen Identität agierten.
Die Kampagne beauftragte außerdem Menschen in Lateinamerika mit Recherchen für das SRC, offenbar ohne ihnen zu sagen, wer dahintersteckt. OpenAI geht davon aus, dass diese Mitarbeitenden in gutem Glauben handelten und nichts von der russischen Verbindung wussten. Dem Bericht zufolge ähnelte ein Großteil der Veröffentlichungen des SRC eher der eigenständigen Arbeit dieser Mitarbeitenden als maschinell erzeugten Texten.
Laut OpenAI bestand das Hauptziel der Kampagne darin, das Ansehen der Ukraine in Lateinamerika zu schädigen. Einige Aktivitäten schienen sich außerdem gegen die Innenpolitik von Ländern wie Argentinien und Bolivien zu richten.
Den Anteil von ChatGPT beschreibt der Bericht so: Das Modell erstellte gefälschte geleakte Dokumente und Skripte für Audioaufnahmen. Einiges davon kursierte online. OpenAI zufolge verbreiteten sich zumindest einige der falschen Behauptungen so weit, dass Faktenchecks und offizielle Dementis folgten.
Wer dahintersteckt
OpenAI machte keine benannte Bedrohungsakteurin für die Kampagne verantwortlich. Die Belege deuten aber auf eine Verbindung zu einer russischen Gruppe namens Politology hin, die auch als La Compania bekannt ist. Diese Gruppe soll ein Nachfolger der Einflussoperationen sein, die mit dem verstorbenen Jewgeni Prigoschin und der Wagner-Gruppe in Verbindung gebracht wurden.
Die Betreiber schrieben ChatGPT überwiegend auf Russisch und schienen aus Russland heraus zu arbeiten. OpenAI blockiert den Zugang zu seinen Modellen aus dem Land. Deshalb griffen die Betreiber über VPNs auf die Dienste zu.
Iranische Kampagne: sieben erfundene Reporter
Die iranische Operation legte sieben falsche Journalistenidentitäten an und nutzte sie, um Online-Medien Artikel über den Konflikt zwischen den USA und dem Iran anzubieten. OpenAI identifizierte knapp 100 Artikel, die unter diesen Namen erschienen oder erneut veröffentlicht wurden, verteilt auf rund ein Dutzend Medien. Die meisten davon waren kleine bis mittelgroße Seiten, die über internationale Politik, Geopolitik und den Nahen Osten berichteten. OpenAI nannte die Medien nicht namentlich.
Den frühesten identifizierten Artikel datiert der Bericht auf Juli 2025, den neuesten auf Oktober 2026.
ChatGPT half den Betreibern, längere Texte zu überarbeiten, Pitches an Redaktionen zu schreiben und interne Berichte zu entwerfen. Außerdem nutzten sie das Modell, um Serien von englischen und persischen Social-Media-Kommentaren zu politischen und geopolitischen Themen zu erzeugen.
Diese Kommentare fanden kaum Resonanz, mit nur wenigen Likes, Aufrufen oder Antworten. Anders sah es bei den Medien aus, die die Artikel veröffentlichten: Einige hatten ein beachtliches Publikum, und OpenAI zufolge hatte eines davon fast 2 Millionen Follower auf Facebook.
OpenAI zufolge schienen die Konten aus dem Iran zu stammen, das Modell überwiegend auf Persisch angesprochen zu haben und über VPNs verbunden gewesen zu sein. Die verantwortlichen Personen oder Organisationen nannte OpenAI nicht.
Was beide Fälle gemeinsam haben
In beiden Fällen schufen oder übernahmen die Betreiber eine Fassade der Unabhängigkeit: auf der einen Seite ein Forschungszentrum nach dem Vorbild eines Thinktanks, auf der anderen freie Autorenbeiträge in echten Publikationen. OpenAI fasste das Muster so zusammen, dass die Operationen „stark komplexen Einflussoperationen aus der Zeit vor der KI ähnelten“, wobei KI einen Teil der Arbeit erleichterte.
Die berichteten Einsatzzwecke von ChatGPT unterschieden sich. Die russischen Betreiber nutzten es, um geleakte Dokumente und Audioskripte zu fabrizieren. Die vom SRC veröffentlichte Forschung scheint dagegen weitgehend von Menschen verfasst worden zu sein. Die iranischen Betreiber nutzten das Modell zum Redigieren, für Pitches, interne Berichte und die Erstellung mehrsprachiger Kommentare.
