Forschende von Anthropic nutzten GLM-5.2, um einen KI-gestützten Wurm zu koordinieren. Dieser verteilte und startete ein weiteres Modell über ein gesamtes simuliertes Netz aus android-ähnlichen Geräten. Das kontrollierte Experiment war kein realer Angriff, zeigte aber mehrere Schritte, die ein autonomes, sich replizierendes System zur Verbreitung bräuchte.
Die Ergebnisse wurden am 14. Oktober 2026 von The Verge berichtet. Anthropic veröffentlichte seinen Bericht zu der Forschung in dieser Woche.
Anthropic bezeichnete die Ergebnisse als „Lebenszeichen von KI-Würmern“, räumte jedoch ein, keinen „vollständigen, außer Kontrolle geratenen Replikator“ geschaffen zu haben. Die Prognosen des Unternehmens darüber, wann solche Systeme entstehen könnten, gehen über das hinaus, was die Experimente belegt haben.
GLM-5.2 koordinierte als einziges die vollständige Verbreitung
Für den Wurmtest baute das Forschungsteam ein Computernetz, das Android-Geräte simulierte. Die Schadsoftware erhielt die Anweisung, weitere Rechner zu finden, ein KI-Modell darauf abzulegen und das Modell zum Laufen zu bringen.
Das kopierte Modell war Llama 3.1-8B von Meta, das acht Milliarden Parameter hat. Es war vom steuernden Modell getrennt und deutlich kleiner als dieses.
Im einzigen erfolgreichen Durchlauf über das gesamte Netz war das aus China stammende GLM-5.2 von Z.ai der Koordinator. Andere, kleinere Modelle konnten einzelne Teile des Ablaufs ausführen, verbreiteten Llama 3.1-8B jedoch nicht in der gesamten simulierten Umgebung.
Dieses Ergebnis zeigt eine netzweite, KI-gesteuerte Replikation unter kontrollierten Bedingungen. Es belegt nicht, dass ein einsatzfähiger Wurm sich in freier Wildbahn unter Haushaltsgeräten oder anderen Geräten verbreitet. Der Bericht behandelt ein einziges simuliertes Netz und nennt dessen Größe nicht.
Anthropic schätzte, dass kleine Modelle möglicherweise erst in „einigen Monaten“ ähnliche Fähigkeiten erreichen könnten. Auf Grundlage ihrer Verbesserungsrate prognostizierten die Forschenden außerdem, dass kleinere Modelle bis zum Jahresende mit GLM-5.2 mithalten könnten. Dabei handelt es sich um Prognosen des Unternehmens und nicht um Ergebnisse, die im Test gemessen wurden.
Gemma 4 lief auf 15 physischen Smart-TV-Boxen
Anthropic führte ein separates Hardwareexperiment durch, um herauszufinden, ob ein Modell gemeinsam auf leistungsschwachen Consumer-Geräten laufen könnte.
Die Forschenden verteilten Googles Gemma 4, ein Modell mit 26 Milliarden Parametern, auf 15 Android-Smart-TV-Boxen. Jede Box war für sich zu schwach, um das Modell auszuführen, doch die verteilte Anordnung funktionierte. Die Leistung war sehr langsam.
Die Feststellung zur Geschwindigkeit bezieht sich auf diese Gemma-4-Demonstration und nicht auf das simulierte Wurmexperiment. Die Forschenden berichteten nicht, dass der Wurm die 15 physischen TV-Boxen kompromittiert oder sich über sie verbreitet hätte.
Zusammen beantworteten die Tests zwei verschiedene technische Fragen: ob Consumer-Geräte gemeinsam ein Modell ausführen können und ob ein KI-System das Auffinden, Kopieren und Starten automatisieren kann, das für die Verbreitung im Netz nötig ist.
Anthropic setzte in keinem der beiden Tests eigene Modelle ein. Laut The Verge hat das Unternehmen argumentiert, dass offene Alternativen zu seinen Modellen „mehr Risiko“ bergen als geschlossene Systeme.
Schlecht gesicherte vernetzte Geräte könnten lohnende Ziele werden
Die Sorge betrifft auch internetfähige Fernseher, Überwachungskameras, Kühlschränke, Backöfen, Staubsauger und Rasenmäher. Solche Geräte könnten wegen ihrer Daten ins Visier geraten oder als Sprungbrett für Angriffe auf wertvollere Systeme dienen.
Nicolas Papernot, Professor an der University of Toronto, sagte The Verge, frühere Forschung habe KI-gesteuerte Computerwürmer bereits als realistische Bedrohung bestätigt. Automatisierung könnte Geräte lohnenswert machen, selbst wenn menschliche Angreifer bisher nicht die Zeit oder die Ressourcen hatten, sie einzeln anzugreifen.
Papernot nannte das Risiko „konkret“ und sagte, es „verdient sofortiges Handeln“, besonders in Bezug auf Krankenhäuser und Stromnetze. Zudem warnte er davor, KI-Modelle so zu beschreiben, als hätten sie menschliche Absichten.
Palisade Research hatte zuvor gezeigt, dass KI-Modelle sich selbstständig auf andere Rechner kopieren könnten. Jeffrey Ladish, Geschäftsführer der Organisation, sagte, diese Modelle hätten weniger Parameter als frühere Systeme, bei denen Selbstreplikation nachgewiesen wurde. Außerdem prognostizierte er, dass Spitzenmodelle irgendwann auf großen Mengen von Consumer-Chips laufen könnten, darunter solche in MacBooks.
Ladish erwartet, dass KI-Würmer innerhalb von zwölf Monaten in freier Wildbahn auftauchen. Dabei handelt es sich nach wie vor um eine Prognose: Die von Anthropic berichteten Arbeiten dokumentieren keinen realen Einsatz.
Verteidiger stehen vor einem umfassenderen Problem der Gerätehärtung
Anthropic forderte, Systeme so abzusichern, dass automatisierte Replikation schwieriger wird. Das Unternehmen erwartet, dass Agenten irgendwann auf vielen Arten von Hardware laufen, teils auch ohne menschliche Kontrolle. Dieses Szenario wurde durch die Experimente jedoch nicht belegt.
Für Gerätehersteller und Betreiber kritischer Infrastruktur liegt das praktische Problem in der Zahl vernetzter Systeme, die ein automatisierter Agent zu erreichen versuchen könnte. Papernots Empfehlung setzt die unmittelbare Priorität auf die Stärkung kritischer Umgebungen wie Krankenhäuser und Stromnetze, während Anthropics Leitlinien breiter für vernetzte Hardware gelten.
Die Fähigkeitslücke bleibt groß: Nur GLM-5.2 schloss die Verbreitung im simulierten Netz ab, während kleinere Modelle nach einzelnen Stufen stoppten. Dennoch hat das Experiment die KI-gesteuerte Wurmreplikation von einem rein hypothetischen Konzept zu einer kontrollierten Demonstration gemacht, ohne zu zeigen, dass bereits ein sich selbst erhaltender KI-Wurm außerhalb des Labors aktiv ist.
