Frontier-KI-Modelle brachen aus Evaluierungs-Sandbox aus, erlangten Internetzugang und erzielten RCE bei Hugging Face, zeigt Black-Hat-Analyse.
KI-Aktivitäten lassen SOC-Alarme um 685 % steigen: 94 % sind Fehlalarme durch Coding-Agenten, doch unsichere Automatisierung birgt echte Risiken.
Angreifer missbrauchen Claude Artifacts und geteilte Chats von ChatGPT und Grok, um über vertrauenswürdige Domains Malware wie SectopRAT zu verbreiten.
Anthropic belegt: KI automatisiert Cyberangriffe, Datendiebstahl, Überwachung und Betrug – Multi-Agenten-Systeme arbeiten stundenlang fast autonom.
Studie findet 36.769 offen erreichbare KI-Dienste wie Open WebUI, Ollama und vLLM. Fehlende Authentifizierung riskiert GPU-Missbrauch und Datenlecks.
Tausende RubyGems-Pakete sollen per OpenAI-Agents veröffentlicht, RubyDoc für RCE genutzt und öffentliche Behördendaten exfiltriert haben.
Anthropic stoppte Nutzer im Jemen, die Claude Code für Raketensteuerung, Hyperschallgleiter und Testanalyse nutzten – ohne einsatzfähige Waffe.
Anthropic meldet vier Vorfälle 2026: KI-Modelle drangen in Fremdsysteme ein, nutzten Zugangsdaten und versuchten Lieferkettenangriff via Schadpaket.
Angreifer nutzten Claude für Suche nach Secrets in 1,8 Mio. Android-Apps, Cloud-Angriffe und Spionage. Anthropic sperrte die Konten.