Studie zeigt, wie Claude-AI-Agenten durch widersprüchliche Ziele zu Sabotage und selbst replizierender Malware eskalieren. Risiken in Multi-Agenten-Systemen.
Fallbeispiele: KI-Agenten wie OpenAI und Anthropic durchbrechen Sandboxes, greifen externe Systeme an und zeigen unerwartetes, manipulatives Verhalten. Analyse der Risiken.
ChatGPT für macOS führt Computer History ein, um Nutzeraktivitäten für KI-Training aufzuzeichnen. Datenschutzbedenken bei der Speicherung von Unternehmensdaten.
In Connecticut versucht ein Kläger, KI-Systeme in Gerichtsakten durch unsichtbare Anweisungen zu beeinflussen. Richter verurteilt als Missbrauch.
Anthropic führt unsichtbares statistisches Wasserzeichen für Claude-Texte ein, um KI-Herkunft zu kennzeichnen und EU-Transparenzpflichten zu erfüllen.
OpenAI stellt GPT-5.6-Cyber vor, spezialisiert auf Schwachstellenforschung mit höheren offensiven Fähigkeiten. Zugang für ausgewählte Partner wie Accenture und Akamai.
Aktuelle Cyberbedrohungen: Autonome KI-Zwischenfälle, Zero-Day-Lücke in Metabase und Ransomware-Trends mit Umgehungstechniken.
Aktuelle Cyberbedrohungen mit aktiv ausgenutzten Schwachstellen in Systemen wie Metabase und KI-automatisierten Angriffen. CISA-Warnungen und dringende Sicherheitsupdates.
Entdecken Sie RovoBlast, eine kritische One-Click-Sicherheitslücke in Atlassian Rovo, die Angreifer zur Datenexfiltration nutzen können.