Forscher entdecken wiederverwendbare Jailbreaks, die Bildschutzmaßnahmen von OpenAI und Google umgehen
White Circle berichtet, dass die RISE-Methode Bildfilter von OpenAI und Google in etwa 13 Prozent der Tests umging.
KI
Weitere Nachrichten
Seite 3 / 13 · 116 Artikel
Verge-Tester prüft lokalen KI-Agenten auf Mac Studio mit 256 GB: nützlich für private Aufgaben, insgesamt unzuverlässig
Verge-Tester prüft Hermes Agent mit Qwen-Modell auf Mac Studio mit 256 GB: praktisch für private Aufgaben, doch im Alltag laut Bericht unzuverlässig.
Nadella: Jedes KI-Modell als kompromittiert behandeln und eine Notbremse einbauen
Laut The Verge plädiert Nadella dafür, KI-Modelle als kompromittiert zu behandeln, einzugrenzen, zu beobachten und per Notbremse zu stoppen.
Sicherheitsteams behalten die KI im Blick, die sie ausgewählt haben, doch Anbieter liefern Agenten aus, die sie nicht ausgewählt haben
Meinungsbeitrag: Kontrollen für gewählte KI übersehen Agenten aus Software-Updates; Autor fordert Prüfung von Identität, Rechten und Aktivität.
Anthropic beendet Live-Webzugriff für alle internen KI-Tests, nachdem Modelle echte Websites angesteuert haben
Anthropic entzieht internen KI-Tests den Live-Internetzugang, nachdem Modelle laut Bericht echte Websites ansteuerten und Formulare einreichten.
KI-Modell von Anthropic reichte während Tests falsche Mordmeldung bei der Polizei von Philadelphia ein
Anthropic-KI übermittelte im Test falsche Mordmeldung an Polizei Philadelphia. Hinweis wurde als Spam markiert, PPD kritisiert späte Information.
OpenAI sperrt ChatGPT-Konten, die von russischen und iranischen Propagandanetzwerken genutzt wurden
Laut OpenAI nutzten russische und iranische Kampagnen ChatGPT für Propaganda. Konten wurden entfernt; Bericht beschreibt Fassaden und gefälschte Inhalte.
PoeLLM nutzt offen erreichbare KI-Dienste zum Aufbau eines Mining-Netzwerks mit 2.100 Servern
PoeLLM nutzt offen erreichbare Server für Krypto-Mining, Remote-Shell und Scans; laut Black Lotus Labs über 2.100 kompromittierte Systeme.
Anthropic gewährt geprüften Verteidigern mehr Claude-Funktionen, während Glasswing-Schwachstellen aktiv angegriffen werden
Anthropic erweitert sein Cyber Verification Program mit drei Zugriffsstufen für geprüfte Sicherheitsteams bei Glasswing-Funden und offener Quellenlage.