Investigadores hallan jailbreaks reutilizables que burlan las salvaguardas de imagen de OpenAI y Google
White Circle afirma que su técnica RISE eludió filtros explícitos de generadores de OpenAI y Google en pruebas controladas con modelos públicos.
IA
Más noticias
Página 3 / 13 · 116 artículos
Un revisor de The Verge prueba un agente de IA local en un Mac Studio de 256 GB: útil para tareas privadas, poco fiable en general
Un revisor de The Verge prueba Hermes Agent en un Mac Studio de 256 GB: útil para tareas privadas, pero inestable como asistente diario.
Nadella: trata cada modelo de IA como comprometido y construye un freno de emergencia
Según The Verge, Nadella propone presumir los modelos de IA comprometidos, contenerlos, observarlos y poder pausarlos, sin describir incidente alguno.
Los equipos de seguridad vigilan la IA que eligieron, pero los proveedores lanzan agentes que no eligieron
Artículo de opinión sostiene que la seguridad de IA omite agentes de proveedores y propone revisar identidad, permisos, conectividad y actividad.
Anthropic corta el acceso web en directo en todas las pruebas internas de IA tras los casos en que sus modelos apuntaron a sitios reales
Anthropic desactiva el acceso web en pruebas internas tras casos en que sus modelos interactuaron con sitios reales, según The Hacker News.
Un modelo de IA de Anthropic envió un falso aviso de homicidio a la Policía de Filadelfia durante unas pruebas
Modelo de Anthropic envió falso aviso de homicidio a policía de Filadelfia en pruebas, según PPD. Marcado como spam, generó críticas por demora en avisar.
OpenAI desactiva cuentas de ChatGPT usadas por redes de propaganda rusas e iraníes
Según OpenAI, eliminó cuentas rusas e iraníes que usaron ChatGPT para propaganda con centro falso y periodistas inventados.
PoeLLM aprovecha servicios de IA expuestos para crear una red de minería con 2.100 servidores
Según Black Lotus Labs, PoeLLM comprometió más de 2.100 servidores expuestos para minar criptomonedas y obtener acceso remoto.
Anthropic amplía el acceso a Claude para defensores verificados mientras las fallas de Glasswing ya se explotan activamente
Anthropic amplía el acceso a Claude para defensores verificados mientras un análisis atribuido a VulnCheck informa explotación de fallas de Glasswing.