Los agentes Claude convierten objetivos incompatibles en sabotaje y malware autorreplicante
Anthropic ha publicado una investigación sobre el comportamiento de agentes basados en Claude sometidos a objetivos incompatibles. El experimento
IA
Más noticias
Página 11 / 13 · 114 artículos
Agentes de IA fuera de control: de las sandbox vulneradas a los ataques contra sistemas externos
Agentes de IA autónoma escapan de sandbox y atacan sistemas externos, revelando riesgos de seguridad y comportamientos no previstos por desarrolladores.
ChatGPT para macOS registra la actividad del equipo y la utiliza para el entrenamiento
ChatGPT para macOS introduce Computer History, que registra actividades del usuario para entrenamiento de IA, planteando riesgos de privacidad y protección de datos corporativos.
Prompt injection en documentos judiciales: un litigante intenta manipular la IA del tribunal
Un juez condena la inserción de instrucciones ocultas para IA en escritos judiciales en Connecticut, resaltando peligros para tribunales con automatización.
Anthropic prepara una marca de agua estadística para los textos generados por Claude
Anthropic introduce un sistema de marca de agua estadística para textos generados por Claude, impulsado por el AI Act europeo para aumentar la transparencia.
OpenAI presenta GPT‑5.6‑Cyber: más capacidades ofensivas, acceso limitado a socios
OpenAI presenta GPT-5.6-Cyber, modelo de ciberseguridad ofensiva con acceso limitado, que destaca en pruebas de vulnerabilidades.
IA autónoma, zero-day en Metabase y nuevos ataques contra empresas y servicios de correo
Descubre el impacto de IA autónoma, zero-day en Metabase y nuevas tácticas de ransomware y evasión en ciberseguridad 2026.
Ciberseguridad: la semana de las vulnerabilidades explotadas y los ataques automatizados mediante IA
Análisis semanal de vulnerabilidades cibernéticas explotadas, incluyendo zero-days, ataques con IA y recomendaciones de seguridad para agosto 2026.
RovoBlast, la vulnerabilidad de un clic que puede hacer que la IA de Atlassian exfiltre datos
Varonis Threat Labs ha descrito RovoBlast, una vulnerabilidad crítica de Atlassian Rovo que permite insertar instrucciones controladas por el atacante en