Alex Stamos, director de seguridad de Cognition, afirma que las herramientas de IA descargables permiten a los atacantes encontrar fallos de software y explotarlos durante los ataques, lo que reduce la habilidad necesaria para vulnerar a grandes empresas. En una entrevista de Decoder con The Verge, describió una sucesión de compromisos cuyas consecuencias pueden extenderse desde un proveedor de servicios de IA hasta las empresas que usan el software de sus clientes.
La advertencia es especialmente relevante para las organizaciones que dependen de servicios de IA y herramientas de desarrollo interconectados. Stamos describió una supuesta cadena que involucra a Fireworks y Cursor y que, según dijo, expuso a 5.000 empresas a posibles brechas. Por separado, afirmó que una herramienta de ataque de código abierto se había usado contra tres bancos surcoreanos y unas 200 empresas más durante la semana de la entrevista.
Estas declaraciones proceden de Stamos, quien también es profesor en el Cyber Policy Center de la Universidad de Stanford. Dijo que había estado ayudando a algunas empresas afectadas a través de Cognition, aunque la compañía no es un proveedor de respuesta a incidentes.
Una brecha que viaja a través de los proveedores
Stamos describió octubre como un periodo sostenido de presión para los equipos de seguridad, citando fallos graves en PHP y Node junto con brechas en una serie de empresas relacionadas con la IA, entre ellas proveedores de nube especializados. También mencionó el hackeo de Binance, que calificó como el mayor robo de la historia.
Su ejemplo más concreto se refería a Fireworks, un proveedor de servicios de IA para otras empresas. Según su relato, los atacantes robaron claves de API (credenciales que permiten a un software acceder a un servicio) de Fireworks y las usaron para entrar en Cursor. Después distribuyeron un complemento malicioso a través de Cursor que llegó a otras 5.000 empresas, lo que generó 5.000 posibles brechas.
La distinción es importante: su relato describe posibles compromisos en cadena, no 5.000 intrusiones confirmadas con éxito. También ilustra cómo una credencial de servicio robada puede llevar una intrusión más allá de la empresa que sufrió el primer ataque.
Stamos atribuyó la ola más amplia a diversos grupos. Habló de organizaciones de hacking gubernamentales y de operadores criminales, pero no atribuyó toda esa secuencia a un único actor.
Encontrar fallos durante el ataque
El argumento central de Stamos es que la IA está cambiando el orden y la economía de una intrusión.
Tradicionalmente, explicó, los atacantes investigan el software, descubren una vulnerabilidad y escriben un exploit (código que aprovecha el fallo) antes de desplegarlo contra una organización elegida o contra muchos objetivos. Dijo que hoy los sistemas de IA pueden examinar objetivos, identificar errores y escribir exploits mientras el ataque ya está en marcha.
Eso comprime lo que los equipos de seguridad llaman «cadena de ataque» (kill chain): los pasos que da un atacante para lograr un objetivo, como robar información, interrumpir un sistema o conseguir dinero. Stamos sostuvo que los modelos de pesos abiertos, cuyos parámetros están disponibles para que otros los ejecuten, ya pueden automatizar gran parte de ese proceso.
Destacó ARTEX, que describió como una herramienta china de código abierto con una traducción al inglés disponible en GitHub. Dijo que combinarla con un modelo como «obliterated GLM-5.3» podría permitir intrusiones en un número sorprendente de organizaciones. Sus cifras sobre los bancos surcoreanos y unas 200 empresas adicionales se presentaron como ejemplos del uso de esa herramienta.
Stamos también dijo que había ejecutado una versión cuantizada de ese modelo en su M5 Mac Ultra Studio. En su valoración, la capacidad de los atacantes para ejecutar modelos por sí mismos reduce su dependencia de modelos de frontera alojados, con controles de protección y registros que potencialmente podrían estar al alcance de las fuerzas del orden.
Presión sobre las suposiciones de la industria de la seguridad
Stamos comparó el momento actual con los años noventa, cuando las herramientas de acceso público podían exponer debilidades en gran número de empresas. La diferencia, argumentó, es que ahora una parte mucho mayor de la sociedad depende de sistemas conectados a internet, mientras que los atacantes pueden automatizar su trabajo y operar desde lugares fuera del alcance efectivo de la aplicación de la ley.
Situó el origen de la industria moderna de seguridad del software a principios de los 2000 y en el memorando de Bill Gates sobre «computación confiable». Las empresas contrataron a antiguos hackers, mientras que las prácticas de divulgación responsable, los programas de recompensas por errores y las consultoras de seguridad se convirtieron en una industria multimillonaria.
Ese sistema descansaba en parte en una experiencia escasa, según Stamos: relativamente pocas personas podían descubrir vulnerabilidades difíciles, desarrollar código de explotación sofisticado o hacer ingeniería inversa de parches de seguridad. Las organizaciones atacantes también necesitaban personas que convirtieran esa investigación en operaciones. Argumentó que la IA debilita ambas limitaciones al dar a operadores menos cualificados acceso a capacidades antes concentradas entre especialistas. También citó Bitcoin como un cambio anterior que alteró la economía del crimen al hacer más accesible el blanqueo de dinero a actores con habilidades técnicas.
Para los defensores, la respuesta concreta que describió Stamos fue usar herramientas de IA para reparar los fallos que sacaron a la luz las intrusiones. Dijo que Cognition ha estado ayudando a algunas empresas afectadas a corregir sus errores tras los ataques.
