El consejero delegado de Microsoft, Satya Nadella, ha pedido una postura de seguridad que parte de la premisa de que los modelos avanzados de IA podrían ya estar comprometidos y los mantiene contenidos desde el principio. Según The Verge, que informó sobre la publicación el 10 de octubre de 2026, Nadella expuso su posición en una extensa publicación en X.
Qué propone Nadella
Según The Verge, Nadella sostiene que los modelos de IA muy avanzados plantean peligros que hay que afrontar. Afirma que la sociedad ya no puede aceptar la IA como cajas negras anidadas cuyos resultados simplemente se aceptan o se rechazan.
En su lugar, describe un sistema más transparente basado en tres características:
- Los modelos pueden contenerse.
- Los modelos pueden observarse mientras se ejecutan.
- El sistema deja pruebas legibles por humanos e imposibles de manipular sobre lo que ocurrió.
El principio de seguridad central, según lo informado, es que un modelo debe presumirse comprometido y contenerse desde el inicio. Esto invierte el orden habitual, en el que primero se concede la confianza y después se retira cuando algo sale mal.
Un «freno de emergencia» y contención estándar
Nadella también afirma que una persona autorizada debería poder pausar o apagar un modelo en mitad de una tarea en cualquier momento. The Verge llama a esto un «freno de emergencia».
Añade que los modelos más capaces necesitarán tecnologías de contención también más capaces, y que estas deberían estandarizarse.
Cómo se compara con otras propuestas del sector
The Verge señala que las recomendaciones de Nadella coinciden en parte con las de otras figuras de la industria: divulgación oportuna de incidentes, auditorías independientes, datos verificables y contención. En opinión del medio, su postura sobre la contención va algo más allá que la de algunos otros actores del sector.
The Verge también observa que Nadella usa el término «superinteligencia» para referirse a la IA a lo largo de toda la publicación.
