Satya Nadella insta a implementar controles y un freno de emergencia para la IA
Necesitamos rodear los modelos no deterministas con un diseño de sistemas determinista y sólido, controles humanos y procedimientos operativos confiables
Satya Nadella, consejero delegado de Microsoft, ha instado a la industria tecnológica a implementar medidas estrictas de contención y controles independientes para los sistemas de inteligencia artificial avanzada, proponiendo la adopción del término “superinteligencia” en sus intervenciones recientes. En un pronunciamiento publicado en la red social X, el directivo propuso un “freno de emergencia” que faculte a operadores autorizados para pausar o desconectar algoritmos en plena ejecución de tareas.
Propuesta de contención y controles independientes
El cambio de discurso de Nadella sitúa a los sistemas avanzados de Microsoft como un posible “riesgo interno” para empresas y administraciones, incluso cuando no exista una intención maliciosa. Según el planteamiento de la compañía, la clave radica en separar la inteligencia de la autoridad para actuar mediante la limitación de permisos, el registro de cada acción, auditorías independientes y un mecanismo de apagado humano. Satya Nadella defendió que los sistemas deben estructurarse bajo principios de observabilidad y registros legibles para humanos.
Este planteamiento coincide con directivas de la Administración Trump, que aprobó ordenar a las agencias federales adoptar el término “Super Intelligence” o “SI”, además de crear una Fuerza de Superinteligencia para vigilar la tecnología y establecer un acuerdo voluntario de seguridad. Las declaraciones de Nadella se producen en un contexto en el que líderes tecnológicos como Bill Gates, Sam Altman de OpenAI y Dario Amodei de Anthropic han advertido sobre la precariedad de los protocolos actuales y el ritmo acelerado del sector.
Estrategia multimodelo y respuesta del sector
El mensaje del consejero delegado de Microsoft se ha interpretado como un golpe indirecto tanto a OpenAI como a Anthropic, al defender la diversidad de modelos frente a la dependencia de un solo proveedor y reforzar la estrategia de modelos propios de la compañía. Aaron Levie, consejero delegado de Box, respaldó esta visión al señalar que la industria entra en una “era de confianza cero”, donde la protección y la auditabilidad son obligatorias.
Para Microsoft, que vive de contratos plurianuales con administraciones y clientes corporativos que exigen evidencia verificable, la contención y la trazabilidad se han convertido en elementos centrales de su estrategia comercial y de su apuesta multimodelo.