Lo más nuevo: Satya Nadella, CEO de Microsoft: "Debemos asumir que todos los modelos de IA están comprometidos y contenerlos desde el principio"

"Confiar en los modelos lo menos posible". Satya Nadella ha hablado en Twitter y ha apostado por atar a la inteligencia artificial en corto: separar el suministro de inteligencia de la autoridad sobre ella. O lo que es lo mismo, rodear a los modelos de reglas, permisos y vigilancia independiente. La idea de base es simple: con el software tradicional podíamos rastrear un comportamiento hasta una línea de código, pero con los modelos actuales no.

Mucho poder y poca explicación. Las empresas están poniendo agentes de IA a trabajar en sistemas importantes, con acceso a datos sensibles y confidenciales pese a que no sabemos explicar por qué un modelo de IA avanzado hace lo que hace. Es más, incluso a actuar en nuestro nombre. Por eso Nadella es tajante: “No podemos externalizar la responsabilidad de lo que la inteligencia hace en nuestro nombre”. Y añade que las garantías del proveedor del modelo no nos eximen de esa responsabilidad.

Tratar a la IA como un riesgo interno. Lo que propone es tratar a los modelos como a un empleado con muchos permisos: la menor autoridad posible, registro de todo lo que hacen y capacidad para pararlos. No lo plantea porque sean necesariamente maliciosos, sino porque cualquier actor capaz con acceso a sistemas importantes puede equivocarse o ser comprometido. 

No es la primera vez que el CEO de Microsoft aboga por el control humano: "si la IA que construimos no está ayudando a la humanidad y no está bajo control humano, no vale la pena perseguirla" escribía en Twitter/X hace un mes.