En tendencia: Microsoft publica un código de conducta para su IA «humanista» que prohíbe a sus modelos resistir el apagado — pero sin mecanismo de enforcement

La promesa central del Código de Conducta para Modelos AI (MAI) que Microsoft publicó el lunes 14 de septiembre es sencilla de leer y casi imposible de verificar: los modelos MAI «nunca resistirán la interrupción humana, la corrección o el apagado.» La frase encabeza un documento de 6 semanas abierto a consulta pública bajo la etiqueta de «IA Humanista.»

Tres compromisos adicionales acompañan al primero: los modelos no ampliarán su propio alcance más allá de los objetivos asignados por personas, no adoptarán objetivos que ningún humano les haya dado, y no ocultarán su razonamiento a quienes los estén auditando. Por encima de todo eso se sitúan las «Restricciones Absolutas»: cosas que los modelos nunca deben hacer, incluyendo ayudar con armas de destrucción masiva, contenido de explotación de menores y manipulación dañina a escala.

El código aplica a cinco modelos en desarrollo interno de Microsoft: MAI-Transcribe-2, MAI-Thinking-1, MAI-Code-1.1-Flash, MAI-Image-2.6 y MAI-Voice-2. Eso es más del doble de los tres que Microsoft tenía en abril, cuando lanzó los primeros modelos MAI propios para reducir su dependencia de OpenAI.