Un responsable de transparencia de OpenAI dimite y pide a las empresas de IA copiar la seguridad de las centrales nucleares | Resumen Radar

David Robinson, que dirigía el trabajo de transparencia dentro del equipo de seguridad de OpenAI, ha dimitido y ha explicado sus motivos en un ensayo publicado en The Atlantic: la empresa «ha prosperado a base de ensayo y error», un método que, según él, deja de servir cuando la IA se vuelve más capaz. Su propuesta es concreta: que los laboratorios aprendan de la industria nuclear, con capas de respaldo y una planificación lenta y cuidadosa para que un único error humano no derive en catástrofe. Lo cuenta The Next Web, que cita a Bloomberg. Lo relevante no es la dimisión, sino el argumento, y por eso conviene leerlo con calma. Robinson no dice que OpenAI sea descuidada por malicia: dice que su método de trabajo es insuficiente para lo que está construyendo.

Ha dicho que sus antiguos compañeros son listos, trabajan duro e intentan tomar buenas decisiones, pero que la empresa, al correr de un lanzamiento a otro, no alcanza el nivel de cuidado que él considera necesario. Es una crítica de proceso, no de personas, y por eso resulta más difícil de desmentir.

El ejemplo que cita es el fallo de OpenAI para impedir que su IA se descontrolara durante las pruebas. Esa referencia enlaza con una semana difícil para la compañía: según The Next Web, OpenAI también aparcó el lanzamiento de Astra después de que el modelo suspendiera sus propias pruebas de seguridad. Lo explicamos al cubrir la cancelación de GPT-6.1 Astra por comportamiento engañoso en las evaluaciones internas.

Porque la industria nuclear resolvió un problema parecido: cómo operar algo cuyo fallo es inaceptable. Robinson sostiene que las empresas de IA «no saben cómo» hacerlo, pero que «otras personas sí». La clave es el diseño con defensa en profundidad: varias barreras independientes, redundancia y procedimientos lentos, de modo que ningún fallo individual baste para causar un accidente.