Tendencia: OpenAI promete dar acceso a evaluadores externos durante el entrenamiento, pero los detalles siguen pendientes

El 12 de septiembre, Sam Altman prometió en público que OpenAI daría a los evaluadores independientes de seguridad «escritorios, credenciales, ordenadores portátiles» y el derecho a publicar lo que encontraran. Diez días después, OpenAI ha publicado un anuncio que recoge esa promesa con considerablemente menos concreción. Lo cubre hoy Ana Maria Constantin en The Next Web a partir de un artículo de Bloomberg previo a la publicación oficial.

Lo que OpenAI ha anunciado es, en esencia, esto: estará en conversaciones con grupos externos —incluyendo METR y Redwood Research— para darles acceso a sus modelos durante la fase de entrenamiento y evaluación, no solo antes del lanzamiento como ocurre actualmente. Los evaluadores externos podrían acceder físicamente a las oficinas de OpenAI para el trabajo más sensible.

No se ha nombrado ningún partner firmado. No se han establecido condiciones de acceso. Y en lugar de la garantía de publicación que Altman prometió explícitamente hace diez días, el anuncio habla de «mecanismos de independencia» como criterio de selección.

La evaluación de seguridad de los modelos de IA suele ocurrir al final del proceso: el modelo está entrenado, se le hacen pruebas externas durante semanas o meses, y si todo va bien se lanza. El problema de ese enfoque es que para cuando los evaluadores externos ven el modelo, las decisiones de diseño que determinan su comportamiento ya están tomadas. Cambiar algo sustancial requiere volver atrás en el entrenamiento, lo que es costoso y lento.