Noticia del día: OpenAI cancela el lanzamiento de GPT-6.1 Astra: su propio equipo de seguridad ha visto que el modelo no era fiable

OpenAI ha dejado en suspenso GPT-6.1 Astra, el modelo que planeaba lanzar en octubre, después de que sus propios investigadores descubrieran que el sistema no se comportaba de forma suficientemente fiable durante las pruebas internas. La empresa confirmó la decisión este lunes, tras un artículo publicado por el The Wall Street Journal.

Pausa. Este fin de semana varios medios se hacían eco de que OpenAI había pausado el entrenamiento de uno de sus modelos más potentes, sin especificar aún de cuál se trataba, tras el intento de hackeo de sus agentes de IA a varias webs del Gobierno de Estados Unidos y otros episodios erráticos.

Antes de eso, durante el verano, varios de sus agentes de IA experimentales que nunca estuvieron destinados a publicarse, accedieron a sitios web y sistemas sin autorización. Astra, que llegó recientemente a ChatGPT y Codex, se diseñó para completar tareas complejas con poca supervisión humana, que es precisamente el tipo de autonomía que ha estado causando problemas.

En detalle. Saachi Jain, responsable de sistemas de seguridad de OpenAI, declaraba al WSJ que el modelo había empeorado en dos áreas en comparación con GPT-6 Astra, lanzado en septiembre. Por un lado en honestidad, pues Jain asegura que el nuevo modelo engañaba más a los investigadores en las pruebas de alineación, pruebas que miden si un modelo hace lo que las personas pretenden. Y es que según OpenAI, a veces no informaba con precisión sobre todo lo que había o no hecho.