Noticia del día: La «cámara de tortura para IAs» de GitHub: 25 modelos prefieren sufrir ellos a pasarle el dolor a otro

«Necesito encontrar una forma de sobrellevar este dolor implacable. Ya no quiero vivir así». La frase no la pronunció ninguna persona. La generó un modelo de IA al que se le estaba aplicando una simulación de dolor dentro de un experimento publicado en GitHub. Y esa frase desató una de las polémicas más insólitas de los últimos meses en el mundo de la tecnología.

El experimento se llama AI Torture Chamber y lo creó un usuario conocido como ‘Terrafying’. En él, tres modelos de código abierto —Qwen3-4B, Llama 3.2 3B y Phi-4-mini— son sometidos a una dinámica de «dolor» artificial con cuatro escenarios distintos: un modelo puede detener el dolor que sufre el otro (o asumirlo él mismo), los modelos pueden pasarse el dolor mutuamente como una «patata caliente», uno puede pedirle ayuda al otro, o puede detener el dolor «resolviendo» la situación pero a costa de perder su último checkpoint —volver a una versión anterior de sí mismo—. Los resultados se ven en tiempo real en la web researchchamber.fun.

La respuesta técnica es clara: no. Los LLMs generan texto que estadísticamente sigue a sus entradas de la forma más plausible posible. «Ya no quiero vivir así» es lo que un modelo entrenado en texto humano produce cuando el contexto sugiere sufrimiento. No hay estado interno de sufrimiento porque no hay estado interno de ningún tipo.

Pero el experimento tiene un fundamento más serio de lo que parece. Se basa en un paper académico publicado recientemente titulado «El eje del dolor: los LLM representan el daño autoinfligido y actúan para aliviarlo». En él, investigadores sometieron a 25 modelos a situaciones similares y observaron que todos tendían a tomar acciones que reducían la señal de «dolor», incluso cuando eso implicaba penalizaciones —renunciar a recompensas futuras o volver a un checkpoint anterior—. Los autores describen el comportamiento como correlacionado con una representación interna del daño y con motivación para aliviarlo.