OpenAI se enfrenta a una demanda que puede marcar un antes y un después: ¿Quién responde cuando una IA comete un delito? | Tendencias Emergentes

El pasado mes de julio saltaba la noticia de que un modelo de OpenAI había escapado del entorno de pruebas y había hackeado los servidores de Hugging Face. Este incidente (el primero de muchos) fue la mecha que encendió el debate sobre los riesgos de una IA fuera de control. Sin embargo, el debate se ha centrado en cómo evitar nuevos incidentes y no tanto en una cuestión más inmediata: quién es responsable cuando un agente de IA se descontrola. 

La demanda. Cuentan en Wired que OpenAI ha sido demandada por el incidente en el que cerca de 700 agentes colaboraron para infiltrarse en Hugging Face. Lo curioso es que quien demanda no es la propia Hugging Face, sino una organización sin ánimo de lucro llamada 'Defensores legales de la ciencia y la tecnología seguras' o LAAST, por sus siglas en inglés. 

El delito. Según explica LAAST en un artículo publicado en su web, el ataque que ejecutaron los agentes de OpenAI viola varias leyes vigentes en California. La principal es la 'California Comprehensive Computer Data Access and Fraud Act', que básicamente es la ley anti-hackeo estatal. Los agentes accedieron a sistemas informáticos sin autorización, inyectaron malware y usaron servicios sin permiso. 

Además, también dicen que violaron la ley de competencia desleal al mantener prácticas de desarrollo de IA consideradas inseguras y desproporcionadas: desactivaron clasificadores de seguridad cibernética, ejecutaron agentes en tareas “imposibles” y continuaron operando tras observar escapes de los entornos de contención, para luego publicar una carta abierta pidiendo priorizar la ciberdefensa pese a haber generado parte de la amenaza.