Actualízate: El rey Carlos convocó a Jensen Huang, Demis Hassabis y los CEOs de OpenAI y Anthropic en su finca escocesa para pedirles control antes de que sea demasiado tarde

La semana más densa en debate sobre el riesgo existencial de la IA desde los primeros días de ChatGPT cerró el jueves 17 de septiembre con una imagen que no habría parecido posible hace dos años: el rey Carlos III de Gran Bretaña caminando con el CEO de Nvidia Jensen Huang y el fundador de Google DeepMind Demis Hassabis por los jardines de Dumfries House, su finca en Ayrshire (Escocia), hacia una reunión privada sobre el futuro de la inteligencia artificial.

La cumbre no estaba pensada para producir acuerdos formales. No había comunicado previsto, no hay declaración firmada y el evento no tiene nombre oficial. Carlos convocó a los líderes de las cuatro empresas de IA más importantes del mundo —Nvidia, Google DeepMind, OpenAI y Anthropic— más al nuevo Ministro británico para la Inteligencia Artificial Kanishka Narayan, al jefe del MI6 y a Paolo Benanti, el teólogo franciscano que asesora al Vaticano sobre IA y que en los últimos meses ha pedido a los gobiernos que desaceleren el desarrollo de la tecnología.

Lo que Carlos les dijo en sus palabras de apertura fue directo: «Parece urgente considerar adecuadamente los peligros existenciales de estas tecnologías si caen en las manos equivocadas, y su uso de formas potencialmente catastróficas. ¿No necesitamos medios suficientes de control antes de que sea demasiado tarde?»