Bill Gates, sobre los riesgos de una IA fuera de control: "No basta con tener un interruptor de apagado" | Informe Completo

A lo largo de los años hemos escuchado muchas veces eso de que la IA podía acabar con la humanidad, pero desde hace varias semanas el discurso se ha intensificado a partir del tuit viral de un exingeniero de Anthropic. Bill Gates es una de las voces que ha alertado de los riesgos en el pasado y ahora acaba de sumarse a la conversación. 

Gates ha hablado. En una entrevista publicada en NBC News, Bill Gates ha opinado sobre el actual momento de la IA, más concretamente sobre la preocupación de que los sistemas puedan acabar provocando daños a una escala nunca vista, la necesidad de establecer mecanismos de supervisión y el papel que deben tener los gobiernos frente a esta tecnología. Son ideas que ya estaban presentes en el ensayo que publicó a finales de agosto, donde advertía de los riesgos que plantea el avance de la IA y de la necesidad de prepararse para sus consecuencias.

Mil millones de muertes. En las últimas semanas, la palabra extinción ha vuelto al centro del discurso sobre los peligros de la IA, con cifras muy concretas como la idea de que haya un 10% de probabilidades de que la IA acabe con la humanidad en la próxima década. 

Gates no da un porcentaje, pero avisa de que "La IA es sin duda lo suficientemente poderosa como para provocar acontecimientos que causen 1.000 millones de muertes". Sin embargo, su preocupación no es tanto que la IA actúe de forma autónoma, sino que caiga en las manos equivocadas: "Nunca ha existido un arma tan poderosa como la combinación de personas con malas intenciones que utilizan las herramientas de IA más avanzadas".