Es noticia: 50 muertos o 1.000 millones de dólares en daños: el listón que Anthropic quiere fijar para que el Gobierno pueda frenar un modelo de IA | Radar de Noticias

Anthropic ha estado presentando entre bambalinas un borrador de proyecto de ley sobre la seguridad de los modelos de IA más punteros en el Capitolio, según el medio Politico. Desde luego no es frecuente que un laboratorio de IA intente redactar las normas de su propia industria. Pero lo que ha arqueado más de una ceja es que su propuesta fijaría un listón muy alto antes de que el gobierno pueda detener un modelo, concentrando ese poder en un solo departamento. Te contamos los detalles.

Work in progress. El Congreso en Estados Unidos está sopesando actualmente varias propuestas de seguridad de la IA, y Anthropic ha redactado un borrador con dos o tres cosas llamativas. Un portavoz de Anthropic declaraba a Politico que el proyecto de ley refleja el Marco de IA Avanzada de la empresa, que ha estado promoviendo entre los legisladores desde junio, y califica su contenido como "políticas sensatas sobre las que creemos que el Congreso debería actuar".

El umbral. Según comparte Politico, que ha tenido acceso al borrador, el gobierno podría bloquear el lanzamiento o uso de un modelo únicamente si este plantea un riesgo previsible e inminente de más de 1.000 millones de dólares en daños, o de causar la muerte o lesiones graves a más de 50 personas. El peligro también tendría que provenir de:

Cómo funcionaría. El medio cuenta que instituciones independientes, registradas en el Departamento de Comercio, evaluarían periódicamente a un laboratorio de IA y sus modelos frontera. Los laboratorios podrían pagarles, siempre y cuando el pago no dependa del resultado de la evaluación. Si un evaluador detecta un "riesgo inminente enumerado", debe comunicárselo al Departamento de Comercio en un plazo de 72 horas tras finalizar la evaluación. Tras ello, según apunta el medio, Comercio podría solicitar a un juez federal del Tribunal de Distrito que detenga el lanzamiento de un modelo. Tom's Hardware añade que Comercio tendría que presentar sus pruebas ante dicho juez, quien toma la decisión final.