Normas técnicas internacionales coordinadas por institutos gubernamentales de seguridad (NIST en EEUU, Reino Unido) para evaluar y auditar la fiabilidad de modelos de IA.
Explicación y Contexto Conceptual
El AI Safety Institute reúne a desarrolladores tecnológicos, agencias de publicidad y académicos para consensuar metodologías estandarizadas de pruebas de estrés (red-teaming). Sus protocolos evalúan si un modelo de IA puede ser manipulado mediante ataques de jailbreak para generar desinformación publicitaria, si preserva la privacidad de datos de entrenamiento y qué salvaguardas técnicas deben exigirse a los agentes autónomos de marketing antes de permitirles operar con presupuestos comerciales reales.
Ejemplo en la Práctica
Una plataforma de software publicitario somete su nuevo copiloto de compra de medios a las pruebas de evaluación del AISIC para obtener una certificación de seguridad institucional.