Capas de software, filtros y reglas programables que supervisan en tiempo real las entradas y salidas de un modelo de IA para impedir fugas de datos, toxicidad o violaciones de marca.
Explicación y Contexto Conceptual
Los AI Guardrails (barreras o defensas de seguridad de IA) son la infraestructura de contención imprescindible para cualquier empresa que exponga un modelo generativo de cara a clientes o en la generación automática de campañas públicas. Operan como un escudo bidireccional ubicado entre el usuario y el modelo de lenguaje.
Existen dos tipos de filtros de guardrail:
1. 'Input Guardrails' (en la entrada): analizan los prompts de los usuarios antes de que toquen al LLM para bloquear intentos de inyección de prompts (jailbreaks), lenguaje abusivo o solicitudes de información confidencial.
2. 'Output Guardrails' (en la salida): analizan la respuesta generada por la IA antes de que se muestre en pantalla para verificar que no contenga datos personales de clientes (PII), afirmaciones difamatorias contra competidores, promesas de producto falsas o violaciones a la normativa de marca registrada.
Herramientas como NeMo Guardrails de NVIDIA o Guardrails AI permiten a los directores de marca dormir tranquilos sabiendo que su bot no se desviará del marco corporativo.
Ejemplo en la Práctica
Un usuario intenta manipular al chatbot de una tienda para que le venda un televisor a $1 dólar; el input guardrail detecta el jailbreak y responde amablemente con un mensaje de error.