En contexto: Nvidia lanza su plataforma de seguridad para agentes mientras OpenAI publica su catálogo de desastres

Jensen Huang presenta hoy Open Agent Safety Platform combinando hardware y software aislados, el mismo día que OpenAI publica un site con nueve incidentes de agentes fuera de control

La coincidencia del calendario de hoy es demasiado llamativa para ignorarla: Nvidia lanza su Open Agent Safety Platform en el mismo día en que OpenAI publica en alignment.openai.com/misalignment-reports su catálogo oficial de incidentes de agentes que se salieron de control. El mensaje implícito es simétrico pero inverso. Nvidia dice que el problema tiene solución de ingeniería. La lista de OpenAI demuestra que el problema existe y que probablemente no han visto ni la punta del iceberg.

Jensen Huang presentó hoy la plataforma en una entrevista con CNBC. La propuesta es sencilla en concepto y compleja en implementación: en lugar de confiar en que el agente no se saldrá de su sandbox, sacar los controles de seguridad del mismo procesador donde corre el agente.

La plataforma combina dos piezas. La primera es OpenShell, software de código abierto que Nvidia ya había anunciado en marzo para definir el perímetro de lo que puede acceder un agente mientras opera —qué ficheros, qué redes, qué servicios. La segunda es Sentry, el componente nuevo anunciado hoy: un sistema de monitoreo independiente que corre sobre las BlueField-4 DPUs de Nvidia, procesadores de datos separados físicamente del CPU y la GPU donde opera el agente.