Uso de modelos de lenguaje e inteligencia artificial para filtrar insultos, odio y toxicidad en el chat de voz y texto en tiempo real para proteger a las marcas anunciantes.
Explicación y Contexto Conceptual
Uno de los mayores temores de los anunciantes al invertir en videojuegos y Roblox es que su logotipo aparezca junto a comentarios racistas, acoso o conducta tóxica en el chat del juego. Soluciones de moderación automatizada (como Modulate o GGWP) analizan la entonación y transcripción del audio de voz y texto con IA en milisegundos, silenciando infractores y garantizando que el entorno lúdico cumpla con los estándares de seguridad de marca de la Global Alliance for Responsible Media (GARM).
Ejemplo en la Práctica
Activision implementa la IA ToxMod en Call of Duty para monitorizar en tiempo real el chat de voz de millones de partidas, expulsando comportamientos de odio y asegurando un entorno apto para grandes patrocinadores.