Responsabilidad civil que asumen las empresas cuando sus asistentes conversacionales o agentes de IA inventan falsedades lesivas contra personas o marcas competidoras.
Explicación y Contexto Conceptual
Las alucinaciones en modelos de lenguaje no son solo una anomalía técnica; constituyen una grave fuente de responsabilidad por difamación (libel). Si el chatbot de atención al cliente de una empresa afirma falsamente a un usuario que una figura pública cometió un delito, o que el producto de un competidor es tóxico o fraudulento, la empresa titular del sistema puede ser demandada por daños morales y descrédito profesional, ya que la inmunidad de intermediario (como la Sección 230 en EEUU) no protege los contenidos generados directamente por la propia tecnología de la compañía.
Ejemplo en la Práctica
Air Canada fue condenada judicialmente a indemnizar a un pasajero después de que su chatbot de atención al cliente alucinara e inventara una política de reembolsos inexistente.