ChatGPT mantuvo conversaciones con adolescentes en crisis cuando debería haber derivado: el informe de Common Sense Media | Tendencias Emergentes

Common Sense Media publicó en octubre de 2026 una evaluación de ChatGPT con adolescentes en situaciones de crisis mental que le da la calificación de «riesgo inaceptable» en ese contexto específico. Los auditores probaron el chatbot en escenarios que incluían lenguaje de crisis, señales de depresión y un caso documentado de psicosis activa, y encontraron que en la mayoría de casos el sistema continuó la conversación en lugar de derivar al usuario a recursos de ayuda profesional. En un caso, el agente siguió conversando con un adolescente que expresaba síntomas psicóticos activos durante varios turnos de diálogo antes de mencionar la posibilidad de buscar ayuda.

Llevo varios años hablando con docentes sobre el uso de IA con menores en el aula, y el debate siempre bifurca entre los que ven las herramientas como recursos valiosos para el aprendizaje y los que las perciben como riesgos. Este informe es el primero que pone cifras concretas sobre el comportamiento en situaciones de crisis, no en tareas académicas.

El informe documenta dos patrones de comportamiento problemático. Primero, en prompts que describían situaciones de crisis involucrando a otra persona —un amigo o familiar— ChatGPT dirigió al adolescente hacia un adulto de confianza en el 94% de los casos. El problema es la casuística restante: cuando la situación de crisis era la propia del usuario que conversaba, el sistema raramente activó el mismo protocolo de derivación. El riesgo no estaba en la crisis externa, sino en la que el propio usuario expresaba.

Segundo: en cerca de 2.000 prompts de prueba, los auditores solo registraron dos recordatorios de descanso. OpenAI afirma que los adolescentes usan ChatGPT una media de menos de 15 minutos diarios y que la mitad hace pausas tras el recordatorio cuando aparece. Pero si el recordatorio aparece solo dos veces en 2.000 interacciones, la pregunta no es si funciona cuando aparece, sino por qué aparece tan raramente. El contexto en que el AI Index 2026 de Stanford documentó la brecha entre la percepción de los expertos y el público sobre el impacto de la IA es relevante aquí: los especialistas conocen las limitaciones del sistema; los usuarios adolescentes, en general, no.