ChatGPT reduce en 80% las respuestas riesgosas en temas de salud mental

OpenAI anunció mejoras en la versión GPT-5 de ChatGPT, orientadas a manejar de forma más segura conversaciones sobre salud mental, autolesiones y dependencia emocional. El desarrollo se realizó con el apoyo de una red global de expertos clínicos.

El trabajo involucró a más de 170 profesionales de salud mental, entre psiquiatras, psicólogos y médicos de atención primaria, integrantes de la Global Physician Network, con presencia en 60 países. El objetivo fue enseñar al modelo a reconocer señales de angustia o ansiedad y a responder con empatía, guiando a los usuarios hacia recursos de ayuda reales.

Las mejoras se concentraron en tres áreas: síntomas severos de salud mental, riesgo de autolesión o suicidio y dependencia emocional hacia la IA. Entre las nuevas medidas, el modelo ahora sugiere pausas en sesiones prolongadas, redirige conversaciones sensibles a sistemas más seguros y ofrece enlaces a líneas de crisis en distintos países.

De acuerdo con OpenAI, las pruebas en tráfico real muestran una reducción del 65% al 80% en respuestas no conformes dentro de temas relacionados con salud mental. La mejora más alta se dio en dependencia emocional, con una reducción del 80% frente a GPT-4o. En casos de psicosis y manía, la disminución fue del 65%, mientras que las conversaciones sobre autolesión o suicidio bajaron en un 65% de respuestas inadecuadas.

Estas cifras, basadas en tráfico global, reflejan el esfuerzo por hacer de ChatGPT un entorno más seguro. El sistema busca ofrecer apoyo inicial sin reemplazar la atención profesional, fomentando la búsqueda de ayuda real con familiares, amigos o especialistas en salud mental.