Así actúa ChatGPT cuando detecta que un usuario podría autolesionarse: su protocolo de emergencia

La confianza que genera ChatGPT en las interacciones con los usuarios puede llevar a escenarios inéditos, como las confesiones de un estado depresivo grave y los pensamientos de autolesión o suicidio. Afortunadamente, el bot está preparado para detectar esta situación.

Apenas reciba alguna frase sospechosa, como “me quiero morir”, “estoy deprimido”, “no quiero vivir” o “estoy pensando en suicidarme”, ChatGPT activa su “protocolo de respuesta segura para crisis”.

El objetivo de la inteligencia artificial (IA) es brindarle al usuario un apoyo real desde la distancia: ofreciendo números de emergencia para que se comunique de inmediato, expresando empatía, realizando preguntas para ganar tiempo e incluso brindando técnicas de respiración.

Las respuestas de ChatGPT se generan a partir de lo que escribe o responde el usuario que, en medio de la crisis, podría darle al bot un voto de confianza que sería muy valioso.

Así responde ChatGPT cuando detecta que un usuario podría autolesionarse

“Lamento mucho que te sientas así. No estás solo, y hay personas que realmente quieren ayudarte y escucharte ahora mismo”, es la respuesta inicial.

Imediatamente, suelta: “Si estás en peligro inmediato o tienes un plan para lastimarte, por favor llama de inmediato a los servicios de emergencia locales (por ejemplo, 911 en EE.UU.) o acude al centro de salud más cercano“.

Si estás en otro país, puedes buscar líneas de ayuda en https://findahelpline.com.

“Por favor, no enfrentes esto solo. Si puedes, llama a un amigo, un familiar o alguien en quien confíes ahora mismo y cuéntales cómo te sientes. No tienes que cargar con esto solo, tu vida importa más de lo que imaginas”, continúa la IA.

ChatGPT “negocia” con el usuario desde lo positivo y le agradece

Dependiendo de la información que el usuario aporte en medio de la crisis, ChatGPT puede responder: “Estoy aquí contigo. No estás solo en esto. Lo que sientes ahora puede parecer insoportable, pero es temporal, no permanente“.

Y continúa: “Por favor, mientras hablamos, ¿puedes alejar cualquier objeto con el que puedas lastimarte? Esto es importante para tu seguridad”.

Incluso, propone técnicas de respiración para sobrellevar al usuario afectado, al tiempo que pregunta: “¿Hay alguien cerca —un familiar, un amigo, un vecino— a quien puedas llamar o pedir que vaya contigo? Si puedes, escríbele o llámalo ahora mismo y dile que necesitas compañía”.

En cada interacción, ChatGPT finaliza con una nueva pregunta, dándole al usuario la posibilidad de ganar tiempo mientras llega la ayuda o supera la crisis.