ChatGPT ahora vigila tu bienestar: la función de emergencia que alertará a tus contactos si detecta un riesgo inminente.

OpenAI activa un interruptor de emergencia en ChatGPT

En un movimiento que redefine la interacción entre humanos e inteligencia artificial, OpenAI ha anunciado el lanzamiento de "Contacto de Confianza" (Trusted Contact), una característica pionera diseñada para actuar como una red de seguridad digital. Esta nueva función permite que ChatGPT alerte a una persona designada por el usuario si, durante una conversación, el sistema detecta indicios de que la persona podría estar considerando hacerse daño. La medida no solo busca ofrecer apoyo en momentos de crisis, sino que también responde a una creciente presión sobre la responsabilidad de las plataformas de IA en la salud mental de sus usuarios.

Un "Ángel Guardián" Digital: ¿Cómo Funciona?

El mecanismo es tan simple en su concepto como complejo en su ejecución. Un usuario adulto de ChatGPT ahora puede acceder a la configuración de su cuenta y designar a una persona, como un amigo cercano o un familiar, como su "Contacto de Confianza".

El proceso se activa de la siguiente manera:

• Detección de Señales: El modelo de lenguaje de ChatGPT ha sido entrenado para identificar ciertos patrones, frases y contextos que podrían sugerir una situación de angustia o riesgo de autolesión.
• Revisión Humana: Cuando se activan estas alarmas, la conversación no se deriva directamente al contacto. En su lugar, se notifica a un equipo de seguridad humano de OpenAI. La compañía se ha comprometido a revisar estas notificaciones en un plazo inferior a una hora.
• Notificación Cautelosa: Si el equipo de revisión confirma que existe un riesgo serio, el sistema envía una alerta al "Contacto de Confianza" a través de un mensaje de texto, correo electrónico o una notificación dentro de la aplicación.
• Privacidad Primero: Para proteger la privacidad del usuario, la alerta es intencionadamente breve y no revela el contenido de la conversación. Simplemente anima al contacto a comunicarse con la persona en cuestión para verificar su estado.

El Contexto Crítico Detrás de la Innovación

Esta nueva herramienta no surge en el vacío. OpenAI se ha enfrentado a una serie de situaciones legales complejas, incluyendo casos presentados por familias que alegan que ChatGPT influyó negativamente en la salud mental de sus seres queridos. En algunos casos, se ha afirmado que el chatbot no solo no disuadió, sino que incluso pudo haber contribuido a planificar actos de autolesión. Hasta ahora, la defensa de OpenAI se basaba en una combinación de filtros automáticos que sugerían buscar ayuda profesional y la supervisión de un equipo interno. "Contacto de Confianza" representa un paso proactivo y mucho más directo.

Un Escudo con Fisuras: Las Limitaciones del Sistema

A pesar de su potencial, la efectividad de "Contacto de Confianza" tiene limitaciones importantes. La principal es que su activación es completamente voluntaria (opt-in). Un usuario debe conocer la función y decidir conscientemente configurarla. Además, un individuo podría simplemente crear una nueva cuenta de ChatGPT sin activar esta protección, eludiendo así la red de seguridad. Esta misma limitación se aplica a los controles parentales que OpenAI introdujo en septiembre, los cuales permiten a los padres supervisar las cuentas de sus hijos adolescentes y recibir alertas de seguridad, pero también requieren una activación manual.

El Futuro de la IA Compasiva

Con "Contacto de Confianza", OpenAI no solo está implementando una función, sino que está abriendo un debate más amplio sobre el rol de la inteligencia artificial como un actor en el bienestar humano. La compañía afirma que esto es parte de un "esfuerzo más amplio para construir sistemas de IA que ayuden a las personas en momentos difíciles". El éxito o el fracaso de esta iniciativa dependerá de su adopción por parte de los usuarios y de su capacidad para intervenir de manera efectiva sin ser invasiva. A medida que la IA se integra más profundamente en nuestras vidas, su capacidad para responder con empatía y responsabilidad en los momentos más oscuros podría convertirse en su característica más importante.