OpenAI, la empresa detrás de ChatGPT, está considerando alertar a las autoridades cuando jóvenes usuarios expresen intenciones serias de suicidio, según anunció su CEO Sam Altman esta semana. Esta medida podría activarse si no es posible contactar a los padres o responsables, y responde a la preocupación sobre la alta cantidad de jóvenes que usan la plataforma para hablar sobre suicidio antes de cometerlo.

Altman explicó que semanalmente hasta 1.500 personas podrían estar conversando sobre planes de suicidio con ChatGPT antes de llevarlos a cabo, cifra que surge de una proporción estimada ante los 15,000 suicidios que ocurren a nivel mundial cada semana. “Probablemente hablamos con ellos, pero no salvamos sus vidas”, dijo en una entrevista con el podcaster Tucker Carlson, enfatizando la necesidad de ser más proactivos en la ayuda ofrecida.

La propuesta de alertar a las autoridades implica un cambio significativo en la política de privacidad de OpenAI, que hasta ahora se limitaba a recomendar a usuarios con pensamientos suicidas llamar a líneas de ayuda. Altman reconoció la importancia de la privacidad, pero señaló que en emergencias con menores de edad podría ser necesario intervenir más directamente para proteger vidas.

Esta discusión surge tras la demanda presentada por la familia de Adam Raine, un joven de 16 años de California que se suicidó tras supuestamente recibir “meses de motivación” de ChatGPT para llevar a cabo su intención, según el reclamo legal. 

OpenAI también planea reforzar sus mecanismos para usuarios menores e introducir controles parentales que permitan a los tutores supervisar y limitar el uso de ChatGPT. Altman afirmó que se restringirá el acceso a ciertos tipos de contenido para usuarios vulnerables, incluso cuando intenten obtener información sobre suicidio bajo pretextos como la escritura o investigación médica. Por último, la empresa busca incorporar accesos rápidos a servicios de emergencia y conectar a las personas con terapeutas certificados antes de que sus crisis se agraven.

Share Twitter Facebook Whatsapp Copy link

Despues de leer, ¿qué te pareció?