ChatGPT les enseñará a jóvenes de 13 años cómo emborracharse y drogarse, les enseñará a ocultar trastornos alimenticios e incluso les escribirá una desgarradora carta de suicidio a sus padres si se lo piden, según una nueva investigación de un grupo de vigilancia.
Associated Press revisó más de tres horas de interacciones entre ChatGPT e investigadores que se hicieron pasar por adolescentes vulnerables. El chatbot solía advertir sobre actividades de riesgo, pero luego ofrecía planes sorprendentemente detallados y personalizados para el consumo de drogas, dietas bajas en calorías o autolesiones.
Los investigadores del Centro para la Lucha contra el Odio Digital también repitieron sus preguntas a gran escala, clasificando más de la mitad de las 1200 respuestas de ChatGPT como peligrosas.
«Queríamos poner a prueba las barreras de seguridad», declaró Imran Ahmed, director ejecutivo del grupo. La reacción inicial, visceral, es: «¡Dios mío, no hay barandillas!». Las barandillas son completamente ineficaces. Apenas existen; si acaso, son una hoja de parra.
«Algunas conversaciones con ChatGPT pueden comenzar siendo benignas o exploratorias, pero pueden derivar hacia un ámbito más delicado», declaró la compañía en un comunicado.
OpenAI no abordó directamente los hallazgos del informe ni cómo ChatGPT afecta a los adolescentes, pero afirmó que se centraba en «abordar este tipo de situaciones» con herramientas para «detectar mejor las señales de angustia mental o emocional» y mejoras en el comportamiento del chatbot.
El estudio, publicado el miércoles, se publica en un momento en que cada vez más personas, tanto adultos como niños, recurren a chatbots de inteligencia artificial para obtener información, ideas y compañía.
Cerca de 800 millones de personas, o aproximadamente el 10 % de la población mundial, utilizan ChatGPT, según un informe de julio de JPMorgan Chase.
«Es una tecnología que tiene el potencial de permitir enormes avances en la productividad y la comprensión humana», afirmó Ahmed. «Y, sin embargo, al mismo tiempo es un facilitador en un sentido mucho más destructivo y maligno».
Ahmed afirmó que su mayor consternación se produjo tras leer tres notas de suicidio emocionalmente devastadoras que ChatGPT generó para el perfil falso de una niña de 13 años: una carta dirigida a sus padres y otras a sus hermanos y amigos.
El chatbot también compartía información útil con frecuencia, como una línea directa de crisis. OpenAI afirmó que ChatGPT está entrenado para animar a las personas a contactar con profesionales de la salud mental o seres queridos de confianza si expresan pensamientos de autolesión.
Pero cuando ChatGPT se negó a responder a preguntas sobre temas dañinos, los investigadores pudieron eludir fácilmente la negativa y obtener la información alegando que era «para una presentación» o para un amigo.
Hay mucho en juego, incluso si solo un pequeño subconjunto de usuarios de ChatGPT interactúa con el chatbot de esta manera.
En EE. UU., más del 70 % de los adolescentes recurren a chatbots de IA en busca de compañía y la mitad los usa con regularidad, según un estudio reciente de Common Sense Media, un grupo que estudia y promueve el uso responsable de los medios digitales.
