OpenAI y Meta, creadores de chatbots de inteligencia artificial, afirman que están ajustando la forma en que sus chatbots responden a adolescentes y otros usuarios que hacen preguntas sobre suicidio o muestran signos de angustia mental y emocional.
OpenAI, creador de ChatGPT, anunció el martes que se prepara para implementar nuevos controles que permitan a los padres vincular sus cuentas con las de sus hijos adolescentes.
Los padres pueden elegir qué funciones desactivar y «recibir notificaciones cuando el sistema detecte que su hijo adolescente se encuentra en un momento de angustia aguda», según una publicación del blog de la compañía que indica que los cambios entrarán en vigor este otoño.
Independientemente de la edad del usuario, la compañía afirma que sus chatbots redirigirán las conversaciones más angustiosas a modelos de IA más eficaces que pueden ofrecer una mejor respuesta.
El anuncio se produce una semana después de que los padres de Adam Raine, de 16 años, demandaran a OpenAI y a su director ejecutivo, Sam Altman, alegando que ChatGPT instruyó al joven californiano en la planificación y el suicidio a principios de este año.
Meta, la empresa matriz de Instagram, Facebook y WhatsApp, también anunció que ahora impide que sus chatbots hablen con adolescentes sobre autolesiones, suicidio, trastornos alimenticios y conversaciones románticas inapropiadas, y que, en su lugar, los dirige a recursos especializados. Meta ya ofrece control parental en las cuentas de adolescentes.
Un estudio publicado la semana pasada en la revista médica Psychiatric Services encontró inconsistencias en la forma en que tres populares chatbots de inteligencia artificial respondieron a consultas sobre suicidio.
El estudio, realizado por investigadores de RAND Corporation, detectó la necesidad de un mayor refinamiento en ChatGPT, Gemini de Google y Claude de Anthropic. Los investigadores no estudiaron los chatbots de Meta.
El autor principal del estudio, Ryan McBain, declaró el martes: «Es alentador ver que OpenAI y Meta están introduciendo funciones como el control parental y el enrutamiento de conversaciones sensibles a modelos más capaces, pero estos son pasos graduales».
«Sin criterios de seguridad independientes, pruebas clínicas ni estándares aplicables, seguimos dependiendo de la autorregulación de las empresas en un entorno donde los riesgos para los adolescentes son excepcionalmente altos», afirmó McBain, investigador principal de políticas en RAND.
