Los fiscales generales de California y Delaware advirtieron a OpenAI que tienen serias preocupaciones sobre la seguridad de su chatbot insignia, ChatGPT, especialmente para niños y adolescentes.

Los dos funcionarios estatales, con facultades únicas para regular organizaciones sin fines de lucro como OpenAI, enviaron la carta a la empresa tras una reunión con su equipo legal a principios de esta semana en Wilmington, Delaware.

El fiscal general de California, Rob Bonta, y la fiscal general de Delaware, Kathleen Jennings, han pasado meses revisando los planes de OpenAI para reestructurar su negocio, con el objetivo de garantizar una supervisión rigurosa y sólida de su misión de seguridad.

Sin embargo, expresaron su preocupación por los preocupantes informes sobre interacciones peligrosas entre los chatbots y sus usuarios, incluyendo la desgarradora muerte por suicidio de un joven californiano tras interactuar prolongadamente con un chatbot de OpenAI, así como un asesinato-suicidio igualmente inquietante en Connecticut. Las medidas de seguridad implementadas no funcionaron. Los padres del joven californiano de 16 años, fallecido en abril, demandaron a OpenAI y a su director ejecutivo, Sam Altman, el mes pasado.

El presidente de la junta directiva de OpenAI, Bret Taylor, declaró el viernes que la compañía estaba «plenamente comprometida» a abordar las preocupaciones planteadas por los fiscales generales.

«Estamos desconsolados por estas tragedias y expresamos nuestro más sentido pésame a las familias», declaró Taylor. «La seguridad es nuestra máxima prioridad y estamos colaborando estrechamente con los legisladores de todo el mundo».

Fundada como una organización sin fines de lucro con la misión de desarrollar inteligencia artificial superior a la humana, centrada en la seguridad, OpenAI había intentado recientemente transferir mayor control de su organización sin fines de lucro a su filial con fines de lucro, antes de abandonar esos planes en mayo tras conversaciones con las oficinas de Bonta y Jennings y otras organizaciones sin fines de lucro.

Los dos funcionarios electos, ambos demócratas, supervisan dichos cambios, ya que OpenAI está constituida en Delaware y opera desde California, donde tiene su sede en San Francisco.