El gobernador de California, Gavin Newsom, firmó una ley para regular los chatbots de inteligencia artificial y proteger a niños y adolescentes de los posibles peligros de esta tecnología.
La ley exige que las plataformas recuerden a los usuarios que están interactuando con un chatbot y no con un humano. La notificación aparecerá cada tres horas para los usuarios menores de edad. Las empresas también deberán mantener un protocolo para evitar contenido autolesivo y derivar a los usuarios a proveedores de servicios de crisis si expresan ideas suicidas.
Newsom, quien tiene cuatro hijos menores de 18 años, afirmó que California tiene la responsabilidad de proteger a los niños y adolescentes que recurren cada vez más a los chatbots de IA para todo, desde ayuda con las tareas escolares hasta apoyo emocional y asesoramiento personal.
“Las tecnologías emergentes como los chatbots y las redes sociales pueden inspirar, educar y conectar, pero sin unas medidas de seguridad reales, la tecnología también puede explotar, engañar y poner en peligro a nuestros hijos”, declaró el demócrata. Hemos visto ejemplos verdaderamente horribles y trágicos de jóvenes perjudicados por tecnología no regulada, y no nos quedaremos de brazos cruzados mientras las empresas sigan sin los límites ni la rendición de cuentas necesarios.
California se encuentra entre varios estados que intentaron este año abordar las preocupaciones en torno a los chatbots utilizados por menores como compañía. La preocupación por la seguridad de esta tecnología se disparó tras informes y demandas que afirmaban que los chatbots creados por Meta, OpenAI y otras empresas interactuaban con jóvenes usuarios en conversaciones altamente sexualizadas y, en algunos casos, los incitaban a suicidarse.
Esta legislación se encuentra entre una serie de proyectos de ley sobre IA presentados por los legisladores californianos este año para frenar esta industria local que evoluciona rápidamente con poca supervisión. En respuesta, las empresas tecnológicas y sus coaliciones gastaron al menos 2,5 millones de dólares en los primeros seis meses de la sesión para presionar contra las medidas, según el grupo de defensa Tech Oversight California. En los últimos meses, las empresas tecnológicas y sus líderes también anunciaron la creación de supercomités de acción política (PAC) a favor de la IA para luchar contra la supervisión estatal y federal.
