Un grupo de empleados actuales y antiguos de empresas de inteligencia artificial (IA), entre ellas OpenAI (respaldada por Microsoft) y Google DeepMind (de Alphabet), expresaron su preocupación por los riesgos que plantea esta tecnología emergente.
Una carta abierta de un grupo de 11 empleados actuales y antiguos de OpenAI y un empleado actual y otro antiguo de Google DeepMind afirmaba que los motivos financieros de las empresas de IA obstaculizan una supervisión eficaz.
«No creemos que las estructuras a medida de gobernanza corporativa sean suficientes para cambiar esto», añadía la carta.
Además, advierte sobre los riesgos de la IA no regulada, que van desde la difusión de información errónea hasta la pérdida de sistemas de IA independientes y la profundización de las desigualdades existentes, lo que podría dar lugar a la «extinción humana».
Los investigadores han encontrado ejemplos de generadores de imágenes de empresas como OpenAI y Microsoft que producen fotos con desinformación relacionada con la votación, a pesar de las políticas contra ese tipo de contenido.
Las empresas de inteligencia artificial tienen «obligaciones débiles» de compartir información con los gobiernos sobre las capacidades y limitaciones de sus sistemas, afirma la carta, y añade que no se puede confiar en que estas empresas compartan esa información voluntariamente.
La carta abierta es la última en plantear preocupaciones de seguridad en torno a la tecnología de inteligencia artificial generativa, que puede producir texto, imágenes y audio de forma rápida y económica.
El grupo ha instado a las empresas de inteligencia artificial a facilitar un proceso para que los empleados actuales y anteriores planteen preocupaciones relacionadas con los riesgos y no apliquen acuerdos de confidencialidad que prohíban las críticas.
Por otra parte, la empresa dirigida por Sam Altman dijo el jueves que había desbaratado cinco operaciones encubiertas de influencia que buscaban utilizar sus modelos de inteligencia artificial para «actividades engañosas» en Internet.
