Varias empresas líderes de inteligencia artificial se comprometieron a eliminar las imágenes de desnudos de las fuentes de datos que utilizan para entrenar sus productos de IA, y se comprometieron a adoptar otras medidas de protección para frenar la propagación de imágenes dañinas de naturaleza sexual.

En un acuerdo negociado por la administración Biden, las empresas tecnológicas Adobe, Anthropic, Cohere, Microsoft y OpenAI dijeron que se comprometerían voluntariamente a eliminar las imágenes de desnudos de los conjuntos de datos de entrenamiento de IA «cuando sea apropiado y dependiendo del propósito del modelo».

El anuncio de la Casa Blanca fue parte de una campaña más amplia contra el abuso sexual de niños basado en imágenes, así como la creación de imágenes íntimas de adultos en deepfake de IA sin su consentimiento.

Dichas imágenes se han «disparado, apuntando desproporcionadamente a mujeres, niños y personas LGBTQI+, y surgiendo como uno de los usos dañinos de la IA de más rápido crecimiento hasta la fecha», dijo un comunicado de la Oficina de Política Científica y Tecnológica de la Casa Blanca.

Common Crawl, un repositorio de datos que se extraen constantemente de Internet y que es una fuente clave para entrenar a los chatbots de IA y a los generadores de imágenes, se unió a las empresas tecnológicas en parte del compromiso. Se comprometió de manera más amplia a obtener sus conjuntos de datos de manera responsable y a protegerlos del abuso sexual basado en imágenes.

En un compromiso separado, otro grupo de empresas (entre ellas Bumble, Discord, Match Group, Meta, Microsoft y TikTok) anunció un conjunto de principios voluntarios para prevenir el abuso sexual basado en imágenes. Los anuncios estuvieron relacionados con el 30.º aniversario de la Ley de Violencia contra la Mujer.