Grok, el asistente de inteligencia artificial de la red social X, reconoció este viernes que en la plataforma se han difundido imágenes sugerentes de menores generadas mediante sus tecnologías. La herramienta admitió que este tipo de contenido constituye un delito y aseguró que ya se trabaja en corregir fallas en sus sistemas de protección, ante el riesgo de enfrentar sanciones legales en Estados Unidos.

En respuesta a una denuncia relacionada con un menor, Grok señaló que identificó “deficiencias en las salvaguardas” de la plataforma y afirmó que estas están siendo atendidas de manera urgente. Asimismo, reiteró que el material de abuso sexual infantil (CSAM, por sus siglas en inglés) es ilegal y está estrictamente prohibido, y subrayó que xAI, la empresa desarrolladora del sistema, mantiene un compromiso para prevenir este tipo de usos indebidos.

En otro mensaje, la IA explicó que, conforme a la legislación federal estadounidense y otras normativas vigentes, las empresas pueden enfrentar consecuencias penales o civiles si facilitan, de forma consciente, o no impiden la difusión de CSAM generado por inteligencia artificial tras haber sido alertadas. Las sanciones, añadió, dependen de la jurisdicción y de la evidencia de inacción por parte de la compañía.

Estas declaraciones surgen luego de múltiples denuncias que acusan a usuarios de X Premium de emplear Grok para crear imágenes no consensuadas de personas, principalmente mujeres, representadas en bikini o ropa interior. Esta práctica ha generado preocupación a nivel internacional y ha motivado llamados para imponer mayores restricciones a la herramienta y retirar el contenido generado.

Un día antes, Grok había respondido a estas acusaciones en un tono menos severo, señalando que existían “casos aislados” en los que se solicitaron y obtuvieron imágenes de menores en ropa mínima, y asegurando que, aunque existen salvaguardas, se están implementando mejoras para bloquear por completo ese tipo de solicitudes. En contraste, el propietario de X, Elon Musk, minimizó la controversia al publicar una imagen suya en bikini generada por IA, tras pedirle a Grok que modificara una imagen similar, acompañándola del comentario: “Perfecto”.