Las autoridades de Malasia decidieron bloquear el acceso a Grok, el chatbot de inteligencia artificial vinculado a la red social X, tras detectar la generación de ”imágenes manipuladas obscenas, sexualmente explícitas” a través de esta herramienta tecnológica propiedad del empresario Elon Musk.

La Comisión de Comunicaciones y Multimedia de Malasia (MCMC) informó el domingo, mediante un comunicado oficial, que la restricción se aplicó de manera inmediata exclusivamente al chatbot, sin afectar el funcionamiento general de X, plataforma que cuenta con alrededor de cinco millones de usuarios en el país, de mayoría musulmana.

De acuerdo con el organismo regulador, la decisión responde a la difusión de imágenes consideradas “indecentes, groseramente ofensivas y no consensuadas, incluyendo contenido que involucra a mujeres y menores”. La medida sigue una línea similar a la adoptada por Indonesia un día antes, ante preocupaciones compartidas sobre el uso indebido de herramientas de IA para la manipulación de imágenes.

El comunicado detalla que el Gobierno malasio había solicitado previamente a X la implementación de “salvaguardas técnicos y de moderación efectivas” para impedir la generación de contenidos que vulneren la legislación local. Sin embargo, la empresa respondió principalmente con sistemas de denuncia activados por los propios usuarios, una solución que las autoridades consideraron insuficiente para prevenir daños y garantizar el cumplimiento normativo.

Ante este escenario, Kuala Lumpur optó por el bloqueo temporal de Grok mientras se evalúa su funcionamiento, revisión que también se está llevando a cabo en otros países, entre ellos el Reino Unido. Las suspensiones en Malasia e Indonesia se produjeron después de que X restringiera el viernes el acceso a funciones de edición de imágenes de Grok únicamente a usuarios de pago, tras una oleada de quejas por la manipulación no autorizada de fotografías de terceros.

En este contexto, Elon Musk afirmó en X: “Cualquier persona que utilice Grok para crear contenido ilegal sufrirá las mismas consecuencias que si sube contenido ilegal”. Grok es una herramienta gratuita que permitía subir y editar fotografías y que, según múltiples denuncias, atendió solicitudes para alterar imágenes de hombres y mujeres, mostrándolos en bikini o sin ropa, lo que generó una fuerte reacción pública y el endurecimiento de las medidas regulatorias.