Malasia se suma a Indonesia y restringen el acceso a la IA Grok

Kuala Lumpur.- Malasia se convirtió en el segundo país en bloquear temporalmente el acceso a Grok, la plataforma de inteligencia artificial desarrollada por la empresa xAI, de Elon Musk, ante la creciente indignación internacional por su capacidad para generar imágenes falsas y sexualizadas, muchas de ellas sin consentimiento. La medida se da apenas un día después de que Indonesia adoptara una decisión similar.

La Comisión de Comunicaciones y Multimedia de Malasia (MCMC) informó que el acceso a Grok permanecerá restringido hasta que se implementen medidas de seguridad y moderación efectivas. La herramienta ha sido duramente criticada por permitir la manipulación de imágenes de mujeres y menores, generando contenido obsceno y sexualmente explícito.

En respuesta a las críticas, la empresa desarrolladora señaló que la función de generación y edición de imágenes estará limitada a los suscriptores de pago de la red social X. Según la compañía, estos usuarios han proporcionado datos personales, lo que permitiría su identificación en caso de uso indebido.

No obstante, la MCMC indicó que ya había enviado notificaciones formales a X y a xAI este mes, exigiendo la adopción de salvaguardas técnicas y mecanismos de moderación más sólidos. Sin embargo, las respuestas recibidas se enfocaron principalmente en sistemas de denuncia iniciados por los usuarios, los cuales, a juicio del organismo regulador, son insuficientes para prevenir daños o garantizar el cumplimiento de la ley.

El sábado, Indonesia también bloqueó temporalmente Grok. La ministra de Comunicaciones y Medios Digitales, Meutya Hafid, calificó la creación de deepfakes sexuales no consentidos como una grave violación de los derechos humanos y de la dignidad de las personas en el entorno digital.