La presión internacional sobre Elon Musk ha ido en aumento para que adopte medidas más estrictas de control sobre la creación de imágenes de Grok, la herramienta de inteligencia artificial integrada a la plataforma X. El foco de las críticas ha sido una tendencia viral en la que usuarios solicitaron al sistema generar deepfakes sexualmente explícitos, incluyendo imágenes manipuladas de mujeres y menores.
En este contexto, el organismo regulador de la seguridad en línea del Reino Unido, Ofcom, abrió este lunes una investigación formal contra X. La autoridad informó haber recibido “informes sumamente preocupantes de que la cuenta del chatbot Grok AI se ha utilizado para crear y compartir imágenes de personas sin ropa —lo que podría constituir abuso de imágenes íntimas o pornografía— y para difundir imágenes sexualizadas de menores, que podrían constituir material de abuso sexual infantil”.
La investigación se enmarca en la Ley de Seguridad en Línea británica y busca determinar si la red social, propiedad de Musk, ha cumplido con sus obligaciones legales de proteger a los usuarios del Reino Unido frente a contenidos ilegales. Bajo esta normativa, las autoridades cuentan con facultades para bloquear plataformas que de manera reiterada no retiren material ilícito.
Otros países que encienden las alarmas por la creación de imágenes de Grok
Las preocupaciones no se limitan a Europa. Grok ya fue bloqueado por Indonesia y Malasia, convirtiéndose en los primeros países en prohibir la herramienta tras la difusión masiva de imágenes manipuladas, sugerentes y obscenas generadas mediante la llamada función de “desnudez digital”. Ambos países, de mayoría musulmana, mantienen legislaciones particularmente estrictas en materia de pornografía.
A su vez, funcionarios de la Unión Europea e India han manifestado inquietud por la aparente debilidad de las barreras de protección implementadas por Grok.
La controversia llevó a X a restringir la semana pasada algunas funciones de generación de imágenes únicamente a suscriptores de pago, en medio de la indignación internacional por respuestas del sistema que “desvestían digitalmente” a personas, incluidos niños. La limitación, no obstante, ha sido acusada de ser parcial, debido a que todavía se puede realizar la acción en otras instancias.
