El Gobierno de España solicitó a la Fiscalía General del Estado que investigue a Grok, la inteligencia artificial integrada en la red social X, por estar presuntamente cometiendo delitos vinculados a la difusión de pornografía infantil y de producir “material de violencia sexual contra menores de edad“.
La petición fue cursada por el Ministerio de Juventud e Infancia, encabezado por Sira Rego, tras informaciones periodísticas que alertan sobre el uso indebido de esta herramienta. Según confirmó la ministra, el ministerio remitió un escrito formal a la Fiscalía para que analice las prácticas de la IA propiedad de la plataforma de Elon Musk.
“Desde el Ministerio de Juventud e Infancia hemos remitido un escrito a la Fiscalía General del Estado para solicitar que investigue a la inteligencia artificial de X (antes Twitter) por presuntos delitos de difusión de material de violencia sexual contra la infancia“, indicó en su cuenta de Bluesky.
De acuerdo a Rego, “diferentes medios de comunicación han publicado que Grok estaría desnudando a personas menores de edad a petición de diferentes usuarios, lo que podría suponer sendos delitos de pornografía infantil y contra la integridad moral”.
Las vulneraciones de Grok en España según la ministra
La ministra subrayó la urgencia de una actuación judicial para evitar nuevas vulneraciones de derechos fundamentales, especialmente de niños y adolescentes en internet. “Es urgente que Fiscalía analice estos hechos gravísimos e inicie las medidas necesarias para evitar que más personas, especialmente menores edad, vean vulnerados sus derechos fundamentales en internet”, añadió.
En España la Ley para la Protección de las Personas Menores de Edad en los Entornos Digitales, actualmente en tramitación parlamentaria, contempla sanciones específicas por el uso de inteligencia artificial con fines que atenten contra la integridad moral de menores.
“La autorregulación de los entornos digitales no ha funcionado, por lo que la legislación se hace imprescindible. Las grandes plataformas van a garantizar por ley los derechos de niños, niñas y adolescentes en internet”, finalizó la ministra de Juventud e Infancia.
