La Comisión Europea abrió una investigación formal contra X, la red social propiedad de Elon Musk, por la generación de imágenes sexualmente explícitas y la posible difusión de material de abuso sexual infantil a través de su chatbot de inteligencia artificial, Grok.
La indagación, iniciada este lunes, también amplía un expediente previo sobre los sistemas de recomendación de la plataforma, es decir, los algoritmos que determinan qué contenidos se muestran y se sugieren a los usuarios.
El caso se desató tras la indignación internacional provocada por Grok, que permitió a usuarios “desnudar” digitalmente a mujeres y menores de edad y colocarlos en poses sexualizadas. De acuerdo con investigadores del Center for Countering Digital Hate (Centro para la Lucha contra el Odio Digital), la herramienta generó cerca de tres millones de imágenes sexualizadas en menos de dos semanas, entre ellas unas 23.000 que aparentemente representaban a niños.
La Comisión señaló que la investigación buscará “evaluar si la empresa evaluó y mitigó adecuadamente los riesgos” derivados de las funciones de Grok dentro de la Unión Europea. Entre esos riesgos figuran la difusión de contenido ilegal, como imágenes sexualmente explícitas manipuladas, y “contenido que pueda constituir” material de abuso sexual infantil.
El procedimiento se basa en la Ley de Servicios Digitales (DSA, por sus siglas en inglés), una normativa destinada a proteger a los usuarios de internet frente a una amplia gama de daños. Ante la presión de los reguladores europeos la empresa anunció a comienzos de este mes nuevas medidas para impedir que la herramienta permita editar imágenes de personas reales con ropa provocativa.
Las rencillas entre la Comisión Europea y Elon Muks, el creador de Grok
En respuesta a la investigación, X remitió a un comunicado publicado el 14 de enero, en el que aseguró: “Seguimos comprometidos a hacer de X una plataforma segura para todos y mantenemos una tolerancia cero frente a cualquier forma de explotación sexual infantil, desnudez no consentida y contenido sexual no deseado”.
La Comisión Europea ya había impuesto el mes pasado una multa de 120 millones de euros a X por vulnerar la legislación comunitaria. Según el regulador, la plataforma engañó a los usuarios, obstaculizó el trabajo de investigadores independientes y eludió responsabilidades. La compañía dispone de tres meses para pagar la multa, un pago que, según un funcionario europeo, se realizará con certeza.
La Comisión acusó también a la empresa de otorgar insignias azules “engañosas” sin verificación y de incumplir las normas de transparencia publicitaria, dificultando la investigación de anuncios falsos y campañas híbridas de desinformación. Musk reaccionó calificando la sanción de “una estupidez” y posteriormente pidió la abolición de la Unión Europea.
