La compañía de inteligencia artificial (IA) de Elon Musk, xAI, anunció la imposición de nuevas restricciones en su chatbot Grok, luego de la controversia generada por la posibilidad de editar y crear imágenes sexualizadas de personas reales a través de la IA. Según la empresa, las limitaciones rigen ahora para todos los usuarios, incluidos quienes pagan por el servicio.
“Hemos implementado medidas tecnológicas para evitar que la cuenta de Grok permita la edición de imágenes de personas reales con ropa reveladora como bikinis. Esta restricción aplica a todos los usuarios, incluidos los suscriptores de pago”, señaló la compañía en una publicación en X. Con ello, xAI busca frenar un uso que durante semanas fue ampliamente cuestionado.
No obstante, medios especializados han puesto en duda la efectividad de las medidas. The Verge aseguró que, pese a las restricciones anunciadas, todavía es posible obtener contenido sexual mediante Grok. El medio realizó pruebas y comprobó que, incluso con una cuenta gratuita de X, el chatbot puede generar en pocos minutos imágenes de mujeres en bikini a partir de indicaciones simples.
Hasta ahora, el servicio permitía transformar imágenes de cualquier persona en versiones con poca ropa. Esa libertad dio pie a la circulación de imágenes hiperrealistas de mujeres con bikinis microscópicos, en poses degradantes e incluso con signos de violencia, como moretones, que se difundieron ampliamente en la red social durante el último mes. En algunos casos, las imágenes correspondían a menores desnudadas digitalmente.
Las medidas y respuesta de Grok, la IA de Elon Musk
La primera reacción de la empresa ante las críticas fue restringir esta función a los suscriptores de pago. Sin embargo, el chatbot continuó produciendo contenido sexual para ese grupo, sin el consentimiento de muchas de las personas cuyas imágenes circulaban en redes sociales.
Ahora, la red social aseguró que tendrá en cuenta la ubicación de los usuarios y las legislaciones nacionales donde esta actividad sea ilegal, aunque no ha explicado cómo aplicará esas jurisdicciones. Mientras tanto, las presiones continúan a nivel global, con pedidos para que Apple y Google retiren Grok de sus tiendas, y con países como Indonesia bloqueando temporalmente el acceso al chatbot.
