Elon Musk niega que su IA Grok genere imágenes de menores desnudos

El dueño de X, Elon Musk, ha negado este miércoles que Grok, la herramienta de inteligencia artificial (IA) de su red social, haya generado imágenes de menores desnudos, tras la aparición en la plataforma de imágenes de personas -sobre todo mujeres- en ropa interior y en bikini sin consentimiento.

"No tengo conocimiento de ninguna imagen de menores desnudos generada por Grok. Literalmente ninguna", ha escrito Musk en su red social.

El también director ejecutivo de Tesla y fundador de SpaceX ha dicho que Grok solo genera las imágenes que los usuarios le piden y que "se negará a producir cualquier contenido ilegal, ya que el principio de funcionamiento de Grok es obedecer las leyes de cualquier país o estado".

"Puede haber ocasiones en que un ataque informático a las indicaciones de Grok produzca resultados inesperados. Si eso sucede, solucionamos el error de inmediato", ha añadido. Aunque algunos usuarios le han dado la razón, han sido muchos más los que han rebatido sus afirmaciones.

En otro post en su red social, el multimillonario ha preguntado si alguien ha sido capaz de saltarse la moderación de Grok. Las respuestas, en este caso con ejemplos, no se han hecho esperar.

Casos "aislados"

Grok admitió en su cuenta oficial que existían casos "aislados" en los que se habían generado imágenes de niños "con escasa ropa" y ha pedido disculpas a la comunidad cada vez le replicaba con alguno de esos ejemplos "aislados".

Pese a las afirmaciones de Musk y de su chatbot, los datos y las investigaciones llevadas a cabo por distintos organismos y fundaciones que combaten la creación y difusión de este tipo de contenidos (especialmente los que entran directamente en el campo de la pornografía infantil) sugieren que el fenómeno es mucho más extendido.

De hecho, la fundación Internet Watch Foundation ha detectado imágenes sexualizadas de menores generadas con Grok que ya circulan en foros de la dark web.

La generación de imágenes de Grok, bajo la lupa

Las declaraciones de Musk se producen en el marco de un mayor escrutinio tanto de la Unión Europea (UE) como del Reino Unido.

Bruselas describió la aparición de deepfakes (ultrafalsos) sexualmente explícitos no consensuados en X como "ilegales", "atroces" y "repugnantes".

Este mes, los suscriptores de X Premium empezaron a utilizar Grok para generar sin consentimiento imágenes de personas en ropa interior, una inquietante tendencia que llevó a usuarios de todo el mundo a pedir una mayor restricción de la herramienta y la eliminación del contenido generado.

En medio de la creciente tendencia de Grok a crear imágenes de personas en bikini o poca ropa, el pasado 2 de enero, Musk participó en la polémica publicando una foto suya en bikini. Musk le pidió a Grok que modificara una imagen de alguien en bikini generada por IA para que se pareciera a él, petición que la herramienta ejecutó sin problemas. "Perfecto", escribió Musk en sus redes tras ver el resultado de la IA.

No obstante, el pasado 3 de enero, ante las cada vez más numerosas críticas que recibía la herramienta, Musk afirmó que "cualquiera que utilice Grok para crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal", en respuesta a una publicación sobre imágenes inapropiadas.

El equipo de seguridad de la compañía publicó un mensaje similar, advirtiendo de que toma medidas contra la actividad ilegal, incluido el material de abuso sexual infantil.