La Fiscalía de California decidió iniciar una investigación sobre la inteligencia artificial que utiliza la red social X, denominada Grok, por “facilitar la producción a gran escala de montajes íntimos no consentidos, utilizados para acosar a mujeres y niñas por internet”. La IA a la que se refieren es la que ha desarrollado y patrocinado el hombre más rico, y a ratos polémico del mundo, Elon Musk.
El chatbot de IA de Musk, Grok, se ha puesto en la mira de los sistemas de justicia de distintos países, precisamente por las mismas razones que lo está investigando la justicia en California: por generar más de 3 millones de imágenes manipuladas sexualmente explícitas. Esto es algo que también ha hecho sonar las alarmas en la Comisión Europea.
La comisión Europea investigará a Grok
Hasta ahora, los temores de que la inteligencia artificial termine dominando a la especie humana parecen ser infundados. En cambio, lo que sí parece cierto es que este avance también sirve para violar las leyes y cometer delitos considerados detestables, como intervenir imágenes para sexualizar menores de edad o mujeres adultas sin su consentimiento.
La Comisión Europea, que ya venía desde tiempo advirtiendo sobre algunos malos usos de esta herramienta desarrollada por el multimillonario sudafricano-estadounidense, anunció este lunes 26 de enero la apertura de una investigación, tal y como declaró Regina Doherty, representante irlandesa en el Parlamento Europeo.
“Acojo con satisfacción la decisión de la Comisión de abrir una investigación formal. Cuando surgen informes creíbles sobre el uso de sistemas de IA que perjudican a mujeres y niños, es esencial que la legislación de la UE se examine y se aplique sin demora”.
En un comunicado enviado por correo electrónico la parlamentaria agregó:
“Este caso plantea serias dudas sobre si las plataformas cumplen con sus obligaciones legales de evaluar los riesgos adecuadamente y evitar la difusión de contenido ilegal y dañino”.
La investigación de la Comisión tratará de determinar si X está incumpliendo con la legislación digital de la UE, especialmente con aquella que sirve para proteger los datos e imágenes de los ciudadanos de prácticas ilegales como las que han llevado nuevamente a la plataforma de Elon Musk a primer plano.
El problema: millones de imágenes sexualizadas
Una investigación realizada por el New York Times y el Center for Countering Digital Hate, señaló que en solo 9 días, entre el 31 de diciembre y el 8 de enero, Grok produjo y difundió a través de X cerca de 2 millones de imágenes sexualizadas, alterando fotografías de mujeres y menores de edad, utilizando instrucciones como “ponla en bikini” o “quítale la ropa”.
Además de California, países como Reino Unido, Francia y la India están abriendo investigaciones sobre el uso de la IA en X, y países como Malasia e Indonesia bloquearon el acceso a Grok.
Un primer intento de X por controlar la situación fue anunciar que esta posibilidad de manipular imágenes quedaría restringida a aquellos que pagaran una suscripción, pero esto solo sirvió para indignar mucho más a usuarios en países como Reino Unido.
“Si no actúa, actuaremos nosotros”
Antes de anunciar esta investigación, la Comisión Europea había solicitado a X documentos para comenzar a evaluar si esta empresa estaba vulnerando leyes europeas, especialmente la Ley de Servicios Digitales (DSA).
También invitó a X a tomar medidas en torno a lo que está sucediendo con estas imágenes. En palabras de Laura Pinho, portavoz de la CE: “Si no actúa, actuaremos nosotros”.
Otro portavoz de la UE, Thomas Regnier, comentó: “Elon Musk es libre de operar su compañía en la Unión Europea, pero cumplir con la legislación es obligatorio”.