Las denuncias sobre el uso de la IA para desnudar o simular desnudos de personas conocidas, especialmente mujeres, comenzaron casi al mismo tiempo que se pusieron a disposición de los usuarios software de IA que facilitaban la manipulación de imágenes. Las primeras denuncias estuvieron relacionadas con actrices de Hollywood, pero ahora las personas expuestas son más cercanas.
Ya son varias las denuncias por usar la IA para desnudar, o simular desnudos, a compañeras de clase, menores de edad y sin su consentimiento, subir las imágenes a redes sociales, comercializarlas o usarlas para extorsionar o hacer bullying, lo que ha obligado a varios gobiernos y Estados a intervenir.
El mal uso de la IA en un instituto en La Rioja
El caso más reciente en España se acaba de presentar en el instituto Manuel Bartolomé Cossío de Haro, en La Rioja, donde un grupo de estudiantes compartieron en un grupo de WhatsApp imágenes manipuladas de diez alumnas, entre 14 y 16 años, desnudándolas utilizando la IA.
Lo que hacen es tomar el rostro de una compañera y superponerlo sobre un cuerpo desnudo que se parezca al de la estudiante, y luego la IA ajusta detalles como el tono de piel para que parezca creíble.
La denuncia fue hecha por el padre de una de las agraviadas, avisado por las autoridades del instituto y que también indicó que estaban tomando medidas al respecto. El caso llegó a los medios y fue reportado por el diario La Rioja, donde se señaló que la Consejería de Educación del Gobierno de La Rioja ya abrió una investigación.
La Consejería confirmó al diario que la investigación está en curso, en conjunto con autoridades del instituto, para identificar y sancionar a los responsables de este ataque a la intimidad, el honor y la dignidad de las alumnas.
Cambios en la Ley para proteger a las menores de edad
Son imágenes falsas, pero que pueden hacer mucho daño, especialmente cuando se trata de menores de edad y de adolescentes.
Esta denuncia casi coincide con el anuncio de la aprobación por parte del Consejo de Ministros del anteproyecto para poner al día e incluir delitos como este en la Ley Orgánica de protección civil de derecho al honor, a la intimidad personal y familiar y a la propia imagen.
Entre los cambios propuestos a la ley, se incluye considerar ilegítimo el uso de la voz o la imagen de una persona sin su autorización para fines comerciales o publicitarios, y su manipulación utilizando la IA u otros programas similares.
En el anteproyecto se mejora la protección de los menores, llevando a los 16 años la edad de consentimiento cuando se trata de la propia imagen; y aún dando su consentimiento, si el uso de la imagen afecta negativamente la dignidad del menor, se podrá considerar como uso ilegítimo y por lo tanto objeto de sanción.
Otro de los cambios importantes en esta ley es que obligará al Ministerio Fiscal a intervenir cuando en los casos de deepfakes estén involucrados menores de 18 años.
Badajoz: un precedente en la protección de datos
En 2023 se presentó una denuncia parecida, ocurrida en Badajoz: un menor de edad utilizó la aplicación ClothOff para hacer ver a una compañera de aula como si estuviera desnuda, y la puso a circular por las redes sociales.
La investigación de este caso llevó a descubrir que había más de 20 menores de edad en una situación similar, y que algunas de estas imágenes podían encontrarse en plataformas como OnlyFans.
El caso tuvo un cierre inesperado, que además sienta un precedente: la Agencia Española de Protección de Datos, AEPD, impuso una multa de 2.000 euros a los padres del menor, por crear y difundir imágenes falsas de una menor de edad, sin su autorización o la de sus representantes.