El uso de la IA para generar falsos desnudos con menores de edad, que pueden utilizarse para acosar o como parte de redes de pornografía infantil, ya ha producido un buen número de casos judiciales en distintos países, y ya hay varios acusados y condenados por este mal uso de la tecnología.
Algunos gobiernos y entidades, como la Unión Europea, consideran que la responsabilidad por el mal uso de estas herramientas innovadoras va más allá de los usuarios, y que los administradores de algunas de las principales plataformas y redes sociales que cuentan con IA no están haciendo suficiente para evitar su mal uso.
El Gobierno va contra las plataformas donde se difunde pornografía infantil
El presidente Pedro Sánchez utilizó una de las redes sociales que se considera parte del problema, X, para anunciar que se pedirá al Ministerio Fiscal abrir una investigación a plataformas como X, Meta y TikTok por permitir el uso de sus IA para crear y difundir pornografía infantil.
En esta publicación, Sánchez ha afirmado que: “Estas plataformas están atentando contra la salud mental, la dignidad y los derechos de nuestros hijos e hijas. El Estado no lo puede permitir. La impunidad de los gigantes debe acabar”.
Y anuncia: “Hoy el Consejo de Ministros invocará el artículo 8 del Estatuto Orgánico del Ministerio Fiscal para pedirle que investigue los delitos que X, Meta y TikTok podrían estar cometiendo por la creación y difusión de pornografía infantil mediante sus IA”.
El artículo 8 del Estatuto Orgánico del Ministerio Fiscal señala que el Ejecutivo puede solicitar a este organismo la apertura de investigaciones y promover ante los tribunales “las actuaciones pertinentes en orden a la defensa del interés público”.
El Gobierno contra la impunidad de las plataformas
Esta investigación que el Ejecutivo solicita al ministerio Fiscal debería proporcionar herramientas a futuro para que los ciudadanos puedan actuar contra las empresas tecnológicas que permiten el uso de sus plataformas para crear situaciones delictivas.
Según el Gobierno, “la evidente impunidad con la que se actúa en el ámbito de internet y de las redes sociales obliga a que las instituciones públicas recurran a todos los mecanismos existentes para luchar contra este fenómeno”.
A quienes argumentan que la responsabilidad de los delitos que se cometen en estas plataformas y redes es de los ciudadanos que las utilizan, el Gobierno responde que puede haber elementos relacionados con las facilidad para crear pornografía con IA, o el modo con el que se da primacía a unos contenidos sobre otros, mediante algoritmos, que también pueden generar responsabilidad penal.
El escenario que lleva a implementar estas medidas
Aunque en parte esta investigación podría verse como otro frente abierto en el enfrentamiento de Sánchez y el Gobierno con los propietarios de grandes redes como Musk, de X, y Pável Dúrov, de Telegram, también es verdad que se trata de un problema real.
Al menos un 20% de los jóvenes españoles afirma que imágenes suyas en internet han sido manipuladas con IA para crear desnudos que pueden utilizarse como material de pornografía infantil.
Las denuncias por delitos sexuales cometidos a través de internet que involucran a menores de edad han aumentado en un 13% en los últimos años, y el 70% de las víctimas son niños.
El rol de las plataformas en esta actividad delictiva no está solo en la mira del Gobierno español, hay investigaciones en curso en gobiernos estatales de Estados Unidos, la Unión Europea (contra Meta, TikTok y la inteligencia artificial Grok), Francia, Reino Unido, Brasil y Canadá, entre otros.
Se trata de una batalla que involucra a multinacionales con un inmenso poder y capacidad para imponer sus puntos de vista, pero cada vez hay más gobiernos decididos a imponer la ley y el orden en el “Salvaje Oeste” de las redes, entre ellos, el español.