En estos días, la IA se vende como una nueva realidad, una que no puede faltar para nadie en ningún dispositivo. La IA te ayuda a escribir mejor, a darte todas las respuestas que necesites, a ser más “creativo”. La IA genera imágenes con una simple descripción: no hay límites a la hora de generar las imágenes que quieras. Incluso por su naturaleza de código abierto, puedes hacerlo de manera local, en tu computadora, sin conectarte a internet. Y si hay personas que están aprovechando completamente las ventajas de la IA en la dark web para crear material de abuso sexual infantil (CSAM, por sus siglas en inglés). Un reportaje de The Guardian publicado hoy incluso encontró que algunos incluso buscan hacer nuevo material tomando como referencias a “estrellas” del CSAM, revictimizando a estos menores en nuevas situaciones de abuso.

“Las comunidades de personas que comercian con este material se encaprichan de niños concretos”, afirma Sarah Gardner, directora ejecutiva de Heat Initiative, una organización sin ánimo de lucro de Los Ángeles centrada en la protección de la infancia. “Quieren más contenido de esos niños, lo que la IA les ha permitido hacer ahora”. Según el medio, que profundizó en algunos foros de la dark web, encontraron mensajes como: “¿Podrías hacer que la IA recree las bellas imágenes de las antiguas estrellas de CP [pornografía infantil] [nombre de la víctima redactado] y [nombre de la víctima redactado] y ponerlas en algunas escenas, como [nombre de la víctima redactado] con un uniforme tradicional de colegiala católica en la escuela primaria, y [nombre de la víctima redactado] con un atuendo de animadora en la escuela secundaria?”.

Según un informe publicado este año por el Centro Nacional para Menores Desaparecidos y Explotados de EE.UU, recibió 36,2 millones de denuncias de este tipo en su CyberTipline en 2023, de los que casi 5.000 eran el resultado de IA generativa, aunque dice que el recuento real es probablemente considerablemente mayor. Fallon McNulty, director de la CyberTipline, afirmó a Forbes: “Lo que realmente nos asusta es la escala… ya ha tenido un impacto muy grande”. En el último año se ha producido un pronunciado aumento de las denuncias de generadores de imágenes de IA utilizados para crear imágenes ilegales de abusos sexuales. Las fotos de estudiantes desnudos en deepfakes están causando estragos en secundarias y primarias de EE.UU., por ejemplo, y algunas de las nuevas herramientas de IA más populares del mercado han utilizado CSAM ilegales para entrenar sus modelos.

“Imágenes no consentidas mías de cuando tenía 14 años pueden resucitar para crear nuevas imágenes de abusos sexuales a menores, y vídeos de víctimas de todo el mundo”, dijo Leah Juliett, de 27 años, superviviente de material de abusos sexuales a menores y activista. “Saber que mis fotos pueden seguir siendo utilizadas como armas sin mi consentimiento para dañar a otros niños pequeños, es un dolor y un sentimiento de impotencia e injusticia”. Agregó: “Mi cuerpo nunca volverá a ser mío, y eso es algo con lo que muchos supervivientes tienen que lidiar”, añadió. En un informe de octubre de 2023, la Internet Watch Foundation (IWF) afirma haber encontrado más de 20.000 imágenes sexuales de niños generadas por IA que se publicaron en un solo foro de la web oscura en un periodo de un mes en septiembre. “Las imágenes muestran la violación de bebés y niños pequeños, abusos sexuales a preadolescentes famosos, BDSM (esclavitud y disciplina, dominación y sumisión, y sadomasoquismo), contenido protagonizado por preadolescentes y adolescentes, y mucho más”, afirma el informe.

En el último año, los generadores de imágenes de IA han mejorado en todos los ámbitos, y sus resultados son cada vez más realistas. Los expertos en seguridad infantil afirman que las imágenes fijas generadas por IA no suelen distinguirse de las fotos reales, y si bien los criminales que buscan imágenes explícitas se van a la deep web, una buena parte simplemente usan TikTok o Instagram, en donde miles de cuentas generan imágenes aparentemente inocentes de menores. La realidad queda demostrada en los comentarios, con miles de hombres que se inclusos se atreven a decir cosas como: “Si esto es generado por IA, ¿me hace mal decir que está buena?”, escribió un TikToker sobre un vídeo de niñas completamente vestidas con disfraces de Spider-Man. “No es real, pero tengo una gran imaginación”.

Dado que los navegadores de la web oscura permiten a los usuarios ser anónimos o ilocalizables, los grupos de seguridad infantil disponen de pocos medios para solicitar la retirada de estas imágenes o denunciar a los usuarios a las fuerzas de seguridad. Los defensores de la infancia han pedido una legislación que vaya más allá de la penalización para impedir la producción de imágenes sexualizadas de niños, por IA o de otro modo. No obstante, son pesimistas y creen que no se puede hacer mucho para imponer prohibiciones a la creación de nuevas imágenes sexualizadas de niños, ahora que la IA que las permite es de código abierto y privada. Los servicios de mensajería cifrada, que ahora suelen ser opciones por defecto, permiten a los depredadores comunicarse sin ser detectados.

Share Twitter Facebook Whatsapp Copy link

Despues de leer, ¿qué te pareció?