Durante un buen tiempo se ha hablado mucho de los riesgos de los deepfakes, las imágenes y vídeos creados por IA que pueden pasar por reales. Aunque la mayor parte de la atención se centra en los peligros que plantean los deepfakes con respecto a la desinformación, particularmente de tipo político, el uso principal de los deepfakes es la pornografía, y lo cierto es que esto no carece para nada de peligro: la pornografía que utiliza una mezcla de imágenes y vídeos reales y generados ha proliferado en la web, según un nuevo estudio que destaca la propagación viral de esta tecnología naciente.

De acuerdo con la investigación realizada por un investigador independiente y compartida con WIRED, hasta el mes de septiembre, se subieron más de 113.000 vídeos falsos y alterados digitalmente a unos 35 sitios web, un 54% más con respecto a 2022. Una parte importante del tráfico (entre el 50% y el 80%) a los sitios web que albergan pornografía deepfake no proviene de algún rincón oscuro de la web, sino de las puertas principales de Internet: las búsquedas de Google y Bing, según el estudio.

Muchos de los sitios web que albergan el contenido dejan en claro que alojan o difunden videos porno deepfake, a menudo con la palabra o derivados de ella en su nombre. Los dos sitios web principales contienen 44.000 vídeos cada uno, mientras que otros cinco albergan más de 10.000 vídeos deepfake. La investigación también identificó 300 sitios web de pornografía general adicionales que incorporan pornografía deepfake no consensuada de alguna manera. La investigación revela que tan solo un sitio web que se ocupa de fotografías, afirma que ha “desnudado” a personas en 350.000 fotografías.

Al igual que con otros contenidos de IA generativa, los creadores de videos parecen estar extrayendo contenido para generar videos deepfake de toda la web, utilizando imágenes y videos de personas aparentemente sin su consentimiento. Luego, ese contenido se convierte en entretenimiento para adultos y se sube a Internet, exponiendo potencialmente a transeúntes involuntarios al acoso, el abuso y la vergüenza a medida que sus imágenes circulan en estos videos e imágenes explícitos.

¿Lo más preocupante? Es un problema global. Utilizando una VPN, el investigador probó búsquedas de Google en Canadá, Alemania, Japón, Estados Unidos, Brasil, Sudáfrica y Australia, entre otros. En todas las pruebas, los sitios web deepfake ocuparon un lugar destacado en los resultados de búsqueda, demostrando que la propagación de deepfakes se ha vuelto endémica. Asher Flynn, profesor asociado de la Universidad de Monash, Australia, que se centra en la inteligencia artificial y el abuso facilitado por la tecnología, dijo a WIRED que la investigación encontró “altas tasas” de problemas de salud mental (ansiedad, depresión, autolesiones y suicidio) así como como resultado del abuso digital. “Los impactos potenciales en la salud física y mental de una persona, así como en su empleo, familia y vida social, pueden ser inmensos”, dice Flynn, “independientemente de si la imagen es falsa o ‘real'”.

Share Twitter Facebook Whatsapp Copy link

Despues de leer, ¿qué te pareció?