Nazis y supremacistas blancos están utilizando la IA para difundir sus mensajes y radicalizar a otros
Según un nuevo informe del Middle East Media Research Institute (MEMRI), una organización estadounidense sin fines de lucro dedicada al seguimiento de la prensa, extremistas en todos los Estados Unidos están utilizando herramientas de inteligencia artificial para difundir discursos de odio con mayor eficacia, reclutar nuevos miembros y radicalizar a sus seguidores en internet a una velocidad y escala sin precedentes. Al parecer, los contenidos generados por IA son ahora uno de los pilares de la producción de los extremistas, quienes también están desarrollando sus propios modelos de inteligencia artificial, así como la producción de planos de armas en 3D y recetas para fabricar bombas.
Simon Purdue, director del Domestic Terrorism Threat Monitor de MEMR, explica que “en los últimos años hemos pasado de ver contenidos ocasionales de IA a que la IA constituya una parte significativa de los contenidos de propaganda del odio en Internet, sobre todo en lo que se refiere a vídeos y propaganda visual. Así que a medida que esta tecnología se desarrolle, veremos a los extremistas utilizarla más”. El MEMR está observance especialmente a estos grupos debido a la cercanía de las elecciones estadounidenses.
“La mayor tendencia que hemos observado es el auge del vídeo”, explica Purdue. “El año pasado, el contenido de vídeo generado por IA era muy básico. Este año, con el lanzamiento de Sora, de OpenAI, y otras plataformas de generación o manipulación de vídeo, hemos visto a extremistas utilizarlas como medio para producir contenido de vídeo. También hemos visto mucho entusiasmo al respecto, muchos individuos hablan de cómo esto podría permitirles producir largometrajes”. Según cuenta Wired, los extremistas ya han utilizado esta tecnología para crear vídeos en los que, por ejemplo, Joe Biden profiere insultos racistas durante un discurso y la actriz Emma Watson lee en voz alta Mein Kampf vestida con un uniforme nazi.
Adam Hadley, director ejecutivo de la organización Tech Against Terrorism, afirma que ya han archivado decenas de miles de imágenes generadas por IA y creadas por extremistas de extrema derecha. “Esta tecnología se utiliza principalmente de dos formas”, explica. “En primer lugar, la IA generativa se utiliza para crear y gestionar bots que operan cuentas falsas y, en segundo lugar, al igual que la IA generativa está revolucionando la productividad, también se está utilizando para generar texto, imágenes y vídeos a través de herramientas de código abierto”. Ambos usos ilustran el riesgo significativo de que el contenido terrorista y violento pueda producirse y difundirse a gran escala”. Aunque algunas empresas tecnológicas han tomado algunas medidas para evitar que sus herramientas se utilicen de este modo, los extremistas no se limitan a utilizar aplicaciones de terceros, sino que crean sus propias herramientas sin ningún tipo de protección.
“La IA les ha permitido viralizarse de una forma que antes no, porque empaquetan este contenido y humor en un paquete mimético que es mucho más sofisticado que los anteriores intentos de mensajería mimética”, dice Purdue. ¿Lo más preocupante? Aunque gran parte del contenido compartido en la investigación es de naturaleza antisemita, las herramientas de IA se están utilizando para atacar a todos los grupos étnicos y deshumanizar a la comunidad LGBTQI+. “Seguirá empeorando a medida que se amplíen las capacidades y se desarrolle más la tecnología y veamos cómo los extremistas se vuelven mucho más competentes en su uso y dominan mucho más el lenguaje de la generación de IA”, afirma Purdue. “Ya estamos viendo que eso está ocurriendo”.
Despues de leer, ¿qué te pareció?
-
Me gustó
-
Me prendió
-
Lo amé
-
Me deprime
-
WTF!
-
Me confunde
