La compañía Adobe, en su búsqueda de la inteligencia artificial generativa (IA), permite a sus usuarios cargar y vender imágenes generadas por IA a través de su servicio de suscripción de imágenes de archivo, Adobe Stock. Sin embargo, ha habido preocupaciones con respecto a la falta de transparencia y el posible uso indebido de estas imágenes, particularmente en el contexto del conflicto entre Israel y Hamas. Al parecer, cuando los usuarios buscan imágenes en Adobe Stock, encuentran una combinación de fotografías reales e imágenes generadas por IA. Si bien algunas imágenes generadas por IA están claramente escenificadas, otras están diseñadas para parecer auténticas.

Este problema es particularmente evidente cuando se buscan imágenes relacionadas con Israel, Palestina, Gaza y Hamás. Por ejemplo, una imagen titulada “Conflicto entre Israel y Palestina con IA generativa” presenta una representación fotorrealista de un ataque con misiles en un paisaje urbano. De manera similar, otras imágenes retratan protestas, conflictos sobre el terreno e incluso niños huyendo de explosiones de bombas, a pesar de ser totalmente inventadas. En medio de la circulación generalizada de información errónea y contenido engañoso en las redes sociales sobre el conflicto entre Israel y Hamás, estas imágenes generadas por IA también se comparten sin la divulgación adecuada. Algunos medios de comunicación, blogs y boletines informativos en línea más pequeños han presentado la imagen titulada “Conflicto entre Israel y Palestina con IA generativa” sin mencionar explícitamente su naturaleza generada por IA. Aún no está claro si estas publicaciones son conscientes de que la imagen es falsa.

Otra imagen muestra a una “madre y su hijo en una ciudad destruida en el conflicto bélico entre Palestina e Israel”, un encuadre devastador que fue generado íntegramente por IA. De hecho, es una de una serie de 33 imágenes que muestran una composición similar. Y otra más muestra “edificios destruidos y quemados en la ciudad de Israel”. Todas estas imágenes parecen haber sido enviadas por usuarios de Adobe Stock y aparentemente no fueron generadas por el propio Adobe.

El Dr. T.J. Thomson, profesor titular del RMIT que investiga imágenes generadas por IA, plantea sus preocupaciones sobre la transparencia del uso de imágenes de IA y la capacidad del público para reconocer su autenticidad con el medio australiano Crikey. “Existe la posibilidad de que estas imágenes engañen a la gente, distorsionen la realidad y alteren nuestra percepción de la verdad y la exactitud”, dijo. Agregó que las discusiones con las redacciones como parte de su investigación han descubierto que los temores sobre la posibilidad de desinformación son una de las principales preocupaciones, pero también hay preguntas sobre las implicaciones laborales del uso de imágenes de IA en lugar de fotógrafos en el terreno.

Si bien las imágenes generadas por IA pueden ser una herramienta valiosa, el Dr. Thomson advierte contra su mal uso. Es esencial actuar con prudencia y precaución al incorporar imágenes de IA para evitar ser demasiado cautelosos y, al mismo tiempo, reconocer el potencial de uso indebido. Lograr un equilibrio entre la utilización de imágenes generadas por IA y el mantenimiento de estándares éticos es crucial para navegar en este campo emergente. La situación actual pone de relieve la urgencia de regular el uso y la divulgación de imágenes generadas por IA, pues a medida que la tecnología de IA sigue avanzando, es fundamental establecer directrices que garanticen la transparencia y eviten la difusión de imágenes engañosas o falsas.

Share Twitter Facebook Whatsapp Copy link

Despues de leer, ¿qué te pareció?