Las fotos generadas por IA a menudo pasan desapercibidas debido a la mejora de la tecnología
La difusión de contenido generado por IA es un maremoto que no se puede detener, y las redes sociales como Facebook están llenas de ello. Entonces, ¿cómo puedes detectar este contenido y por qué se comparte con tanta seriedad?
Las fotos generadas por IA se están apoderando de Facebook
Se necesitan unos segundos para generar una imagen usando herramientas como DALL-E o Midjourney, y estas herramientas mejoran con cada actualización. Si bien algunas personas pueden detectar fácilmente las fotos generadas por IA, es menos probable que otras cuestionen lo que ven en su muro de Facebook.
"Ver para creer" ya no suena cierto. Este ha sido un problema desde los días de las primeras falsificaciones de Photoshop. Pero si bien hay algunas reveladoras señales de que una imagen ha sido manipulada a mano, puede ser mucho más difícil distinguir una foto generada por IA.
A principios de 2024, una ola de imágenes llegó a Facebook centradas en un tema extraño: las botellas de plástico. Estas imágenes comúnmente presentaban una fotografía generada por IA de un objeto construido enteramente con botellas de plástico, junto a la persona (generalmente un niño) responsable de su creación.
Esta locura parece haber comenzado en grupos de Facebook y muchas de las estatuas son de naturaleza religiosa. Aquí hay un ejemplo temprano:
Pero el meme pronto se hizo popular, y muchas páginas publicaron y volvieron a publicar contenido igual o similar, aparentemente en serio. Estas imágenes a menudo iban acompañadas de una leyenda de estilo "mi hijo hizo esto" y presentaban macabras características generadas por IA (para agregar al tema general cuestionable).
El compromiso es la principal motivación para publicar estas imágenes. Resuenan en un público específico, en particular aquellos que no las detectan de inmediato por lo falsas que son. Las personas interactúan con el contenido dejando comentarios o reacciones, lo que aumenta aún más el alcance de la publicación. Facebook también está inundado de bots, lo que agrava el problema.
Esto influye en la forma en que se difunde el contenido en redes como Facebook. Cuanto más participación obtiene una publicación, más se difunde. Para algunas páginas, este alcance representa una oportunidad de ganar dinero con publicaciones patrocinadas y enlaces de afiliados, mientras que para otras es suficiente el hecho de estar en una posición de influencia.
Detectar las falsificaciones de la IA
Los conceptos básicos para detectar fotografías generadas por IA no son una ciencia perfecta. No existe una única herramienta que puedas utilizar para "escanear" una imagen, y no todas las fotografías tienen las características de ser falsas. Dicho esto, hay algunas cosas básicas que puedes tener en cuenta.
Dado el estado de la tecnología actual, la IA está lejos de ser perfecta. La mayor parte del tiempo, existen problemas con las imágenes generadas por IA. En particular, los detalles más finos como los dedos, los objetos sostenidos, las gafas y el cabello pueden delatar el juego. Para objetos inanimados, observa los detalles finos como postes de cercas, marcos de ventanas y la forma en que se cruzan los materiales.
Como puedes ver en algunas de las abominaciones de las botellas de plástico que aparecen a lo largo de este artículo, muchas imágenes generadas por IA tienen una "apariencia" o un "aura" que es difícil de ubicar. Puede ser un efecto de "valle inquietante" donde los rostros parecen inhumanos. La iluminación puede ser plana y no coincidente, los sujetos pueden parecer brillar como si estuvieran iluminados por otra fuente y los objetos no se ven bien cuando se colocan uno al lado del otro.
En el caso de las estatuas de botellas de plástico, ninguno de los logotipos está formado correctamente. Todos parecen marcas vagamente reconocibles, pero ninguno se lee como cabría esperar. La forma en que las botellas se cruzan en las esculturas a menudo no tiene sentido. La construcción con botellas de plástico es algo real (a veces se utilizan para crear invernaderos) y no se parecen en nada a este reciente lote de falsificaciones de IA.
Durante mucho tiempo nos han dicho que cuestionemos lo que leemos en línea, particularmente en Facebook. Hemos llegado a aceptar que es normal cuestionar noticias, solicitudes de recaudación de fondos, anuncios de trabajo falsos, posibles estafadores, etc. Es hora de extender eso a los medios visuales en su conjunto y mantener un nivel saludable de escepticismo.
El vídeo será el siguiente
Las imágenes generadas por computadora, o CGI para abreviar, han estado sorprendiendo a la gente durante décadas. Estos son los efectos que ves en las películas, creados a mano por humanos y combinados con imágenes reales para crear magia cinematográfica. CGI también se ha utilizado ampliamente para crear vídeos en línea convincentes pero falsos.
El vídeo generado por IA es un poco diferente. No depende de que los humanos creen una ilusión y la mezclen a mano, sino de modelos entrenados con imágenes reales para crear videoclips a partir de indicaciones. Aunque los vídeos generados por IA de aspecto convincente están en sus primeras etapas, modelos como SORA de OpenAI están impulsando la tecnología a un ritmo alarmante.
En el lado positivo, el vídeo generado por IA no puede escapar de muchos de los problemas que afectan a la fotografía generada por IA. Es posible detectar vídeos generados por IA, pero a medida que mejore la tecnología, será más difícil. También es una nueva frontera, una que mucha gente no pensaría en cuestionar.
Hemos estado retocando imágenes con Photoshop durante décadas, pero el vídeo es mucho más difícil. Con el vídeo, no serán sólo animales hechos de botellas de plástico y hazañas de ingeniería impresionantes pero improbables, sino personas reales, informes de noticias simulados, anuncios "oficiales" engañosos y mucho más.
Quizás pronto sea el momento de volver al "Facebook clásico", donde sólo se utiliza la red como herramienta para mantenerse en contacto con personas que realmente conoces. Es posible que pronto no puedas confiar en tu dosis diaria de fotos y vídeos divertidos, inspiradores o lindos. Encontrarás esta opción en el menú "Feeds" seleccionando "Amigos".
No es sólo un problema de Facebook
Parece injusto señalar a Facebook, pero resulta que la red social más grande del mundo es un semillero de tonterías generadas por IA. Siempre iba a ser así, mientras los administradores de páginas luchan por conseguir Me gusta, seguidores, alcance y esa participación tan importante.
Google Imágenes también está inundado de imágenes generadas por IA. Los artistas lamentan la pérdida de material de referencia confiable desde que una avalancha de fotografías generadas por IA llegó a la web hace unos años. Los crocheters aficionados comparten consejos sobre cómo evitar patrones engañosos que no existen.
Bloomberg tiene una historia y un cuestionario sobre la proliferación de imágenes generadas por IA que se hacen pasar por fotografías reales y que aparecen en los resultados de Google. A veces, las imágenes generadas por IA aparecen junto con búsquedas de personajes y eventos famosos, lo que potencialmente distorsiona la realidad.
Estamos al borde de una Internet repleta de mentiras. Este es un problema que afecta a toda la web y afecta a todas las redes y plataformas sociales. La generación de imágenes por IA (y pronto vídeos) facilita la creación de contenido para plataformas como TikTok e Instagram, y los generadores de texto a voz articulados naturalmente aceleran aún más el proceso.
Vale la pena tomarse un momento para pensar en lo que esto significa para el futuro de Internet. La teoría de la Internet muerta plantea la hipótesis de que la mayoría del contenido y las interacciones que vemos en línea ya no son humanos. Incluso si esto no es cierto actualmente, no es difícil imaginar un futuro en el que lo sea.
Por ahora, tal vez sea el momento de hablar con amigos y familiares si ves que les gusta, comentan o comparten contenido que sabes que está generado por IA. No hay forma de detenerlo, pero cada vez más personas están tomando conciencia del problema y ese es un primer paso importante.
