Google nunca debió haber incluido Nano Banana en Google Earth

La semana pasada, Google lanzó su modelo de generación de imágenes por IA, Nano Banana 2, para Google Earth, su programa de exploración mundial.

La compañía promocionó la integración como una forma de crear infografías sobre diferentes lugares del planeta o generar paisajes históricos a partir de imágenes actuales.

También se invitó a los usuarios a visualizar la casa de sus sueños con fondos reales; así, si tenías planes de ampliar tu casa o imaginabas una casa de vacaciones junto al lago, podías visualizarla en Google Earth con Nano Banana 2.

La noticia se suma a la tendencia de Google de integrar sus plataformas de IA en prácticamente todos sus productos y servicios (por ejemplo, la semana pasada añadió nuevas funcionalidades de Gemini a Google Docs para usuarios de Workspace).

Desde la perspectiva de la empresa, probablemente tenía todo el sentido del mundo añadir Nano Banana 2 a Google Earth. Sin embargo, resultó que Gemini no estaba diseñado para este producto.

Google Earth ya ha lanzado Nano Banana 2

Tan solo un día después de que Google lanzara esta importante integración de Nano Banana 2, la retiró.

La compañía publicó una actualización de su anuncio original, que decía: "Sabemos que la gente confía plenamente en Google Earth para obtener una visión fiable del mundo. Hemos visto a profesionales geoespaciales usar esta función para diversos fines útiles; sin embargo, también hemos visto a personas compartiendo capturas de pantalla de imágenes generadas que parecen infringir nuestras políticas. Por lo tanto, estamos retirando esta función de Google Earth mientras trabajamos en la implementación de medidas de seguridad más estrictas. Es importante destacar que las imágenes generadas no aparecían en la experiencia principal de Google Earth para que otros las vieran y tenían una marca de agua que indicaba que habían sido generadas por IA".

Esta afirmación no describe adecuadamente las imágenes que los usuarios generaban con esta herramienta. En mi opinión, fue más allá de "violar" las políticas de Google: Internet, como era de esperar, utilizó Nano Banana 2 para generar imágenes inapropiadas e insensibles basadas en lugares reales.

Quizás no sorprenda saber que una de las imágenes más virales fue la de un avión estrellándose contra el nuevo World Trade Center en Manhattan. Otras imágenes mostraban la Torre Eiffel destruida o las pirámides egipcias derrumbándose en un socavón. Si bien muchos probablemente entenderían que estas imágenes se produjeron en broma, muchos otros podrían ver estas imágenes "oficiales" de Google Earth en línea y suponer lo peor.

Pero más allá de las bromas, el potencial de desinformación era alarmante. Por ejemplo, un usuario mostró cómo utilizó la herramienta para colocar refugiados hombro con hombro cerca de la frontera con México. Uno podría imaginar que una imagen así se viralizara, engañando a los espectadores y haciéndoles creer que la imagen de Google Earth era una imagen satelital real.

Es probable que Google tenga ciertas medidas de seguridad que impidan la generación de muchas imágenes, pero claramente esas limitaciones no fueron suficientes. Y dado que cualquiera, independientemente de si había pagado por las funciones de IA de Google o no, podía usar Nano Banana 2 con Google Earth, bastaba con abrir Google Earth y manipular una solicitud maliciosa hasta que obedeciera Nano Banana 2.

La IA generativa no tiene cabida en una herramienta como Google Earth

No hace falta ser un escéptico de la IA para explicar por qué esto fue una mala idea desde el principio; pero, claro, pocas empresas de IA parecen mostrar escepticismo antes de incorporar funciones de IA generativa a sus productos.

Herramientas como Google Earth están diseñadas para ser educativas. Se utilizan para aprender sobre el mundo, su geografía y el aspecto de diferentes ciudades y paisajes. Personalmente, me encanta pasar tiempo girando el globo terráqueo digital para conocer un lugar nuevo, y a menudo marco un punto al azar para ver cómo se ve en Street View. La razón por la que hago esto es que entiendo que Google Earth ofrece una visión precisa y fiable del mundo; si no fuera así, ¿Para qué me molestaría?.

Por lo tanto, no le encuentro sentido a que Google presente una herramienta que, por necesidad, genera representaciones inexactas y falsas del mundo.

Uno de sus puntos fuertes era mostrar un lugar en el mapa tal como lucía en el pasado, pero eso no es lo que hacía Nano Banana 2. En cambio, la IA recurría a sus datos de entrenamiento para generar lo que creía que sería una representación histórica de la zona en cuestión.

Si le pedías que te mostrara cómo era París en 1726, probablemente superpondría edificios y estructuras genéricas en el mapa, en lugar de representar cómo era París realmente hace trescientos años. Lo que se obtiene es la ilusión de la historia; entretenida, quizás, pero sin duda no educativa, no mejor que navegar por la basura histórica generada por IA en las redes sociales.

Lo mismo ocurre con las infografías de la IA. Empresas como Google suelen promocionar el potencial de la IA como herramienta educativa, y a primera vista, parece una gran idea que Google Earth genere gráficos didácticos para enseñar sobre una ubicación en el mapa.

Pero el gráfico generado no pasa por ninguna revisión, y mucho menos por la de un experto: la imagen que produce Nano Banana 2 podría estar llena de medias verdades y alucinaciones y, lo que es peor, no ofrece ninguna fuente que permita comprobar el trabajo de la IA. Los usuarios ocasionales pueden retener la información que "aprenden" de estas infografías, independientemente de si los datos son correctos o no.

En el peor de los casos, esta función era una máquina de desinformación. Si querías convencer a la gente de que algo malo había ocurrido en una parte concreta del mundo, bastaba con escribir tu solicitud y Nano Banana 2 podía generar una imagen satelital realista de tu idea para compartirla fácilmente en redes sociales.

En un momento en que la IA propaga la desinformación a un ritmo vertiginoso, esto no hace más que echar leña al fuego. Empresas como Google deberían buscar maneras de separar la basura generada por la IA de la información real, en lugar de contribuir a su proliferación.

Esto no es un argumento en contra de las herramientas de IA en su totalidad, sino un argumento en contra de integrar la IA generativa en una herramienta educativa. Desconozco qué utilidad cree Google que tiene la IA al distorsionar la verdad con falsedades, más allá de proporcionarle otro ejemplo al que atribuirse para presumir de su supuesto "éxito" en IA.