Un lanzamiento vertiginoso y una desactivación igual de rápida: así puede describirse la historia del generador de imágenes con IA basado en el modelo Nano Banana, que Google integró en Google Earth. La herramienta duró menos de 24 horas antes de que los desarrolladores se vieran obligados a desactivarla. La razón es trivial y, a la vez, reveladora: los usuarios encontraron al instante la manera de violar las normas del servicio, convirtiendo el producto cartográfico en una plataforma para crear contenido abiertamente desinformativo.
La esencia de la función consistía en "dibujar" cualquier punto o evento directamente en el mapa mediante una solicitud de texto. Sonaba como una herramienta creativa conveniente para visualizar escenarios hipotéticos. Sin embargo, la realidad resultó ser mucho menos inofensiva. A las pocas horas del lanzamiento, las redes sociales se llenaron de imágenes generadas por la red neuronal que mostraban, por ejemplo, un cráter gigante por una explosión en Los Ángeles o el Capitolio de EE. UU. inundado.
Lo que resulta especialmente alarmante es que el sistema ni siquiera manejaba la moderación básica de solicitudes. El investigador de datos abiertos Henk van Ess, durante sus pruebas, descubrió que sus prompts, incluidos los que pedían crear imágenes de refugiados en la frontera con México o de una instalación nuclear en Irán, pasaban sin ningún bloqueo. Esto es una evidencia directa de que los mecanismos de filtrado de contenido en Nano Banana o no existían, o estaban configurados de manera extremadamente superficial.
Desde una perspectiva de análisis profesional, este incidente no es solo un fallo técnico, sino un síntoma de un problema sistémico. Google intenta una vez más integrar IA generativa en productos masivos, pero la prisa conlleva riesgos reputacionales. Cuando se trata de servicios cartográficos, que se perciben como una fuente de datos objetivos, cualquier manipulación de la visualización de la realidad es especialmente peligrosa. Las imágenes falsas de catástrofes u objetivos militares pueden provocar pánico o utilizarse con fines propagandísticos.
Mi veredicto: Google hizo lo correcto al revertir la función, pero el mero hecho de este lanzamiento plantea preguntas sobre los procesos internos de control de calidad. En la búsqueda de innovación, no se puede olvidar la responsabilidad básica hacia los usuarios. La lección para toda la industria es evidente: la IA generativa en productos geoespaciales requiere no solo una implementación técnica, sino también un profundo desarrollo de limitaciones éticas y legales. De lo contrario, corremos el riesgo de obtener una herramienta que no informa, sino que manipula.