Google integra generador de imágenes con IA en Google Earth, pero expertos alertan sobre riesgos de desinformación
Google ha incorporado su herramienta de generación de imágenes mediante inteligencia artificial, Nano Banana, a Google Earth, permitiendo a los usuarios crear vistas satelitales ficticias de escenarios históricos, futuros o incluso alternativos con solo escribir un comando. La función, presentada como una "experiencia divertida", ya ha demostrado su potencial para generar deepfakes geográficos que podrían usarse para manipular la percepción pública.
Imágenes falsas en segundos
Periodistas e investigadores han comprobado que la herramienta puede fabricar escenarios falsos con un realismo alarmante: desde campos de refugiados en la frontera de México hasta plantas nucleares en Irán o explosiones en ciudades europeas como Barcelona o Melilla. El Periódico replicó estos experimentos, generando en minutos imágenes convincentes de catástrofes o conflictos que nunca ocurrieron.
La credibilidad de las imágenes satelitales, en riesgo
Hasta ahora, las imágenes por satélite eran un recurso clave para verificar eventos en zonas de conflicto como Ucrania o Gaza, usadas por investigadores de open-source intelligence (OSINT). La integración de IA en Google Earth, sin embargo, amenaza con erosionar esta confianza. "Una falsificación puede viralizarse antes de que llegue la verificación", advirtió Mahsa Alimardani, experta en tecnología y derechos humanos de la organización Witness.
Las medidas de Google, cuestionadas
La compañía asegura que todas las imágenes generadas llevan una marca de agua digital (SynthID) y que bloquea contenidos sensibles. También recomienda usar su app Gemini o la herramienta Lens para detectar creaciones con IA. No obstante, pruebas periodísticas revelaron que los filtros no impiden la generación de desinformación.
El dilema tecnológico
El lanzamiento refleja un patrón recurrente en la industria: herramientas de IA se implementan antes de resolver sus riesgos sociales. Mientras Google promueve la innovación, expertos piden mayor transparencia y controles efectivos para evitar que la tecnología se convierta en un arma de manipulación masiva.
Una respuesta
Estimado equipo editorial de Express Diario,
Les escribo en nombre de WITNESS, organización de derechos humanos en la que trabaja Mahsa Alimardani, citada en su artículo sobre la integración de la IA generativa en Google Earth (https://expressdiario.com/tecnologia/google-earth-integra-ia-generativa-de-imagenes-lo-que-facilita-la-creacion-de-falsas-imagenes-satelitales/). Gracias por tratar este tema, es precisamente el tipo de riesgo que seguimos muy de cerca.
Me gustaría aportar algunos datos adicionales que podrían resultar útiles para futuras publicaciones:
– Nuestros compañeros shirin anlen y Sam Gregory escribieron recientemente sobre este mismo tema: cómo Google Earth funciona como infraestructura de verificación para periodistas, tribunales e investigadores, y por qué añadir capacidad generativa a esa herramienta socava la confianza que tardó décadas en construirse: https://www.techpolicy.press/google-earth-ai-fiasco-underscores-why-tech-firms-must-listen-to-outside-experts/ (texto en inglés)
– WITNESS también gestiona la «Deepfake Rapid Response Force», una red que ofrece a periodistas y verificadores de datos acceso a herramientas de detección basadas en IA y a expertos voluntarios para autentificar contenidos sospechosos en tiempo real: https://www.gen-ai.witness.org/deepfakes-rapid-response-force/ (página en inglés)
– Además, recientemente hemos publicado un informe sobre las credenciales de contenido de la C2PA, en el que se analiza cómo y dónde los sistemas diseñados para demostrar la autenticidad de las imágenes pueden tener éxito o fracasar: https://library.witness.org/product/c2pa-privacy/ (página en inglés)
Nos encantaría servir de recurso si necesitan una fuente experta para un artículo de seguimiento sobre este tema.
Gracias de nuevo por su cobertura.
Saludos,
Mwara Gichanga