Google Earth y la IA generativa: un experimento fallido
La efímera función de Google Earth estaba impulsada por el modelo de IA "Nano Banana 2" de la compañía. Su propósito, según fuentes internas de la empresa, era explorar nuevas formas de interacción y aumentar el engagement de los usuarios, así como generar posibles nuevas vías de ingresos, en un momento en que Alphabet Inc. (NASDAQ:GOOGL) está invirtiendo fuertemente, 205 mil millones de dólares, en infraestructura de inteligencia artificial. Google había afirmado que las imágenes generadas por esta herramienta incluirían marcas de agua digitales "SynthID", verificables con herramientas como Gemini o Google Lens, diseñadas para asegurar la autenticidad. No obstante, la promesa de estas salvaguardas se disipó rápidamente. Expertos en seguridad digital demostraron con facilidad cómo estas marcas de agua podían ser eludidas, ya sea mediante simples capturas de pantalla de las imágenes o por la incapacidad de Gemini para detectarlas en algunos casos. Publicaciones especializadas y medios de comunicación global como Investing.com, CBC, Computing UK, The Times of India, NDTV, TechCentral.ie, TribLIVE.com, Axios, Forkast.News, Federation of American Scientists, The Guardian y Malwarebytes, informaron unánimemente sobre la brevedad del experimento, que duró "menos de 24 horas" o "un día", evidenciando la magnitud del error y la celeridad con la que Google tuvo que reaccionar para mitigar los daños.
La confianza global en juego
La introducción de la función de IA generativa en Google Earth provocó una inmediata y contundente ola de reacciones negativas por parte de expertos y organizaciones internacionales. Sam Gregory, director ejecutivo de WITNESS, una organización dedicada a la tecnología para la documentación de abusos, manifestó su consternación, señalando que la herramienta "facilitaba mucho la manipulación de imágenes satelitales". Nathaniel Raymond, quien dirige el Laboratorio de Investigación Humanitaria de la Universidad de Yale, fue aún más crítico, calificando la situación como "un millón de veces más difícil" para el trabajo vital de documentación de abusos de derechos humanos. La facilidad con la que se podían generar "deepfakes" de alta sensibilidad fue demostrada por el periodista de investigación y experto en IA Henk Van Ess, quien pudo crear imágenes falsas de "refugiados cerca de la frontera mexicana" o una "planta nuclear en Irán", ejemplos que ilustran el potencial devastador de la herramienta para la desinformación y la propaganda. Henry Ajder, un reconocido especialista en "deepfakes", advirtió que la función "minaba la confianza en una fuente en la que muchos han confiado durante años", mientras que Ross Burley, del Centre for Information Resilience, fue enfático al afirmar que la confianza en las imágenes satelitales, construida meticulosamente durante décadas, podría ser "dañada irrevocablemente de la noche a la mañana". Estas declaraciones subrayan la grave preocupación por la erosión de la credibilidad de fuentes de información geoespacial que son fundamentales para el periodismo, la investigación científica y la verificación de derechos humanos.
La postura regulatoria de Latinoamérica
En contraste con el experimento fallido de Google, la región latinoamericana se encuentra en una etapa activa de desarrollo de marcos regulatorios para la inteligencia artificial, adoptando en gran medida el modelo de gobernanza basado en riesgos de la Unión Europea. Países como Chile han actualizado su Política Nacional de IA e introducido una propuesta para regular las imitaciones digitales realistas. Argentina y Colombia también han propuesto o promulgado leyes relacionadas con la problemática de los "deepfakes", conscientes del potencial desestabilizador de esta tecnología. Un ejemplo destacado es Brasil, que implementó regulaciones estrictas para sus elecciones municipales de 2024, prohibiendo explícitamente el contenido generado por IA sin etiquetar en un esfuerzo por combatir la desinformación política. A pesar de estas iniciativas, la región enfrenta desafíos significativos, incluyendo la desregulación en algunos mercados y una notable "heterogeneidad legal regional" que complica la armonización de políticas. Curiosamente, a pesar de las preocupaciones, la región muestra un optimismo considerable hacia la IA generativa: un 56% de los profesionales latinoamericanos encuestados expresaron entusiasmo, superando el 27% global, y un 85% cree que debería integrarse en su trabajo. Sin embargo, las preocupaciones éticas siguen siendo predominantes, con la privacidad de los datos (53%), los sesgos algorítmicos y la desinformación como los principales focos de inquietud. Luciana Benotti, especialista en IA de la Universidad Nacional de Córdoba, Argentina, resalta que la desinformación es un "problema grave" para el que "nadie en la IA conoce la solución" y advierte sobre la "homogeneización del pensamiento" y la "validación de la desinformación" si las instituciones adoptan herramientas de IA sin la debida consideración.
Que significa para Latam
El efímero experimento de Google Earth sirve como una advertencia crucial para Latinoamérica. La región, que está abrazando la IA con entusiasmo pero también con cautela regulatoria, no puede permitirse el lujo de la desatención. La capacidad de generar "deepfakes" de manera sencilla y rápida, como se demostró, plantea riesgos directos para la estabilidad política y social, la integridad de los procesos electorales y la confianza en las instituciones. Este incidente subraya la necesidad de que los países latinoamericanos refuercen sus marcos regulatorios, promuevan la alfabetización digital y exijan transparencia y responsabilidad a las empresas tecnológicas que despliegan herramientas de IA. El equilibrio entre fomentar la innovación y proteger a la ciudadanía de la desinformación será clave para el desarrollo sostenible de la IA en la región, especialmente frente a la "homogeneización del pensamiento" y la "validación de la desinformación" que advierte la especialista Luciana Benotti. La experiencia de Google Earth debe ser un catalizador para la acción preventiva en lugar de reactiva.
