El 5 de septiembre de 2026, la comunidad tecnológica y de aventura despertó con la noticia del rescate de tres excursionistas novatos del imponente Monte Shasta, una montaña de 4.322 metros (14.179 pies) en Estados Unidos. El suceso, reportado inicialmente por TechCrunch y replicado por medios como Futurism, AI Chat Daily y Digital Trends, reveló un detalle crucial y preocupante: los excursionistas habían confiado en Google Gemini para planificar su expedición, incluyendo la estimación de comida y agua necesarias. Según la Oficina del Sheriff del Condado de Siskiyou, la IA les habría aconsejado llevar "mucha menos comida y agua de la que su grupo requería", transformando un ascenso de 8 horas en un "calvario de varios días".
Los excursionistas, originarios de Roseville, California, iniciaron su ascenso a las 3:00 AM del domingo 3 de septiembre. Aunque se recomendaba regresar al mediodía por seguridad, alcanzaron la cima a las 7:00 PM. Durante el descenso en la oscuridad, la desorientación los llevó al Cañón Mud Creek, donde uno de ellos sufrió una lesión en la rodilla, forzándolos a pasar la noche a la intemperie. El rescate se efectuó a la mañana siguiente gracias a guardabosques del Servicio Forestal de EE. UU. y voluntarios locales. Este incidente no solo destaca la negligencia en la preparación, sino que lanza una seria advertencia sobre los límites actuales de la IA y la ética de su implementación, un debate que resuena fuertemente en Latinoamérica ante la creciente adopción de estas tecnologías.
Cómo funciona Google Gemini y dónde falló
Google Gemini es uno de los modelos de IA más avanzados de Google, diseñado para ser multimodal, lo que significa que puede comprender y operar a través de diferentes tipos de información, incluyendo texto, código, audio, imagen y video. Como modelo de lenguaje grande (LLM), su función principal es procesar lenguaje natural, generar texto, traducir, responder preguntas y realizar diversas tareas conversacionales. Está entrenado con vastas cantidades de datos para identificar patrones y generar respuestas coherentes y contextualmente relevantes. En teoría, esto lo convierte en un asistente poderoso para la investigación y la planificación, con la capacidad de integrar información de servicios de Google como Maps o Calendar.
Sin embargo, la IA, incluso la más sofisticada como Gemini, opera basándose en los datos con los que fue entrenada y en algoritmos que procesan patrones, no en el entendimiento humano del sentido común, la experiencia real o la intuición ante situaciones impredecibles. En el caso del Monte Shasta, es probable que la falla se haya originado en varias dimensiones. Primero, las "alucinaciones" de la IA, donde el modelo genera información plausible pero incorrecta o inventada, pudieron haber jugado un papel. Segundo, la falta de contextualización: Gemini no puede evaluar la experiencia de los usuarios (novatos vs. expertos), las condiciones climáticas dinámicas de una montaña o la infraestructura de apoyo disponible en un sendero específico. Simplemente procesa la información que le es suministrada y la compara con sus datos de entrenamiento, sin una comprensión real de las implicaciones de una falta de agua o comida a 4.000 metros de altura.
Google, por su parte, ha declarado estar investigando el incidente y afirma no haber podido replicar las "respuestas inexactas" que Gemini supuestamente dio a los excursionistas. La compañía incluye advertencias en su plataforma indicando que el modelo de IA "puede cometer errores" y que los usuarios deben verificar la información y usar su discreción. Esta postura resalta una tensión fundamental: la expectativa de los usuarios de una IA infalible versus la realidad de una tecnología aún en desarrollo que, a pesar de sus capacidades, carece de la capacidad de juicio crítico humano para evaluar riesgos en escenarios del mundo real. Este episodio se suma a otros reportados, donde chatbots han enviado turistas a lugares inexistentes o Google Maps ha sugerido atajos peligrosos, consolidando la preocupación sobre la desinformación y la sobre-confianza en las herramientas de IA.
Qué cambia para los profesionales tech y usuarios en Latinoamérica
El incidente del Monte Shasta no es un caso aislado, sino un potente recordatorio de las responsabilidades que recaen sobre los hombros de los profesionales tecnológicos y los usuarios informados, especialmente en regiones como Latinoamérica. La adopción de la IA en la región ha sido meteórica. Google Gemini en Chrome, por ejemplo, se expandió oficialmente a Latinoamérica, África y Oriente Medio en junio de 2026, ofreciendo funcionalidades avanzadas de asistente de navegación. Un paso significativo fue la inauguración, en diciembre de 2025, del Google Cloud Gemini Experience Centre por Tata Consultancy Services (TCS) en São Paulo, Brasil, con el objetivo de impulsar la adopción de IA empresarial. Además, Google Cloud anunció en septiembre de 2025 la disponibilidad de los modelos Gemini en Brasil para almacenamiento de datos y procesamiento de machine learning, e incluso una oferta "Gemini for Government" para el sector público.
Esta rápida expansión trae consigo la necesidad urgente de marcos regulatorios y éticos robustos. América Latina está en proceso de desarrollar sus propias regulaciones de IA, inspirándose en modelos globales como la Ley de IA de la Unión Europea (cuya implementación plena en agosto de 2026 podría impactar a empresas latinoamericanas que operan en cadenas de suministro globales). En octubre de 2023, la UNESCO y la Corporación Andina de Fomento (CAF) ya se reunieron en Santiago de Chile para discutir medidas regionales sobre ética y gobernanza de la IA. Países como Brasil, México, Perú y Colombia están explorando marcos legales, aunque existe una preocupación válida sobre la "reactividad legislativa" y la falta de participación de la sociedad civil en algunos procesos. Para los profesionales tech de la región, esto significa:
- Evaluación Crítica de Outputs: No basta con integrar una IA; es imperativo desarrollar protocolos de verificación y validación de sus resultados, especialmente en aplicaciones con consecuencias en el mundo real. La "verdad" de una IA puede ser una "alucinación" peligrosa.
- Diseño Responsable: La ética en la IA debe ser un pilar desde las fases iniciales de diseño y desarrollo. Esto incluye la consideración de sesgos en los datos de entrenamiento, la privacidad y la transparencia algorítmica. No solo es una cuestión técnica, sino moral y social.
- Educación y Concienciación: Es fundamental educar a los usuarios finales sobre las capacidades y, crucialmente, las limitaciones de la IA. Los mensajes de advertencia de Google sobre la necesidad de verificar la información deben ser tomados en serio y comunicados activamente. La "alfabetización de IA" es tan importante como la digital.
- Colaboración Humano-IA: La lección principal es que la IA debe ser una herramienta para potenciar la toma de decisiones humanas, no un reemplazo de la experiencia y el juicio. En áreas críticas como la planificación de expediciones, la salud o la seguridad, la supervisión de un experto humano es irrenunciable.
Qué viene después para la IA y la seguridad
El incidente del Monte Shasta es un punto de inflexión que recalca la necesidad de abordar con seriedad la ética y seguridad de la IA. Google, como desarrollador líder de Gemini, se enfrenta a la tarea de investigar a fondo este caso y considerar ajustes en sus algoritmos o en la forma en que presenta advertencias a los usuarios. La compañía ya ha manifestado su compromiso con la IA responsable, pero incidentes como este exigen una reevaluación continua de sus salvaguardas.
En la industria tecnológica en general, la conversación se centrará aún más en cómo mitigar las "alucinaciones" y mejorar la confiabilidad de los modelos de IA. Se espera una inversión creciente en investigación sobre la explicabilidad (XAI) para entender mejor por qué una IA toma ciertas decisiones, y en marcos de evaluación de riesgos que consideren no solo el rendimiento técnico, sino también el impacto social y de seguridad de estas tecnologías. El Sheriff Jeremiah Larue lo resumió acertadamente: "la gente está confiando demasiado en la IA, y necesitan hablar con personas reales que sepan cómo hacer senderismo". Esta recomendación se extiende a cualquier ámbito donde la vida o la seguridad estén en juego.
Desde el punto de vista regulatorio, es probable que eventos como este aceleren los esfuerzos legislativos en Latinoamérica y a nivel global. La presión para establecer normativas claras sobre la responsabilidad de los desarrolladores de IA, la obligatoriedad de auditorías éticas y la protección del usuario frente a la información errónea crecerá. El desafío será equilibrar la innovación con la protección, evitando una "reactividad legislativa" que pueda ahogar el progreso, pero garantizando que la IA se desarrolle y utilice de manera segura y beneficiosa para la sociedad.
En última instancia, el futuro de la IA no se define solo por sus capacidades técnicas, sino por cómo la humanidad elige interactuar con ella. Este incidente nos invita a una mayor cautela y a recordar que la inteligencia humana, con su capacidad de discernimiento, experiencia y sentido común, sigue siendo el factor más crítico en la navegación de un mundo complejo, incluso con la asistencia de las herramientas más avanzadas.
