La particularidad de este debate radica en que las alarmas no provienen únicamente de futuristas o filósofos, sino de la propia trinchera del desarrollo. Empleados de los laboratorios de IA más punteros del mundo, como OpenAI y Anthropic, están expresando serias preocupaciones sobre el rumbo de esta tecnología. En 2023, figuras como Sam Altman, CEO de OpenAI, y Dario Amodei, CEO de Anthropic, firmaron una declaración concisa pero contundente: “Mitigar el riesgo de extinción por IA debería ser una prioridad global junto con otros riesgos a escala social como las pandemias y la guerra nuclear.” Este consenso entre los líderes de la industria subraya que la discusión sobre el riesgo existencial de la IA no es trivial, sino una cuestión que exige atención urgente.
Voces de Alerta vs. Escepticismo Razonado
El espectro de opiniones sobre el riesgo existencial de la IA es amplio, con expertos y desarrolladores divididos entre quienes advierten sobre peligros inminentes y aquellos que instan a la cautela, pero también a la mesura. Por un lado, una facción de 'alarmistas' presenta escenarios sombríos basados en proyecciones de superinteligencia.
Jacob Coxon, ex-empleado de OpenAI e investigador de Anthropic, abandonó la industria con una crítica feroz, acusando a las empresas de “correr directamente hacia la superinteligencia auto-mejorada y apostar con nuestras vidas”. Su renuncia es un testimonio directo de la tensión interna en los laboratorios. Evan Hubinger, director de ciencia de alineación en Anthropic, eleva la apuesta al estimar que existe “más de un 10% de probabilidad” de que la IA pueda “acabar con todos los humanos” en la próxima década. Estas cifras, aunque alarmantes, no son aisladas.
Incluso Geoffrey Hinton, una figura venerada conocida como el “padrino de la IA” por sus contribuciones pioneras, ha señalado una probabilidad del 10-20% de que la IA cause la extinción humana en las próximas tres décadas. En un extremo aún más sombrío, Roman Yampolskiy, un investigador clave en seguridad de IA, ha llegado a advertir de una probabilidad del 99.9% de que la IA acabe con la humanidad en los próximos 100 años. Estas proyecciones se ven respaldadas por informes como el de julio de 2026 de MIT FutureTech y la Universidad de Queensland, que, tras encuestar a 272 expertos en IA, encontró que 18 de 24 dominios de riesgo de IA tienen al menos un 10% de probabilidad de resultados catastróficos en los próximos cinco años. Las voces de alerta son claras y vienen de fuentes autorizadas.
Por otro lado, una corriente de escepticismo razonado contrarresta estas proyecciones apocalípticas. Estos expertos argumentan que la IA actual, a pesar de su impresionante capacidad para generar texto e imágenes, son fundamentalmente “loros estocásticos” – sistemas complejos que predicen patrones y no poseen una verdadera comprensión, conciencia o intencionalidad. Desde esta perspectiva, la amenaza existencial de una IA autoconsciente con deseos malignos es, por ahora, una preocupación prematura. En lugar de enfocarse en hipotéticos escenarios de extinción, los escépticos sugieren que el riesgo más palpable proviene de las malas decisiones humanas sobre cómo se despliegan estas herramientas, y cómo podrían exacerbar problemas existentes como la desinformación, la discriminación o la pérdida masiva de empleos. Consideran que el alarmismo excesivo puede desviar la atención de problemas más inmediatos y concretos que la IA ya presenta, y que requieren una atención urgente en términos de regulación y desarrollo ético.
Los datos hablan: Un Futuro de Inversión y Preocupación
Más allá de las opiniones expertas, los datos cuantitativos ofrecen una perspectiva tangible de la aceleración de la IA y las implicaciones de su desarrollo. Las probabilidades de extinción o de un “desempoderamiento severo” de la humanidad debido a la IA, aunque variables, no son despreciables. Una encuesta de 2023 a investigadores de IA arrojó una probabilidad media del 14.4% y una mediana del 5% de estos escenarios catastróficos en los próximos 100 años. Estas cifras, aunque especulativas, reflejan una preocupación creciente dentro de la comunidad científica que no puede ignorarse.
La inversión en el sector es colosal y sigue en aumento, lo que impulsa aún más la urgencia del debate. Se espera que el gasto en centros de datos, fundamentales para el entrenamiento y operación de modelos de IA, alcance la asombrosa cifra de 1 billón de dólares el próximo año. Esta inversión masiva es un motor de innovación sin precedentes, pero también un acelerador de los riesgos potenciales, ya que el desarrollo de sistemas cada vez más complejos y autónomos se lleva a cabo a un ritmo vertiginoso.
El impacto de la IA ya se siente en la sociedad, especialmente en el ámbito laboral. Un estudio de Pew Research de 2025 reveló que el 52% de los empleados estaban nerviosos por el futuro de sus trabajos debido a la IA. Esta cifra ilustra cómo las preocupaciones sobre la IA trascienden el ámbito académico y científico para instalarse en la vida cotidiana de las personas, generando ansiedad y reconfigurando las expectativas sobre el futuro del trabajo.
Qué significa para Latam: Navegando entre Oportunidad y Riesgo
Para Latinoamérica, la discusión sobre los riesgos existenciales de la IA no es una mera abstracción teórica, sino un componente crucial en la definición de su futuro tecnológico y económico. La región se encuentra en un momento crítico, equilibrando la necesidad de adoptar tecnologías avanzadas para impulsar el crecimiento con la imperativa de mitigar sus riesgos.
El mercado de IA en Latinoamérica está valorado en 12.7 mil millones de dólares, con un impresionante crecimiento anual del 28.1%. La tasa de adopción de IA en la región es del 40%, y un significativo 65% de los consumidores latinoamericanos ya utiliza herramientas de IA en alguna de sus formas. A pesar de que solo el 23% de las organizaciones latinoamericanas están generando valor económico significativo de la IA, el potencial es inmenso. Se estima que la adopción de IA podría aumentar la productividad regional en un 1.9-2.3% anualmente y generar entre 1.1 y 1.7 billones de dólares adicionales al año. Casos como México, donde el 83% de las empresas reportan un ROI positivo en inversiones de IA con un aumento promedio del 16% en ingresos, demuestran la viabilidad de capitalizar esta tecnología.
Sin embargo, este crecimiento viene acompañado de desafíos. La regulación de la IA en Latinoamérica, aunque fragmentada, avanza hacia modelos basados en riesgos. Iniciativas como la “Recomendación de la UNESCO sobre la Ética de la Inteligencia Artificial” (2022) y la “Carta Ética Latinoamericana para la Inteligencia Artificial” (agosto de 2026) son fundamentales, enfatizando la primacía del ser humano, la diversidad cultural y la transparencia radical. Países como Brasil, Chile y México están desarrollando activamente marcos regulatorios específicos para asegurar un despliegue responsable de la IA.
En el ámbito de la ciberseguridad, el 64% de las empresas latinoamericanas enfrentan crecientes desafíos para contrarrestar ciberamenazas amplificadas por la IA. En México, el 57% de las organizaciones encuestadas reportaron daños financieros superiores a 10,000 USD debido a incidentes de seguridad relacionados. Estos datos resaltan que los riesgos no son solo existenciales, sino también muy prácticos y financieros, afectando directamente la operatividad de las empresas.
Además, Latinoamérica no es solo un importador de tecnología, sino también un innovador activo. Empresas como Roomie IT, Electronic Cats, Speedbird, Kilimo, Ekumen y Rappi están desarrollando soluciones de IA adaptadas a las necesidades y particularidades de la región. Esto confiere una responsabilidad adicional a la hora de participar en el debate global sobre la seguridad de la IA, asegurando que las perspectivas y necesidades locales sean consideradas en la formulación de estándares y regulaciones globales. En última instancia, la región debe forjar un camino que maximice los beneficios de la IA mientras se protege contra sus riesgos potenciales, tanto los cotidianos como los más existenciales.
