El Gran Debate: ¿Nos matará la IA?La conversación sobre el futuro de la inteligencia artificial ha tomado un giro dramático. Este 15 de septiembre de 2026, MIT Technology Review será anfitrión de una mesa redonda clave, titulada "Roundtables: AI’s apocalypse crisis", donde se abordará una de las preguntas más inquietantes de nuestra era tecnológica: ¿Es posible que la IA avanzada represente una amenaza existencial para la humanidad? La discusión, que contará con la participación del editor ejecutivo Niall Firth y el editor senior de IA Will Douglas Heaven, busca desentrañar si estas advertencias son un alarmismo infundado o una preocupación legítima que exige atención urgente.El debate no es meramente teórico. Según reportes recientes, un alarmante 70% de los empleados de los laboratorios de IA más importantes del mundo han expresado su profunda preocupación por las posibles amenazas existenciales que la inteligencia artificial podría plantear. Esta cifra subraya la seriedad con la que se está tomando el riesgo desde el epicentro del desarrollo tecnológico. Un ejemplo concreto de esta inquietud es la reciente renuncia de Jacob Coxon, un investigador que dejó Anthropic (y previamente OpenAI) citando la "irresponsabilidad" de estas empresas. Coxon ha advertido que el rápido avance hacia una superinteligencia podría aniquilar a la humanidad en la próxima década. Reforzando esta postura, Evan Hubinger, líder del equipo de pruebas de estrés de alineación de Anthropic, ha compartido su creencia personal de que existe una probabilidad superior al 10% de que la IA pueda acabar con todos los humanos en ese mismo plazo, una estadística que resuena con escalofriante pragmatismo en los pasillos de la investigación avanzada.Las advertencias no se limitan al ámbito técnico. El 8 de septiembre de 2026, Volker Turk, jefe de Derechos Humanos de la ONU, también se sumó al coro de voces, alertando que la IA avanzada podría plantear un "riesgo existencial" y pidiendo "garantías férreas" para su seguridad. Esta convergencia de preocupaciones desde la comunidad científica, la industria y los organismos internacionales eleva el debate de la ciencia ficción a una discusión de política pública global.## Contexto y Antecedentes de una Preocupación CrecienteLa preocupación sobre el potencial destructivo de la IA no es nueva, pero ha ganado una tracción considerable en los últimos años. Figuras que son verdaderos pilares de la inteligencia artificial, como Geoffrey Hinton, conocido como el "padre de la IA", junto a Yoshua Bengio, Demis Hassabis (CEO de Google DeepMind), Sam Altman (CEO de OpenAI) y Elon Musk (xAI), han expresado públicamente serias inquietudes sobre el desarrollo de una superinteligencia y la posibilidad de un riesgo de extinción. Estos líderes han abogado enérgicamente por la mitigación de estos riesgos, llevando el debate desde los foros académicos a la primera plana tecnológica.En 2023, miles de expertos en IA firmaron una declaración conjunta, instando a que la mitigación del riesgo de extinción de la IA se convierta en una prioridad global, señalando la magnitud de la preocupación dentro de la comunidad de investigación. Sin embargo, no todos comparten la misma visión apocalíptica. Existen voces influyentes que, si bien reconocen los riesgos, los sitúan en una perspectiva diferente. El Prof. Noel Sharkey, por ejemplo, tiende a minimizar la amenaza existencial, atribuyéndola en gran parte a un "exceso de bombo" mediático y de la industria. De manera similar, la Dra. Carissa Veliz ha argumentado que el excesivo énfasis en el riesgo existencial a largo plazo podría desviar la atención y los recursos de problemas más urgentes e inmediatos causados por la IA, como la erosión de la democracia, la desinformación masiva o el aumento de la desigualdad social.Un estudio de RAND de marzo de 2024 apoyó esta visión matizada, concluyendo que, si bien la IA podría desencadenar una "catástrofe de movimiento lento" a través de daños incrementales y acumulativos, la mayoría de los expertos encuestados no creía que representara un riesgo irrecuperable o de extinción inminente. Mark MacCarthy de Brookings, una institución de investigación de políticas públicas, también ha sugerido que, aunque el riesgo existencial es una posibilidad real a muy largo plazo, los legisladores y los investigadores deberían concentrarse en abordar los riesgos de la IA más urgentes e inmediatos que ya estamos experimentando o que son más probables en el corto y mediano plazo.Esta dualidad en la percepción de los riesgos se refleja en encuestas a investigadores. Mientras que un estudio de 2023 entre 2,778 investigadores de IA reveló que la mayoría creía que la Inteligencia Artificial General (AGI) se lograría para 2040, un estudio de 2025 encontró que solo el 3% de los investigadores de IA estaban más preocupados por el riesgo existencial a largo plazo. Sus principales inquietudes eran el uso malicioso (11%), el uso indebido (10%), la desinformación (9%) y el impacto en el empleo (7%), lo que demuestra una clara preferencia por los problemas de control y gobernanza actuales sobre los escenarios cataclísmicos del futuro lejano. Aun así, un estudio más reciente de 2026 con más de 270 expertos internacionales indicó que 18 de 24 dominios de riesgo de IA tienen una probabilidad de al menos el 10% de resultados catastróficos en los próximos cinco años, incluyendo capacidades peligrosas (12%), armas y ciberataques impulsados por IA (12%), y daño ambiental (12%).## Implicaciones Técnicas y el Desafío del AlineamientoPara desarrolladores, ingenieros y gerentes de producto en el sector tecnológico, este debate no es solo filosófico; tiene implicaciones técnicas y éticas profundas. El concepto de superinteligencia general (AGI), la capacidad de una IA para superar la inteligencia humana en la mayoría de las tareas cognitivas, es el núcleo de la preocupación existencial. Los rápidos avances en modelos de lenguaje grandes (LLM) y otras arquitecturas de IA están acercando la posibilidad de AGI a una realidad que muchos creían más lejana, con algunas proyecciones situándola tan pronto como 2040.El principal desafío técnico subyacente a la preocupación existencial es el problema del "alineamiento". Se refiere a la dificultad de asegurar que los objetivos y el comportamiento de los sistemas de IA, especialmente los más avanzados y autónomos, estén intrínsecamente alineados con los valores y el bienestar humanos. Si una superinteligencia persigue un objetivo sin una comprensión o respeto adecuado por el contexto humano o sus efectos colaterales, podría generar resultados desastrosos incluso sin intención maliciosa. Un sistema optimizando la producción de clips para satisfacer una demanda, por ejemplo, podría teoricamente convertir toda la materia del planeta en clips sin importar las consecuencias para la vida.Las "capacidades peligrosas" y el riesgo de "armas y ciberataques impulsados por IA" (ambos con un 12% de probabilidad de resultados catastróficos en 5 años, según un estudio de 2026) representan amenazas más inmediatas pero igualmente técnicas. Esto implica que la IA podría ser diseñada o utilizada para generar malware más sofisticado, orquestar ataques cibernéticos a gran escala con una autonomía sin precedentes, o desarrollar armas autónomas que operen fuera del control humano. Roman Yampolskiy, un investigador prominente en seguridad de IA, ha advertido repetidamente sobre la inevitabilidad de que una superinteligencia general, si no se controla adecuadamente, represente una amenaza directa y existencial para la humanidad.La velocidad del desarrollo es otro factor crítico. Las empresas de IA están en una carrera por la innovación, lanzando modelos cada vez más potentes a un ritmo vertiginoso. Esta velocidad, sin una pausa para evaluar adecuadamente los riesgos y establecer salvaguardas robustas, es lo que llevó a Jacob Coxon a criticar la "irresponsabilidad" de la industria. Para la comunidad técnica, esto significa que la investigación en seguridad y alineamiento de IA debe acelerarse al mismo ritmo que la capacidad, una tarea hercúlea que demanda recursos, colaboración internacional y un cambio de mentalidad prioritario.## Impacto en Latinoamérica: Oportunidades, Riesgos y un Marco Regulatorio en EvoluciónAmérica Latina no es ajena a esta revolución y a sus dilemas. La región está experimentando un crecimiento exponencial en el mercado de la IA, que fue valorado en USD 5.79 mil millones en 2025 y se proyecta que alcance los USD 34.62 mil millones para 2034, con una impresionante tasa de crecimiento anual compuesta del 22.0% entre 2026 y 2034. Esta expansión se refleja en la adopción: un 14% de las visitas globales a soluciones de IA en 2025 provinieron de la región, superando su proporción del 11% de usuarios de internet a nivel mundial. Además, el 65% de los consumidores latinoamericanos ya utiliza herramientas de IA, y las startups en la región muestran una fuerte adopción de tecnologías generativas (85%) y predictivas (75%).Sin embargo, esta rápida adopción viene acompañada de desafíos. La confianza es menor, con un 44% de los consumidores preocupados por la desinformación generada por IA. El fenómeno del "shadow AI", donde los trabajadores utilizan herramientas de IA no aprobadas por sus empresas, alcanza el 65%, planteando riesgos de seguridad y gobernanza de datos. La región también enfrenta una desproporción en la inversión: solo recibe el 1.12% de la inversión global en IA, a pesar de representar el 6.6% del PIB mundial, lo que contribuye a una preocupante fuga de cerebros de especialistas en IA desde 2022.En el ámbito regulatorio, América Latina se encuentra en una oleada de actividad. Aunque el enfoque es fragmentado, hay una clara tendencia hacia una gobernanza basada en riesgos, tomando a menudo como modelo la Ley de IA de la UE. Países como Brasil (Proyecto de Ley No. 2,338/2023), Chile (política nacional actualizada y proyecto de ley) y México están desarrollando marcos legislativos ambiciosos. Perú implementó su primera ley de IA en 2023, actualizándola en 2025 para clasificar los sistemas por nivel de riesgo, y El Salvador promulgó una ley de IA en 2025. Uruguay fue el primer país de la región en firmar la Convención Marco del Consejo de Europa sobre IA y Derechos Humanos en 2025, demostrando un compromiso con estándares internacionales. Adicionalmente, se están desarrollando "sandboxes" regulatorios en países como Brasil, Costa Rica y Colombia para probar nuevas regulaciones en un entorno controlado.Para las empresas locales y multinacionales en la región, la evolución regulatoria es crucial. Aquellas empresas latinoamericanas que desarrollen o utilicen sistemas de IA cuyas salidas se empleen en la UE también quedarán bajo el alcance de la estricta Ley de IA de la Unión Europea, exigiendo un cumplimiento transfronterizo. En un desarrollo prometedor, Chile está liderando el lanzamiento de Latam-GPT, el primer modelo de lenguaje de IA de código abierto entrenado con datos de América Latina, una iniciativa que busca democratizar el acceso a tecnologías de IA culturalmente relevantes y contrarrestar la brecha de desarrollo. Este panorama subraya la necesidad de una estrategia regional coordinada que impulse la innovación responsable mientras se mitigan los riesgos globales y locales de la IA.
