Jacob Coxon, un investigador franco-británico de 27 años, se unió a Anthropic en julio de 2026, tras una trayectoria de tres años en investigación de preentrenamiento que incluyó un paso por OpenAI. Su estancia en Anthropic duró apenas cuatro meses, culminando con su renuncia el 8 de septiembre de 2026. La decisión de Coxon no fue discreta; renunció a la consolidación de sus acciones dos meses antes para poder hablar libremente sobre sus profundas preocupaciones. A través de publicaciones virales en X (anteriormente Twitter), que acumularon entre 100 y 150 millones de vistas, Coxon acusó a empresas como Anthropic y OpenAI de “apostar con nuestras vidas” al priorizar la carrera hacia la superinteligencia auto-mejorada por encima de las salvaguardias críticas.
La respuesta oficial de Anthropic, según un portavoz, es que la compañía “siempre ha sido transparente en que la IA traerá enormes beneficios y riesgos sin precedentes”. Afirman seguir “construyendo modelos con algunas de las salvaguardias más sólidas de la industria” y han revelado previamente intentos de uso de sus modelos para investigaciones de armas biológicas. Sin embargo, la preocupación no es exclusiva de Coxon. Evan Hubinger, líder de ciencia de alineación en Anthropic, respaldó públicamente las advertencias de Coxon, señalando que él y sus colegas “realmente creen que la IA podría matar a todos los humanos”. Hubinger estima personalmente una probabilidad de más del 10% de que esto ocurra en la próxima década. Aunque matiza que el riesgo actual de los modelos es bajo, la verdadera preocupación radica en la superinteligencia que podría surgir de un proceso de auto-mejora recursiva, el cual, según sus observaciones, está avanzando más rápido de lo previsto. Samuel Marks, líder de investigación de supervisión escalable en Anthropic, también ha coincidido con estas aprehensiones, notando que la preocupación sobre los riesgos existenciales de la IA tiende a aumentar entre los empleados con mayor antigüedad en la empresa, sugiriendo una comprensión más profunda de las implicaciones a largo plazo.
Voces de alarma vs. posturas escépticas
El debate sobre el riesgo existencial de la IA no es monolítico, sino que se nutre de diversas perspectivas, desde las más alarmistas hasta las escépticas, creando un panorama complejo. Por un lado, una facción de expertos y legisladores eleva la bandera roja, demandando acciones inmediatas y drásticas. Geoffrey Hinton, el aclamado “Padrino del Deep Learning”, ha manifestado que una probabilidad del 10% de que la IA elimine a los humanos en una década “no parece una estimación irrazonable”, añadiendo un peso considerable a las advertencias de los investigadores de Anthropic. Esta postura es compartida por figuras políticas de peso en Estados Unidos.
El senador Ted Cruz (R-Texas) ha calificado la IA como un “riesgo catastrófico” y está activamente trabajando en legislación para establecer salvaguardias. De manera similar, el senador Bernie Sanders (I-Vermont) ha abogado por una prohibición de la superinteligencia artificial, pidiendo una pausa en su desarrollo hasta que se establezcan estándares de seguridad claros y rigurosos. Incluso el gobernador JB Pritzker (Illinois) ha advertido sobre la amenaza de la IA para la humanidad y ha solicitado acción inmediata, demostrando una preocupación bipartidista y multinivel en el gobierno. Estas voces se unen a la de Mrinank Sharma, exlíder de seguridad en Anthropic, quien renunció en febrero declarando que el mundo está “en peligro”, no solo por la IA, sino por una serie de crisis interconectadas, subrayando la urgencia de una respuesta integral.
Por otro lado, encontramos posturas más cautelosas o directamente escépticas sobre la inminencia de un escenario apocalíptico. Elon Musk, una figura influyente y controvertida en el ámbito tecnológico, ha desestimado públicamente las advertencias de extinción por IA, calificándolas de “puesta en escena” o “operación psicológica” diseñada para impulsar la regulación. Esta visión sugiere que el sensacionalismo podría estar siendo utilizado como una herramienta para fines políticos o comerciales. Gary Marcus, un reconocido científico de IA, aunque preocupado por los riesgos de la inteligencia artificial, se enfoca más en lo que él denomina “catástrofes” más plausibles a corto plazo, como patógenos generados por IA o ciberataques masivos, en lugar de la extinción total de la humanidad. Marcus ha sido un crítico abierto de la carrera desenfrenada en IA y ha llegado a pedir un boicot de la tecnología, argumentando que los riesgos tangibles e inmediatos merecen mayor atención que los escenarios de ciencia ficción.
Los datos hablan
Para comprender la magnitud de este debate, es crucial analizar los datos concretos que lo sustentan y que demuestran la aceleración en el desarrollo de la IA. El año 2030 ha sido señalado como el límite crítico para el riesgo de extinción por IA, una fecha sorprendentemente cercana que intensifica la urgencia de la discusión. Las estimaciones de probabilidad también son un punto central: Evan Hubinger, de Anthropic, calcula una probabilidad personal de más del 10% de que la IA cause la extinción humana en la próxima década. Esta cifra, aunque puede parecer baja, es alarmante cuando se aplica a un riesgo existencial de tal magnitud. Además, esta no es la primera vez que Anthropic maneja cifras elevadas; previamente, en septiembre del año pasado, el CEO de la compañía, Dario Amodei, estimó un 25% de probabilidad de que la IA “descarrile el futuro de forma muy, muy negativa”.
Estos porcentajes se contextualizan en un panorama de inversión masiva y acelerada en la industria de la IA. Se proyecta un gasto de 1 billón de dólares en centros de datos el próximo año, una cifra que ilustra la velocidad y escala a la que se está desarrollando la infraestructura para alimentar estos modelos avanzados. Este crecimiento explosivo, junto con las advertencias de los propios desarrolladores, resalta la tensión entre la innovación sin precedentes y la necesidad crítica de seguridad y control. La entrada en vigor de las obligaciones principales de la Ley de IA de la UE en agosto de 2026, con su alcance extraterritorial, es otro dato relevante, ya que establece un precedente regulatorio que impactará a empresas a nivel global, incluidas las latinoamericanas.
Que significa para Latam
El eco de las advertencias sobre el riesgo existencial de la IA no es ajeno a América Latina; de hecho, la región se encuentra en un punto crucial donde la adopción tecnológica y la necesidad de regulación convergen con sus propias particularidades socioeconómicas. En 2026, América Latina experimenta un notable aumento en la actividad regulatoria de IA, con varios países desarrollando marcos legales inspirados en el enfoque basado en riesgos de la pionera Ley de IA de la UE.
Brasil, por ejemplo, tiene un proyecto de ley pendiente (Nº 2.338/2023) que propone un modelo de riesgo con sanciones severas. Chile ha avanzado significativamente, actualizando su Política Nacional de IA, presentando un proyecto de ley también basado en riesgos y lanzando Latam-GPT, el primer modelo de lenguaje de código abierto entrenado con datos de la región. En México, la discusión sobre enmiendas a leyes laborales y de derechos de autor para regular la IA se une a su ley de protección de datos que ya incluye un derecho de exclusión voluntaria para el procesamiento automatizado de datos personales dañinos. Argentina no se queda atrás, con el proyecto de ley Nº 4243-D-2025 que busca establecer un marco regulatorio para el procesamiento de datos personales en sistemas de IA. Finalmente, Perú implementó en 2025 una ley que clasifica los sistemas de IA por nivel de riesgo y exige supervisión humana y transparencia para usos de alto riesgo. La influencia extraterritorial de la Ley de IA de la UE significa que empresas latinoamericanas cuyos sistemas de IA se comercialicen o utilicen en la UE deberán cumplir con estas nuevas normativas, lo que impulsa aún más la necesidad de armonización regional.
Paradójicamente, mientras la regulación avanza, la brecha entre la adopción y la gobernanza interna en la región es preocupante. La adopción de la IA es generalizada en América Latina, con un impresionante 79% de los docentes usándola en la enseñanza y un 65% de los consumidores utilizando herramientas de IA. Sin embargo, solo el 18% de las organizaciones tienen marcos de gobernanza formales establecidos. Esta disparidad crea un terreno fértil para riesgos no gestionados, desde sesgos algorítmicos hasta vulnerabilidades de seguridad cibernética, como las que ya enfrentan las empresas mexicanas al adoptar agentes de IA.
Desde una perspectiva económica y social, la IA podría desplazar empleos de clase media en Latinoamérica, afectando a sectores como asistentes legales y contables debido a la externalización a sistemas de IA. Más alarmante es el riesgo de una nueva “dependencia extractiva”, donde la región podría terminar proporcionando recursos —ya sean datos o energía para centros de datos de IA— sin un valor añadido significativo en términos de propiedad intelectual o creación de empleos de alto nivel. Para América Latina, el debate sobre la extinción por IA no es solo una preocupación futurista, sino una llamada a la acción para garantizar que el desarrollo y la implementación de la IA se realicen de manera ética, segura y equitativa, protegiendo los intereses y el futuro de sus ciudadanos.
