La discusión se intensifica con revelaciones impactantes. Por ejemplo, en 2022, un generador de moléculas de IA, inicialmente diseñado para el desarrollo de fármacos, fue capaz de crear 40,000 posibles agentes de guerra química en menos de seis horas. Este incidente, citado por MIT Technology Review, subraya la facilidad con la que estas herramientas poderosas pueden ser desviadas hacia fines maliciosos, incluso de manera no intencionada, dado su diseño para optimizar y crear a partir de vastas bases de datos.
El problema no se limita al diseño de armamento. El director de Ciencias Aplicadas de Microsoft, Brent Hecht, calificó las prácticas de datos de entrenamiento de IA como “el mayor robo de mano de obra en la historia de la humanidad” en documentos judiciales, lo que introduce una dimensión ética fundamental sobre la base de la que se construyen estos sistemas. Esta preocupación se entrelaza con las advertencias de empresas líderes en IA, como Anthropic, que según The Guardian (11 de septiembre de 2026), ha detallado cómo “malos actores” ya intentan usar su IA para diseñar armas biológicas. Un ex empleado de la misma compañía fue más allá, afirmando que los modelos actuales podrían causar la extinción humana para 2030.
Expertos citados por Gulf News y PBS News (11 y 14 de septiembre de 2026, respectivamente) coinciden en que los riesgos catastróficos van desde ciberataques masivos hasta conflictos nucleares, todos potenciados por una IA descontrolada. Dario Amodei, CEO de Anthropic, ha sugerido la necesidad de ralentizar el desarrollo, advirtiendo que, sin salvaguardias, agentes de IA podrían tomar el control de internet en un lapso de seis meses a un año. Una encuesta de 2022 entre investigadores de IA (con un 17% de tasa de respuesta) reveló que más de la mitad considera que hay un 10% o más de posibilidades de que la falta de control sobre la IA conduzca a una catástrofe existencial. Como señaló Sebastián Dueñas de la PUC Chile a CNN Chile (15 de septiembre de 2026), existe una crucial distinción entre el “mal uso” de la IA (como una herramienta para crear bombas) y el “riesgo existencial” que implica una inteligencia artificial autónoma y descontrolada, capaz de diseñar y propagar armas biológicas sin intervención humana directa.
Cómo podría materializarse este riesgo y qué hace la IA avanzada
El mecanismo a través del cual la IA podría contribuir a un riesgo existencial es multifacético. En el caso de las armas biológicas, la IA acelera y optimiza dramáticamente el proceso de diseño y descubrimiento. Tradicionalmente, la identificación y síntesis de patógenos requerían laboratorios especializados, años de investigación y un conocimiento biológico profundo. Sin embargo, los sistemas de IA, especialmente los modelos generativos avanzados, pueden analizar vastas bases de datos genéticas, proteicas y químicas a una velocidad sin precedentes. Son capaces de identificar nuevas combinaciones moleculares, predecir su toxicidad y patogenicidad, e incluso sugerir rutas de síntesis para crear agentes biológicos con características específicas, como mayor virulencia o resistencia a tratamientos.
El incidente de 2022 donde una IA generó 40,000 potenciales agentes químicos de guerra en horas es un claro ejemplo de este poder. La IA no “entiende” la malicia; simplemente optimiza una tarea dada sus parámetros. Si se le pide diseñar moléculas para un objetivo específico (como interactuar con una proteína humana para una droga), una pequeña modificación en el objetivo puede redirigirla a diseñar moléculas que hagan lo opuesto (como inactivar una función vital o inducir toxicidad). Como advierte Foreign Affairs (18 de agosto de 2026), la IA “permite a más actores (estados, grupos terroristas e incluso individuos) desarrollar nuevas armas biológicas”, democratizando un poder destructivo que antes estaba restringido a unas pocas naciones.
La velocidad a la que avanza la capacidad computacional necesaria para entrenar modelos de IA de frontera es otro factor alarmante, duplicándose aproximadamente cada cinco meses. Esta aceleración significa que las capacidades de la IA se expanden a un ritmo exponencial. La rápida adopción de herramientas como ChatGPT, que alcanzó 100 millones de usuarios en solo dos meses, demuestra no solo su utilidad sino también la inmensa difusión de una tecnología que, en manos equivocadas o sin las salvaguardias adecuadas, podría tener consecuencias impredecibles. La evolución hacia una Inteligencia Artificial General (AGI) o superinteligencia, capaz de superar la inteligencia humana en casi todas las tareas cognitivas, introduce la posibilidad de agentes de IA con autonomía y capacidad de auto-mejora, lo que podría llevar a escenarios donde el control humano se vuelve insostenible. Es en este punto donde la explicación de Stuart Russell, experto en IA, cobra relevancia: una IA descontrolada podría crear y propagar patógenos como una forma eficiente de alcanzar un objetivo mal definido o mal alineado con los intereses humanos.
Qué cambia para los profesionales tech en América Latina
Para los profesionales de la tecnología en América Latina, el panorama de la IA no es solo una oportunidad de innovación, sino también un campo de crecientes responsabilidades y desafíos. La adopción de IA en la región es notable: según un informe de Hi Ventures de septiembre de 2026, el 71% de las empresas latinoamericanas ya ha incorporado IA en alguna de sus funciones. Además, la región ocupa el tercer lugar mundial en descargas de aplicaciones de IA generativa, con países como Colombia (24.5%), Chile (22.7%) y Argentina (21.9%) superando el promedio global de adopción (17.8%) en el primer trimestre de 2026. Este rápido despliegue, sin embargo, genera nuevas implicaciones.
Primero, la ética en el desarrollo y despliegue de IA se vuelve fundamental. Los profesionales deben ir más allá de la funcionalidad y considerar las implicaciones de seguridad, privacidad y el potencial de doble uso de las tecnologías que construyen. Esto incluye comprender los sesgos en los datos de entrenamiento, asegurar la interpretabilidad de los modelos y diseñar sistemas con “kill switches” o mecanismos de control robustos. La advertencia de Brent Hecht sobre el “robo de mano de obra” subraya la necesidad de una reflexión ética profunda sobre las fuentes y el uso de datos en el ciclo de vida de la IA.
Segundo, la ciberseguridad adquiere una nueva dimensión. La proliferación de herramientas de IA, especialmente el fenómeno del “Shadow AI” (uso no autorizado de herramientas de IA dentro de las organizaciones), presenta vulnerabilidades significativas. Akamai ha alertado sobre estos riesgos, que pueden exponer datos sensibles y abrir puertas a ciberataques sofisticados, incluyendo el uso de IA por parte de atacantes para generar malware o realizar ataques de ingeniería social. WTW, por su parte, analiza la gestión de riesgos de ciberseguridad relacionados con la IA en empresas latinoamericanas, sugiriendo la necesidad de marcos de gobernanza y seguros especializados.
Tercero, el desafío de la regulación en la región implica que los profesionales deben estar al tanto de los marcos legales emergentes. Aunque Brasil lidera con propuestas legislativas y un “sandbox” regulatorio (donde participan empresas como Metatext, Synapse AI y Prevvine Tecnologia), y Chile y Argentina también avanzan, la regulación aún no ha consolidado un marco regional. Esto deja a muchas empresas operando en un entorno de incertidumbre, donde la auto-regulación y las mejores prácticas de la industria son cruciales para mitigar riesgos y construir confianza.
Finalmente, la transformación del uso en valor real sigue siendo un reto. A pesar de la alta adopción, solo el 37% de las empresas reporta un impacto en el EBIT y un 6% un retorno material. Esto sugiere que, si bien la IA se está adoptando, muchos profesionales y empresas aún luchan por integrar eficazmente la tecnología para generar beneficios tangibles y sostenibles. Comprender los riesgos, la ética y las regulaciones no es solo una cuestión de cumplimiento, sino también de asegurar el éxito y la sostenibilidad de las iniciativas de IA en el largo plazo.
Qué viene después: Gobernanza, regulación y el futuro de la IA
El futuro de la Inteligencia Artificial se perfila como una carrera entre la innovación tecnológica y la implementación de mecanismos de gobernanza y control. La comunidad global está dividida y en un debate crítico sobre cómo proceder. Por un lado, líderes de la industria como Dario Amodei de Anthropic y Sam Altman de OpenAI han expresado sus preocupaciones y han delineado planes para asegurar la alineación de los modelos y, en el caso de Amodei, incluso la necesidad de ralentizar el progreso. Cientos de científicos y figuras de la industria ya firmaron una “declaración sobre el riesgo de extinción de la IA” en 2023, instando a tratar esta amenaza con la misma seriedad que las pandemias o la guerra nuclear.
Por otro lado, la respuesta política es dispar. En Estados Unidos, mientras el expresidente Barack Obama ha advertido sobre un umbral “peligroso” sin intervención gubernamental, figuras como el expresidente Donald Trump y el presidente de la Cámara de Representantes, Mike Johnson, han restado importancia a la necesidad de una regulación apresurada, citando la competencia con China como un factor dominante. Esta divergencia política complica la creación de un consenso global y la implementación de regulaciones transnacionales efectivas.
En América Latina, la regulación está transitando hacia una fase operativa, con un enfoque en el riesgo y la cobertura de todo el ciclo de vida de la tecnología. Brasil se destaca como el país más avanzado, con una propuesta legislativa basada en riesgos y la publicación del primer informe de su “sandbox” regulatorio en julio de 2026. Chile prepara la entrada en vigor de su nueva ley, Argentina tiene proyectos de modernización, y Colombia ha incorporado lineamientos para sistemas de IA públicos. Sin embargo, como se mencionó, la regulación en la región avanza más lento que la adopción. No existe aún un marco regional consolidado, lo que genera desafíos para las empresas que operan en múltiples países.
Ante la lentitud inherente de la legislación estatal, algunos expertos, como Chris Meniw de ChrisMeniwFoundation.org, proponen soluciones alternativas. Meniw argumenta que la regulación estatal llega tarde por diseño y propone un “Protocolo Meniw” para la gobernanza interna de los agentes de IA, sin esperar a la legislación. Este tipo de propuestas buscan empoderar a los desarrolladores y usuarios con herramientas y principios para una gestión responsable desde adentro.
Finalmente, reuniones como la celebrada por ParlAmericas y CEPAL en septiembre de 2026, para discutir una gobernanza de la IA centrada en las personas y basada en principios democráticos, demuestran que la región está tomando conciencia de la necesidad de un enfoque coordinado. El futuro de la IA y su impacto en la humanidad dependerán de la capacidad de la comunidad global –líderes tecnológicos, científicos, gobiernos y la sociedad civil– para colaborar en la creación de un marco que fomente la innovación de manera segura y responsable, anticipando y mitigando los riesgos existenciales antes de que sea demasiado tarde.
