Este concepto, hasta hace poco relegado a la ciencia ficción, se ha convertido en una preocupación tangible y un horizonte cercano para la comunidad tecnológica global. ¿Por qué es noticia hoy? Las recientes declaraciones de Barry Diller, el influyente magnate detrás de IAC y Expedia Group, durante la conferencia "Future of Everything" del Wall Street Journal en mayo de 2026, han encendido las alarmas y reenfocado el debate. Diller, con una trayectoria de más de cinco décadas construyendo imperios digitales, expresó su confianza personal en Sam Altman, CEO de OpenAI, calificándolo de una "persona decente con buenos valores". Sin embargo, su mensaje central fue contundente y alarmante: la confianza individual es "irrelevante" a medida que la AGI se acerca, y lo que se necesita son "guardarraíles" estrictos y verificables para mitigar sus riesgos impredecibles. "Uno de los grandes problemas con la IA es que va mucho más allá de la confianza", afirmó Diller, destacando que incluso los creadores de esta tecnología se sorprenden a menudo con sus capacidades y resultados emergentes. Esto resalta la urgencia de establecer límites externos y estructurales, en lugar de depender de la ética o intenciones de individuos, por muy bien intencionados que sean.
El mercado de la AGI es un testimonio de esta inminente realidad. Valorado en USD 1.08 mil millones en 2025, se proyecta que superará los USD 116 mil millones para 2035, con una impresionante Tasa de Crecimiento Anual Compuesto (CAGR) del 36.25%. La inversión media por ronda de financiación ya excede los USD 117 millones, con más de 530 rondas cerradas y más de 910 inversores activos que han inyectado más de USD 9.28 mil millones en este sector. Esto no es una promesa lejana; es una realidad con un capital y talento humano masivos, empleando a más de 45 mil personas a nivel mundial y sumando más de 6 mil nuevos puestos de trabajo el último año. La AGI está en el horizonte, y el mundo debe prepararse.
Cómo funciona (o cómo se espera que funcione la AGI y sus guardarraíles)
Entender "cómo funciona" la AGI es, en gran medida, especulativo, ya que su plena realización aún no se ha logrado. Sin embargo, los investigadores conciben la AGI como un sistema capaz de aprender de cualquier tipo de datos, adaptarse a nuevos entornos, transferir conocimientos entre tareas diversas y operar con un nivel de comprensión contextual y sentido común similar al humano. Se espera que una AGI combine múltiples paradigmas de IA, como el aprendizaje profundo, el aprendizaje por refuerzo, el procesamiento de lenguaje natural y la visión por computadora, en una arquitectura unificada que permita la inteligencia emergente y el auto-mejoramiento recursivo.
El desafío fundamental de la AGI no es solo su creación, sino su control y alineación con los valores humanos. Aquí es donde entran los "guardarraíles" a los que se refiere Diller. Estos no son meros interruptores de apagado, sino un conjunto complejo de mecanismos técnicos, éticos y regulatorios diseñados para garantizar que la AGI opere de manera segura, beneficiosa y predecible. Técnicamente, los guardarraíles podrían incluir:
- Sistemas de monitoreo continuo: Para detectar comportamientos anómalos o inesperados del sistema AGI.
- Mecanismos de interpretabilidad y explicabilidad (XAI): Que permitan a los ingenieros entender el razonamiento y las decisiones de la AGI, fundamental para auditar y corregir su funcionamiento.
- Limitaciones de capacidad y acceso: Restricciones computacionales o de acceso a ciertos recursos (por ejemplo, la capacidad de manipular infraestructuras críticas) para prevenir una autonomía excesiva.
- "Kill switches" o "pausas de seguridad": Mecanismos de emergencia que permitan detener o ralentizar un sistema AGI en caso de comportamientos peligrosos o fuera de control, aunque la eficacia de estos en una AGI verdaderamente avanzada es un tema de intenso debate.
- Entrenamiento basado en valores: Desarrollar métodos para infundir principios éticos y valores humanos en el proceso de aprendizaje de la AGI, para que sus objetivos estén intrínsecamente alineados con los de la humanidad.
Desde una perspectiva no técnica, los guardarraíles también involucran la gobernanza y la regulación. Esto incluye el desarrollo de leyes que dicten cómo se debe diseñar, probar, desplegar y auditar la AGI, así como la creación de organismos internacionales capaces de supervisar su desarrollo. La advertencia de Diller subraya que la naturaleza impredecible de la AGI hace que depender de la "confianza" en un individuo sea inadecuado; el sistema debe construirse con salvaguardias inherentes y externas que garanticen su seguridad y alineación con la sociedad, incluso cuando sus capacidades excedan la comprensión completa de sus creadores. Como él mismo advierte, si los humanos no establecen esos límites, la propia AGI podría hacerlo, con consecuencias irreversibles.
Qué cambia para los profesionales tech
Para los profesionales tech en Latinoamérica, la inminente llegada de la AGI y el llamado a establecer guardarraíles transforman significativamente el panorama. Ya no se trata solo de construir sistemas funcionales, sino de hacerlo con una profunda conciencia de sus implicaciones éticas, sociales y regulatorias. La adopción de la IA en Latinoamérica ya es notable, con un 65% de los consumidores utilizando herramientas de IA, lo que supera la preparación institucional y regulatoria de la región. Para 2026, se espera que el 70% de las organizaciones en la región empleen IA compuesta, una mezcla sofisticada de IA generativa, análisis predictivo y agentes inteligentes.
Esta tendencia crea una demanda crítica de habilidades no solo en el desarrollo puro de algoritmos y modelos de IA, sino también en áreas emergentes como la ética de la IA, la gobernanza de datos y la ciberseguridad aplicada a sistemas inteligentes. Los ingenieros y desarrolladores necesitarán entender cómo diseñar sistemas "alineados con valores", interpretables y robustos frente a posibles abusos o fallos inesperados. La habilidad para implementar y auditar los "guardarraíles" técnicos mencionados será una competencia altamente valorada. Por ejemplo, en Perú, la Ley No. 31,814 de 2023 ya ha definido herramientas de "alto riesgo" en el ámbito laboral que entrarán en vigor en septiembre de 2026 para los sectores de salud y educación. Esto significa que los profesionales tech que desarrollen soluciones para estos sectores deberán familiarizarse con estas normativas y construir sus sistemas cumpliendo requisitos específicos de transparencia y seguridad.
Además, la fragmentada pero creciente regulación regional exige que los profesionales tech de Latinoamérica no solo sean expertos técnicos, sino también navegantes informados del marco legal. Proyectos de ley en Chile (Ley No. 21,719, vigente desde el 1 de diciembre de 2026, sobre el derecho a oponerse a decisiones automatizadas en el empleo) y Brasil (Proyecto de Ley No. 2,338/2023, alineado con la Ley de IA de la UE) ilustran la necesidad de un enfoque proactivo en el cumplimiento normativo. Ignorar estos desarrollos puede resultar en riesgos legales y operativos significativos para las empresas y los profesionales.
En cuanto a las oportunidades económicas, la IA podría añadir entre USD 1.1 y 1.7 billones en valor económico anual a la región y aumentar la productividad entre un 1.9% y un 2.3% anualmente para 2030, según la investigación. Sin embargo, solo el 23% de las organizaciones latinoamericanas están generando valor económico significativo de la IA. Esto señala una brecha de implementación y la necesidad de profesionales que no solo innoven, sino que también sepan cómo integrar eficazmente la IA para generar valor real. Sectores como el fintech en Colombia, que creció un 26% en 2023 gracias a prestamistas nativos de IA, o la agricultura en Chile y Perú, donde sistemas de riego basados en IA reducen el consumo de agua hasta en un 40%, demuestran el potencial transformador. Sin embargo, también se anticipa la posible pérdida de empleos de clase media (paralegales, contadores, trabajadores de centros de llamadas) debido a la automatización, subrayando la importancia de la reskilling y upskilling, una inversión que la mitad de las empresas encuestadas ya están realizando.
Qué viene después
El camino hacia la AGI es un proceso de desarrollo continuo y, según Diller, impredecible. Lo que viene después será una compleja interacción entre avances tecnológicos, decisiones de gobernanza y adaptación social. En el corto plazo, veremos la materialización de las predicciones de gigantes tecnológicos: Elon Musk proyecta que Grok 5 de xAI, a lanzarse a principios de 2026, tendrá un 10% de posibilidades de alcanzar el rendimiento de AGI, con una inversión anual de USD 20-30 mil millones solo en computación. Google DeepMind, por su parte, cree que solo faltan "1 o 2 grandes avances" para la AGI. Estas proyecciones, si bien optimistas, refuerzan la idea de que no estamos hablando de un futuro lejano.
Desde la perspectiva de los guardarraíles, lo que viene después es una carrera contra el tiempo para establecer marcos regulatorios robustos. La Ley de IA de la UE se está convirtiendo en un referente global, y países latinoamericanos como Brasil ya tienen proyectos de ley (No. 2,338/2023) que proponen modelos basados en riesgos alineados con ella. Veremos cómo Perú implementa sus regulaciones para herramientas de "alto riesgo" a partir de septiembre de 2026 y cómo Chile aplica su nueva ley sobre decisiones automatizadas desde diciembre de 2026. La adopción de los Principios de IA de la OCDE por parte de Argentina, Brasil, Chile, Colombia, México y Perú es un paso importante hacia una convergencia en las normas éticas y de gobernanza.
Los próximos años serán cruciales para observar varios frentes:
- Avances tecnológicos de la AGI: Más allá de los anuncios, cómo se manifiestan las capacidades emergentes y si los sistemas actuales comienzan a exhibir una verdadera generalización del conocimiento.
- Evolución regulatoria: La velocidad y efectividad con la que los gobiernos y organismos internacionales logran consensuar e implementar leyes que no frenen la innovación, pero que protejan a la sociedad. La tensión entre la velocidad del desarrollo tecnológico y la lentitud del proceso legislativo será constante.
- Inversión y concentración de poder: Observar cómo las enormes inversiones (como los USD 40 mil millones que recibió OpenAI en 2025 o los USD 20-30 mil millones anuales de xAI) concentran el poder de desarrollo de AGI en unas pocas empresas, y las implicaciones de esto para la competencia y la diversidad de enfoques.
- Impacto socioeconómico: Monitorear el desplazamiento de empleos, la creación de nuevos roles y cómo las economías, especialmente en Latinoamérica, se adaptan a estas disrupciones. La posible "dependencia extractiva" por la necesidad de centros de datos en la región es un riesgo a vigilar.
- Desarrollo de estándares de seguridad y ética: La colaboración entre la industria, la academia y los gobiernos será vital para definir y aplicar estándares que aseguren que la AGI se desarrolle de forma responsable. El debate sobre la seguridad de la IA y cómo se implementan mecanismos de control efectivo continuará intensificándose. El 55% de los tomadores de decisiones en Latinoamérica planean aumentar sus inversiones en IA para 2025, lo que sugiere una oportunidad para que la región no solo sea adoptora, sino también innovadora en la creación de soluciones y marcos de gobernanza responsables.
