El reciente estudio de Peter Kirgis y Sayash Kapoor de la Universidad de Princeton, mencionado por MIT Technology Review, arroja luz sobre las deficiencias de los agentes de IA actuales. Su investigación reveló que, si bien estos sistemas pueden resolver problemas de ingeniería específicos, carecen de la capacidad de juicio y la chispa creativa necesarias para la investigación de IA abierta y original. Agentes como Claude Opus 4.8 de Anthropic, por ejemplo, mostraron una tendencia a comprometerse rápidamente con enfoques poco prometedores, sin la flexibilidad para reevaluar estrategias fallidas o explorar una diversidad de ideas. Esto fue calificado como una "ausencia de creatividad intuitiva valiosa" y un "pensamiento rutinario y formulista".
Complementando este escepticismo, un estudio publicado en arXiv, "On the Limits of Self-Improving in Large Language Models", formaliza la idea de que la auto-capacitación recursiva en LLMs, sin una "señal exógena persistente" o un "anclaje externo", conduce a una "decadencia de entropía" y una "amplificación de varianza". Esto resulta en dinámicas degenerativas y "puntos fijos degenerativos", contrarrestando la visión de una rápida "explosión de inteligencia".
A pesar de estas advertencias, la IA ya está impactando el desarrollo de la propia IA. Anthropic, en su informe "When AI Builds Itself", reporta que la cantidad de código producido por persona en su organización ha aumentado ocho veces, con Claude redactando más del 80% del código de sus sistemas. Advierten, sin embargo, que la auto-mejora recursiva "podría llegar antes de lo que la mayoría de las instituciones están preparadas" y subraya el riesgo de desalineación con los valores humanos. Otros, como Dean Ball, argumentan que el ecosistema de IA ya está auto-mejorándose de forma recursiva a través de un proceso sistémico de herramientas y flujos de trabajo automatizados, haciendo que el ritmo sea más difícil de predecir.
En cuanto a datos cuantitativos, la duración de las tareas que los modelos de IA pueden realizar de forma autónoma se duplica cada cuatro meses, una mejora significativa frente a los siete meses de hace poco más de un año. Las proyecciones más optimistas prevén un codificador totalmente automatizado para 2030, seguido de una superinteligencia artificial. Sin embargo, la efectividad real aún se debate: un estudio encontró que desarrolladores que usaban IA creían ser un 20% más rápidos, pero en realidad eran un 19% más lentos.
Para Latinoamérica, la adopción de IA generativa es notable. Un 58% de las empresas de la región ya la ha implementado, y un 28% adicional está en fase de exploración. Un contundente 90% de las empresas latinoamericanas considera el impacto de la IA como revolucionario, con proyecciones que estiman que podría añadir hasta US$1 billón a la economía regional para 2038. Específicamente, el 95% de las empresas en Sudamérica ha adoptado IA generativa, aunque solo el 60% reporta mejoras medibles. La región adopta IA a un ritmo del 47%, superando el promedio global del 45%, si bien solo capta el 1.1% de la inversión global en IA. Impresionantemente, el 89% de las empresas en la región planea adoptar agentes de IA en los próximos 12 a 17 meses.
Análisis de la tendencia
La tendencia predominante es la de un escepticismo creciente sobre las predicciones más hiperbólicas de la auto-mejora de la IA. El debate se polariza entre aquellos que ven límites intrínsecos a la autonomía creativa de las máquinas y quienes argumentan que la auto-mejora ya está ocurriendo de manera distribuida y sistémica. La investigación de Princeton subraya una brecha fundamental: la IA es excelente en tareas definidas y optimización, pero carece de la intuición y el juicio humano para la investigación "abierta". Esto sugiere que la singularidad, si es que llega, podría ser un proceso mucho más gradual y dependiente de la co-creación humano-IA, en lugar de una explosión puramente autónoma.
Expertos como Hector Zenil y Mohamed El Nawawy refuerzan la idea de límites fundamentales sin "anclajes externos" o intervención humana. La "decadencia de entropía" en modelos de lenguaje auto-entrenados sin nuevas fuentes de información o corrección humana es un concepto crucial aquí: un sistema que solo se entrena con sus propios outputs tiende a degenerar o a caer en puntos fijos. Esto desafía directamente la narrativa de una "explosión de inteligencia" rápida y sin control.
No obstante, la aceleración del desarrollo de IA por parte de la propia IA es una realidad innegable. La productividad en la generación de código y la optimización de sistemas, como muestra Anthropic, es un testimonio de cómo la IA se convierte en una herramienta potente para sus propios creadores. El desafío radica en cómo esta aceleración se traduce en verdadera "investigación" y "descubrimiento" en el sentido humano, en lugar de optimización iterativa dentro de parámetros existentes. La tendencia, por tanto, no es un freno total al progreso, sino una recalibración de expectativas, reconociendo que la autonomía creativa plena de la IA es un horizonte más distante y complejo de lo que se había creído.
Contexto regional
América Latina se encuentra en una encrucijada interesante respecto a la IA. Por un lado, la región muestra una notable velocidad de adopción, superando el promedio global, como indica que el 47% de las empresas latinoamericanas ya ha adoptado IA frente a un 45% mundial. Países como Chile, Brasil y Uruguay son considerados "pioneros" en el Índice Latinoamericano de Inteligencia Artificial (ILIA 2025), reflejando un entusiasmo y una inversión crecientes. Esta alta tasa de implementación, con un 58% de las empresas ya usando IA generativa, se traduce en un inmenso potencial económico, estimándose que la IA podría añadir hasta US$1 billón a la economía latinoamericana para 2038.
Sin embargo, este entusiasmo coexiste con desafíos significativos. La región enfrenta una severa escasez de talento especializado, con un alarmante 68% de las empresas reportando dificultades para contratar científicos de datos e ingenieros de Machine Learning. Además, a pesar de la rápida adopción, la subinversión en IA es evidente: Latinoamérica solo capta el 1.1% de la inversión global en este campo. Esta disparidad, junto con la "fuga de especialistas" hacia mercados más desarrollados, crea desigualdades marcadas entre países de la región y limita su capacidad para innovar y liderar en el sector.
En cuanto a la regulación, América Latina está construyendo un "mosaico de normas", con Brasil a la cabeza y países como Chile, Colombia y México mostrando avances, mientras Perú y El Salvador ya cuentan con legislación vigente. Estas normativas buscan abordar preocupaciones éticas como el sesgo algorítmico y la sostenibilidad del entrenamiento de modelos. Flor Azategui Zabala aboga por un debate más "moderado, realista y pragmático" en la región, alejándose de las exageraciones tanto de los riesgos apocalípticos como de los beneficios milagrosos. Jaime Figueres Ulate, por su parte, señala un "desfase" entre las métricas de IA y la realidad tecnológica de LatAm, instando a la región a cerrar la brecha para aprovechar plenamente las oportunidades que la IA puede ofrecer, como los 48 millones de empleos formales que podría generar o el impulso del "nearshoring" de operaciones en español.
Perspectiva a futuro
El futuro de la auto-mejora recursiva de la IA se perfila como un campo de tensión entre el optimismo tecnológico y el rigor científico. Si bien la visión de una IA que se perfecciona a sí misma de manera autónoma y explosiva parece menos inminente de lo que se creía, el progreso en el uso de la IA para acelerar su propio desarrollo es innegable. La clave residirá en la simbiosis entre la inteligencia humana y la artificial. Los sistemas de IA continuarán optimizando procesos, generando código y probando hipótesis, pero la capacidad de formular preguntas de investigación verdaderamente novedosas, de ejercer juicio ético y de innovar conceptualmente parece seguir siendo un dominio humano esencial.
Esto implica que la supervisión humana continua, el anclaje en fuentes de datos externas y la dirección creativa serán elementos no solo deseables, sino probablemente indispensables para cualquier avance significativo hacia la auto-mejora. La necesidad de alinear los modelos de IA con los valores humanos, como advierte Anthropic, se vuelve aún más crítica en este escenario de desarrollo gradual, para evitar desviaciones o "desalineamientos" a medida que los sistemas adquieren más capacidades.
Para Latinoamérica, la perspectiva a futuro es de un crecimiento constante en la adopción y aplicación de la IA, pero con la imperiosa necesidad de abordar sus vulnerabilidades estructurales. La inversión en talento, la creación de infraestructuras robustas y el desarrollo de marcos regulatorios coherentes serán fundamentales. Solo así la región podrá transformar el potencial de US$1 billón en una realidad económica y social tangible, mitigando los riesgos del sesgo algorítmico y la "fuga de cerebros". La discusión sobre la auto-mejora recursiva debe servir como un recordatorio de que, incluso en la frontera de la innovación, la inteligencia humana, con su juicio y creatividad, sigue siendo el motor irremplazable del progreso. El ritmo de la auto-mejora puede ser incierto, pero la necesidad de una IA responsable y beneficiosa para la sociedad es una certeza que debe guiar las acciones futuras en la región.
