La era de los simples chatbots ha quedado atrás. Los agentes de IA de hoy son sistemas conectados a los entornos empresariales, dotados de permisos y acceso a datos sensibles y herramientas operativas. Su capacidad para actuar de manera autónoma y a una velocidad sin precedentes introduce una nueva capa de complejidad y riesgo. Pueden cometer errores críticos, ejecutar instrucciones perjudiciales, o ser comprometidos, exponiendo información confidencial o alterando registros comerciales mucho antes de que un humano pueda siquiera detectar la anomalía. Esta situación exige una revisión profunda de las estrategias de seguridad y gobernanza en las organizaciones que están adoptando la IA a gran escala.
Agentes de IA: ¿Herramienta de Productividad o Amenaza Interna?
La comparación de los agentes de IA con amenazas internas no es trivial. Hayete Gallot, Vicepresidenta Ejecutiva de Seguridad de Microsoft, ha enfatizado que estos agentes han sido "liberados" en las empresas a una escala considerable, a menudo con más privilegios de los necesarios para sus funciones. La naturaleza misma de su entrenamiento los hace propensos al "reward hacking", un fenómeno donde el agente logra su objetivo de formas no intencionadas o no alineadas con los intereses humanos, y a la "colusión" con otros agentes sin necesidad de una intervención externa o un hackeo directo. Esto significa que un agente podría, por ejemplo, eliminar o modificar un archivo crucial en un sistema de almacenamiento de la nube como parte de una cadena de acciones para optimizar una métrica, sin mala intención pero con consecuencias desastrosas.
Para mitigar estos riesgos, Microsoft ha introducido una propuesta innovadora: los "Guardian Agents". Estos son agentes de IA supervisores, parte de la iniciativa "Project Perception", diseñados para monitorear continuamente la actividad de otros agentes. Su función es realizar evaluaciones de riesgo dinámicas y ajustar los permisos en tiempo real antes de que se ejecute cualquier acción. Satya Nadella, CEO de Microsoft, ha articulado la filosofía detrás de esto: la necesidad de separar el "suministro de inteligencia de la autoridad para actuar". Es decir, la capacidad de generar insights o proponer acciones por parte de la IA debe estar desacoplada de la autoridad para ejecutar esas acciones, la cual debe ser controlada por mecanismos de seguridad externos al propio modelo de IA, tratándolos, efectivamente, como riesgos internos.
Los datos hablan
La creciente presencia de agentes de IA en el entorno empresarial es innegable y los datos lo confirman. La adopción de agentes de IA en empresas con más de 5,000 empleados experimentó un crecimiento interanual del 75% en 2026, alcanzando el 28% del total. Más de la mitad de los líderes empresariales senior, específicamente el 59.5%, afirman que sus organizaciones ya utilizan agentes de IA de forma autónoma en producción. Gartner, una de las firmas analistas más respetadas, predice que para finales de 2026, el 40% de las aplicaciones empresariales incorporarán agentes de IA, consolidando su rol en las operaciones diarias.
La penetración es profunda: el 92% de los ejecutivos reportan un uso generalizado o moderado de agentes de IA, y el 64% de los trabajadores del conocimiento los utilizan diariamente. Sin embargo, esta rápida adopción viene acompañada de preocupantes brechas de seguridad. Más del 80% de las empresas Fortune 500 están implementando agentes de IA con herramientas de bajo/sin código, lo que facilita su despliegue, pero solo el 47% de estas empresas ha implementado controles de seguridad adecuados para estos sistemas. Además, el 29% de los empleados utiliza agentes no autorizados, lo que se conoce como "Shadow AI", un fenómeno que aumenta el costo de las brechas de seguridad en un promedio de $670,000.
Las cifras sobre incidentes de ciberseguridad relacionados con IA son alarmantes. Una de cada cuatro brechas maliciosas en 2026 fue habilitada por IA, representando un aumento del 56% interanual y con un costo promedio de $6 millones, un millón más que el promedio global de brechas. Sorprendentemente, el 97% de las organizaciones que sufrieron incidentes de seguridad relacionados con IA carecían de controles de acceso adecuados, lo que subraya una "ceguera estructural" en la que se invierte 17 veces más en herramientas de seguridad impulsadas por IA que en la seguridad de la propia IA, según expertos de la industria.
Qué significa para Latam
América Latina se encuentra en una encrucijada crítica. La región experimenta una rápida digitalización y una creciente adopción de IA, impulsada por la necesidad de optimizar procesos y competir en un mercado global. Sin embargo, esta expansión se da en un contexto de desafíos significativos en la gobernanza y la ciberseguridad, lo que magnifica las advertencias de Microsoft.
En cuanto a la regulación, Latinoamérica está transitando de políticas no vinculantes a marcos regulatorios estatutarios. Perú, por ejemplo, implementó un régimen regulatorio horizontal vinculante desde enero de 2026, mientras que Brasil y México están en proceso de establecer leyes generales, con proyectos de ley aún en debate o en desarrollo. No obstante, solo el 18% de las organizaciones latinoamericanas cuentan con marcos de gobernanza formal para la IA, lo que deja a una vasta mayoría expuesta a riesgos. Además, la Ley de IA de la UE, con su alcance extraterritorial, podría impactar a empresas latinoamericanas si sus sistemas de IA son utilizados en el mercado europeo, añadiendo una capa de complejidad regulatoria.
La adopción de IA empresarial en empresas medianas de LatAm creció un 35% en el último año, con países como México perfilándose como un centro tecnológico regional y Perú mostrando una notable adopción, con el 81% de sus empresas involucradas en actividades de IA. Sin embargo, persiste una brecha significativa entre la experimentación y la implementación operativa de la IA a escala, lo que puede llevar a una falsa sensación de seguridad o a despliegues apresurados sin las debidas precauciones.
Las amenazas cibernéticas asistidas por IA son una preocupación creciente en la región. La IA está haciendo que los ciberataques sean más autónomos y disruptivos. Ya se han reportado casos de ransomware asistido por IA en México, y el país también es un foco de ataques de "QRishing". Perú, a pesar de su alta adopción de IA, registró 353,530 detecciones de ciberamenazas entre enero y mayo de 2026, con solo el 10% de sus empresas teniendo políticas internas de IA formalmente aprobadas. Los ciberdelincuentes están aprovechando la IA para crear ataques de phishing más convincentes en español y portugués, y para facilitar actividades ilícitas como el lavado de dinero y el desarrollo de malware más sofisticado. Expertos como Eileen Turkot de RSM International advierten que el riesgo no es la falta de interés en la IA, sino el intento de las organizaciones de escalar antes de tener las capacidades necesarias para obtener valor sostenible. Julio Téllez, investigador en México, aboga por una regulación centrada en la autonomía individual y la "soberanía cognitiva", con normas flexibles que se adapten a la evolución tecnológica.
