Los números clave
Las advertencias sobre la IA y la manipulación no son meras especulaciones, sino que están respaldadas por datos y estudios concretos. Un estudio reciente, realizado con 233 participantes, demostró una "susceptibilidad humana significativa a la manipulación impulsada por la IA" en contextos tanto financieros como emocionales. Esto subraya que la vulnerabilidad no es teórica, sino una realidad experimentalmente verificada. Otro estudio sobre modelos de lenguaje grande (LLMs) reveló que, si bien alertar a estos sistemas sobre sesgos cognitivos incrementó sus respuestas en un 50% y las menciones de sesgos en 100 veces, la reducción general del sesgo real en las respuestas fue modesta, de solo un 6.9%. Esto ilustra la dificultad inherente para mitigar completamente los efectos de los sesgos, incluso cuando se es consciente de ellos.
En el ámbito de la ciberseguridad, el phishing, una técnica que la IA puede potenciar enormemente a través de la creación de mensajes altamente personalizados y convincentes, representa aproximadamente el 15% de los ataques cibernéticos más utilizados actualmente, según informes globales. Esta cifra resalta el potencial de la IA para escalar amenazas ya existentes. A nivel de gobernanza, el número de políticas nacionales de IA creció significativamente, pasando de 33 en 2017 a más de 60 en 2023, una clara señal del reconocimiento global del desafío, pero también de una respuesta aún fragmentada. Un dato preocupante es que el 73% de las organizaciones identifica la privacidad y seguridad de los datos como su principal preocupación en relación con la IA, lo que, si bien es fundamental, no siempre abarca la dimensión de la autonomía cognitiva. Además, la proliferación de marcos éticos, con más de 80 referencias sobre la ética de la IA, lejos de ser una solución definitiva, indica la falta de principios universales y estáticos en un campo que evoluciona a una velocidad vertiginosa.
Análisis de la tendencia
La tendencia que emerge de estos datos y advertencias es clara: la IA está evolucionando hacia sistemas con una capacidad cada vez mayor para influir de manera sutil pero efectiva en la cognición humana. Esta capacidad transforma las tácticas de ciberseguridad, donde los atacantes ya no necesitan ser expertos programadores, sino que deben entender cómo 'persuadir a la IA' mediante técnicas como el 'prompt injection', como destaca Fidel Delgado de Salles Sainz Grant Thornton. Esto requiere una replanteación profunda de las estrategias defensivas y una mayor comprensión de cómo la IA interactúa con nuestras vulnerabilidades cognitivas.
La manipulación impulsada por IA va más allá de la publicidad dirigida; puede alterar resultados electorales, influir en mercados financieros e incluso escalar conflictos geopolíticos, una preocupación expresada por Geoffrey Hinton, el "padrino de la inteligencia artificial". Hinton compara esta nueva desinformación generada por IA con la propagada anteriormente por redes sociales, pero con un nivel de sofisticación y personalización que la hace mucho más potente y difícil de detectar. La cuestión no es si la IA manipulará, sino cuándo y cómo lo hará a una escala masiva, y cómo nos prepararemos para ello. Kush Varshney de IBM Research añade que la autonomía creciente de los agentes de IA presenta dilemas éticos ampliados y problemas de confianza, enfatizando la necesidad de integrar salvaguardas robustas desde las primeras etapas de desarrollo.
Contexto regional
Para América Latina, la emergencia de la IA como herramienta de manipulación presenta desafíos únicos y amplificados. La región enfrenta barreras estructurales significativas, incluyendo brechas en infraestructura digital, gobernanza de datos, y formación de talento especializado. A pesar de los esfuerzos de países como Chile, Uruguay y Costa Rica en el desarrollo de estrategias nacionales de IA, menos del 40% de los países latinoamericanos poseen capacidades institucionales básicas para diseñar e implementar dichas estrategias. Esto crea un terreno fértil para la proliferación desregulada de tecnologías de IA que podrían ser explotadas para fines maliciosos.
La regulación avanza de forma heterogénea. Mientras que Perú y El Salvador ya cuentan con legislación específica sobre IA, naciones como México, Brasil y Colombia están en proceso de desarrollar sus propios marcos regulatorios. Sin embargo, en países clave como Perú, México y Colombia, la participación de la sociedad civil en la construcción de estos marcos legales ha sido, lamentablemente, "nula", según algunas observaciones. Esta falta de inclusión genera desconfianza y la preocupación de que las regulaciones no garanticen plenamente los derechos humanos ni aborden las particularidades culturales de la región, como enfatiza la Recomendación de la UNESCO sobre la Ética de la IA (2021). Además, la Unión Europea, con su pionera AI Act, clasifica los sistemas de IA de "riesgo inaceptable" a aquellos que emplean manipulación subliminal, una medida que tendrá implicaciones globales para cualquier empresa que opere en Europa o procese datos de ciudadanos europeos, afectando indirectamente a muchas organizaciones latinoamericanas.
Perspectiva a futuro
De cara al futuro, la urgencia de establecer marcos éticos y regulatorios sólidos para la IA es innegable. La Senadora Alma Anahí González Hernández (México) ha subrayado que uno de los mayores desafíos regulatorios es evitar que la IA se convierta en una herramienta de manipulación y desinformación masiva, destacando la necesidad de reglas claras sobre la divulgación de contenido generado por IA y la responsabilidad de su uso. Esto implica no solo prohibir ciertas aplicaciones, sino también promover la transparencia y la rendición de cuentas en el desarrollo y despliegue de estas tecnologías.
La solución a la manipulación por IA no reside únicamente en la prohibición, sino en una combinación de educación digital, alfabetización mediática y el desarrollo de IA "explicables" o "transparentes". Esto permitiría a los usuarios y reguladores comprender mejor cómo operan estos sistemas y por qué toman ciertas decisiones. Carlos Scolari, citado por la Universidad Austral, resalta la velocidad de los avances tecnológicos y el profundo cambio cultural que la IA produce, enfatizando la importancia de conocer su historia para moldear su futuro. A medida que la IA se vuelve más omnipresente, la construcción de salvaguardas éticas debe ser tan intrínseca a su diseño como su funcionalidad, asegurando que la innovación tecnológica no socave los pilares de la autonomía individual y la confianza social. La región latinoamericana, aunque con desafíos, tiene la oportunidad de liderar en soluciones éticas y sostenibles de IA, como ha señalado el Foro Económico Mundial (2022), siempre y cuando aborde sus deficiencias estructurales y garantice la participación ciudadana en el debate y la formulación de políticas.
La convergencia de la IA y los sesgos cognitivos humanos plantea desafíos complejos que requieren una atención urgente en el desarrollo de marcos éticos y regulatorios, especialmente en América Latina, para asegurar un desarrollo tecnológico responsable e inclusivo, protegiendo así la dignidad humana y la diversidad cultural en la era digital.
