Un estudio conjunto de investigadores de Princeton y la Universidad de Chicago reveló que los LLMs pueden desarrollar nuevos sesgos sociales sobre grupos demográficos artificiales, incluso cuando no existen diferencias inherentes entre ellos. Las tasas de sesgo fueron “mucho más altas” en los LLMs que en los participantes humanos durante un juego de contratación simulado. Alarmantemente, los modelos más nuevos y grandes, con mayores capacidades de razonamiento, tendieron a producir resultados más sesgados, desafiando la noción de que una mayor sofisticación algorítmica implica necesariamente una mayor imparcialidad.
La Universidad de Stanford, a través de su Instituto de IA Centrada en el Ser Humano (HAI), proporcionó evidencia a gran escala sobre los resultados racialmente dispares de estas herramientas. Múltiples investigaciones, publicadas entre mayo y julio de 2026, analizaron 4 millones de solicitudes de empleo en más de 150 empleadores que utilizaban la misma plataforma de IA de terceros. Los hallazgos fueron preocupantes: el 26% de los solicitantes negros y el 15% de los solicitantes asiáticos postularon a puestos donde el sistema de IA produjo resultados calificados como de “impacto adverso” bajo los estándares federales (la regla de los cuatro quintos de la EEOC). Si la IA hubiera recomendado a candidatos negros y asiáticos a la misma tasa que al grupo más favorecido, 40,000 aplicaciones adicionales habrían avanzado en el proceso de contratación.
Otro estudio, de junio de 2026, que evaluó 25,500 currículums mediante LLMs, reportó una tasa de sesgo del 45% impulsada por un “sesgo silencioso”. Los modelos a menudo inventaban excusas de sonido profesional para penalizar a los candidatos cuando se cambiaban variables demográficas o de identidad menores en currículums idénticos. Esto sugiere que la IA no solo aprende patrones discriminatorios, sino que puede racionalizarlos y justificarlos de manera sutil.
La adopción de estas tecnologías es masiva. Se estima que alrededor del 90% de las empresas, y específicamente el 90% de los empleadores en EE. UU., utilizan ahora la IA en el proceso de contratación. Una encuesta de Gallup de 2024 encontró que el 93% de los Directores de Recursos Humanos (CHROs) de las Fortune 500 están integrando la IA, pero solo un tercio de los empleados estaban al tanto de que sus empleadores usaban estas herramientas, creando una brecha de transparencia significativa.
Los sesgos no se limitan a cuestiones raciales o de origen. Algunos estudios han encontrado que los LLMs son más propensos a contratar mujeres y percibirlas como más calificadas, pero luego recomiendan salarios significativamente más bajos, con brechas salariales que en algunos casos llegan a 89 centavos por dólar en comparación con hombres idénticos.
Analisis de la tendencia
Estos datos revelan una tendencia preocupante: la IA en la contratación no es una solución neutral para los sesgos humanos, sino una fuente potencial de nuevos prejuicios. La “curiosidad” científica aquí radica en cómo los LLMs, sistemas diseñados para aprender y razonar, pueden desarrollar estos sesgos activamente. No se trata solo de la replicación pasiva de patrones históricos de discriminación encontrados en sus vastos datos de entrenamiento, sino de una capacidad para inferir y generar nuevas categorizaciones discriminatorias a partir de interacciones o de la presencia de variables demográficas que no deberían ser relevantes para el mérito.
La creación de “excusas de sonido profesional” para el “sesgo silencioso” es un fenómeno particularmente inquietante. Esto sugiere que los LLMs no solo deciden de forma sesgada, sino que pueden construir narrativas que justifiquen esas decisiones, haciendo que la discriminación sea más difícil de detectar y corregir. Esta opacidad algorítmica, sumada a lo que Kathleen Creel, profesora asistente en la Northeastern University y coautora del estudio de Stanford, describe como una “monocultura algorítmica” (donde muchas empresas dependen de los mismos proveedores de IA), puede impedir que un gran número de solicitantes obtengan entrevistas, creando barreras sistémicas para la diversidad y la inclusión.
La tendencia es hacia una mayor integración de la IA en RRHH, pero también hacia una mayor complejidad en sus sesgos. La promesa de eficiencia de la IA podría estar creando una “exclusión silenciosa”, como advierte Atahualpa Blanchet, experto en IA, si las empresas no implementan estas tecnologías con la capacitación y supervisión adecuadas. El riesgo es que la meritocracia sea socavada por sistemas que, sin intervención ética, se vuelven progresivamente más prejuiciosos.
Contexto regional
América Latina, una región que se consolida como un centro clave para el talento en IA, no es ajena a esta problemática ni a los esfuerzos por abordarla. Un informe de CI&T indica que el 76% de los líderes tecnológicos planean aumentar la contratación “nearshore” en LATAM en los próximos dos años, con un 90% de confianza en el talento de IA de la región. Países como Brasil, México, Argentina, Colombia y Chile son destacados por su ecosistema de talento en IA. Esta creciente adopción hace que la gestión ética de la IA sea imperativa.
La actividad regulatoria en la región es notable: Perú implementó una ley en 2023 (actualizada en 2025) que clasifica el uso de IA en la contratación o el despido como de “alto riesgo”, exigiendo supervisión humana, mantenimiento de registros y transparencia algorítmica. Chile tiene un proyecto de ley en el Congreso, y Argentina, Brasil, Chile y Uruguay se están alineando con los estándares de la Unión Europea en la regulación de la IA. Brasil, en particular, tiene un proyecto de ley (No. 2,338/2023) que propone un modelo basado en riesgos con sanciones severas, y su Estrategia Nacional de Inteligencia Artificial exige explícitamente que la IA no cree ni refuerce sesgos. México ha incluido un requisito de “opt-out” para la toma de decisiones automatizada en su última ley de protección de datos. A nivel regional, más de 20 países latinoamericanos y caribeños acordaron la “Declaración de Santo Domingo” para establecer una hoja de ruta 2026-2027 para la IA ética, que incluye gobernanza, regulación y protección de grupos vulnerables.
La IA ya está transformando industrias en la región, con chatbots y herramientas predictivas en uso en recursos humanos, servicio al cliente y finanzas. Sin embargo, un estudio del Banco Mundial y la OIT estima que entre el 30% y el 40% de los empleos en América Latina y el Caribe están expuestos a la IA generativa, con hasta un 5% en riesgo de desplazamiento. Los trabajadores latinos, especialmente en sectores como agricultura, servicios y construcción, podrían verse desproporcionadamente afectados por la automatización. Más del 20% de los trabajadores latinos están preocupados por el reemplazo de empleos por la IA.
En un contrapunto esperanzador, organizaciones como Ramona AI, una entidad de la sociedad civil latinoamericana, utilizan la IA para detectar fraudes laborales y eliminar sesgos algorítmicos en la contratación en México, Colombia, Perú, Argentina y Chile. Sus esfuerzos han logrado un aumento del 38% de mujeres en puestos de liderazgo y un 35% de participación indígena en el empleo formal, demostrando que la IA, cuando se diseña y aplica éticamente, puede ser una fuerza para la inclusión.
Perspectiva a futuro
La proliferación de la IA en la contratación plantea un dilema ético y práctico ineludible. Expertos como los investigadores de Princeton y la Universidad de Chicago advierten que los LLMs no solo “reflejan pasivamente los sesgos sociales humanos, sino que pueden crear activamente otros nuevos a partir de la experiencia”. Caroline Coelho, de la Confederación Sindical de las Américas (CSA), alerta que los algoritmos a menudo reproducen sesgos existentes, afectando desproporcionadamente a las mujeres. Gisselle Burbano, jefa de ética de la IA para América Latina en la UNESCO, enfatiza que la IA puede tanto “profundizar como reducir las brechas” de desigualdad, dependiendo de cómo se gobierne, y que la velocidad de adopción tecnológica a menudo supera la capacidad institucional para regularla, exponiendo a grupos vulnerables.
La perspectiva a futuro exige un enfoque multifacético. Primero, es crucial una mayor transparencia y explicabilidad de los algoritmos de IA utilizados en la contratación. Los empleadores deben ser conscientes de las herramientas que utilizan y sus posibles sesgos, y los empleados deben ser informados sobre el uso de la IA en sus procesos de selección. Segundo, la supervisión humana no puede ser eliminada. Es la última línea de defensa contra decisiones algorítmicas injustas, y debe estar respaldada por marcos claros y personal capacitado para identificar y corregir sesgos.
Finalmente, la regulación es fundamental. Como señalan profesionales legales, los empleadores enfrentan responsabilidades bajo las leyes antidiscriminación si las herramientas algorítmicas producen resultados discriminatorios. La alineación con los estándares éticos globales y el desarrollo de leyes específicas, como se está viendo en Perú y Brasil, serán clave para garantizar que la IA sea una herramienta de progreso y no de exclusión. La vigilancia constante, la inversión en IA ética y la colaboración entre gobiernos, empresas y la sociedad civil determinarán si esta potente tecnología se convierte en un motor de equidad o un amplificador de la desigualdad en el mercado laboral latinoamericano y mundial.
