Ricardo Herrera Martínez
Los sistemas de inteligencia artificial generativa no producen conocimiento nuevo: reproducen patrones aprendidos del pasado. Comprender ese origen es el primer paso para utilizarlos de manera responsable.
Existe una suposición, ampliamente extendida en el mundo empresarial, según la cual los sistemas de inteligencia artificial son inherentemente más objetivos que los seres humanos. Se entiende que, al sustituir el juicio personal por el cálculo estadístico, se elimina el prejuicio.
Esta suposición es incorrecta, y aceptarla sin examen puede derivar en consecuencias concretas para las organizaciones que adoptan estas tecnologías en sus procesos de gestión de talento.
Los modelos de lenguaje de gran escala —la familia tecnológica detrás de herramientas como ChatGPT, Gemini o Claude— son sistemas de predicción estadística entrenados sobre corpus masivos de texto humano. No razonan ni valoran: identifican patrones en lo que han leído y los reproducen. Si en ese corpus el liderazgo ejecutivo aparece históricamente asociado a ciertos perfiles, géneros o rasgos, el modelo aprende esa asociación; y sin cuestionarse, la proyecta sobre cualquier caso nuevo que se le presente.
Una investigación del Centro de Investigación en Responsabilidad Social (CIRES) del IPADE puso a prueba esta hipótesis en un escenario de selección de alta dirección. Se diseñaron perfiles profesionales equiparables en formación, trayectoria y logros, alterando únicamente el género de los candidatos.
Los sistemas de inteligencia artificial evaluados asignaron de forma sistemática y replicable puntuaciones más bajas a las candidatas mujeres. La diferencia no fue marginal ni atribuible al azar: fue consistente a través de distintos modelos y configuraciones de prueba.
El experimento utilizó perfiles profesionales con credenciales similares evaluados por múltiples modelos de IA generativa. La única variable independiente fue el género. Las candidatas recibieron puntuaciones de idoneidad significativamente menores que sus contrapartes masculinos en la gran mayoría de los escenarios probados.
El hallazgo no implica que los sistemas estén programados para discriminar. Implica algo más estructural: que discriminan porque fueron formados con datos que reflejan décadas de subrepresentación femenina en la alta dirección, de sesgos en la evaluación del liderazgo femenino y de asimetrías que la cultura corporativa ha tardado en reconocer y corregir. El modelo no introduce el sesgo: lo hereda y lo amplifica.
La ilusión de objetividad es, en este contexto, el riesgo más serio. Un juicio humano sesgado puede ser cuestionado, documentado e impugnado. Un algoritmo que produce el mismo resultado es percibido como neutral, técnico, difícilmente rebatible.
Las organizaciones que incorporan inteligencia artificial en sus procesos de selección de personal suelen hacerlo con la expectativa de reducir la variabilidad subjetiva. Es un objetivo legítimo. El problema es que, sin una evaluación previa del comportamiento del sistema frente a variables sensibles como el género, la edad o el origen, lo que se consigue no es eliminar el sesgo sino institucionalizarlo; al otorgarle la apariencia de una decisión técnica cuando, en realidad, sigue siendo una decisión cultural.
Esto plantea una responsabilidad que no puede recaer únicamente en quienes desarrollan la tecnología. Las empresas que adoptan estos sistemas son igualmente responsables de conocer sus limitaciones antes de aplicarlos en contextos de alto impacto. Eso supone, como mínimo, exigir transparencia sobre los datos de entrenamiento, realizar pruebas de equidad con variables de diversidad, mantener supervisión humana sobre las decisiones automatizadas y documentar los criterios utilizados de manera que sean auditables.
Utilizar inteligencia artificial de forma ética no requiere renunciar a sus ventajas. Requiere comprender qué es lo que se está utilizando. Un modelo generativo es un archivo estadístico del lenguaje humano, con todo lo que eso implica: su riqueza y también sus omisiones, sus avances y sus inercias. Tratarlo como un oráculo neutral es un error de concepto que, en el ámbito de las decisiones sobre personas, tiene consecuencias reales.
* Profesor del área de Análisis de Decisiones del IPADE Business School
Únete a nuestro canal ¡EL UNIVERSAL ya está en Whatsapp!, desde tu dispositivo móvil entérate de las noticias más relevantes del día, artículos de opinión, entretenimiento, tendencias y más.