El Impacto de la Regulación en el Uso de la IA en RRHH

Por José Manuel Mateu de Ros, CEO y Fundador de TRAZE, cuenta con 25 años de experiencia liderando proyectos en Arthur Andersen, Telefónica y Santander. Ha contribuido al desarrollo de negocios clave como Santander Retail & Commercial y PagoNxt. En Traze, impulsa el crecimiento estratégico, los nuevos servicios y la excelencia operativa en materia de normativas de IA.

¿Puede la IA acabar con las desigualdades que provocan los sesgos cognitivos en la
sociedad?

Una persona en libertad condicional podría volver a prisión, no porque haya violado la ley,
sino porque el juez tenía hambre, estaba cansado o simplemente había tenido una
discusión antes de entrar en la sala. Un grupo de investigadores publicó en Proceedings of
the National Academy of Sciences (PNAS) un estudio revelador: Las decisiones favorables
de los jueces son del 65% al inicio del día, pero disminuyen drásticamente hasta casi
desaparecer antes del almuerzo. Después de comer, vuelven a ese 65% inicial, para luego
caer nuevamente con el paso de las horas. Si los sesgos individuales ya son alarmantes,
las sentencias radicalmente opuestas entre jueces en casos idénticos resultan aún más
impactantes.

Estos datos exponen la subjetividad inherente al juicio humano y como el cerebro está
diseñado para operar con atajos mentales que a menudo introducen sesgos. Estos pueden
ser cognitivos, como el efecto halo, que lleva a un reclutador a pasar por alto debilidades si
un candidato causa una buena primera impresión; sociales, como los prejuicios implícitos
relacionados con género, raza o clase social, que afectan la asignación de tareas o el
reconocimiento de méritos, perjudicando a ciertos grupos; y emocionales, donde el estado
de ánimo o experiencias previas influyen en la percepción de la idoneidad de un candidato.
La inteligencia artificial (IA) tiene el potencial de transformar este marco de juicio subjetivo
dictado por millones de años de evolución, permitiendo que prácticas como la contratación
se centren en predictores de éxito más objetivos, como las habilidades específicas, en lugar
de depender de sesgos implícitos. Un estudio reciente de LinkedIn revela que más del 60%
de los empleadores encuestados consideran que los candidatos seleccionados por sus
capacidades específicas son productivos casi de inmediato, en comparación con aquellos
elegidos principalmente por sus credenciales académicas.

Este enfoque puede generar un impacto significativo en la optimización del talento y, por
ende, en los beneficios económicos de las empresas. En el caso de España, el estudio
destaca que algunas industrias podrían multiplicar hasta por once la cantidad de talento
disponible si priorizan las habilidades por encima de otros criterios tradicionales que
frecuentemente marginan a determinados grupos sociales.

Es importante reflexionar sobre nuestras expectativas respecto a estas tecnologías, ya que
tendemos a exigirles perfección absoluta en lugar de compararlas con las capacidades
humanas actuales, lo que puede ralentizar su adopción y los beneficios asociados. Un
estudio sobre los coches autónomos de Waymo, basado en 35,5 millones de kilómetros
recorridos hasta junio de 2024, muestra un 84% menos de accidentes con despliegue de
airbags en comparación con conductores humanos. A pesar de estos avances significativos
en seguridad, Europa mantiene exigencias regulatorias extremadamente altas.

Si la IA tiene el potencial de ofrecer beneficios tan significativos, ¿por qué persiste el temor
a su adopción? Sin lugar a dudas, la IA también puede incurrir en sesgos, como ocurrió en
el conocido caso de Amazon. En 2014, la compañía desarrolló una herramienta de
inteligencia artificial para automatizar la revisión de currículums y agilizar la contratación.
Sin embargo, en 2015, descubrieron que el sistema discriminaba por género, favoreciendo a
los hombres en puestos técnicos como desarrolladores de software. Esta discriminación se
originó porque el modelo de IA había sido entrando con datos de la última década, un
periodo en el que la mayoría de los solicitantes y contratados eran hombres.

Amazon dejó de utilizar su sistema de contratación basado en IA en 2018, lo que plantea la
pregunta: ¿deberían las leyes favorecer la discontinuidad de estos sistemas, pese a su gran
potencial? En lugar de limitar ciertos usos, sería más efectivo exigir la evaluación de los
datos de entrenamiento para evitar que los sistemas perpetúen desigualdades. Asimismo,
es fundamental demandar modelos explicables que permitan comprender sus decisiones y
establecer pruebas de equidad que garanticen resultados justos. El monitoreo continuo
debe ser obligatorio para adaptarse a cambios en los datos y contextos. Una regulación
bien diseñada no sólo legitima el progreso, sino que también asegura que las tecnologías
reflejen valores sociales fundamentales. Por ello, la regulación es altamente necesaria como
un puente que fomente la innovación ética, en lugar de convertirse en un freno al progreso.
En un mundo globalizado, lograr una regulación uniforme de la inteligencia artificial (IA) en
recursos humanos parece un desafío complejo, ya que podría generar desigualdades
competitivas entre empresas de distintos países. Sin embargo, el EU AI Act ofrece un
enfoque innovador al establecer un alcance extraterritorial que regula las aplicaciones de IA
no solo cuando son desarrolladas o utilizadas dentro de la UE, sino también cuando se
comercializan en su mercado, producen resultados utilizados en su territorio o impactan a
personas dentro de la región. Esto amplía significativamente su influencia, afectando a
empresas de todo el mundo, incluso aquellas que no operan directamente dentro de la
Unión Europea.

La inteligencia artificial tiene un potencial inmenso para revolucionar el sector de los
recursos humanos y promover una mayor equidad social. Sin embargo, este avance no está
exento de riesgos, como la posibilidad de perpetuar sesgos históricos si los sistemas de IA
no se diseñan y supervisan adecuadamente. Para maximizar sus beneficios y mitigar estos
peligros, es fundamental implementar mecanismos de supervisión técnica continua y
garantizar la transparencia de los modelos, esto es posible gracias a soluciones
especializadas como Traze.

Las empresas deben anticiparse a las regulaciones para evitar riesgos financieros por multas, impactos reputacionales o dificultades para expandirse en mercados con regulaciones estrictas. Con expertos que supervisen técnicamente estos sistemas, la IA no solo transformará procesos como la selección y contratación, sino que también se convertirá en un catalizador de sociedades más inclusivas y justas.