¿Supervisión humana o simple validación? El límite en el uso de IA en Recursos Humanos
ÍNDICE DE CONTENIDOS
- Qué significa realmente supervisar una decisión de IA
- Cuándo una decisión puede seguir siendo automatizada aunque intervenga una persona
- Qué debe poder hacer quien revisa una recomendación algorítmica
- El riesgo de limitarse a confirmar la puntuación de la IA
- Qué información necesita la persona que supervisa el sistema
- Selección, promoción y evaluación: dónde puede surgir el problema
- Cómo demostrar que la intervención humana ha sido real
- Qué debe revisar una empresa si utiliza puntuaciones o rankings algorítmicos
- Supervisión humana y proveedores de tecnología
Cada vez más herramientas de inteligencia artificial utilizadas en Recursos Humanos incorporan sistemas de puntuación, clasificación o recomendación. Pueden analizar currículums, ordenar candidaturas, detectar determinados patrones o generar indicadores sobre rendimiento y adecuación a un puesto.
En muchos casos, la empresa sostiene que la decisión final sigue siendo humana porque existe una persona que revisa el resultado generado por el sistema. Sin embargo, la presencia de una persona al final del proceso no garantiza por sí sola que exista una supervisión humana efectiva.
Esta cuestión es especialmente relevante cuando la recomendación de la IA condiciona de forma determinante una decisión sobre contratación, promoción, movilidad interna o evaluación profesional.
La Agencia Española de Protección de Datos ha incidido recientemente en este aspecto a través de una actuación preventiva relacionada con una herramienta utilizada para analizar currículums y priorizar candidaturas. El análisis publicado por Iberley destaca que una validación puramente formal puede resultar insuficiente: quien revisa el resultado debe contar con capacidad real para comprenderlo, cuestionarlo y modificarlo.
Por ello, una de las preguntas que deberían hacerse las empresas que utilizan IA en Recursos Humanos es muy concreta:
¿la persona responsable está tomando realmente la decisión o se limita a confirmar la recomendación de la herramienta?
1. Qué significa realmente supervisar una decisión de IA
La supervisión humana no consiste simplemente en incorporar una persona entre el algoritmo y la decisión final.
Para que exista un control efectivo, quien revisa el resultado debe poder analizar la recomendación de manera crítica y disponer de capacidad suficiente para aceptarla, modificarla o rechazarla.
Esta idea también aparece en el Reglamento Europeo de Inteligencia Artificial. Cuando resultan aplicables sus previsiones sobre supervisión humana, las personas responsables deben contar con la competencia, formación, autoridad y apoyo necesarios para ejercer adecuadamente esa función.
La diferencia es importante.
Una cosa es que el sistema proporcione una recomendación que posteriormente se analiza junto con otros datos y criterios profesionales. Otra muy distinta es que el algoritmo determine prácticamente el resultado y una persona se limite a aprobarlo.
En ambos supuestos existe formalmente una intervención humana, pero solo en el primero puede hablarse con claridad de una revisión con capacidad real para influir en la decisión.
2. Cuándo una decisión puede seguir siendo automatizada aunque intervenga una persona
El Reglamento General de Protección de Datosestablece garantías específicas frente a determinadas decisiones basadas únicamente en tratamientos automatizados cuando producen efectos jurídicos o afectan significativamente de manera similar a una persona.
La cuestión no puede resolverse únicamente comprobando si alguien pulsa finalmente un botón de “aceptar”.
Lo relevante es analizar qué peso tiene realmente el sistema en la decisión y qué margen de actuación conserva la persona encargada de revisarlo.
Pensemos en una herramienta de selección que asigne a cada candidatura una puntuación entre 0 y 100 y recomiende continuar únicamente con quienes superen un determinado umbral.
Si el profesional de Recursos Humanos trabaja exclusivamente con las personas seleccionadas por el algoritmo y nunca analiza los perfiles descartados ni puede cuestionar cómo se ha obtenido la puntuación, la intervención humana puede tener un carácter muy limitado.
La calificación debe atender al funcionamiento material del proceso, y una recomendación automatizada puede resultar determinante aunque exista posteriormente una confirmación formal por parte de una persona.
Por ello, las empresas deberían revisar cómo se utilizan en realidad las puntuaciones y recomendaciones generadas por sus herramientas.
3. Qué debe poder hacer quien revisa una recomendación algorítmica
Una supervisión efectiva exige capacidad para intervenir.
La persona responsable debería poder conocer las limitaciones relevantes de la herramienta, interpretar adecuadamente su resultado y valorar información que el sistema quizá no haya tenido en cuenta.
También debe poder apartarse de la recomendación cuando existan razones para ello.
Entre las capacidades que debería reunir una supervisión real se encuentran:
- acceder a los elementos relevantes para interpretar el resultado;
- detectar posibles anomalías o incoherencias;
- valorar información adicional;
- modificar o rechazar la recomendación;
- solicitar una revisión cuando aparezcan dudas;
- y detener el uso del resultado cuando existan indicios de error.
Hay dos aspectos que destacar: la persona que supervisa debe disponer de tiempo suficiente y autoridad efectiva, y el procedimiento no debería diseñarse de una manera que favorezca sistemáticamente la aceptación automática de la recomendación.
Por tanto, una empresa puede tener un procedimiento formal de supervisión y, sin embargo, hacerlo ineficaz si el responsable carece de tiempo, información o autonomía para ejercerlo.
4. El riesgo de limitarse a confirmar la puntuación de la IA
Un indicador que conviene vigilar es la aceptación sistemática de los resultados de la herramienta.
Que un profesional coincida habitualmente con las recomendaciones de la IA no implica por sí mismo que exista un problema. Tampoco hay ninguna obligación de apartarse artificialmente de un determinado porcentaje de resultados.
La cuestión aparece cuando la discrepancia resulta prácticamente imposible.
Si todas las decisiones coinciden siempre con la recomendación algorítmica, puede ser razonable analizar si la persona está realizando una verdadera revisión o si el sistema se ha convertido de hecho en quien determina el resultado.
Una ausencia sistemática de decisiones contrarias a la herramienta puede ser un elemento relevante al valorar si la supervisión es auténtica.
Un ejemplo sencillo sería una herramienta que clasifica a 300 candidatos y recomienda entrevistar únicamente a los diez primeros.
Si Recursos Humanos recibe únicamente esos diez perfiles y no puede comprobar por qué los demás han quedado fuera, el margen de supervisión es mucho menor que si el profesional puede revisar la clasificación, consultar sus fundamentos y recuperar candidaturas descartadas cuando considere que existe una razón para hacerlo.
5. Qué información necesita la persona que supervisa el sistema
No puede existir una revisión crítica si la persona responsable desconoce qué significa el resultado que está valorando.
Esto no supone que el personal de Recursos Humanos tenga que conocer el código fuente del sistema o dominar técnicamente el funcionamiento de los modelos utilizados.
Sí necesita contar con información suficiente para comprender aspectos básicos como:
- qué datos analiza la herramienta;
- qué variables tienen relevancia;
- qué resultado produce;
- qué limitaciones conocidas presenta;
- qué margen de error existe;
- qué circunstancias pueden afectar a la puntuación;
- y en qué situaciones el resultado requiere una revisión más cuidadosa.
La finalidad es que la persona pueda interpretar la recomendación y no asumirla como una conclusión objetiva e incuestionable.
La AEPD ha tratado anteriormente la necesidad de que las personas puedan comprender cómo influyen los algoritmos en los sistemas automatizados y qué significado tienen los resultados producidos.
Desde una perspectiva empresarial, esto aconseja definir qué información y qué formación necesita quien vaya a desempeñar funciones de supervisión antes de utilizar la herramienta.
6. Selección, promoción y evaluación: dónde puede surgir el problema
La necesidad de una supervisión real puede aparecer en distintos procesos de Recursos Humanos.
Selección de personal
Los sistemas de IA pueden utilizarse para ordenar currículums, identificar perfiles o asignar puntuaciones de adecuación a una vacante.
El problema aparece cuando el ranking determina automáticamente quién pasa a la siguiente fase sin que exista una posibilidad razonable de revisar los perfiles excluidos.
Promoción interna
Una herramienta puede comparar experiencia, resultados, competencias o indicadores y recomendar a determinadas personas para una promoción.
Si la empresa convierte esa recomendación en el criterio decisivo y la persona responsable se limita a aceptar el primer resultado, la revisión humana pierde buena parte de su contenido.
Evaluación del desempeño
También pueden utilizarse algoritmos para generar indicadores relacionados con productividad, rendimiento o comportamiento.
Cuando esos resultados influyen posteriormente en decisiones sobre promoción, retribución, movilidad o continuidad, resulta especialmente importante que puedan contextualizarse.
Un dato aislado puede no reflejar adecuadamente las circunstancias en las que se ha desarrollado el trabajo.
En los tres supuestos, la cuestión que debe plantearse la empresa es la misma: qué capacidad tiene el profesional para apartarse del resultado y utilizar otros elementos antes de decidir.
7. Cómo demostrar que la intervención humana ha sido real
Una empresa que haya establecido mecanismos de supervisión debería poder acreditar razonablemente cómo funcionan.
No es necesario convertir cada decisión en un expediente complejo, pero sí resulta conveniente que existan procedimientos que permitan demostrar que la intervención humana tiene contenido.
Puede resultar útil documentar:
- qué personas están autorizadas para revisar los resultados;
- qué formación han recibido;
- a qué información pueden acceder;
- qué capacidad tienen para modificar la recomendación;
- qué incidencias detectan durante el uso;
- cómo se gestionan las discrepancias;
- y cuándo se considera necesario revisar o detener una decisión.
Es imprescindible registrar las discrepancias y los motivos que llevan a aceptar o modificar determinados resultados.
Este seguimiento permite además evaluar la propia herramienta.
Si las personas encargadas de supervisarla detectan repetidamente problemas similares, la empresa tendrá información para revisar su configuración, plantear cambios al proveedor o dejar de utilizar determinadas funcionalidades.
La supervisión humana funciona así también como un mecanismo de control continuo del sistema.
8. Qué debe revisar una empresa si utiliza puntuaciones o rankings algorítmicos
Las herramientas que asignan una puntuación a candidatos o trabajadores merecen una atención particular.
Antes de utilizar estos resultados, conviene conocer qué representa exactamente la puntuación y qué consecuencias tiene dentro del proceso.
No es lo mismo utilizar un ranking como apoyo para organizar información que convertirlo en el filtro que decide quién continúa y quién queda excluido.
Cuanto mayor sea su influencia, mayor deberá ser la capacidad del responsable para interpretar y cuestionar el resultado.
También conviene prestar atención a las inferencias.
Una herramienta puede no utilizar directamente categorías especialmente protegidas y, sin embargo, generar determinadas conclusiones a partir de otras variables que actúen indirectamente como indicadores.
Precisamente que un sistema no utilice información sensible no elimina necesariamente el riesgo cuando esa información puede inferirse mediante otros datos.
Por ello, la empresa debería evitar considerar una puntuación algorítmica como una medida neutral por definición.
Es un resultado generado a partir de unas variables, unas reglas y unos datos concretos y debe utilizarse teniendo en cuenta esas limitaciones.
9. Supervisión humana y proveedores de tecnología
Muchas empresas utilizan soluciones desarrolladas por terceros.
Esto puede generar una dificultad adicional: el departamento de Recursos Humanos recibe las recomendaciones de la herramienta, pero desconoce cómo se ha configurado o qué información necesita para revisarlas correctamente.
Contratar un servicio externo no elimina la necesidad de conocer suficientemente el producto que se utiliza.
Antes de implantar una herramienta que influya en decisiones sobre personas, conviene aclarar con el proveedor aspectos como:
- funcionamiento general y limitaciones;
- interpretación de puntuaciones;
- variables relevantes;
- mecanismos de revisión;
- actualizaciones del sistema;
- gestión de errores e incidencias;
- y posibilidades de intervención por parte de la empresa.
El Reglamento Europeo de Inteligencia Artificial establece además obligaciones específicas para quienes despliegan determinados sistemas de alto riesgo, entre ellas garantizar que la supervisión humana pueda realizarse de acuerdo con las instrucciones de uso.
Una herramienta que ofrece poca información sobre sus resultados puede dificultar que la empresa ejerza un control humano suficiente.
Por eso, la capacidad de supervisar el sistema debería valorarse también antes de contratarlo, y no únicamente cuando ya forma parte de los procesos internos.
La incorporación de una persona al final de un proceso automatizado no convierte automáticamente la decisión en humana.
Cuando la IA interviene en selección, promoción o evaluación, la empresa debe asegurarse de que quien revisa sus recomendaciones cuenta con información suficiente, tiempo, formación y autoridad para cuestionarlas y modificarlas.
La frontera entre supervisión y simple validación se encuentra precisamente en esa capacidad de intervención.
Para las empresas que utilizan sistemas de puntuación, clasificación o recomendación en Recursos Humanos, conviene revisar cómo se toman realmente las decisiones y qué ocurre cuando la persona responsable no está de acuerdo con la herramienta.
En Grupo Albatros seguimos las novedades relacionadas con inteligencia artificial, protección de datos y relaciones laborales para ofrecer a empresas, asesorías y departamentos de Recursos Humanos información actualizada sobre las implicaciones de estas nuevas herramientas.
