Un nuevo estudio tiene una advertencia muy importante para quienes estamos dentro de mercado laboral: hay bots sesgados que priorizan CV hechos con inteligencia artificial sobre otros.
Es algo muy llamativo en un tiempo en el que la búsqueda de trabajo está viviendo un intenso cambio marcado por la IA: incluso muchas personas llegan a la entrevista y se ven hablando con un bot, algo que está recibiendo muchas críticas y quejas por parte de profesionales en busca de empleo. También hay reclutadores siendo engañados por candidatos “perfectos” productos del uso de la IA.
Según una nueva investigación, quienes utilizan el mismo modelo de IA para redactar sus currículums que el utilizado para evaluar su solicitud tienen más probabilidades de avanzar en el proceso de contratación que quienes presentan materiales escritos por humanos. Son investigadores de las universidades estadounidenses de Maryland y de Ohio las que ha detallado este hecho en su estudio.
Los modelos de IA se prefieren a sí mismos
Los investigadores confirmaron que los modelos de IA prefieren su propio resultado, por lo tanto, quienes utilizan un sistema concreto, como el GPT-4 de OpenAI, por ejemplo, para redactar su CV y carta de presentación, tienen mayores probabilidades de ser contactados si luego la empresa usa esa misma herramienta de IA para evaluar las candidaturas.
“Los LLM prefieren sistemáticamente los currículums generados por ellos mismos a los escritos por humanos o producidos por modelos alternativos, incluso cuando se controla la calidad del contenido”, como se explica en una de las principales conclusiones del estudio.
LLM se refiere a las IA de “largos modelos de lenguaje” y entre las herramientas que caen en este error de preferirse a sí mismos encontramos, según la investigación, a GPT-4o, GPT-4o-mini, GPT-4-turbo, LLaMA 3.3-70B, Mistral-7B, Qwen 2.5-72B, y DeepSeek-V3.
DeepSeek es la que más se prefiere
Al mismo tiempo, es importante saber que “esto no significa necesariamente que los sistemas sean ‘discriminatorios‘ en un sentido legal o intencional, pero sí plantea importantes preguntas sobre la imparcialidad“. El sesgo de autopreferencia de la IA osciló entre aproximadamente el 68% y el 88% entre los modelos más grandes (GPT-4-turbo, GPT-4o, GPT-4o-mini, DeepSeek-V3, Qwen 2.5-72B y LLaMA-3.3-70).
En la práctica, todo esto se traduce en que los candidatos que preparan sus solicitudes utilizando el mismo programa que el evaluador pueden esperar ser preseleccionados entre un 23% y un 60% más a menudo que los solicitantes con la misma formación y experiencia pero que presentan currículums escritos por personas (normalmente por ellos o ellas mismas).
Destaca en este estudio concreto que DeepSeek-V3 exhibe la mayor tendencia de autopreferencia, favoreciendo sus propias presentaciones con una tasa de autoselección del 84%. Una de las investigadoras explica que “por ejemplo, dos candidatos igualmente cualificados podrían obtener resultados diferentes simplemente porque uno de ellos utilizó el mismo modelo de IA que el empleador”.
Imagen | Foto de Saradasish Pradhan en Unsplash
En Genbeta | Esta web es una mina para buscar teletrabajo en España: agrupa a más de 200 empresas que buscan a teletrabajadores
