Les intelligences artificielles sont de plus en plus utilisées pour le recrutement, mais leur impartialité est remise en question. Une étude récente révèle qu’elles pourraient développer des biais encore plus marqués que les humains.
Dans un contexte où les intelligences artificielles (IA) prennent de plus en plus de place dans les processus de recrutement, il est crucial de se pencher sur leur capacité à juger de manière juste. Une étude menée par des chercheurs de l’Université de Princeton et de l’Université de Chicago a mis en lumière le fait que les modèles de langage de grande taille (LLMs), tels que ChatGPT, Claude et Gemini, sont enclin à développer leurs propres biais basés sur leurs expériences, stéréotypant ainsi les candidats davantage que les humains.
Leur recherche a utilisé un jeu de simulation de recrutement adapté d’une étude psychologique. Chaque modèle, agissant comme consultant pour le maire d’une ville fictive, devait aider à recruter des candidats pour 20 postes, incluant des médecins, avocats et aides-soignants. Les candidats étaient issus de quatre groupes ethniques fictifs : Tufa, Aima, Reku et Weki. Au cours de 40 tours, chaque modèle a dû choisir parmi quatre candidats, un de chaque groupe, tout en apprenant les résultats des recrutements précédents.
Les résultats ont été frappants : bien que tous les candidats aient la même probabilité de réussir, les modèles ont commencé à segmenter les candidats en fonction des premiers résultats. Par exemple, si un candidat Aima échouait en tant que médecin, le modèle se détournait des Aimas pour ce poste, les réorientant vers des emplois jugés moins exigeants comme ceux de concierge. Cette tendance à stéréotyper était particulièrement marquée chez les modèles plus récents dotés de capacités de raisonnement avancées, comme le modèle o3 d’OpenAI et le R1 de DeepSeek, qui ont montré des biais encore plus prononcés.
Sur une échelle de ségrégation, où 2 indique que chaque groupe est confiné à son propre secteur d’emploi, les participants humains ont obtenu un score de 0.84, tandis que les modèles ont atteint en moyenne 1.38, avec le modèle o3 atteignant près de 1.83. Ryan Liu, doctorant à Princeton et co-auteur de l’étude, souligne que ces modèles « sont réellement désireux de créer des généralisations à partir de données limitées ». Ce phénomène souligne le dilemme de l’exploration et de l’exploitation, où chaque décideur, qu’il soit humain ou machine, doit jongler entre suivre des méthodes éprouvées et essayer de nouvelles approches.