On pourrait croire que les outils d’IA sont la solution pour réduire les préjugés. Après tout, ces outils sont censés être objectifs et impartiaux. Cependant, en réalité, l’utilisation d’outils d’IA peut souvent exacerber les préjugés existants. Cela est principalement dû au fait que les outils d’IA sont construits par des humains, et donc ils reflètent les préjugés de leurs créateurs. En outre, ces outils sont souvent entraînés à partir de données historiques, ce qui signifie qu’ils vont reproduire les préjugés présents dans ces données. Par conséquent, il est important de prendre des mesures pour réduire les préjugés avant d’utiliser des outils d’IA, car sinon, on risque seulement de les exacerber.
“Il y a un intérêt croissant pour de nouvelles façons de résoudre des problèmes tels que les biais d’entretien”, déclarent les chercheurs de l’Université de Cambridge , dans la revue Philosophy and Technology.
En 2020, selon cette enquête internationale réalisée auprès de 500 professionnels des ressources humaines, près d’un quart utilisaient l’IA pour “l’acquisition de talents, sous forme d’automatisation”.
“Utiliser l’IA pour réduire les préjugés est contre-productif” a déclaré le Dr Kerry Mackereth, chercheur postdoctoral. Elle rajoute “Ces outils ne peuvent pas être formés pour identifier uniquement les caractéristiques liées à l’emploi et éliminer le sexe et la race du processus d’embauche, car les types d’attributs que nous pensons essentiels pour être un bon employé sont intrinsèquement liés au sexe et à la race”
Certaines entreprises ont également trouvé ces outils problématiques, note l’étude. En 2018, par exemple, Amazon a annoncé qu’il avait abandonné le développement d’un moteur de recrutement basé sur l’IA, car il pouvait détecter le sexe à partir des CV et discriminait les candidates.
Hayfa Mohdzaini, du Chartered Institute of Personnel and Development, a déclaré à BBC News que ses recherches suggéraient que seulement 8% des employeurs utilisaient l’IA pour sélectionner les candidats. Elle déclare également que “L’IA peut aider efficacement à accroître la diversité d’une organisation en filtrant à partir d’un plus grand bassin de candidats – mais elle peut également passer à côté de nombreux bons candidats si les règles et les données de formation sont incomplètes ou inexactes”.
Source : Les outils d’IA ne parviennent pas à réduire les biais de recrutement – étude/BBC
