{"id":3609,"date":"2019-12-19T11:57:11","date_gmt":"2019-12-19T10:57:11","guid":{"rendered":"https:\/\/courriercadres.cosavostra.com\/les-entretiens-videos-et-lia-risquent-ils-daugmenter-les-discriminations-physiques\/"},"modified":"2023-07-18T10:08:23","modified_gmt":"2023-07-18T08:08:23","slug":"les-entretiens-videos-et-lia-risquent-ils-daugmenter-les-discriminations-physiques","status":"publish","type":"post","link":"https:\/\/courriercadres.cosavostra.com\/les-entretiens-videos-et-lia-risquent-ils-daugmenter-les-discriminations-physiques\/","title":{"rendered":"Les entretiens vid\u00e9os et l\u2019IA risquent-ils d\u2019augmenter les discriminations ?"},"content":{"rendered":"

Dans une \u00e9tude parue fin novembre 2019, le sociologue du travail Jean-Fran\u00e7ois Amadieu s\u2019int\u00e9resse \u00e0 l\u2019utilisation des nouvelles technologies par les recruteurs. Selon lui, les entretiens vid\u00e9o et l\u2019intelligence artificielle risquent de renforcer les discriminations au physique (directes et indirectes). Il nous en dit plus sur les risques de ce recrutement \u201calgorithmique\u201d.<\/h2>

\u00a0<\/p>

De quelles techniques de recrutement parlons-nous, exactement ?<\/h3>

Des start-ups, aux USA comme en France, proposent actuellement d\u2019utiliser de l\u2019intelligence artificielle aux diff\u00e9rents stades de recrutement, du sourcing au matching, jusqu\u2019aux entretiens vid\u00e9os. Une tendance pr\u00e9occupante se d\u00e9veloppe dans ce dernier cas : l\u2019utilisation d\u2019algorithmes, qui analysent le contenu verbal des entretiens vid\u00e9os, mais aussi la voix, les gestes et les visages des candidats.<\/p>

En raison d\u2019un flou entretenu, il est difficile de conna\u00eetre pr\u00e9cis\u00e9ment les variables trait\u00e9es par les logiciels. Les crit\u00e8res examin\u00e9s par l\u2019IA varient d\u2019une start-up \u00e0 l\u2019autre, mais la plupart du temps, ils traitent la prosodie (tonalit\u00e9s, accents, modulations), les regards, les mouvements, les expressions faciales et parfois m\u00eame la forme des visages. Ils entendent d\u00e9tecter les candidats \u201ccomp\u00e9tents\u201d<\/em>, et s\u00e9lectionner les \u201cmeilleurs profils\u201d<\/em> pour les recruteurs.<\/p>

\u00a0<\/p>

Pourquoi ces syst\u00e8mes sont-ils dangereux, selon vous ?<\/h3>

J\u2019\u00e9tudie la question de l\u2019impact de l\u2019apparence sur le recrutement depuis des ann\u00e9es. La prise en compte des aspects non-verbaux pour s\u00e9lectionner un candidat ne date pas d\u2019hier : l\u2019apparition des photos sur les CV allait d\u00e9j\u00e0 en ce sens. Mais aujourd\u2019hui, il y a une vraie acc\u00e9l\u00e9ration du ph\u00e9nom\u00e8ne avec ces syst\u00e8mes d\u2019IA. Ils sont de plus en plus utilis\u00e9s par des entreprises qui, bien souvent, n\u2019ont pas conscience des enjeux, et ne voient que la promesse de gagner du temps<\/a>.<\/p>

Les risques de d\u00e9rives sont pourtant grands. Le droit fran\u00e7ais est limpide en ce qui concerne les discriminations directes : s\u00e9lectionner un candidat selon son apparence physique (corporelle, vestimentaire) est prohib\u00e9 depuis la loi du 16 novembre 2001. L\u2019analyse par des algorithmes du visage des candidats ne peut donc, l\u00e9galement, pas \u00eatre utilis\u00e9e en France.<\/p>

Mais le vrai probl\u00e8me, que je soul\u00e8ve dans mon \u00e9tude<\/a>, ce sont les discriminations indirectes. Sans s\u2019en rendre compte, sans que ce soit l\u2019objectif du logiciel, on va d\u00e9favoriser certains candidats, en particulier ceux qui ont des handicaps psychiques ou des probl\u00e8mes de sant\u00e9 qui influent sur leur fa\u00e7on de parler, leurs gestes ou les expressions du visage. Et les \u00e9tudes montrent que les analyses automatiques ne peuvent pas pour le moment interpr\u00e9ter ces diff\u00e9rences<\/a>.\u00a0En France, m\u00eame\u00a0si la start-up Easyrecrue<\/a> n\u2019exploite pas la gestuelle du candidat,\u00a0elle analyse sa voix. Or, celle-ci varie en fonction de l\u2019\u00e9tat de sant\u00e9 d\u2019une personne.<\/p>

Au del\u00e0 du handicap et des maladies, quelqu\u2019un de timide ou de stress\u00e9 est aussi susceptible d\u2019\u00eatre discrimin\u00e9 par de tels syst\u00e8mes.\u00a0Des recruteurs vous diront que la r\u00e9sistance \u00e0 la pression est une soft skill essentielle. Mais si pour certains postes (communication, marketing, commerce), il est possible d\u2019admettre ce raisonnement, il ne s\u2019agit pas d\u2019une v\u00e9rit\u00e9 absolue. Des \u00e9tudes d\u00e9montrent que les recruteurs \u00e9cartent fr\u00e9quemment les candidats timides ou anxieux, et que les algorithmes risquent de reproduire cela. Les m\u00eames \u00e9tudes montrent que l\u2019anxi\u00e9t\u00e9 et la timidit\u00e9 sont sans lien avec la performance, et qu\u2019il est possible de faire tr\u00e8s bien son travail malgr\u00e9 cela.
\n\"IA-management-2\"<\/p>

Nous savons aussi que la communication non verbale et l\u2019expression orale varient selon les origines sociales ou les cultures. Avoir un accent \u00e9tranger ou des expressions r\u00e9gionales peut \u00eatre mal per\u00e7u par les recruteurs \u2013 un\u00a0crit\u00e8re de discrimination reconnu par le D\u00e9fenseur des droits<\/a> depuis 2017.<\/p>

Mais ce n\u2019est pas l\u2019IA en elle-m\u00eame qui interroge, ni le fait d\u2019automatiser les recrutements. Un ordinateur ne se fatigue pas et peut se r\u00e9v\u00e9ler moins subjectif et discriminant. Mais pour cela, il faut remplir quelques conditions qui, si elles ne sont pas r\u00e9unies, conduisent \u00e0 une catastrophe.<\/p>

\u00a0<\/p>

L\u2019IA appliqu\u00e9e aux entretiens vid\u00e9o ne risque-t-elle pas aussi de conduire \u00e0 une certaine uniformisation ?<\/h3>

La qualit\u00e9 du recrutement est aussi en cause. Les algorithmes de tels syst\u00e8mes se basent sur les profils des candidats \u201cfavoris\u201d<\/em> des recruteurs, et \u00e9cartent les autres. Le risque, c\u2019est un \u201cclonage\u201d<\/em>, une reproduction des profils. Les start-up comme Hirevue<\/a>\u00a0et Easyrecrue s\u2019en d\u00e9fendent, et disent au contraire qu\u2019elles permettent de diversifier le recrutement en d\u00e9tectant des profils qui n\u2019auraient pas \u00e9t\u00e9 retenus autrement. Mais par construction, compte tenu de la mani\u00e8re dont sont entra\u00een\u00e9s les algorithmes (\u00e0 partir des profils de personnes d\u00e9j\u00e0 recrut\u00e9es, ou d\u2019entretiens qui ont d\u00e9j\u00e0 eu lieu), ces logiciels auront forc\u00e9ment tendance \u00e0 reproduire l\u2019existant.<\/p>

\u00a0<\/p>

Pour vous, il est urgent de r\u00e9guler cette exploitation des photos et des vid\u00e9os dans le domaine de l\u2019emploi\u2026<\/h3>

Nous avons la chance, en France, d\u2019avoir un droit des discriminations \u00e9tendu, qui inclut notamment l\u2019apparence physique. Mais ce qui nous manque, c\u2019est sans doute un label, ind\u00e9pendant, des produits propos\u00e9s par les start-up : une analyse des technologies vendues. Les concepteurs de ces logiciels pourraient jouer le jeu de la transparence en pr\u00e9sentant dans le d\u00e9tail les crit\u00e8res et les variables utilis\u00e9s, mais il semble difficile d\u2019imaginer un tel cas de figure, car les fabricants tiennent \u00e0 garder le secret sur leurs technologies, face \u00e0 leurs concurrents. Les pouvoirs publics, notamment le D\u00e9fenseur des droits, pourraient aussi \u00e9laborer de nouvelles r\u00e8gles, rappeler ce qui est permis ou non.<\/p>

Les entreprises clientes pourraient aussi exiger davantage de transparence de la part des fabricants, et organiser des audits ind\u00e9pendants pour v\u00e9rifier la l\u00e9galit\u00e9 de ces syst\u00e8mes. Il s\u2019agit pour elles d\u2019un devoir l\u00e9gal, mais aussi \u00e9thique : elles ne peuvent pas se contenter de recevoir des commerciaux et d\u2019acheter des produits, sans avoir essay\u00e9 d\u2019en savoir un peu plus. \u00c0 elles, donc, d\u2019\u00eatre vigilantes.<\/p>

\u00a0<\/p>

MAJ \u2013 30\/12 \u2013\u00a0Easyrecrue, cit\u00e9e dans l\u2019\u00e9tude de\u00a0JF Amadieu, a tenu \u00e0 rectifier\u00a0aupr\u00e8s de\u00a0nous plusieurs faits :<\/h4>

Micka\u00ebl Cabrol a fond\u00e9 EasyRecrue en 2013 pour proposer des outils d\u2019entretien vid\u00e9o permettant d\u2019optimiser la pr\u00e9s\u00e9lection de candidats lors des recrutements. La jeune start-up fran\u00e7aise permet aux recruteurs de r\u00e9aliser des entretiens vid\u00e9o diff\u00e9r\u00e9s, durant lesquels les candidats sont invit\u00e9s \u00e0 r\u00e9pondre \u00e0 un questionnaire. Par la suite, les vid\u00e9os re\u00e7ues sont centralis\u00e9es sur l\u2019interface du recruteur, ce qui permet \u00e0 ce dernier de les comparer de mani\u00e8re collaborative avec son \u00e9quipe, tout en retenant les meilleures candidatures.<\/p>

Depuis 2017, l\u2019IA a \u00e9t\u00e9 ajout\u00e9e au syst\u00e8me. Mais selon Micka\u00ebl Cabrol, contrairement \u00e0 ce qu\u2019affirme Jean-Fran\u00e7ois Amadieu dans son \u00e9tude (qui selon lui n\u2019aurait pas consult\u00e9 l\u2019entreprise), Easyrecrue n\u2019analyse pas la gestuelle ou les expressions du visage des candidats en vid\u00e9o. Easyrecrue pr\u00e9cise ainsi qu\u2019elle \u201cse distingue sur le sujet d\u2019acteurs am\u00e9ricains\u201d<\/em> tels que Hirevue, dans la mesure o\u00f9 seul le discours du candidat est analys\u00e9 par des algorithmes, et non la vid\u00e9o elle-m\u00eame.<\/p>

Pourquoi ne pas analyser les vid\u00e9os, et se borner \u00e0 exploiter le son ? \u201cLors de nos recherches, nous nous sommes rendu compte que cela n\u2019am\u00e9liorait pas les performances de l\u2019outil, et que cela risquait de poser des probl\u00e8mes en mati\u00e8re de discrimination physique\u201d<\/em>, note Micka\u00ebl Cabrol. Easyrecrue pr\u00e9cise que ses travaux de R&D ont \u00e9t\u00e9 men\u00e9s, entre 2017 et 2019, en partenariat avec des Laboratoires publics (CentraleSupelec, T\u00e9l\u00e9com ParisTech et le CNRS), et que c\u2019est dans ce cadre que des interrogations sur la fa\u00e7on de ne pas \u201camplifier ou reproduire des biais dans le recrutement via l\u2019IA\u201d.<\/em><\/p>

Le logiciel \u201cspeech-to-text\u201d<\/em> d\u2019Easyrecrue se borne donc \u00e0 analyser le son de l\u2019entretien : la richesse du vocabulaire du candidat, ainsi que la prosodie, c\u2019est-\u00e0-dire les variations dans le rythme et l\u2019intensit\u00e9 de la voix, la fluidit\u00e9 du discours et le d\u00e9bit de parole. Mais Jean-Fran\u00e7ois Amadieu, la voix \u201cvarie en fonction de l\u2019\u00e9tat de sant\u00e9 d\u2019une personne\u201d,<\/em> de son \u00e9tat de stress ou de sa personnalit\u00e9. Comment \u00e9viter un tel \u00e9cueil ? \u201cD\u2019abord, tous les candidats sont dans la m\u00eame position au d\u00e9part : ils r\u00e9pondent tous aux m\u00eames questions et peuvent r\u00e9aliser leur entretien quand ils le souhaitent, de fa\u00e7on diff\u00e9r\u00e9e. Ils sont donc dans les meilleures conditions pour le r\u00e9aliser\u201d<\/em>, explique Micka\u00ebl Cabrol.<\/p>

\u00a0<\/p>

\"IA-Cadres\"<\/p>

\u201cL\u2019IA est peut \u00eatre une chance pour certains candidats\u201d<\/h3>

Concernant la prosodie, \u201cnous essayons d\u2019analyser surtout si le candidat est confiant dans la mani\u00e8re dont il exprime son sujet, ou s\u2019il h\u00e9site beaucoup et se r\u00e9p\u00e8te. Les candidats qui sont les mieux \u00e9valu\u00e9s par les recruteurs sont en g\u00e9n\u00e9ral ceux qui utilisent une plus grande diversit\u00e9 lexicale (un vocabulaire plus vaste signifie une meilleure ma\u00eetrise du sujet abord\u00e9), et dont le discours est fluide\u201d<\/em>, indique le fondateur d\u2019Easyrecrue. D\u2019apr\u00e8s lui, \u201cun candidat qui va r\u00e9p\u00e9ter souvent les m\u00eames mots, et dont le discours sera entrecoup\u00e9 de mots parasites, ma\u00eetrise moins son sujet, selon les recherches en la mati\u00e8re : c\u2019est pourquoi nous essayons d\u2019interpr\u00e9ter ce genre de signaux pour les recruteurs\u201d.<\/em><\/p>

En outre, Micka\u00ebl Cabrol pr\u00e9cise que ses algorithmes ne \u201cfont pas le choix pour le recruteur\u201d<\/em>, et n\u2019\u00e9liminent pas de candidats, mais les \u201cclassent\u201d<\/em> simplement selon leur diversit\u00e9 lexicale et la fluidit\u00e9 de leur discours. Selon lui, plut\u00f4t que de \u201ccloner\u201d les candidats s\u00e9lectionner, ce type de syst\u00e8me permettrait au contraire de diversifier les profils : \u201cil arrive fr\u00e9quemment que des candidats dont la diversit\u00e9 lexicale est faible se distinguent des autres de par la qualit\u00e9 de leur discours, et inversement. Ainsi, m\u00eame celui qui a des difficult\u00e9s d\u2019\u00e9locution peut compenser son handicap gr\u00e2ce \u00e0 sa ma\u00eetrise du sujet et aux mots qu\u2019il utilise\u201d.<\/p>

Certains crit\u00e8res dits \u201cadversariaux\u201d<\/em> ont \u00e9galement \u00e9t\u00e9 int\u00e9gr\u00e9s \u00e0 l\u2019outils, \u201cpour s\u2019assurer que certains crit\u00e8res potentiellement discriminants dans le cadre d\u2019un recrutement ne puissent \u00eatre pris en compte\u201d<\/em>, pr\u00e9cise Easyrecrue. Ainsi, \u201cnotre algorithme ne prend pas en compte certains crit\u00e8res, tels le genre du candidat ou sa s\u00e9niorit\u00e9\u201d<\/em>, pr\u00e9cise Micka\u00ebl Cabrol.<\/p>

Selon lui, \u201cnotre outil permet au contraire de d\u00e9biaiser les processus de recrutement. Quand on interroge nos clients, tous nous disent qu\u2019ils ont pu identifier des profils qu\u2019ils n\u2019auraient pas rep\u00e9r\u00e9 sur la base d\u2019un CV ou qu\u2019ils n\u2019auraient pas re\u00e7us en temps normal. L\u2019IA est peut \u00eatre une chance pour certains candidats n\u2019ayant pas un profil id\u00e9al \u00e0 la base.\u201d<\/em><\/p>

\u00a0<\/p>

\u00a0<\/p>\n","protected":false},"excerpt":{"rendered":"

Dans une \u00e9tude parue fin novembre 2019, le sociologue du travail Jean-Fran\u00e7ois Amadieu s\u2019int\u00e9resse \u00e0 l\u2019utilisation des nouvelles technologies par les recruteurs. Selon lui, les entretiens vid\u00e9o et l\u2019intelligence artificielle risquent de renforcer les discriminations au physique (directes et indirectes). Il nous en dit plus sur les risques de ce recrutement \u201calgorithmique\u201d.\u00a0De quelles techniques de<\/p>\n","protected":false},"author":26,"featured_media":3610,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"_seopress_robots_primary_cat":"","_seopress_titles_title":"","_seopress_titles_desc":"","_seopress_robots_index":"","footnotes":""},"categories":[12,17],"tags":[],"class_list":["post-3609","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-entreprise","category-numerique"],"acf":[],"_links":{"self":[{"href":"https:\/\/courriercadres.cosavostra.com\/wp-json\/wp\/v2\/posts\/3609","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/courriercadres.cosavostra.com\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/courriercadres.cosavostra.com\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/courriercadres.cosavostra.com\/wp-json\/wp\/v2\/users\/26"}],"replies":[{"embeddable":true,"href":"https:\/\/courriercadres.cosavostra.com\/wp-json\/wp\/v2\/comments?post=3609"}],"version-history":[{"count":4,"href":"https:\/\/courriercadres.cosavostra.com\/wp-json\/wp\/v2\/posts\/3609\/revisions"}],"predecessor-version":[{"id":17146,"href":"https:\/\/courriercadres.cosavostra.com\/wp-json\/wp\/v2\/posts\/3609\/revisions\/17146"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/courriercadres.cosavostra.com\/wp-json\/wp\/v2\/media\/3610"}],"wp:attachment":[{"href":"https:\/\/courriercadres.cosavostra.com\/wp-json\/wp\/v2\/media?parent=3609"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/courriercadres.cosavostra.com\/wp-json\/wp\/v2\/categories?post=3609"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/courriercadres.cosavostra.com\/wp-json\/wp\/v2\/tags?post=3609"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}