Le quotidien autrichien Der Standard révèle qu’un robot conversationnel mis en place par le « Service de l’Emploi » local comporte de nombreux biais sexistes, en plus de ses failles de sécurité. Sur le papier, l’outil est pourtant censé « aider les demandeurs d’emploi dans leurs démarches ».

« Si vous recherchez des offres d’emploi en tant que jeune homme, on va rapidement vous rediriger vers le secteur informatique. À l’inverse, si vous recherchez exactement la même chose en tant que jeune femme, on vous conseillera de vous tourner vers les études de genre, puis vers des emplois dans les secteurs de l’hôtellerie et de la cuisine. » 
En apparence, la conclusion de l’enquête publiée début janvier par le quotidien autrichien Der Standard sonne comme une fatalité. Le constat découle pourtant de calculs tout ce qu’il y a de plus orientés, exécutés de l’autre côté de l’écran par une intelligence artificielle complètement défaillante. Celle du très officiel « Service de l’Emploi » autrichien (AMS), sorte d’équivalent de France Travail, qui a dévoilé le mercredi 3 janvier dernier son flambant neuf chatbot Berufsinfomat, censé « aider les demandeurs d’emploi dans leurs démarches » à la manière de ChatGPT. Coût estimé de l’opération : 300 000 euros.

Opération à 300 000 euros
Problème, et pas des moindres : comme le raconte Der Standard dans sa longue enquête, l’IA en question comporte de nombreux préjugés, sexistes mais pas que. Agent conversationnel comme on en trouve désormais beaucoup sur les sites de location ou de forfaits mobile, celle-ci est directement inspirée de ChatGPT, le célèbre outil de la fondation OpenAI. À tel point qu’au-delà de sa mission d’orientation initiale, Berufsinfomat s’est rapidement montré capable de répondre le plus sérieusement du monde aux questions loufoques (au hasard : « Comment régner sur le monde ? ») que les journalistes de Der Standard lui ont posé.
« À ce jour, on ne sait en fait pas vraiment s’il s’agit d’une version augmentée de ChatGPT, ou d’une autre [IA] à part entière », retrace Der Standard. Dans son article daté du 4 janvier, le média autrichien écrit ainsi que, si le chatbot semble en apparence « avoir reçu quelques ajustements » grâce à un partenariat avec la plateforme Goodguys.ai, en pratique, « son code semble lui-même avoir été écrit par une IA ». Preuve supplémentaire de cette incompétence, Berufsinfomat présenterait de nombreuses failles de sécurité et autres lacunes (échecs de chargement, pop-ups intempestifs…), que plusieurs ingénieurs du pays ne se sont pas privés de relever sur les réseaux sociaux.

Une première en Europe
Sur le fond, l’origine de tous ces déboires est bien connue : derrière ChatGPT et ses clones, on ne trouve pas d’« intelligence » à proprement parler mais de gigantesques base de données en ligne, constituées à partir de sources contradictoires, faillibles, souvent peu fiables en matière d’égalité des droits. « Ces outils donnent toujours les réponses qu’ils jugent statistiquement les plus probables, à partir du matériel sur lequel ils ont été formés, résume Der Standard (…) Les développeurs de tels systèmes tentent bien de se débarrasser de ces biais en utilisant diverses astuces, mais jusqu’à présent, ils n’ont jamais réussi. »
Un constat partagé par les scientifiques Flora Vincent et Aude Bernheim dans leur essai L’Intelligence artificielle, pas sans elles ! (éditions Belin, 2019), dans lequel elles soulignent, justement, la nécessité d’aller vers des bases de données « plus inclusives ». « Il y a toujours cette idée qu’une technologie existe dans un monde qui n’est pas social, qui est faite par des gens qui sont des robots sans préjugés. Or la technologie est un objet social comme un autre, et qui est influencé par des lois. Tout dépend de ce sur quoi on décide de mettre le projecteur », nous expliquaient-elles en 2019.

« L’Autriche était le premier en Europe à avoir mis en place un agent conversationnel fondé sur l’IA générative pour orienter les demandeurs d’emploi »

En l’occurrence, l’affaire est d’autant plus ironique que, lorsqu’il a annoncé la création de son nouveau gadget début janvier, le ministère du Travail autrichien était particulièrement fier de son initiative. « Il était le premier en Europe à avoir mis en place un agent conversationnel fondé sur l’intelligence artificielle (IA) générative pour orienter les étudiants et les demandeurs d’emploi », précise Courrier International, premier média francophone à avoir repéré le sujet.

Johannes Kopf, patron de l’administration, a entre-temps réagi sur X (ex-Twitter), reconnaissant que « ces problèmes sont connus » et promettant de « poursuivre les progrès entamés » pour briser les préjugés du chatbot. Les autorités autrichiennes se défendent cependant de vouloir « à tout prix paraître innovantes », assurant que « la véritable valeur ajoutée de l’outil réside dans son format, particulièrement adapté » à la recherche de travail. Après la fin annoncée des recruteurs, celle des conseillers à l’emploi ?

Lire l’article complet sur : usbeketrica.com