"Aucune des personnes que j’ai photographiées ne savait que leurs images étaient utilisées de cette façon" explique Greg Peverill-Conti, un photographe dont plus de 700 clichés se retrouvent désormais dans le dataset d’IBM.

La mise au point d’outils de reconnaissance faciale est primordiale pour les fournisseurs de technologie. Elle doit permettre de vendre des solutions de surveillance, ou de fidélisation client. Sauf que l’entrainement nécessaire au fonctionnement des algorithmes de reconnaissance faciale exige que la machine utilise des millions de photos d’individus. D’individus dont les visages sont publiés en ligne, sur des services tels que Flickr.

"C’est le sale petit secret de l’IA. Souvent, les chercheurs se contentent de prendre toutes les images disponibles dans la nature" explique Jason Schultz, professeur à la faculté de droit de l’Université de New York.

"Les gens ont donné leur accord pour partager leurs photos dans un écosystème Internet différent" explique Meredith Whittaker, codirectrice de l’AI Now Institute, qui étudie les implications sociales de l’intelligence artificielle. "Et là, ils sont involontairement ou inconsciemment entraînés à former des systèmes (de reconnaissance faciale)". Bref, le consentement à l’utilisation des données personnelles n’est pas présent, comme l’exige par exemple le RGPD depuis l’an passé.

Sourced through Scoop.it from: www.zdnet.fr