Au cours des dernières semaines et des derniers mois, l’intelligence artificielle a dominé l’actualité mondiale et a été utilisée dans les activités de base de la vie quotidienne.
L’IA est la capacité des machines à afficher des fonctions telles que l’apprentissage, la planification, le raisonnement et la créativité.
Au fil des ans, AI a été critiquée par des personnes de couleur, citant des préjugés et de la discrimination raciale. C’est ce qui a suscité l’intérêt de Deborah Raji, boursière Mozilla et doctorante CS à l’Université de Californie à Berkeley, qui s’intéresse à l’audit et à l’évaluation algorithmiques.
Alors qu’elle effectuait un stage dans la start-up d’apprentissage automatique Clarifai après sa troisième année d’université en 2017, Raji a travaillé sur un modèle de vision par ordinateur qui aiderait les clients à signaler les images inappropriées comme « dangereuses pour le travail ».
Cependant, elle a constaté qu’il signalait les photos de personnes de couleur à un taux beaucoup plus élevé que celles des Blancs. Elle a attribué ce déséquilibre aux conséquences de la formation aux données. Le modèle apprenait à reconnaître les images NSFW de la p0rn0graphie et les images sûres des photos d’archives, selon Innovators Under 30.
Le p0rn0, semble-t-il, est beaucoup plus diversifié, et cette diversité a amené le modèle à associer automatiquement la peau foncée à un contenu indécent. Quand elle a parlé du problème à Clarifai, l’entreprise ne lui a pas cédé.
« C’était très difficile à l’époque d’amener les gens à faire quoi que ce soit à ce sujet », se souvient-elle. « Le sentiment était : « C’est tellement difficile d’obtenir des données. Comment pouvons-nous penser à la diversité des données ?
Raji n’a pas reculé. Elle a continué à approfondir ses recherches, explorant les ensembles de données grand public pour l’entraînement à la vision par ordinateur.
Son exploration a continué de révéler des déséquilibres démographiques bouleversants, car de nombreux ensembles de données de visages manquaient de visages à la peau foncée.
Cela a conduit à des systèmes de reconnaissance faciale qui ne pouvaient pas différencier avec précision ces visages. Et ces systèmes étaient fortement utilisés par les services de police et les organismes d’application de la loi à l’époque.
« C’est la première chose qui m’a vraiment choqué dans l’industrie. Il y a beaucoup de modèles d’apprentissage automatique actuellement déployés et affectant des millions et des millions de personnes », a-t-elle déclaré, « et il n’y avait aucun sens de la responsabilité. »
Cela a conduit Raji à se concentrer sur « la façon dont les entreprises d’IA pourraient s’assurer que leurs modèles ne causent pas de dommages indus, en particulier parmi les populations susceptibles d’être négligées pendant le processus de développement », a-t-elle déclaré à TIME.
« Il est devenu clair pour moi que ce n’est vraiment pas quelque chose que les gens sur le terrain sont même conscients que c’est un problème dans la mesure où c’est le cas », a-t-elle déclaré au point de vente.
Elle se concentre maintenant davantage sur la création de méthodes d’audit des systèmes d’IA à la fois à l’intérieur et à l’extérieur des entreprises qui les créent. Elle a également travaillé avec l’IA éthique de Google et a collaboré avec l’Algorithmic Justice League sur son projet d’audit Gender Shades. Ce projet « a évalué la précision des outils de classification par sexe alimentés par l’IA créés par IBM, Microsoft et Face ++ », a déclaré Raji à TIME.
Son travail impressionnant dans le domaine de l’IA lui a valu d’être honorée comme l’un des premiers membres de la liste des 100 personnes les plus influentes de Time Magazine en intelligence artificielle (IA). Elle a été placée dans la catégorie « penseurs ».
Raji est née à Port Harcourt, au Nigéria, mais a déménagé à Mississauga, en Ontario, à l’âge de quatre ans. Selon elle, sa famille a quitté le Nigeria pour échapper à son instabilité et lui donner, à elle et à ses frères et sœurs, une vie meilleure.
Sa famille finit par s’installer à Ottawa, où elle s’inscrit à l’université. À l’époque, elle s’intéressait aux études pré-médicales, car sa famille voulait qu’elle devienne médecin.
Elle a été acceptée à l’Université McGill en tant que majeure en neurosciences, mais lors d’une visite à l’Université de Toronto, elle a rencontré un professeur qui l’a persuadée d’étudier le génie.
Elle a suivi son premier cours de codage et s’est rapidement retrouvée dans le monde des hackathons. Bientôt, elle a réalisé qu’elle pouvait transformer ses idées en logiciels qui pourraient aider à résoudre des problèmes ou à changer les systèmes.