L’expert en IA Toju Duke a parlé à Siliconrepublic.com des défis de la construction d’une IA éthique et de la façon dont elle redonne à la communauté technologique.
Toju Duke travaille en tant que responsable de programme d’intelligence artificielle chez Google Research à Dublin, où elle se concentre sur la mise à l’échelle de ses pratiques, outils et processus intelligents pour les équipes produit de Google pour la zone EMEA.
Alors qu’elle est rapidement tombée amoureuse du monde de l’IA et du bien social que cette technologie peut apporter, Duke a également constaté que le vieil adage « tout ce qui brille n’est pas de l’or » est vrai, en particulier en ce qui concerne les préjugés et les défis éthiques.
«Apprendre que des gens ont été accusés à tort par un algorithme de détection faciale parce qu’il a été construit sur des données insuffisantes qui dénaturent la société, ou un logiciel de recrutement qui favorise les CV masculins par rapport aux CV féminins a déclenché une sonnette d’alarme dans ma tête», a-t-elle déclaré.
«Il est assez troublant que les injustices et inégalités systémiques contre lesquelles nous nous battons depuis tant d’années se soient introduites dans la technologie d’une manière que nous ne pourrons peut-être pas contrôler.
« Il est extrêmement important que nous développions ces systèmes de manière éthique et responsable »
– TOJU DUKE
Duke a déclaré que plusieurs défis affectaient la construction et l’adoption d’algorithmes d’IA entièrement éthiques.
«En fonction de la méthode dans laquelle l’algorithme a été construit, par exemple l’apprentissage supervisé ou non supervisé, l’algorithme pourrait générer des résultats inexplicables par l’organisation qui l’a développé ou par le monde en général», a-t-elle déclaré.
«Prenons par exemple les demandes de prêt hypothécaire. Il est prouvé que certains logiciels financiers ont été construits à l’aide d’ensembles de données biaisés qui suggéraient que les personnes de certains codes postaux ne seraient pas en mesure de se payer des hypothèques, par rapport à celles des codes postaux réputés être dans des zones « plus riches ». Cela conduit à une augmentation des refus de demande de prêt hypothécaire ou à une réduction des montants des prêts destinés aux personnes issues de milieux socio-économiques défavorisés. »
Le deuxième défi majeur est une vérité terrain incorrecte – c’est-à-dire que l’algorithme a été programmé avec des failles. «Ces ensembles de données sont étiquetés par les humains qui ont parfois des étiquettes incorrectes, et comme les humains ont des préjugés inhérents, ces préjugés se faufilent le plus souvent dans les technologies que nous développons», a déclaré Duke.
«Par exemple, Tiny Images, un ensemble de données créé par le MIT et la NYU, a été rappelé l’année dernière car il a été découvert qu’il contenait une gamme d’étiquettes racistes, sexistes et autres étiquettes offensantes.»
Le troisième défi majeur en matière d’IA éthique est de renforcer la confiance. «La Commission européenne travaille actuellement à la construction d’un cadre pour l’innovation en IA qui créera la confiance dans les systèmes basés sur l’apprentissage automatique et guidera le développement éthique et l’utilisation de cette technologie largement applicable», a-t-elle déclaré.
«Google soutient ces efforts visant à instaurer la confiance dans l’IA grâce à une innovation responsable et à une réglementation réfléchie. C’est aussi la raison pour laquelle nous avons nos propres principes d’IA pour guider notre développement éthique et notre utilisation de l’IA, et c’est pourquoi nous open source beaucoup de nos apprentissages au profit de la communauté des développeurs au sens large. «
Duke appelle l’IA «l’oxygène de la technologie» parce qu’elle est présente dans pratiquement tous les appareils avec lesquels nous interagissons, des téléphones et haut-parleurs audio aux voitures et aux thermostats.
«Elle a également un potentiel incroyable pour transformer nos vies dans des domaines tels que la santé – à l’avenir, l’intelligence artificielle pourrait alimenter de nouvelles techniques de diagnostic médical, qui pourraient potentiellement permettre à des médecins qualifiés d’offrir des diagnostics plus précis, des interventions plus précoces et de meilleurs résultats pour les patients», at-elle ajoutée.
«Il est extrêmement important que nous développions ces systèmes de manière éthique et responsable, afin que les préjugés d’aujourd’hui ne soient pas intégrés dans les technologies de demain.»
En dehors de son travail chez Google, Duke s’est portée volontaire pour rejoindre Women in AI Ireland, où elle gère actuellement plusieurs projets. Elle dirige également un groupe de professionnels qui tentent de résoudre les problèmes de l’IA qui affectent les personnes de couleur, et c’est ce travail qui l’a amenée à son rôle actuel.
«Construire ma base de connaissances et ces expériences sur le terrain m’a donné la confiance nécessaire pour contacter l’équipe IA responsable au sein de Google, en demandant à rejoindre l’équipe tout en travaillant en tant que chef de produit EMEA pour les voyages. Après quelques conversations, j’ai commencé à travailler dans l’équipe à raison de 20% et je suis maintenant passé à plein temps dans l’équipe, travaillant sur une mission de six mois. »
Duke est également le fondateur de Refyne, qui était à l’origine une entreprise de coaching marketing destinée aux start-ups. «À un certain stade, il serait pivoté de se concentrer davantage sur l’IA éthique, aidant les organisations à créer des cadres d’IA éthiques, ce qui devrait augmenter leur rentabilité et leur réputation à long terme, tout en protégeant l’humanité contre d’autres dommages.»
Vous voulez des histoires comme celle-ci et plus directement dans votre boîte de réception? S’inscrire pour Tendances technologiques, Le résumé hebdomadaire de Silicon Republic sur les nouvelles technologiques indispensables.
Auteur/autrice
