Le sexisme, le racisme et d’autres formes de discrimination peuvent s’immiscer dans les algorithmes du machine learning qui rendent nos systèmes « intelligents », comme l’a souligné Kate Crawford de Microsoft Research dans les colonnes du New York Times.
L’an dernier, par exemple, des chercheurs de l’universté Carnegie Mellon ont constaté que les femmes étaient moins susceptibles que les hommes de voir s’afficher des annonces d’emploi au salaire très élevé sur Google.
Dès sa conception, l’algorithme peut donc apprendre des biais de jugements humains (voir le cas du bot Tay). La firme de Mountain View veut y remédier et rendre l’intelligence artificielle (IA) moins discriminante, avec l’aide de ses chercheurs.
Dans un document technique (« l’égalité des opportunités dans l’apprentissage supervisé ») des chercheurs membres de l’équipe Google Brain proposent un cadre pour tester le caractère discriminatoire des algorithmes existants, à partir d’un ensemble d’attributs sensibles. Et « ajuster » les predicteurs (également nommés variables indépendantes ou variables d’entrée) pour réduire ce risque. Il s’agit de trouver l’équilibre entre la précision et le caractère non-discriminatoire du résultat.
« Quand l’appartenance au groupe coïncide avec un attribut sensible, comme la race, le genre, le handicap ou la religion, cette situation peut conduire à des résultats injustes ou préjudiciables », explique dans un billet de blog Moritz Hardt, co-auteur de la recherche avec Eric Price et Nathan Srebro.
L’approche de Google, celle de « l’égalité des opportunités » appliquée à l’apprentissage automatique, résume-t-il, est basée sur l’idée que les individus qui peuvent bénéficier d’un résultat souhaité devraient « avoir une même chance d’être classés correctement » pour ce résultat.
Lire aussi :
Avec Assistant, Google espère supplanter Siri
Google met de l’intelligence artificielle dans son traducteur
Une IA pour rendre Google Analytics plus intelligent
Sous la marque Horizon OS, Meta va ouvrir le système d'exploitation des casques Quest à…
Après avoir essaimé dans 145 pays, la communauté de femmes de la tech Women Who…
Les voix du CISPE et des associations d'utilisateurs s'accordent face à Broadcom et à ses…
Bonnes pratiques, indicateurs, prestataires... Aperçu de quelques arbitrages que le comité d'organisation de Paris 2024…
Le 31 mars 2023, le PTCC (Programme de transfert au Campus Cyber) était officiellement lancé.…
Nicolas Gour, DSI du groupe Worldline, explique comment l’opérateur de paiement fait évoluer sa gouvernance…