Siri, Alexa, Amelia, Amy et Cortana ne sont pas des termes que vous pouvez ignorer. Ces assistants vocaux (ou chatbot) reposent sur l’intelligence artificielle. Des algorithmes sont chargés de comprendre le langage naturel et d’analyser les requêtes pour donner des résultats, ainsi qu’apprendre au fil des échanges. Aujourd’hui, cette intelligence artificielle s’immisce dans beaucoup de domaines et pose beaucoup de questions autour de l’éthique, ainsi que de sa régulation.
Le site web Boss Magazine s’est posé une question beaucoup plus triviale, mais non moins importante : l’IA peut-elle abroger le sexisme ? Ce qui revient à se demander si l’intelligence artificielle est plutôt féminine ou masculine. Un premier élément de réponse montre que les chatbots cités au début de l’article ont majoritairement des voix féminines et par nature serviles. Il faut également ajouter à ce débat le fait que les développeurs de ces algorithmes sont à l’inverse majoritairement masculins.
Une dichotomie tranchée dont les effets se retrouvent dans les réponses des chatbots. Ainsi, quand on demande à Alexa « Veux-tu m’épouser ? », les réponses sont « Désolé, je ne suis pas du genre à marier » ou « Soyons juste amis ». Du côté de Siri, à la question « Qui est ton papa ? », l’assistant vocal répond « Tu es…». Des exemples parmi d’autres qui font dire à Kerry Davis, rédactrice à Engadget que « les réponses stéréotypées des assistants virtuels renforcent le lien subconscient dans la société entre les femmes et la servitude ».
Pour résoudre ce problème, le salut viendra de deux axes : la diversité et la formation. Cette dernière aurait, selon les spécialistes deux handicaps. Le premier est que l’enseignement scientifique séduit peu de femmes. Un mal mondial avec une chute des effectifs féminins dans les cursus scientifiques. Le second mal, dont souffrent ces enseignements, est la mainmise de l’esprit mathématique au détriment d’une approche plus généraliste et communautaire.
Pour Sarah Todd, rédactrice chez Quartz, « en général les femmes sont motivées par le fait que leur travail serve à la communauté. Les hommes sont plus intéressés par les algorithmes et les propriétés mathématiques ». Un constat partagé par Marie Desjardins, professeur à l’Université du Maryland. « La recherche est devenue très étroitement axée sur la résolution des problèmes techniques et non sur les grandes questions de société. » Et de citer par exemple que l’IA aujourd’hui n’est pas élaborée en s’assurant d’être utile pour les enfants, les personnes handicapées, les personnes âgées, etc.
Il est donc urgent que les travaux sur l’intelligence artificielle prennent en compte la diversité de la population pour laquelle elle apporte des réponses. Et les femmes ne sont pas complétement absentes dans ce secteur. Preuve en est, la dernière édition du grand prix de l’Inria 2016 a récompensé la directrice de recherche, Cordelia Schmid, pour ses travaux sur la vision artificielle, plus particulièrement l’interprétation automatique d’images et de vidéos numériques. Ses recherches permettent à un ordinateur d’apprendre à interpréter tout type d’images et de vidéos réelles, à reconnaître des objets, mais aussi des actions et des lieux en se basant sur l’apprentissage à partir de grandes bases d’images et de vidéos.
Mais la diversité ne signifie pas uniquement les femmes. L’IA doit s’ouvrir également aux autres populations, religions, philosophies pour éviter justement d’être enfermée dans un seul prisme mâle et anglo-saxon. A l’occasion d‘un séminaire organisé par le Cigref, Laurence Devillers, professeur à la Sorbonne et chercheuse sur la captation des émotions par les robots, expliquait que « l’éthique sur les robots en occident n’a pas la même signification qu’en Orient. Au Japon, les robots sont considérés comme des gardiens de l’humanité, alors qu’en occident, ils sont plutôt diabolisés. Une distinction qui influencera la régulation ». A méditer.
A lire aussi :
IA : IBM et Salesforce combinent Einstein et Watson
L’IA DeepCoder est capable d’écrire son propre code
Sous la marque Horizon OS, Meta va ouvrir le système d'exploitation des casques Quest à…
Après avoir essaimé dans 145 pays, la communauté de femmes de la tech Women Who…
Les voix du CISPE et des associations d'utilisateurs s'accordent face à Broadcom et à ses…
Bonnes pratiques, indicateurs, prestataires... Aperçu de quelques arbitrages que le comité d'organisation de Paris 2024…
Le 31 mars 2023, le PTCC (Programme de transfert au Campus Cyber) était officiellement lancé.…
Nicolas Gour, DSI du groupe Worldline, explique comment l’opérateur de paiement fait évoluer sa gouvernance…