L’intelligence artificielle peut-elle échapper au sexisme ?

Business IntelligenceData & StockageDéveloppeursProjets

A l’heure où l’intelligence artificielle prend de l’ampleur, se pose la question du sexisme de ce phénomène. Le débat est loin d’être tranché.

Siri, Alexa, Amelia, Amy et Cortana ne sont pas des termes que vous pouvez ignorer. Ces assistants vocaux (ou chatbot) reposent sur l’intelligence artificielle. Des algorithmes sont chargés de comprendre le langage naturel et d’analyser les requêtes pour donner des résultats, ainsi qu’apprendre au fil des échanges. Aujourd’hui, cette intelligence artificielle s’immisce dans beaucoup de domaines et pose beaucoup de questions autour de l’éthique, ainsi que de sa régulation.

Le site web Boss Magazine s’est posé une question beaucoup plus triviale, mais non moins importante : l’IA peut-elle abroger le sexisme ? Ce qui revient à se demander si l’intelligence artificielle est plutôt féminine ou masculine. Un premier élément de réponse montre que les chatbots cités au début de l’article ont majoritairement des voix féminines et par nature serviles. Il faut également ajouter à ce débat le fait que les développeurs de ces algorithmes sont à l’inverse majoritairement masculins.

Une dichotomie tranchée dont les effets se retrouvent dans les réponses des chatbots. Ainsi, quand on demande à Alexa « Veux-tu m’épouser ? », les réponses sont « Désolé, je ne suis pas du genre à marier » ou « Soyons juste amis ».  Du côté de Siri, à la question « Qui est ton papa ? », l’assistant vocal répond « Tu es…». Des exemples parmi d’autres qui font dire à Kerry Davis, rédactrice à Engadget que  « les réponses stéréotypées des assistants virtuels renforcent le lien subconscient dans la société entre les femmes et la servitude ».

Une formation plus ouverte et plus féminine

Pour résoudre ce problème, le salut viendra de deux axes : la diversité et la formation. Cette dernière aurait, selon les spécialistes deux handicaps. Le premier est que l’enseignement scientifique séduit peu de femmes. Un mal mondial avec une chute des effectifs féminins dans les cursus scientifiques. Le second mal, dont souffrent ces enseignements, est la mainmise de l’esprit mathématique au détriment d’une approche plus généraliste et communautaire.

Pour Sarah Todd, rédactrice chez Quartz, « en général les femmes sont motivées par le fait que leur travail serve à la communauté. Les hommes sont plus intéressés par les algorithmes et les propriétés mathématiques ».  Un constat partagé par Marie Desjardins, professeur à l’Université du Maryland. « La recherche est devenue très étroitement axée sur la résolution des problèmes techniques et non sur les grandes questions de société. » Et de citer par exemple que l’IA aujourd’hui n’est pas élaborée en s’assurant d’être utile pour les enfants, les personnes handicapées, les personnes âgées, etc.

Une diversité large pour enrichir l’IA

Il est donc urgent que les travaux sur l’intelligence artificielle prennent en compte la diversité de la population pour laquelle elle apporte des réponses. Et les femmes ne sont pas complétement absentes dans ce secteur. Preuve en est, la dernière édition du grand prix de l’Inria 2016 a récompensé la directrice de recherche, Cordelia Schmid, pour ses travaux sur la vision artificielle, plus particulièrement l’interprétation automatique d’images et de vidéos numériques. Ses recherches permettent à un ordinateur d’apprendre à interpréter tout type d’images et de vidéos réelles, à reconnaître des objets, mais aussi des actions et des lieux en se basant sur l’apprentissage à partir de grandes bases d’images et de vidéos.  

Mais la diversité ne signifie pas uniquement les femmes. L’IA doit s’ouvrir également aux autres populations, religions, philosophies pour éviter justement d’être enfermée dans un seul prisme mâle et anglo-saxon. A l’occasion d‘un séminaire organisé par le Cigref, Laurence Devillers, professeur à la Sorbonne et chercheuse sur la captation des émotions par les robots, expliquait que « l’éthique sur les robots en occident n’a pas la même signification qu’en Orient. Au Japon, les robots sont considérés comme des gardiens de l’humanité, alors qu’en occident, ils sont plutôt diabolisés. Une distinction qui influencera la régulation ». A méditer.

A lire aussi :

IA : IBM et Salesforce combinent Einstein et Watson

L’IA DeepCoder est capable d’écrire son propre code

Photo credit: Danny Choo via Visualhunt /  CC BY-NC-SA

Lire la biographie de l´auteur  Masquer la biographie de l´auteur