Le Cercle InterElles propose une formation gratuite pour éradiquer le sexisme de l’intelligence artificielle. Une initiative qui met un coup de projecteur sur ce phénomène à grande échelle ainsi que sur l’hostilité réservée aux femmes dans l’espace numérique.
Représentations stéréotypées des femmes et des hommes, algorithmes privilégiant les contenus créés par des hommes ou encore propagation de deep fake en hausse… C’est indéniable, l’intelligence artificielle est pétrie de biais sexistes. Pour contrer ce phénomène et apprendre à desceller ces biais, le réseau Cercle InterElles, qui lutte pour une meilleure représentation des femmes dans le numérique, s’est associé à l’association Impact AI afin d’imaginer la formation « IA & Biais de genre ». Le but ? Développer une IA inclusive.
« Il est impossible que l’IA ne comporte pas de biais » prévient Roxana Rugina, secrétaire générale d’Impact AI. Les algorithmes internes sont nourris des subjectivités propres aux individus qui les mettent au point. L’important, selon elle est d’en avoir conscience afin de les limiter au maximum.
L’IA, miroir d‘une société sexiste
Dans une campagne lancée à l’occasion du 8 mars 2023, le collectif féministe Jamais Sans Elles, qui promeut l’égalité dans le secteur du numérique, observait par exemple que les requêtes ”neutres“ générées par des IA génératrices d’images, comme Midjourney ou Stable Diffusion, mettaient davantage en scène des hommes pour les métiers “prestigieux“ et des femmes lorsqu’il s’agissait de métiers moins “remarquables”.
Et, selon The Alan Turing Institute, seulement 22 % des professionnels de l’intelligence artificielle dans le monde sont des femmes en 2021. « Les femmes sont encore peu présentes dans les filières du numérique et dans les formations d’ingénieur » déplore Roxana Rugina. « Les femmes sont, de fait, moins représentées dans les équipes qui développent des produits d’IA. Ce déséquilibre est flagrant. Et certains produits sortis sur le marché sont totalement passés à côté d’une réflexion autour de l’intégration de genre féminin dans les applications de l’IA. » observe Roxana Rugina. Des algorithmes de recrutement rejettaient des CV de femmes parce que, par le passé, les métiers pour lesquels ils triaient les candidatures étaient occupés par des hommes ; des programmes proposaient des crédits bancaires plus importants aux hommes qu’aux femmes ; des assistants vocaux ayant des voix de femmes se conformaient à desinjonctions sexistes (lire : « Féministe ? » l’IA détourne la conversation)… C’est à partir de ce constat qu’a été pensé le module de formation « IA & Biais de genre ».
Pour une IA inclusive
Cette formation gratuite propose une séance de trois heures durant lesquelles les participant.e.s – professionnel.les du numérique, étudiants ou amateur.rice.s- apprennent à repérer les biais sexistes infiltrés dans les différents systèmes d’intelligence artificielle. Tout est passé en revue : la conception, le design, la mise en production, le suivi et l’usage. « À chaque étape, il est possible d’intervenir afin de s’assurer qu’il n’y a pas une multiplication des biais, induite par les concepteurs mais également par les utilisateurs au fur et à mesure des usages. Puis il est nécessaire de monitorer tout le système pour ne pas retrouver des erreurs » détaille la secrétaire générale d’Impact AI.
La question du genre est donc centrale afin de sensibiliser à la notion d’égalité dans les systèmes d’intelligence artificielle de demain. « Il est nécessaire d’être conscient de nos propres biais afin de les repérer dès la conception des systèmes d’intelligence artificielle pour s’assurer de la représentativité des bases de données » martèle Roxana Rugina.
L’IA, se nourrissant de ce qu’on lui donne, entretient un imaginaire sexiste. D’où la nécessité de sensibiliser les professionnel.les du numériques à la notion de genre et de déconstruire les stéréotypes. La formation « IA & Biais de genre » offre une lueur d’espoir vers un espace numérique moins hostile aux femmes.
Lire aussi dans Les Nouvelles News
NUMÉRIQUE ET TECHNOLOGIE : UN AVENIR SANS FEMMES
UN PACTE POUR QUE L’INTELLIGENCE ARTIFICIELLE NE SOIT PAS BÊTISE SEXISTE RÉELLE
QUAND L’INTELLIGENCE ARTIFICIELLE AU SERVICE DE LA PUB AGGRAVE LES DISCRIMINATIONS
LE « DEEP FAKE » PORNOGRAPHIQUE : COMME TAYLOR SWIFT, LES FEMMES SONT EN PREMIÈRE LIGNE
DEVTERNITY : PAS DE FEMMES, PAS DE CONFÉRENCE !
