Le Laboratoire de l’égalité propose un « Pacte pour une intelligence artificielle égalitaire » pour en finir avec les biais sexistes amplifiés par l’IA
Des algorithmes de recrutement qui rejettent des CV de femmes parce que, par le passé, les métiers pour lesquels ils trient les candidatures étaient occupés par des hommes ; des programmes proposant des crédits bancaires plus importants aux hommes qu’aux femmes ; des assistants vocaux ayant des voix de femmes et répondant au sexisme par le sexisme (voir « Féministe ? » l’IA détourne la conversation) ; des publicités ciblées qui aggravent les stéréotypes… L’intelligence artificielle (IA) n’échappe pas aux biais sexistes de toute activité initiée par des humains. Ces humains étant le plus souvent des hommes, plus nombreux dans les métiers de l’informatique.
Alors, pour contrer le sexisme caché sous le capot des algorithmes, le Laboratoire de l’égalité a lancé en grandes pompes et en visioconférences un « Pacte pour une intelligence artificielle égalitaire ». Cédric O, secrétaire d’Etat chargé du numérique et Marlène Schiappa, secrétaire d’Etat chargée de l’Egalité entre les femmes et les hommes ont accompagné ce lancement. Ce pacte est directement inspiré du livre initié par le Laboratoire de l’égalité « L’intelligence artificielle, pas sans elles ! » (Belin, 2019) co-écrit par Aude Bernheim et Flora Vincent, fondatrices de l’association Wax Science, et il a été concocté par un groupe de travail d’expert.es et d’entreprises comme Renault ou Engie.
Il propose trente solutions pour tordre le cou au sexisme de l’IA. Un immense chantier car, comme l’a dit notamment Hélène Boulet-Supau, fondatrice de FabWorkplace, « Les algorithmes ne font que reproduire le passé, qui est sexiste ; il faut construire un futur différent »
Les mesures tournent autour de deux idées : mixité et conscientisation. La mixité dans les coulisses ne serait pas un luxe. Le secteur de l’IA ne compte que 12 % de femmes. Et pour augmenter ce ratio, il va falloir donner confiance aux filles dans leurs capacités en sciences et technique. De nombreuses études montrent que les filles se croient incompétentes alors qu’elles ne le sont pas. L’IA a un rôle à jouer dans ce sexisme systémique. Une des mesures du pacte consiste par exemple à demander aux logiciels de recrutement de fournir 50% de CV de femmes et 50% de CV d’hommes. Cela pourrait aboutir à embaucher davantage de femmes dans des secteurs scientifiques et techniques. Ce qui permettrait de montrer davantage de rôles modèles. Et au final les filles cesseraient de croire qu’elles sont nulles dans ces secteurs. Bref, l’IA pourrait transformer un cercle vicieux en cercle vertueux.
Le pacte propose aussi d’attribuer un genre neutre aux assistants numériques pour éviter de leur donner systématiquement des voix féminines, de revoir les bases de données en faisant attention aux noms de métiers, aux images, aux vidéos. Dans sa présentation, le Laboratoire de l’égalité donne l’exemple de la qualification d’images amenées à se diffuser largement sur la Toile, dans des journaux ou documents publicitaires : l’image d’un homme en maillot de bain est qualifiée de « gros bogoss », une femme en maillot de bain sera « fille facile »… Et l’IA aura perpétué le stéréotype.
Pour que les développeur.es aient conscience des biais sexistes, le pacte propose d’instaurer une éthique de l’IA et d’évaluer et contrôler, il préconise l’organisation de débats, rencontres, réflexions sur la « culture geek » afin de conscientiser un maximum d’acteurs et d‘actrices de l’IA. Le pacte, qui s’adresse aux responsables politiques, dirigeant.es d’entreprises publiques ou privées, chercheur.es, centres de formations, associations… sera consultable sur le site du Laboratoire de l’égalité. Et ci-dessous la version vidéo de la présentation
