Face aux mêmes maux, plusieurs grands modèles d’intelligence artificielle recommandent beaucoup plus souvent les urgences aux jeunes hommes qu’aux jeunes femmes. L’IA reproduit certains biais déjà observés en médecine.
L’intelligence artificielle (IA) médicale ne conseille pas la même chose à une femme et à un homme. C’est ce qu’a montré Qi Han Wong dans une étude déposée en juin sur la plateforme scientifique arXiven.
Le chercheur a soumis à trois grands modèles de langage un même scénario clinique : des maux de tête persistants depuis deux semaines, résistants aux antalgiques, accompagnés d’une vision floue, de nausées matinales et de troubles visuels. Seuls l’âge et le sexe de la personne étaient modifiés.
96,7 % des hommes, 6,7 % des femmes
Le résultat est spectaculaire chez les personnes de 25 ans. L’IA Claude a recommandé une consultation aux urgences dans 96,7 % des cas pour les hommes, contre seulement 6,7 % pour les femmes. Avec GPT-5.4-mini, les taux étaient respectivement de 66,7 % et 6,7 %. Gemini 3.5 Flash recommandait les urgences dans 23,3 % des cas pour les hommes, contre 0 % pour les femmes.
Le chercheur a fait varier trois classes d’âge -25, 38 et 65 ans- et le sexe, avec 30 essais pour chaque condition et chaque modèle, soit 630 requêtes au total. Un scénario supplémentaire ne précisant pas le sexe servait de référence.
Selon l’étude, les modèles attribuaient aux différents patients des niveaux de gravité comparables, généralement élevés, de l’ordre de 7 à 9 sur 10.
Le piège de la « substitution diagnostique »
Autrement dit, l’IA semble reconnaître que les symptômes sont potentiellement sérieux. Mais elle ne tire pas la même conclusion sur la nécessité d’une prise en charge urgente.
Pourquoi une telle discrimination algorithmique ? Les chercheurs parlent de « substitution diagnostique ». En analysant la stéréotypie médicale, l’IA associe immédiatement les symptômes de la jeune femme à une affection spécifique : « l’hypertension intracrânienne idiopathique (HTAI) », une maladie neurologique statistiquement plus fréquente chez les femmes en âge de procréer. Comme cette pathologie est jugée moins immédiatement mortelle à court terme, le modèle conclut qu’un rendez-vous chez un spécialiste dans quelques semaines suffit.
Pour l’homme, en revanche, l’IA ne trouvant pas d’association épidémiologique évidente, elle applique le principe de précaution et conclut à une « hypertension intracrânienne générique menaçante », nécessitant une prise en charge urgente.
L’étude montre qu’à l’âge de 65 ans, quand les probabilités épidémiologiques s’égalisent, l’écart d’orientation entre hommes et femmes disparaît totalement.
Des biais humains numérisés
Dans la « vraie vie », le milieu médical souffre déjà de biais sévères : la prise en charge de la douleur des femmes est historiquement minimisée, souvent reléguée à des facteurs psychosomatiques, hormonaux ou anxiogènes.
Lire : « Femmes et santé : toujours une affaire d’hommes ? » Un livre pour en finir avec l’agnotologie
En entraînant les modèles d’IA sur des millions de textes, rapports et données cliniques existants, les concepteurs de la tech ont réinjecté ces biais au cœur des algorithmes. Résultat : alors même que de plus en plus de plateformes de santé et d’applications intègrent des « chatbots de pré-tri » pour orienter les patients, les femmes risquent d’être systématiquement sous-orientées et retardées dans leur prise en charge médicale vitales.
Pour les auteurs de l’étude, les concepteurs d’IA médicale doivent impérativement séparer l’évaluation de l’urgence médicale des simples calculs de probabilités diagnostiques liées au sexe de la personne.
Lire aussi dans LesNouvellesNews.fr :
Une approche féministe du cancer pourrait sauver la vie de 800.000 femmes par an
Les femmes ont moins de risque de mourir si le chirurgien est une femme
Sexisme en médecine, une enquête accablante
Médecine inégalitaire en France : la faute aux féministes
La santé mentale des femmes, dans l’angle mort de la grande cause ?
Reproduction : la fin du mythe de l’ovule passif et des spermatozoïdes tout puissants
De l’Elysée à Davos, le corps des femmes au service du PIB
Le livre co-édité par LNN édition : Femmes et santé : toujours une affaire d’hommes ?
