Une étude publiée pour la commission des droits des femmes et de l’égalité des genres du Parlement européen alerte sur les effets discriminatoires de ces nouvelles technologies. Non seulement elles reproduiraient les schémas existants, mais les amplifieraient davantage encore à en croire les auteurs.
Emploi, services publics, santé, sans oublier les réseaux sociaux, sont autant de secteurs dans lesquels l’IA favoriserait de nouvelles formes de violences fondées sur le genre. C’est le constat que dresse une étude réalisée par les juristes Nele Roekens et Carlotta Rigotti pour le Parlement européen. Dans le domaine du recrutement par exemple, certains de ces outils reproduiraient des stéréotypes professionnels historiques et pourraient même désavantager les personnes ayant interrompu leur carrière pour des responsabilités familiales. Autrement dit, des femmes dans la majorité des cas,.
Il en va de même des discriminations dans les services publics. D’après le site Occitanie Europe, plusieurs systèmes de détection automatisée des fraudes sociales utilisés sur le continent ont davantage ciblé les mères célibataires, les femmes issues de l’immigration ainsi que les personnes à faibles revenus.
Quant à la santé, l’IA se retrouve l’héritière de biais déjà bien ancrés (notamment la recherche médicale) dans un secteur où la référence est souvent masculine. Sans oublier les deepfakes, le cyberharcèlement et autres violences en ligne qui font également partie de l’équation.
Les auteurs estiment qu’une meilleure prise en compte des discriminations intersectionnelles est nécessaire, de même qu’un renforcement des moyens en faveur de l’égalité. Améliorer la collecte de données et favoriser une participation accrue des femmes dans la conception, le déploiement et l’évaluation des systèmes d’IA sont autant de solutions envisagées pour faire de l’égalité de genres un objectif central de la gouvernance européenne de l’IA.



