L'intelligence artificielle, pas sans elles !

Aude Bernheim Flora Vincent

Capture d’écran 2019-02-02 à 15.52.52.pn

InegAlites Artificielles

 
A propos

La collection conçue et réalisée par le Laboratoire de l’Egalité aux éditions Belin publie en Mars 2019 l’ouvrage “L’intelligence artificielle, pas sans elles !”.


Les autrices sont des scientifiques et militantes féministes, Aude Bernheim et Flora Vincent. L’ouvrage clair et accessible, retrace et permet de comprendre les liens entre l’intelligence artificielle et la question de l’égalité Femmes-Hommes. Dans cet ouvrage

de synthèse, les autrices exposent intelligiblement les mécanismes à l’origine de l’absence des femmes dans ce secteur révolutionnaire, détaillent comment l’intelligence artificielle elle-même reproduit et amplifie les stéréotypes sexistes, et proposent des solutions pour y remédier.

La sortie du livre est prévue le 6 mars 2019. Il sera présenté lors d’une soirée de lancement le 12 Mars 2019 au Centre de Recherche Interdisciplinaire à 19h, en présence de Cédric Villani, mathématicien et député de l’Essonne, auteur du rapport parlementaire “Donner un sens à l’intelligence artificielle”.

Le livre s’adresse à toutes celles et ceux qui s’intéressent aussi bien à l’impact des nouvelles technologies sur notre société, qu’aux nouvelles dimensions de l’inégalité femmes- hommes face à la révolution algorithmique. Destiné aux producteur.rices et utilisateur. rices d’intelligences artificielles, militant.e.s féministes, citoyen.ne.s, cette publication riche en exemples permet d’identifier.les enjeux cruciaux d’une IA égalitaire.

L’intelligence artificielle (IA) dont les humains dotent les machines (ordinateurs, robots...) bouleverse le 21ème siècle, envahit notre quotidien, nos vies. Mais avec 12% de femmes (hors des fonctions supports) dans le secteur, l’intelligence artificielle se conjugue au masculin. A chaque étape de leur fabrication, les algorithmes des IA apprennent, certes, mais ingèrent des stéréotypes sexués, les diffusent et les pérennisent.  L’ouvrage propose des solutions originales pour corriger ces biais, et faire progresser l’égalité entre les sexes non seulement en créant les conditions pour augmenter le nombre de femmes dans le secteur, mais aussi et simultanément, en utilisant les potentialités de la technologie elle même ; les deux éléments étant interactifs.

Decouvrez le dossier de PresentatioN complet

Les auTrices
Photo_Aude_Bernheim.jpg
photo.jpg
Aude Bernheim
Flora Vincent

“L’intelligence artificielle, pas sans elles” est écrit par Aude Bernheim et Flora Vincent, toutes deux docteures en sciences, formées respectivement à l’Institut Pasteur et à l’École Normale Supérieure. Pendant leurs études au Centre de Recherche Interdisciplinaire, elles ont co-fondé l’association scientifique et féministe WAX Science : association de promotion des sciences et des femmes dans la science, à travers le développement et la diffusion d’outils innovants, à l’interface du numérique, du design, des sciences et de l’égalité femmes-hommes.

Elles s’intéressent aux liens entre féminisme et sciences et militent entre autres pour une plus grande place des femmes dans les sciences, ainsi que pour une prise de conscience de l’impact de la notion de sexe et de genre dans les questionnements scientifiques. Leur engagement s’exprime à travers des interventions (entreprises, écoles, grand public...) et des écrits. Face à l’importance de l’intelligence artificielle, elles ont souhaité synthétiser et rendre accessible les nouvelles frontières des liens entre sexe, genre et intelligence artificielle.

Annie Batlle, Directrice de la collection Egale à égal (collection du Laboratoire de l'Egalité), a largement contribué à rendre cette publication possible en travaillant avec les autrices tout au long de la rédaction de l'ouvrage.

 
Inegalites artificielles
ADRIEN BERNHEIM

Ce livre s’inscrit dans une démarche militante de mieux faire connaître au grand public les sujets liant égalité femmes-hommes et intelligence artificielle.

Les autrices ont collaboré avec deux artistes pour transmettre ces propos de façon accessible et visuelle. Marine Spaak a ainsi créé une BD et Adrien Bernheim une exposition et des vidéos autour du thème “Inégalités artificielles”.

VIDEOS

1) Où sont les femmes ?

3) La correction des biais

2) La création de biais dans les algorithmes

4) L'intelligence artificielle, levier de l'égalité

EXPOSITION
07d9a4cb-db21-4aa3-9c52-2ab1722a741d_rw_
07d9a4cb-db21-4aa3-9c52-2ab1722a741d_rw_

robot sexiste
robot sexiste

egalité_salarial
egalité_salarial

07d9a4cb-db21-4aa3-9c52-2ab1722a741d_rw_
07d9a4cb-db21-4aa3-9c52-2ab1722a741d_rw_

1/6
GIFS
a04f9b77-a947-4c9e-9dcb-60c7f27af270_rw_
ec21e832-a76d-4119-b831-a69091ebeb13_rw_
13393f37-6ed9-460d-b6a3-007163b2b44e.gif
07467d46-478b-41ba-8680-c9995e401af8_rw_
0ac93d1f-2395-4ad2-b65d-a058047f273a_rw_
 
 
Demain, plus de sexisme ?
Marine spaak

Ce livre s’inscrit dans une démarche militante de mieux faire connaître au grand public les sujets liant égalité femmes-hommes et intelligence artificielle.

Les autrices ont collaboré avec deux artistes pour transmettre ces propos de façon accessible et visuelle. Marine Spaak a ainsi créé une BD et Adrien Bernheim une exposition et des vidéos autour du thème “Inégalités artificielles”.

Chap6_IA_DP1-2(1)
Chap6_IA_DP1-2(1)

Chap6_IA_DP3-4(1)
Chap6_IA_DP3-4(1)

Chap6_IA_DP7-8b(1)
Chap6_IA_DP7-8b(1)

Chap6_IA_DP1-2(1)
Chap6_IA_DP1-2(1)

1/4
 

Presse ET CRITIQUES

Entretiens

 

  • Le manque de femmes dans l’intelligence artificielle accroît le risque de biais sexistes, Le Monde

  • L'intelligence artificielle a des biais sexistes... mais ce n'est pas une fatalité Digital Society Forum

  • On peut utiliser l'IA pour rendre la société plus égalitaire, Uzbek et Rica

  • « Il faut se servir de l’intelligence artificielle comme d'un levier pour l’égalité », Le Nouveau Magazine Litteraire

  • Les biais sexistes de l'IA peuvent être corrigés, Usine Nouvelle

  • Le secteur de l’intelligence artificielle est aussi masculin qu’un bar des sports le soir d’un match de Ligue 1, L'Opinion

  • Intelligence artificielle : biaise moi, Libération

  • Où sont les femmes dans le secteur de l'intelligence artificielle?, Challenges

  • L'intelligence artificielle, un monde d'homme, Usine Nouvelle

  • "L'intelligence artificielle est elle sexiste ?" Podcast Anti-brouillard

 

CRITIQUES

"Un livre vif et pédagogique montre comment les algorithmes reproduisent les préjugés sexistes." Liberation

"Après m'a lecture le phrase "ce fut cours mais intense" me vint instantanément à l'esprit. [...]Pour moi ce livre est une excellente introduction au sujet, il nous donne de multiples pistes de réflexions ainsi que pleins de références si l'on désire approfondir nos recherches. C'est un aspect qu j'ai beaucoup apprécié, le livre est concis, il va droit au but sans prendre de raccourcis étranges et l'on peut aller chercher d'autres infos UNIQUEMENT si on en a envie ! Pas besoin de lire en diagonal et c'est un vrai plus !" Lectrice, critique complète sur babelio

"On propose d'encoder l'égalité, car il est plus facile de changer des lignes de code que de changer des mentalités" un joyeux coup de volant stratégique, impactant,né de l’intelligence de deux chercheures" Sophie Pène

 

"Dans votre livre dont je trouve l'ecriture particulièrement fraiche et humaine, vous arrivez à tirer le fil entre l'absence de femmes dans les métiers du numérique et l'impact que ca a sur les technologies",Vidéo de Mounir Mahjoubi

Retrouvez d'autres critiques Les Echos, Mademoizelle, Educavox, Le Monde

Evenements

La sortie du livre a été accompagnée d'une série de conférences et d'évènements dans des entreprises, des institutions publiques et des universités. Retrouvez ici quelques photos !

L'IA pas sans elles
L'IA pas sans elles

Lancement CRI 12/03/19
Lancement CRI 12/03/19

L'IA pas sans elles
L'IA pas sans elles

L'IA pas sans elles
L'IA pas sans elles

1/32
 
Questions aux autrices

Vous êtes biologistes, pourquoi donc un  livre sur l’intelligence artificielle ?

Notre action militante s’est portée depuis notre co-fondation de l’association WAX Science sur l’interface entre les sciences, l’égalité femme-hommes, le design et le numérique. Nous oeuvrons pour favoriser l’accès des femmes aux milieux scientifiques et mieux faire connaître le concept d’innovations genrées qui explore comment le féminisme peut influencer le questionnement scientifique et les innovations technologiques. Nous avons donc cherché à synthétiser et rendre accessible les connaissances de ces domaines sur les technologies digitales (un autre de nos hobbys) aujourd’hui majoritairement représentées par l’intelligence artificielle. C’est la genèse de ce livre : parler aussi bien de l’absence de femmes dans la vie scientifique que de problématiques inégalitaires liées aux technologies elles-même ; tout en proposant bien sûr des solutions . Mais sa réalisation n’aurait pas été possible sans notre rencontre avec Annie Batlle, membre du Comité d’Orientation du Laboratoire de l’Egalité, et sollicitée pour l’écriture de ce livre.

Quelle est aujourd’hui la place des femmes dans le milieu de l’intelligence artificielle ?

Alors que les femmes telle Ada Lovelace ont été pionnières de la programmation au XIXe siècle, en 2018, la France ne compte que 10 % d’étudiantes sur les bancs des universités dans les cursus en informatique. Si on exclut les fonctions transversales et de support, seulement 12 % des employés du secteur numérique en France sont des femmes. Elles y dirigent 10% des entreprises dites innovantes, où elles lèvent deux fois moins de fonds que les hommes. Aux Etats-Unis, dix ans après la fin de leurs études, 41 % des femmes ont quitté le secteur du numérique, contre 17 % des hommes. Le secteur de l’intelligence artificielle est aussi masculin qu’un bar des sports le soir d’un match de Ligue 1.

Les algorithmes seraient machistes ?

Les algorithmes n’ont pas d’intentions en soi, ils reflètent la société et les points de vue de ses créateurs. Hors, notre société est sexiste. Des algorithmes de traduction lorsqu’ils passent d’une langue non genrée (comme le turc) à une langue genrée proposent des associations : une personne célibataire devient un homme célibataire alors qu’une personne mariée, une femme mariée. Ces stéréotypes peuvent devenir particulièrement injustes lorsqu’il s’agit de trier des CV ( jetant systématiquement ceux de femmes pour des postes techniques) ou de proposer des salaires (automatiquement moins élevés pour les femmes). Les IA reproduisent les préjugés genrés de notre société, les propagent et les amplifient.

Selon vous, que peuvent apporter les travaux à l’interface du féminisme et des technologies ?

Le combat pour que plus de femmes participent aux domaines scientifiques est toujours aussi essentiel. Au delà de cette question souvent évoquée, le féminisme doit aujourd’hui questionner les technologies de pointe, et c’est exactement notre démarche et celle du Laboratoire de l’Egalité. La pensée féministe a transformé de nombreuses sciences sociales, l’exemple de l’IA démontre à quel point elle peut transformer les sciences dites “dures”. Qu’est ce qu’un algorithme équitable ? Des réponses mathématiques, informatiques, éthiques existent et doivent être mises en place. Mais les technologies peuvent aussi aider l’égalité. L’IA permet de quantifier et rendre visible des biais jusqu’alors cachés. Il est peut-être plus facile de changer des lignes de code que des mentalités. Saisissons-nous de cette opportunité pour encoder l’égalité dans les algorithmes.

Nous sommes donc condamné.e.s à reproduire et propager les inégalités femmes hommes ?

Non ! Les mécanismes générant ces biais sont aujourd’hui pointés du doigt, compris et disséqués. Il est possible de domestiquer, détecter et réduire les biais des algorithmes. Dès la conception, au niveau du code informatique, puis par la sélection et la constitution des bases de données et de leur analyse, à l’évaluation des solutions automatiques ; la diversité des solutions est à la hauteur du problème . De nombreux chercheurs et chercheuses, industriels y travaillent . Les géants de l’internet , les GAFAMI, ne sont pas en reste, conscients de devoir garder ou gagner la confiance des utilisateurs. Certaines applications sont déjà opérationnelles, notamment pour mesurer et combler le Gender gap (l’écart des statistiques entre les femmes et les hommes) dans différents domaines. Par ailleurs les injonctions institutionnelles pour des algorithmes, égalitaires, explicables, loyaux se précisent en Europe etenFrance.Bref, il faut «bien élever» le salgorithmes.

La Collection
 
 

La collection du Laboratoire de l’Egalité publiée aux éditions Belin est la seule collection en France consacrée aux différents aspects de l’égalité entre les femmes et les hommes. Cette collection a été conçue et est réalisée par le Laboratoire de l’Egalité en partenariat avec les éditions Belin. 16 titres ont déjà été publiés. Destinés à sensibiliser le public le plus large possible sur la question de l’égalité entre les sexes, les différents livres partagent la même structure : constat (statistiques à l’appui), origine (historique), stéréotypes et blocages actuels, évolutions en cours, propositions concrètes pour parvenir à l’égalité et bénéfices à retirer de cette égalité.

Le Laboratoire de l’Egalité, Association 1901, a été créé en 2010 pour obtenir la mise en œuvre effective de l’égalité de traitement entre les femmes et les hommes dans tous les secteurs de la vie économique et à tous les niveaux de décision.
Il s’est fixé trois objectifs principaux :

- rassembler les acteurs et actrices de l’égalité professionnelle,
- élaborer des propositions d’action concrètes afin d’interpeller les décideurs et décideuses politiques et économiques,
- sensibiliser le grand public aux questions d’égalité professionnelle et aux stéréotypes.

 

Le Laboratoire investit en profondeur dans des domaines cruciaux pour l’égalité professionnelle, comme les stéréotypes sexués, la précarité, les retraites, l’intelligence artificielle.... Ses travaux menés dans des groupes ad hoc donnent lieu à des publications et à des interventions dans des entreprises publiques et privées et dans les médias.

 

Le Laboratoire de l’Egalité regroupe plus de 1 300 femmes et hommes, de différentes sensibilités politiques, exerçant des responsabilités dans la vie économique, sociale, universitaire, associative, syndicale, politique ou des medias.

www.laboratoiredelegalite.org @Laboegalite @laboratoire.egalite

Le laboratoire de l'egalite