emploipro.fr le site d’offres d’emploi professionnelles des magazines

L'argus de l'assurance L'usine nouvelle Lsa Neo restauration Le Moniteur
Une marque du réseau Emploipro.fr

Travailler dans l'industrie

L'intelligence artificielle, un monde d'homme

 | par 

L'intelligence artificielle, un monde d'homme
Aude Bernheim et Flora Vincent, les auteures du livre
  • partager avec Facebook
  • partagez avec twitter
  • partager avec google +
  • partager par email
  • imprimer

Aude Bernheim et Flora Vincent viennent d'écrire "L'intelligence artificielle, pas sans elles", où elles évoquent le manque de femmes dans le monde du numérique et particulièrement dans l'intelligence artificielle. Nous les avons questionnées pour en savoir plus.

-Comment vous est venue l’idée d’écrire ce livre ?

Notre action militante s’est portée depuis notre co-fondation de l’association WAX Science sur l’interface entre les sciences, l’égalité femmes-hommes, le design et le numérique. Nous oeuvrons pour favoriser l’accès des femmes aux milieux scientifiques et mieux faire connaître le concept d’innovations genrées qui explore comment le féminisme peut influencer le questionnement scientifique et les innovations technologiques. Nous avons donc cherché à synthétiser et rendre accessibles les connaissances de ces domaines sur les technologies digitales (un autre de nos hobbys) aujourd’hui majoritairement représentées par l’intelligence artificielle. C’est la genèse de ce livre : parler aussi bien de l’absence de femmes dans la vie scientifique que de problématiques inégalitaires liées aux technologies elles-mêmes ; tout en proposant bien sûr des solutions. Mais sa réalisation n’aurait pas été possible sans notre rencontre avec Annie Batlle, membre du Comité d’Orientation du Laboratoire de l’Egalité, et sollicitée pour l’écriture de ce livre.

-Il est préfacé par Cédric Villani, qui a lui-même rédigé un rapport parlementaire(1), vous en êtes-vous inspiré et si oui sur quels points ?

Oui nous avons bien évidemment lu ce rapport qui fixe des objectifs ambitieux pour la place des femmes dans le secteur. Nous avons pu tirer des chiffres précis, récents et édifiants sur l’absence de mixité du domaine ainsi que confronter notre vision et compréhension du milieu à celui d’un ensemble d’acteurs. Le rapport suit aussi une approche plutôt optimiste et propose des solutions concretes. C’est aussi de cette manière que nous avons conçu l’ouvrage.

-Pourquoi la place des femmes dans l’IA est-elle si mince ? Que se passe-t-il pour les femmes entre leur bac scientifique (46,7% de filles)  jusqu’au métier d’ingénieur informatique ?

Cette questions mérite des ouvrages entiers. D’autres livres de la collection “Egale à Egal” les explorent de façon limpide (L'école apprend-elle l'égalité des sexes ? d’Isabelle Collet et Les métiers ont-ils un sexe ? de Françoise Vouillot). Il s’agit avant tout d’une question de stéréotypes. Dès l’enfance, que ce soit à l’école ou par les jouets, les filles et les garçons sont poussés à aimer des choses différentes : ordinateur et maths d’un côté, cuisinière en plastique et littérature de l’autre. Or ces stéréotypes influent drastiquement sur l’orientation. Avant même les études supérieures, seulement 4% des élèves choisissant la spécialité informatique en terminale sont des femmes.  Après le bac,  moins de 15% d’étudiants en informatique sont des étudiantes. On part donc d’un vivier très réduit. Et à ce moment là, les stéréotypes peuvent se muer en comportement sexistes qui mènent des étudiantes à quitter leurs études ou plus tard, une fois employées, à quitter ce secteur d’activité deux fois plus fréquemment que les hommes. Le secteur de l’IA souffre des même maux que de nombreux secteurs scientifiques, mais les stéréotypes culturels, liés notamment au mythe du geek sont tellement forts que les effets s’en ressentent d’autant plus.

-Comment pourrait-on remédier à cela  et existe-t-il des associations qui promeuvent la place des femmes dans les métiers de l’IA, ou de l’ingénierie informatique ?

Nous aimons reprendre la formule de la Directrice de collection Annie Battle “On ne commence jamais assez tôt … mais il n’est jamais trop tard! ”. A tous les âges, tous les niveaux de solutions existent et nous les décrivons dans le livre. Des jouets comme des légos femmes informaticiennes ont été créés récemment. De nombreuses initiatives telles que “Girls who code” initient les jeunes filles au code. Des institutions mettent en place des politiques ambitieuses pour attirer et retenir les étudiantes. L’exemple le plus spectaculaire récemment est celui de l’école 42. Sophie Viger a été nommée à la direction et a développé une série de 35 mesures très concrètes pour attirer des femmes: relever la barrière de l’âge d’admission, instaurer des politiques extrêmement strictes envers le harcèlement sexuel, viser un public particulier via Pole Emploi ... Et ça marche ! Ces mesures ont, en un an, permis de quasiment doubler le recrutement féminin.

-Est-ce un phénomène typiquement français…vous évoquez les Etats-Unis ?

Ce n’est pas un problème typiquement français. Dans de nombreux autres pays comme les Etats-Unis, on observe les mêmes tendances. Par contre, il est intéressant de constater qu’en Inde, en Chine ou encore au Brésil, les femmes diplômées s’emparent davantage des métiers du numérique.

-Peut-on parler d’algorithmes machistes et pourquoi ? Quel est le danger pour demain et le lien entre algorithme et IA? Que gère l’IA aujourd’hui et que gerera-t-elle demain ?

Les algorithmes n’ont pas d’intention en soi, ils reflètent la société et les points de vue de ses créateurs. Hors, notre société est sexiste. Des algorithmes de traduction lorsqu’ils passent d’une langue non genrée (comme le turc) à une langue genrée proposent des associations : une personne célibataire devient un homme célibataire alors qu’une personne mariée, une femme mariée. Ces stéréotypes peuvent devenir particulièrement injustes lorsqu’il s’agit de trier des CV (jetant systématiquement ceux de femmes pour des postes techniques) ou de proposer des salaires (automatiquement moins élevés pour les femmes). Au-delà du biais sexistes, des algorithmes ont démontré des biais raciaux : un logiciel d’aide à la décision pour des juges pour administrer des peines qui prédit plus souvent à tort des hauts taux de récidives pour des personnes noires, des voiture autonomes qui reconnaîtraient moins bien une personne noire et aurait plus de probabilités de la renverser… L’IA sera présente partout dans les choix les plus importants de la vie d’une personne : dans quelle université serais-je pris.e ? Avec qui vais-je développer une relation sur des applications de rencontre? Quel diagnostic me sera donné à l’hôpital? Serais-je recruté.e pour ce travail? Quelle peine de prison me sera donnée? Si des biais viennent se glisser dans ces réponses, on se rend compte de l’aspect vertigineux du problème.

-Vous dites même que l’IA propage et renforce les inégalités de genre. De quelle manière par exemple ?

Les IA reproduisent les préjugés genrés de notre société, les propagent et les amplifient. Dans notre ouvrage nous décortiquons ce que nous nommons la contagion sexiste des algorithmes. Nous identifions pour chaque étape de construction de l’algorithme quels peuvent être les biais. Si un algorithme apprend sur les données actuelles historiques quel salaire donner à une femme, il proposera automatiquement un salaire moins élevé à une nouvelle candidate. C’est de la propagation. Etant donné la réutilisation fréquente de portions de codes, de bases de données ou d’algorithmes tout entier, cette propagation est exponentielle. Nous parlons aussi d’amplification car aujourd’hui certains algorithmes peuvent accentuer ces inégalités. Il existe des bases de photos avec légendes, dans lesquelles les personnes dans une cuisine sont plus souvent des femmes, ce que l’algorithme apprend. Quand l’algorithme va annoter une nouvelles base de données de photos, il va, si il n’est pas capable de reconnaître le sexe de la personne sur la photo dans la cuisine, annoter l’image comme “femme dans une cuisine”. On enrichit alors le jeu de données en stéréotypes sexistes, c’est de l’amplification.

Dans le livre, nous insistons sur le fait que ces problèmes techniques sont maintenant connus et qu’il existe des solutions pour chacune de ces étapes de la contagion sexiste. Il faut maintenant les mettre en place et pousser un maximum d’acteurs à se former à ces questions.

-Vous évoquez l’OCDE qui prévoit la disparition de 32% des emplois actuels et la Dares qui prévoit 80 000 emplois vacants d’ici 2020 dans les technologies de l’information. A votre avis, ces emplois vacants d’ici l’an prochain seront-il pourvus en partie par une majorité d’hommes ou resteront vacants et pourquoi ?

Des emplois qui restent vacants, probablement pas. Occupés majoritairement par des hommes, c’est impossible à dire. Mais nous sommes de nature optimiste. Si les choses restaient comme elles sont, vu la présence actuelle des femmes dans ce secteur, oui ces emplois seraient majoritairement occupés par des hommes. Mais au contraire, on peut voir ça comme un formidable appel à toutes et tous à se former à cette discipline.  Des formations existent pour tous les âges. Il semble plus facile d’avoir un maximum de diversité quand il s’agit de création d’emplois, plutôt que lorsque l’on remplace une à une les personnes. Ces 80 000 emplois doivent être perçus comme une opportunité !

 

(1)Avec un groupe d’experts le célèbre mathématicien a co-écrit ce rapport pour une IA éthique et inclusive. Pour arriver à une meilleure représentation des femmes dans l’IA, le rapport suggère une politique incitative visant à atteindre un seuil de 40% d’étudiantes dans les filières du numérique d’ici 2020.

Partagez cet article

NEWSLETTER

Cet article vous a plu ?
Abonnez-vous à la newsletter !

Vous aimerez aussi

Intelligence artificielle et emploi : quelles innovations dans l’avenir du travail ?

Intelligence artificielle et emploi : quelles innovations dans l’avenir du travail ?

Feriez-vous un bon expert d’assurance ?

Feriez-vous un bon expert d’assurance ?

Les entreprises à la recherche de...paveurs!

Les entreprises à la recherche de...paveurs!

Romane Igonon a reçu le prix du mérite du stand BTP!

Romane Igonon a reçu le prix du mérite du stand BTP!

GRATUITL'aéronautique recrute mais manque de candidats

Déposez votre cv et devenez visible des recruteurs

Je dépose mon cv
Suivez-nous sur Facebook !

656 offres d’emploi en ligne

Les entreprises qui recrutent

Voir tous les recruteurs

Les cookies assurent le bon fonctionnnement de nos sites et services. En utilisant ces derniers, vous acceptez l’utilisation des cookies.

OK

En savoir plus
Fermer X