Algorithme : n. m. – séquence détaillée d’opérations, qui une fois exécutées correctement, permet d’obtenir un résultat attendu.

L’algorithme, c’est donc, dans l’absolu, aussi bien la recette de cuisine que les clés secrètes de toutes les applications d’Internet et de l’intelligence artificielle, sources de fantasmes surenthousiastes pour leur réputée fiabilité comme de craintes pour nos libertés et notre vie privée.

On sait depuis un moment déjà que les algorithmes sont loin d’être neutres, ne serait-ce que parce qu’ils sont programmés par des humain·e·s qui leur transmettent leurs biais… Et ça peut confiner à l’absurde. Comme le révèle l’étude empirique menée par Catherine Tucker et Anja Lambrecht, deux chercheuses du MIT et de la London Business School, sur le ciblage du sponsoring des contenus sur les réseaux sociaux.

Les hommes 20% plus nombreux que les femmes à être atteints par une offre d’emploi pour un poste scientifique

Au départ, les deux universitaires cherchent à vérifier si les annonces de postes à pourvoir dans les métiers de la tech sont autant accessibles aux femmes qu’aux hommes. Elles postent donc une offre d’emploi fictive pour une mission scientifique qu’elles sponsorisent sur Google, Facebook, Twitter et Instagram en visant le plus large panel d’abonné·e·s, sans aucun critère de genre, d’âge, de lieu de vie, de centres d’intérêt, etc.

A l’analyse des stats, le constat est sans appel : les hommes sont en moyenne 20% plus nombreux que les femmes à avoir vu l’annonce. Et l’écart se creuse jusqu’à 32% sur la tranche 35-44 ans. A l’âge même où les carrières sont supposées décoller !

Le prix d’une impression n’est pas le même pour toucher une femme ou un homme

Mais pourquoi donc l’algorithme a-t-il ainsi « écarté » une partie des femmes de l’accès à cette offre d’emploi, alors qu’aucun marqueur de genre n’était présent dans son rédactionnel ni aucun critère de genre précisé pour cibler le sponsoring ?

C’est en étudiant de près l’affectation de leur mise que les chercheuses découvrent le pot aux roses : un clic sur Google coûte 19 cents pour un homme et 20 cents pour une femme, ce qui fait qu’en misant 181 dollars pour sponsoriser leur contenu, les auteures de l’étude ont touché 38 000 hommes et 29 000 femmes. L’écart est encore plus critique sur Instagram où il en coûte 1,74$ d’atteindre une femme contre 95 cents pour un homme. Et sur Twitter, le prix d’une impression féminine « vaut » 50% de plus qu’une impression masculine !

Quand l’algorithme de sponsoring des contenus croit les femmes plus riches que les hommes !

Mince alors, on vient de tomber sur une inattendue « pink tax » de plus ! Une « smart » pink tax, si on s’en réfère à la langue de l’intelligence artificielle. Car ce sont des algorithmes au service de la répartition par cibles des contenus sponsorisés sur le net qui ont estimé que les femmes représentent une valeur marchande supérieure aux hommes sur la toile.

Et comment donc ? Parce que du fait qu’elles réalisent plus souvent des achats en ligne que les hommes (les femmes représentent 67% de la fréquence sur les plateformes d’e-commerce), le logiciel les suppose plus riches ! Pourtant les hommes dépensent en moyenne 28% de plus que les femmes quand ils font des achats sur Internet. Mais l’algorithme qui préside à la détermination des tarifs de sponsoring a été conçu pour retenir le critère de fréquence d’achat et non celui des montants d’achat.

Comment le stéréotype de la femme dépensière s’est subrepticement invité dans l’écriture de l’algorithme

Voilà une vraie leçon sur l’intelligence artificielle qui n’est pas toujours si « intelligente » qu’elle s’annonce. Parce que comme tout ce que l’humain conçoit, elle reproduit les erreurs d’interprétation et les biais dont nous l’infusons sans même nous en rendre compte…

Ici le stéréotype de la femme dépensière s’est subrepticement invité dans l’écriture de l’algorithme, quand ses concepteurs se sont focalisés sur les datas indiquant que les femmes commandent plus fréquemment sur Internet, en oubliant d’intégrer les données qui signalent que les hommes y ont un pouvoir d’achat supérieur.

Accélérer l’inclusion dans la tech pour rendre l’intelligence artificielle vraiment intelligente

La claque encaissée (ou le fou rire – jaune ? – dépassé), on ne peut que voir dans les conclusions de l’étude de Tucker et Lambrecht une raison supplémentaire d’agir pour accélérer la mixité (de genre, mais aussi sociale, générationnelle, culturelle…) dans les métiers de la tech et de l’IA en particulier : c’est en diversifiant les points de vue et les sources d’information dans un environnement inclusif, que l’on épargnera aux robots et à leurs usager·e·s d’aussi grotesques erreurs que celle de l’algorithme qui estime les femmes plus fortunées que les hommes !… Alors même qu’à l’échelle mondiale, l’écart de richesse entre les genres s’établit, selon la Banque mondiale, à 38% à la défaveur des femmes.

Marie Donzel, pour le webmagazine EVE