Les assistants vocaux perpétueraient des stéréotypes sexistes
5 juin 2019Qui eût cru que des assistants virtuels pouvaient être accusés de sexisme ?
Qui n’a jamais posé une question à Alexa, Siri ou Cortana, ces célèbres assistants vocaux qui sont souvent par défaut des assistantes ? Ces intelligences artificielles utilisées par des centaines de millions de personnes à travers le monde sont sous le microscope de l’ONU. L’UNESCO (Organisation des Nations unies pour l’éducation, la science et la culture) a décidé d’étudier l’impact que pouvaient avoir ces technologies sur la représentation des femmes.
« Je rougirais si je pouvais », c‘est le nom du dans lequel l’organisation a publié ses recherches. Un nom qui n’est pas anodin puisque c’est ce que répond Siri, l’assistant vocal d’Apple, lorsqu’on la traite de salope. L’UNESCO est sans appel : les assistants vocaux participent bel et bien à l’enracinement des préjugés sexistes.
Un rapport édifiant
Le rapport s’est d’abord intéressé au choix de la part des concepteurs d’assistants vocaux, d’en faire des femmes à travers leur nom et leur voix, souvent féminine par défaut. Le simple fait de donner un genre à ces dispositifs renforcerait l’ancrage des préjugés sexistes dans notre société : « Ils perpétuent l’idée selon laquelle les femmes sont des aides serviables, dociles et désireuses de plaire, disponibles par simple pression sur un bouton ou avec une commande vocale directe ».
Outre le « je rougirais si je pouvais », le rapport de l’UNESCO souligne un certain nombre de réactions tout aussi polies et passives des assistants vocaux en réponse aux insultes. Pires encore : certains semblent s’excuser. Siri par exemple donneraient souvent des réponses « visant à changer de sujet, plates ou contrites » en cas de sollicitations d’ordre sexuel, et Alexa lorsqu’on la traite de salope a répondu : « Eh bien, merci pour les commentaires ». D’après le rapport, au moins 5% des interactions seraient explicitement sexuelles.
« Leur passivité, en particulier face aux abus explicites, renforce les stéréotypes sexistes », a déclaré Saniye Gülser Corat, directrice de l’UNESCO pour l’égalité entre les hommes et les femmes.
Les entreprises pointées du doigt
Les entreprises citées par le rapport ont déjà fait de nombreux efforts même si selon l’UNESCO, il reste encore beaucoup à faire. L’organisation a notamment noté une amélioration dans les réponses des assistants vocaux aux agressions verbales sexistes, avec la suppression des réponses qui « minaudaient ».
En réaction, l’UNESCO et Melinda Gates ont mis en garde contre le manque de diversité dans le secteur de l’intelligence artificielle, affirmant que le nombre de femmes est « si petit que c’est incroyable ». Une plus grande mixité dans les équipes éviteraient que ces systèmes ne soient conçus par des équipes en grande majorité masculines comme aujourd’hui. Côté technique, l’organisation a évoqué le potentiel développement d’un assistant neutre pour décourager les langages abusifs ou sexistes.
Selon l’Unesco, il reste encore beaucoup à faire.
(Photo à la une : Getty Images)
À lire aussi…