L’Intelligence artificielle, pas sans elles ! Le titre du livre d’Aude Bernheim et de Flora Vincent vaut programme [1]. Cédric Villani résume, dans la préface, le problème qu’avaient déjà souligné son rapport [2] et celui du Parlement français [3] : « Aujourd’hui les femmes sont largement absentes de l’intelligence artificielle (IA) et cela a de calamiteuses conséquences sur la quantité de talents, sur les ambiances de travail, sur la créativité. » Et il ajoute que « ce biais de sous-représentation fait aussi courir un risque à l’objectivité des solutions algorithmiques modernes ». Cette remarque souligne une raison supplémentaire de lire ce livre : il démontre, exemples à l’appui, comment des biais sont présents dans l’IA et réduisent son objectivité. Cette démonstration est nécessaire alors que des personnalités incompétentes ou intéressées veulent nous faire croire que l’IA peut être objective et va utilement remplacer l’homme.
Des biais dès le départ
Les auteurs expliquent que dès la phase de construction du corpus d’apprentissage, des biais sont introduits par le choix de bases de données donnant inévitablement une image imparfaite de la réalité. Dans
