Alors que l’intelligence artificielle se propage dans notre quotidien par nos smartphones, ordinateurs et autres objets connectés, nous pourrions croire que l’objectivité des machines serait bien au-dessus des travers humains. En effet, les machines, qui traitent des chiffres et des algorithmes devraient être bien plus impartiales, puisqu’elles n’ont pas de sentiment, ni douleurs. Et bien non, l’intelligence artificielle reproduit bien les stéréotypes humains tels le racisme ou le sexisme.

Tay le robot

Fabien Coubet relate dans l’article « L’intelligence artificielle, aussi raciste et sexiste que nous », paru en mai 2017 dans Le Temps, qu’un programme informatique nommé Tay, développé par Microsoft, a dû être désactivé après seulement 16 heures d’utilisation par les internautes.

L’idée de Microsoft était de permettre à un robot, qui prenait les traits d’une adolescente, de tirer son savoir de conversations avec des jeunes. Or, certains internautes ont pris un malin plaisir à inonder Tay de leurs préjugés qu’elle a fini par s’approprier et restituer. Le logiciel a donc dû être retiré après que la machine s’est mise à proférer des abominations racistes et négacionnistes.

Aujourd’hui, le vrai danger n’est pas une prise de pouvoir par des machines sur l’espèce humaine, mais plutôt la reproduction de préjugés et stéréotypes dans les données que les êtres humains intègrent dans les programmes.

« Belle et sexy » versus « rationnel et courageux »

Dans un autre article paru en septembre 2019 dans le World Economic Forum, Maria Hornbek fait référence à un autre programme d’IA qui a lu 3,5 millions de livres en ligne. Cette machine a ensuite mis en évidence les rapports des auteurs aux genres masculin et féminin. Les mots « belle » et « sexy » sont les deux mots les plus utilisés pour décrire les femmes. Les mots « rationnel », « courageux » et « honnête » sont ceux qui apparaissent le plus souvent à propos des hommes. Par ailleurs, l’analyse montre également que les verbes négatifs associés au corps et à l’apparence apparaissent cinq fois plus souvent pour les femmes que pour les hommes.

Les machines sont nourries d’informations issues et générées par des humains et leurs préjugés. Les algorithmes qui n’ont ni conscience, ni motivation propres peuvent pourtant porter préjudice aux personnes et à leur dignité humaine.

Conclusion

On ne peut que spéculer sur l’existence, un jour, d’une intelligence artificielle douée d’une conscience et d’une motivation propres, capable de nous nuire. Par contre, une chose est sûre aujourd’hui, il faut être conscients que les nouvelles technologies basées sur l’IA sont tout sauf neutres et reflètent l’image de notre société.