« Scandaleux », « inacceptable », Facebook confond des personnes noires avec des singes

Tollé sur le net après la confusion de Facebook entre hommes noirs et primates. Facebook a rencontré un bug avec son algorithme de recommandation qui a confondu une vidéo montrant des personnes noires avec une séquence montrant des primates.

Un algorithme de recommandation de Facebook a demandé à des utilisateurs s’ils souhaitaient voir d’autres “vidéos sur les primates” sous une vidéo d’un tabloïd britannique, montrant des personnes noires, a révélé le New York Times, vendredi 3 septembre. La vidéo du Daily Mail, vieille de plus d’un an, est intitulée “un homme blanc appelle les flics contre des hommes noirs à la marina”. Elle ne montre que des personnes, pas de singes.

En dessous, la question “voir plus de vidéos sur les primates ?” avec les options “Oui / Rejeter” s’est affichée sur l’écran de certains utilisateurs, d’après une capture d’écran diffusée sur Twitter par Darci Groves, une ancienne designer du géant des réseaux sociaux. “C’est scandaleux”, a-t-elle commenté, appelant ses ex-collègues de Facebook à faire remonter l’affaire.

Le réseau social s’excuse

Le réseau social n’a pas tardé à réagir. “C’est clairement une erreur inacceptable. Nous présentons nos excuses à quiconque a vu ces recommandations insultantes. Dès que nous nous sommes aperçus de ce qui se passait, afin d’enquêter sur les causes du problème et empêcher que cela ne se reproduise”, a assuré un porte-parole.

D’après Facebook, l’algorithme de recommandation, qui analyse automatiquement des milliers de vidéos grâce à l’intelligence artificielle, a fait une erreur. “Comme nous l’avons dit, même si nous avons amélioré nos systèmes d’intelligence artificielle, nous savons qu’ils ne sont pas parfaits et que nous avons des progrès à faire”, se défend le réseau social.

Comme le souligne Facebook, son intelligence artificielle est loin d’être parfaite. En 2018, Facebook avait, par exemple, censuré une photo d’Emmanuel Macron en visite à Saint-Martin pour “nudité et actes sexuels”. L’an dernier, l’algorithme a confondu un innocent panier d’oignons avec une paire de seins.