Facebook s'excuse après que son IA ait mis le label "primates" sur une vidéo sur les hommes noirs

 


Facebook a promis de réparer son système de recommandation généré automatiquement après que l'IA de l'entreprise ait lié une vidéo mettant en vedette des hommes noirs à des primates, choquant les téléspectateurs.

"Nous nous excusons auprès de tous ceux qui ont pu voir ces recommandations offensantes", a déclaré Facebook dans une déclaration aux médias, ajoutant que toute la fonction de recommandation de sujet avait été désactivée. 

Comme nous l'avons dit, bien que nous ayons apporté des améliorations à notre IA, nous savons qu'elle n'est pas parfaite et nous avons encore des progrès à faire.

Darci Groves, ancienne responsable de la conception de contenu chez Facebook, a déclaré qu'un ami lui avait envoyé une capture d'écran d'une vidéo mettant en scène des hommes noirs, qui incluait l'invite générée automatiquement par l'entreprise demandant aux téléspectateurs s'ils souhaitaient "continuer à voir des vidéos sur les primates". 

La vidéo, mise en ligne par le tabloïd britannique Daily Mail en juin 2020, contenait des extraits de deux incidents distincts aux États-Unis – l'un d'un groupe d'hommes noirs se disputant avec un individu blanc sur une route du Connecticut, et l'un de plusieurs hommes noirs se disputant avec policiers blancs dans l'Indiana avant d'être arrêtés.

Selon le New York Times, Groves a publié la capture d'écran en question sur un forum de commentaires sur les produits pour les employés actuels et anciens de Facebook. Un chef de produit a alors qualifié la recommandation d' « inacceptable » et a promis d'enquêter sur l'incident. 

L'année dernière, Facebook a formé une équipe sur Instagram pour étudier comment les différents utilisateurs minoritaires sont affectés par les algorithmes. Cette décision a été prise après que le géant des médias sociaux a été critiqué pour avoir ignoré les préjugés raciaux sur ses plateformes. 

Les algorithmes utilisés par les géants de la technologie ont été critiqués pour des erreurs embarrassantes dans le passé. En 2015, Google s'est excusé après que son application Photos ait qualifié une photo de Noirs de « gorilles ».

Enregistrer un commentaire

Plus récente Plus ancienne