Vendredi 04 Décembre, 2020 á Dakar
Vendredi 01 Juin, 2018 +33
International

Jugée «trop sexy», une image d'oignons bloquée par l'algorithme de Facebook

Single Post
L'erreur a finalement été repérée par Facebook et l'annonce a fini par être publiée
L'IA qui modère le réseau social aurait-elle un petit penchant pour cette plante potagère?

Son bulbe luisant, la régularité de ses lignes, sa forme sphérique, voluptueuse... Stop! Alors que quand vous regardez un oignon, vous ne voyez qu'un légume appétissant, l'algorithme de Facebook, lui, y voit un contenu outrageusement sexy et sensuel qui n'a rien à faire sur sa plateforme.

Quand Gaze Seed Co., un magasin de semences et d'engrais au Canada, a posté une image sur Facebook d'un tas d'oignons pour promouvoir ses graines, l'entreprise a eu la surprise de découvrir que sa publication avait été bloquée par l'algorithme du réseau social. La raison? L'image a été jugée «ouvertement sexuelle» pour le filtre anti-nudité de la plateforme.

So we just got notified by Facebook that the photo used for our Walla Walla Onion seed is "Overtly Sexual" and therefore cannot be advertised to be sold on their platform... ???? Can you see it?

Publiée par The Seed Company by E.W. Gaze sur Samedi 3 octobre 2020
À regarder l'image de la publication, difficile d'y voir un aspect sexuel. «Je suppose que quelque chose dans les deux formes rondes [des oignons] pourrait être interprété comme des seins ou quelque chose comme ça», explique Jackson McLean, directeur de l'entreprise canadienne. Le texte au-dessus de l'annonce, décrivant l'oignon comme étant «extrêmement sucré, doux et gros», a peut-être été fatal à la publication.

L'erreur a finalement été repérée par Facebook quelque temps après et l'annonce a fini par être publiée. La variété de l'oignon, appelé Walla Walla, n'était pas connue par l'algorithme automatisé, ce qui peut peut-être expliquer le malentendu, précise à CBC Meg Sinclair, responsable des communications chez Facebook Canada.

Automatisation en question

Voir des seins dans un tas d'oignons révèle un problème bien plus large: celui de la modération automatisée de Facebook, qui montre clairement des failles.

Entre janvier et mars 2020, la plateforme a supprimé 39,5 millions de contenus montrant de la nudité, rapporte le Guardian. Au total, 99,2% d'entre eux ont été supprimés automatiquement par l'intelligence artificielle de la plateforme –visiblement avec de nombreuses erreurs.

Sur la même période, il y aurait en effet eu 2,5 millions d'appels contre ces suppressions et 613.000 publications ont finalement été restaurées.

Si Facebook a quelque peu du mal à filtrer les contenus sexuels sur sa plateforme, son algorithme semble encore plus à la peine quand il s'agit de filtrer les discours haineux et les fake news –ce qui est souvent reproché au géant du web.

Mark Zuckerberg, le fondateur du réseau social, avait admis en 2018 qu'il est «beaucoup plus facile de créer un système d'IA capable de détecter un téton que de déterminer ce qu'est un discours de haine». Dans le cas de l'oignon Walla Walla, c'est raté.


3 Commentaires

  1. Auteur

    Textikil

    En Octobre, 2020 (17:16 PM)
    Textikil
  2. Auteur

    Xorom Pollé

    En Octobre, 2020 (00:56 AM)
    c'est pas pour rien qu'on dit onion booty
    Auteur

    En Octobre, 2020 (08:43 AM)
    Bou mbir neke sa khel mbirmomou rek nguay guiss

Participer à la Discussion

Auteur Commentaire : Poster mon commentaire

Repondre á un commentaire

Auteur Commentaire : Poster ma reponse

ON EN PARLE

Banner 01

Seneweb Radio

  • RFM Radio
    Ecoutez le meilleur de la radio
  • SUD FM
    Ecoutez le meilleur de la radio
  • Zik-FM
    Ecoutez le meilleur de la radio

LES PLUS LUS

Newsletter Subscribe

Get the Latest Posts & Articles in Your Email