Facebook s’est figé alors que les commentaires anti-vaccins envahissaient les utilisateurs


Facebook s'est figé alors que les commentaires anti-vaccins envahissaient les utilisateurs

En mars, alors que les affirmations sur les dangers et l’inefficacité des vaccins contre les coronavirus se sont répandues sur les réseaux sociaux et ont sapé les tentatives d’arrêter la propagation du virus, certains Facebook les employés pensaient avoir trouvé un moyen d’aider.

En modifiant le classement des articles sur les vaccins dans les fils d’actualité des gens, les chercheurs de l’entreprise ont réalisé qu’ils pouvaient réduire les informations trompeuses que les individus voyaient sur les vaccins COVID-19 et offrir aux utilisateurs des articles provenant de sources légitimes comme l’Organisation mondiale de la santé.

« Compte tenu de ces résultats, je suppose que nous espérons lancer dès que possible », a écrit un employé de Facebook, répondant à la note interne sur l’étude.

Au lieu de cela, Facebook a mis de côté certaines suggestions de l’étude. D’autres changements n’ont été apportés qu’en avril.

Lorsqu’un autre chercheur de Facebook a suggéré de désactiver certains commentaires sur vaccin messages en mars jusqu’à ce que la plate-forme puisse faire un meilleur travail pour lutter contre les messages anti-vaccins qui s’y cachent, cette proposition a été ignorée à l’époque.

Les critiques disent que la raison pour laquelle Facebook a tardé à agir sur les idées est simple : le géant de la technologie craignait que cela n’affecte les bénéfices de l’entreprise.

« Pourquoi ne supprimeriez-vous pas les commentaires ? Parce que l’engagement est la seule chose qui compte », a déclaré Imran Ahmed, PDG du Center for Countering Digital Hate, un groupe de surveillance d’Internet. « Cela attire l’attention et l’attention est égale aux globes oculaires et les globes oculaires sont égaux aux revenus publicitaires. »

Dans un communiqué envoyé par e-mail, Facebook a déclaré avoir fait des « progrès considérables » cette année avec le déclassement désinformation sur les vaccins dans les flux des utilisateurs.

Les discussions internes de Facebook ont ​​été révélées dans des divulgations faites à la Securities and Exchange Commission et fournies au Congrès sous une forme rédigée par le conseiller juridique de l’ancienne employée de Facebook devenue dénonciatrice, Frances Haugen. Les versions rédigées reçues par le Congrès ont été obtenues par un consortium d’organisations de presse, dont l’Associated Press.

La mine de documents montre qu’au milieu de la pandémie de COVID-19, Facebook a soigneusement enquêté sur la façon dont ses plateformes ont diffusé des informations erronées sur les vaccins salvateurs. Ils révèlent également que des employés de base ont régulièrement suggéré des solutions pour contrer le contenu anti-vaccin sur le site, en vain. Le Wall Street Journal a rendu compte de certains des efforts de Facebook pour faire face aux commentaires anti-vaccins le mois dernier.

La réponse de Facebook soulève des questions quant à savoir si l’entreprise a priorisé la controverse et la division sur la santé de ses utilisateurs.

« Ces gens vendent la peur et l’indignation », a déclaré Roger McNamee, un investisseur en capital-risque de la Silicon Valley et un des premiers investisseurs de Facebook. qui est maintenant un critique vocal. « Ce n’est pas un coup de chance. C’est un modèle d’affaires. »

En règle générale, Facebook classe les publications par engagement – le nombre total de likes, d’aversions, de commentaires et de partages. Ce système de classement peut bien fonctionner pour des sujets inoffensifs tels que des recettes, des photos de chiens ou le dernier chant viral. Mais les propres documents de Facebook montrent que lorsqu’il s’agit de problèmes de santé publique qui divisent comme les vaccins, le classement basé sur l’engagement ne fait que souligner la polarisation, le désaccord et le doute.

Pour étudier les moyens de réduire la désinformation sur les vaccins, les chercheurs de Facebook ont ​​modifié le classement des publications pour plus de 6 000 utilisateurs aux États-Unis, au Mexique, au Brésil et aux Philippines. Au lieu de voir des articles sur les vaccins choisis en fonction de leur popularité, ces utilisateurs ont vu des articles sélectionnés pour leur fiabilité.

Les résultats ont été frappants : une diminution de près de 12 % du contenu faisant intervenir des allégations démystifiées par les vérificateurs des faits et une augmentation de 8 % du contenu provenant d’organisations de santé publique faisant autorité telles que l’OMS ou les Centers for Disease Control des États-Unis. Ces utilisateurs ont également eu une diminution de 7% des interactions négatives sur le site.

Les employés de l’entreprise ont réagi à l’étude avec exubérance, selon des échanges internes inclus dans les documents du lanceur d’alerte.

« Y a-t-il une raison pour laquelle nous ne ferions pas cela ? un employé de Facebook a écrit en réponse à une note interne décrivant comment la plate-forme pourrait freiner le contenu anti-vaccin.

Facebook a déclaré avoir mis en œuvre bon nombre des conclusions de l’étude – mais pas avant un mois, un retard qui est intervenu à une étape charnière du déploiement mondial du vaccin.

Dans un communiqué, la porte-parole de l’entreprise, Dani Lever, a déclaré que les documents internes « ne représentent pas les progrès considérables que nous avons réalisés depuis lors dans la promotion d’informations fiables sur COVID-19 et en élargissant nos politiques pour éliminer les informations erronées sur les COVID et les vaccins les plus nocives. »

La société a également déclaré qu’il avait fallu du temps pour examiner et mettre en œuvre les changements.

Pourtant, la nécessité d’agir de toute urgence n’aurait pas pu être plus claire : à cette époque, les États des États-Unis déployaient des vaccins pour leurs plus vulnérables – les personnes âgées et les malades. Et les responsables de la santé publique étaient inquiets. Seulement 10 % de la population avait reçu sa première dose d’un vaccin COVID-19. Et un tiers des Américains pensaient à sauter complètement le coup, selon un sondage de l’Associated Press-NORC Center for Public Affairs Research.

Malgré cela, les employés de Facebook ont ​​reconnu qu’ils n’avaient « aucune idée » à quel point le sentiment anti-vaccin était mauvais dans les sections de commentaires sur les publications Facebook. Mais les recherches de l’entreprise en février ont révélé que jusqu’à 60% des commentaires sur les publications sur les vaccins étaient anti-vaccins ou réticents aux vaccins.

« C’est un énorme problème et nous devons le résoudre », lit-on dans la présentation du 9 mars.

Pire encore, les employés de l’entreprise ont admis qu’ils n’avaient aucun moyen de capter ces commentaires. Et s’ils le faisaient, Facebook n’avait pas de politique en place pour supprimer les commentaires. Le free-for-all permettait aux utilisateurs de diffuser des publications sur les vaccins provenant de médias ou d’organisations humanitaires avec des commentaires négatifs sur les vaccins.

« Notre capacité à détecter (l’hésitation au vaccin) dans les commentaires est mauvaise en anglais – et pratiquement inexistante ailleurs », a déclaré une autre note interne publiée le 2 mars.

Derek Beres, un résident de Los Angeles, auteur et instructeur de fitness, voit le contenu anti-vaccin prospérer dans les commentaires chaque fois qu’il fait la promotion des vaccinations sur ses comptes sur Instagram, qui appartient à Facebook. L’année dernière, Beres a commencé à animer un podcast avec des amis après avoir remarqué des théories du complot sur COVID-19 et des vaccins tourbillonnant sur les réseaux sociaux des influenceurs populaires de la santé et du bien-être.

Plus tôt cette année, lorsque Beres a publié une photo de lui recevant le tir COVID-19, certains sur les réseaux sociaux lui ont dit qu’il tomberait probablement mort dans six mois.

« La section des commentaires est un incendie de poubelle pour tant de gens », a déclaré Beres.

Les commentaires anti-vaccin sur Facebook se sont tellement détériorés que même alors que d’éminentes agences de santé publique comme l’UNICEF et l’Organisation mondiale de la santé exhortaient les gens à prendre le vaccin, les organisations ont refusé d’utiliser la publicité gratuite que Facebook leur avait donnée pour promouvoir la vaccination, selon le documents.

Certains employés de Facebook ont ​​eu une idée. Alors que la société s’efforçait d’élaborer un plan pour freiner tout le sentiment anti-vaccin dans les commentaires, pourquoi ne pas désactiver complètement les commentaires sur les publications ?

« Très intéressé par votre proposition de supprimer TOUS les commentaires en ligne pour les publications sur les vaccins comme solution provisoire jusqu’à ce que nous puissions détecter suffisamment l’hésitation vaccinale dans les commentaires pour affiner notre suppression », a écrit un employé de Facebook le 2 mars.

La suggestion n’est allée nulle part jusqu’à la mi-avril, lorsque Lever a déclaré que la société avait cessé de montrer des aperçus des commentaires populaires sur les publications sur les vaccins.

Au lieu de cela, le PDG de Facebook, Mark Zuckerberg, a annoncé le 15 mars que la société commencerait à étiqueter les publications sur les vaccins les décrivant comme sûrs.

Cette décision a permis à Facebook de continuer à obtenir un engagement élevé – et finalement à tirer profit – des commentaires anti-vaccins, a déclaré Ahmed du Center for Countering Digital Hate.

« Ils essayaient de trouver des moyens de ne pas réduire l’engagement mais en même temps de donner l’impression qu’ils essayaient de faire des efforts pour nettoyer les problèmes qu’ils ont causés », a-t-il déclaré.

Il est irréaliste de s’attendre à ce qu’une entreprise de plusieurs milliards de dollars comme Facebook change volontairement un système qui s’est avéré si lucratif, a déclaré Dan Brahmy, PDG de Cyabra, une entreprise technologique israélienne qui analyse les réseaux de médias sociaux et la désinformation. Brahmy a déclaré que les réglementations gouvernementales pourraient être la seule chose qui pourrait forcer Facebook à agir.

« La raison pour laquelle ils ne l’ont pas fait, c’est parce qu’ils n’avaient pas à le faire », a déclaré Brahmy. « Si ça fait mal au résultat, c’est infaisable. »

La législation bipartite du Sénat américain exigerait que les plateformes de médias sociaux donnent aux utilisateurs la possibilité de désactiver les algorithmes que les entreprises technologiques utilisent pour organiser les fils d’actualité des individus.

Le sénateur John Thune, R-Dakota du Sud, parrain du projet de loi, a demandé à la dénonciatrice de Facebook Haugen de décrire les dangers du classement basé sur l’engagement lors de son témoignage devant le Congrès au début du mois.

Elle a déclaré qu’il existe d’autres moyens de classer le contenu – par exemple, par la qualité de la source ou par ordre chronologique – qui serviraient mieux les utilisateurs. La raison pour laquelle Facebook ne les considérera pas, a-t-elle dit, est qu’elles réduiraient l’engagement.

« Facebook sait que lorsqu’ils choisissent le contenu … nous passons plus de temps sur leur plate-forme, ils gagnent plus d’argent », a déclaré Haugen.

Les documents divulgués par Haugen révèlent également qu’un nombre relativement restreint d’utilisateurs anti-vaccins de Facebook sont récompensés par de grandes pages vues dans le système de classement actuel de la plate-forme technologique.

Une recherche interne sur Facebook présentée le 24 mars a averti que la plupart du « contenu vaccinal problématique » provenait d’une poignée de zones de la plate-forme. Dans les communautés Facebook où la méfiance vis-à-vis des vaccins était la plus élevée, le rapport a fixé 50% des pages vues anti-vaccin sur seulement 111 – ou .016% – des comptes Facebook.

« Les meilleurs producteurs sont pour la plupart des utilisateurs publiant en série du contenu (hésitant au vaccin) à nourrir », a révélé la recherche.

Le même jour, le Center for Countering Digital Hate a publié une analyse des publications sur les réseaux sociaux qui estimait qu’une douzaine d’utilisateurs de Facebook étaient responsables de 73% des publications anti-vaccin sur le site entre février et mars. Il s’agit d’une étude que les dirigeants de Facebook ont ​​déclarée en août au public qu’elle était « défectueuse », malgré les recherches internes publiées des mois auparavant qui confirmaient qu’un petit nombre de comptes alimentaient un sentiment anti-vaccin.

Plus tôt ce mois-ci, un sondage AP-NORC a révélé que la plupart des Américains blâment les sociétés de médias sociaux, comme Facebook, et leurs utilisateurs pour la désinformation.

Mais Ahmed a déclaré que Facebook ne devrait pas simplement assumer la responsabilité de ce problème.

« Facebook a pris des décisions qui ont conduit des personnes à recevoir des informations erronées et à mourir », a déclaré Ahmed. « À ce stade, il devrait y avoir une enquête pour meurtre. »

FacebookTwitterLinkedin


.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

*