Révélations 19 – L’expérience de manipulation des masses menée par Facebook en 2012 et la psychologie des réseaux sociaux

La conversation de Joe Rogan avec Rebecca Lemov, professeure à Harvard et experte en contrôle mental, s’est rapidement concentrée sur l’un de ses sujets favoris : l’ingérence gouvernementale dans la vie numérique.

Rogan a ouvert la discussion avec un avertissement devenu bien trop familier.

« Eh bien, il existe tellement de formes différentes de contrôle mental. »

Il a poursuivi :

« Vous savez, une des choses dont nous avons beaucoup parlé dans ce podcast, c’est qu’une énorme partie de ce que vous voyez sur les réseaux sociaux en termes d’interactions et de débats n’est pas réelle. Ce n’est pas organique. »

« C’est géré et financé par l’État, que ce soit des gouvernements étrangers, notre gouvernement ou même des entreprises, vous obtenez un discours inorganique conçu pour former un récit, ce qui est une forme de contrôle mental. »

Lemov est intervenue et est allée plus loin, expliquant que même lorsque nous savons que c’est faux, notre esprit réagit comme si c’était réel.

« Oui. Je veux dire, je pense qu’à un niveau de base, les gens, il est connu et des études ont montré que nous réagissons comme si c’était organique et réel. »

« Même quand quelqu’un aime une de vos publications, la réponse est la même que, disons, une interaction en personne. »

Ce ne sont pas seulement les gouvernements qui tirent les ficelles.

Les plateformes elles-mêmes sont conçues pour exploiter ce que nous ressentons.

« Je pense qu’à la racine, il y a une sorte de manière dont, à un niveau émotionnel, ce n’est pas seulement une manipulation d’idées, mais il y a une sorte d’ingénierie émotionnelle intégrée aux plateformes et qui ne nécessite même pas, au départ, l’implication du gouvernement. »

Lemov a levé le voile sur DARPA ℹ️ — l’agence de recherche controversée du gouvernement — et son rôle dans la formation du monde numérique dans lequel nous vivons aujourd’hui.

DARPA, a-t-elle révélé, n’a pas seulement participé à la création d’Internet. Elle pourrait avoir jeté les bases d’une manipulation émotionnelle à l’échelle mondiale.

« DARPA a été impliquée dans le développement d’Internet et de choses comme la reconnaissance de motifs », a-t-elle déclaré.

« Le gouvernement a financé de nombreuses, nombreuses études. »

Ce qui inquiète Lemov, ce n’est pas seulement la technologie elle-même, mais la manière dont elle est utilisée.

« Ce qui m’a intéressée, dans les réseaux sociaux et la façon dont je les relie aux épisodes de lavage de cerveau, c’est que cela crée des états de contagion émotionnelle qui ne visent pas vraiment à convaincre les gens de penser différemment », a-t-elle expliqué.

Elle a poursuivi :

« Mais plutôt à comment vous ressentez ce que vous pensez. »

Ce changement émotionnel, a-t-elle ajouté, est tout droit sorti du manuel des sectes.

« Ce n’est pas que ça a changé mes pensées », a-t-elle dit.

« C’est comment je me sentais par rapport à ces pensées. »

C’est alors que Lemov a révélé un des secrets les plus sombres de l’histoire de Big Tech — une expérience sinistre de Facebook qui a secrètement manipulé les émotions de 700 000 utilisateurs.

Et ils ne l’ont jamais su.

« Il y a une célèbre expérience de Facebook dont j’ai lu qu’elle a eu lieu en 2012 et a été publiée en 2014, où ils annoncent avoir réalisé une contagion émotionnelle de masse à grande échelle », a déclaré Lemov à Rogan.

Elle a expliqué comment Facebook a modifié les flux des utilisateurs sans leur consentement.

« Chaque fois que vous allez sur la plateforme, vous acceptez d’être testé ou de participer à des tests A/B. Donc, cette expérience a exposé un groupe à un flux d’actualités modifié dans une direction émotionnelle négative, mesurée par un logiciel de comptage de mots. »

Et les résultats étaient troublants.

« Et ils ont découvert que ce groupe qui avait une exposition négative répondait également de manière plus négative, comme jugé par leurs publications, leurs likes et leurs réponses. »

« Le groupe qui a été exposé à un flux d’actualités plus positif en modifiant l’algorithme a également eu un effet statistiquement significatif de réponse émotionnelle plus positive — et le groupe témoin n’a pas été modifié par cela. »

En bref, Facebook ne se contentait pas d’observer les émotions — ils les manipulaient.

Et personne n’a été prévenu.

L’ampleur totale de l’expérience n’a été rendue publique que deux ans plus tard, lorsque les chercheurs ont finalement admis ce qu’ils avaient fait.

Les data scientists de Facebook avaient manipulé les flux de 689 003 personnes — en supprimant soit tous les posts positifs, soit tous les posts négatifs pour mesurer les retombées émotionnelles.

Si votre flux en janvier 2012 vous semblait inhabituellement sombre ou étrangement optimiste, vous avez peut-être été, sans le savoir, partie prenante de l’étude.

L’équipe derrière cela, dirigée par le data scientist Adam Kramer, a publié ses conclusions dans une revue scientifique et a exposé les résultats en détail froid :

« Lorsque les expressions positives étaient réduites, les gens produisaient moins de posts positifs et plus de posts négatifs ; lorsque les expressions négatives étaient réduites, le schéma inverse se produisait », indiquait l’article.

C’était une preuve tangible que les émotions sont contagieuses — et que les réseaux sociaux pouvaient être utilisés comme une arme pour contrôler l’humeur à grande échelle.

L’étude n’a duré qu’une semaine, mais pour ceux pris dans le feu croisé algorithmique, les effets émotionnels ont pu durer bien plus longtemps.

Mais voici où cela devient vraiment troublant.

Lemov a révélé que lorsque l’expérience a finalement été révélée, la réaction a été rapide — et dans certains cas, tragique.

« Mais, donc, c’est pourquoi il y a eu un débat éthique lorsque l’expérience a été publiée en 2014 », a-t-elle dit.

Un utilisateur, se souvient Lemov, a eu une réaction glaçante.

« Et sur la page Facebook du groupe de recherche qui a réalisé l’expérience, au moins un utilisateur a écrit en disant, pourrais-je savoir si j’étais dans cette expérience. »

« Parce que j’étais aux urgences à ce moment-là, menaçant de me suicider, et je veux savoir si mon flux a été modifié et peut-être que ça m’a poussé, vous savez, dans cet état. »

Il n’y avait aucun moyen de le savoir.

« Bien sûr, ils ne pouvaient jamais le savoir et ça ne peut pas être retracé en arrière. Et d’autres personnes ont eu une réaction similaire. »

Le scandale a déclenché une enquête du gouvernement britannique, qui a envisagé des sanctions en raison de la portée internationale de l’expérience.

« Et il y a même eu une enquête du gouvernement britannique pour savoir si cela devait être sanctionné car cela affectait les utilisateurs à l’international », a dit Lemov.

Mais en fin de compte, il n’y a eu aucune responsabilité.

« En fin de compte, il ne semble pas y avoir eu de sanctions qui en ont découlé, et ceux qui y étaient associés ont pour la plupart été promus. »

Personne n’a été puni. Aucun avertissement n’a été donné.

Et nous nous demandons tous : combien d’autres expériences ont lieu en ce moment même — cachées en pleine vue ?