Livraison offerte en France métrop. et la Belgique dès 100€ d'achats

The Social Dilemma : nous sommes le produit

Quiconque a déjà utilisé Facebook, Twitter ou Instagram connaît le caractère addictif de ces réseaux. Mais dans le documentaire de Jeff Orlowski, d’anciens cadres et dirigeants révèlent que cette addiction n’est pas un effet secondaire involontaire, mais un objectif minutieusement encodé au cœur des algorithmes. Et ce n’est pas le plus grave.

The Social Dilemma (Derrière nos écrans de fumée en VF) est construit autour d’interviews d’anciens décideurs de Facebook, Pinterest ou Google, des hommes et (quelques) femmes ayant contribué de manière significative au développement de ces systèmes, qui mettent désormais en garde contre les effets de leurs propres créations sur la santé mentale des utilisateurs et les fondements même de la société.

« Si le produit est gratuit, c’est que VOUS êtes le produit», rappelle Tristan Harris, transfuge et « objecteur de conscience » de Google. « Ou plutôt : c’est le changement progressif et imperceptible de votre comportement et de votre perception qui est le produit », développe Jaron Lanier, essayiste et chercheur spécialiste de la réalité virtuelle.

«Une cinquantaine de designers de la Silicon Valley prennent des décisions qui vont influencer les pensées et les actes de 2 milliards de personnes », souligne Harris, qui explique comment la société qui l’employait est progressivement devenue un véhicule du « capitalisme de surveillance », défini comme le profit (astronomique !) réalisé grâce au suivi permanent des activités de chaque utilisateur par la plateforme, gratuite en apparence… mais dont le métier réel est de garantir que les annonceurs qui la financent atteignent leur cible.

Ces algorithmes qui nous dirigent

Tout ce que nous faisons en ligne est suivi et analysé. Quelle image retient notre attention, pendant combien de temps, quel est le contenu auquel nous nous abonnons, quels sont les liens sur lesquels nous cliquons… Peu à peu, le système cerne notre personnalité, nos intérêts, notre comportement et même nos névroses. Ainsi peut-il non seulement prédire mais également influencer nos réactions avec une précision croissante, transformant les utilisateurs en proies faciles pour les annonceurs… et les propagandistes, qu’ils soient privés ou étatiques.

Le film met en scène la façon dont les algorithmes se servent des acquis de la psychologie pour nous maintenir accros à nos écrans, selon les techniques étudiées et enseignées par le Persuasive Technology Lab de l’Université de Stanford. Un ami vient de me taguer ? J’ai une alerte ! Ah, Facebook vient de m’inviter à un événement… Autant de « renforcements positifs intermittents » qui nous poussent à consulter notre téléphone, encore et encore, comme un joueur compulsif espérant le jackpot à une machine à sous.

La manipulation de notre comportement par l’intelligence artificielle prédictive dans le but de nous maintenir en ligne le plus longtemps possible, la collecte de nos données et leur vente au plus offrant… The Social Dilemma confirme que tout cela a été voulu et encodé avec une précision machiavélique.

Demain, la guerre civile ?

Mais pousser à la consommation n’est pas la plus grave conséquence de la cupidité sur Internet. « Que se passerait-il si Wikipédia personnalisait les définitions en fonction de chaque utilisateur, et était payé pour cela ? interroge Jaron Lanier. Wikipédia nous espionnerait et essaierait de deviner nos préférences afin de modifier subtilement notre comportement. Vous imaginez cela ? Eh bien c’est exactement ce que fait Facebook ! »

Sur Facebook, personne ne voit défiler exactement le même fil d’actualité ni n’est confronté aux mêmes informations. La capacité de l’algorithme à cerner les intérêts particuliers de chaque utilisateur a comme conséquence d’exposer celui-ci à des points de vue de plus en plus étroits, qui vont toujours dans le sens de ses opinions et renforcent ses convictions. « Malheureusement, la polarisation est une stratégie terriblement efficace pour garder les gens en ligne », souligne Lanier.

Avec le risque au bout du compte de ne plus pouvoir s’accorder sur rien, ni distinguer le vrai du faux. Rien de plus redoutable pour déstabiliser toute une société : polarisation des opinions, indignation permanente pour tout et rien, radicalisation, solitude, aliénation… si chacun a droit à ses propres « faits », sur quelle base trouver un compromis ? Et quel avenir, à part la guerre civile ?

Comme dans ses précédents documentaires autour du changement climatique, Chasing Ice et Chasing Coral, Jeff Orlowski part d’une réalité trop complexe et abstraite et la ramène à taille humaine. The Social Dilemma met ainsi en scène une famille fictive, jouée par des acteurs, pour illustrer les conséquences de la dépendance aux médias sociaux. Il y a des dîners silencieux, une fille prépubère accro aux « likes » et souffrant de problèmes d’image et d’estime de soi (les dépressions et les suicides chez les jeunes Américaines ont presque doublé depuis 2010), un fils adolescent radicalisé par les recommandations de YouTube.

L’intelligence artificielle a dépassé nos faiblesses

Allons-nous nous adapter et apprendre à ne plus nous laisser manipuler ? Le problème est que nous faisons face à une technologie dont la capacité de traitement augmente de façon exponentielle… alors que nos cerveaux, eux, n’évoluent pas, ou si peu. Les algorithmes sont programmés pour apprendre et s’améliorer sans intervention humaine. Ils poursuivent leurs propres objectifs, exploitant nos instincts contre nous-mêmes. D’une certaine manière, l’intelligence artificielle a déjà dépassé nos faiblesses. Selon les intervenants du film, nous avons presque déjà perdu le contrôle.

Tous s’accordent également pour dire que ce système d’ « extraction d’attention » (comme on extrait une matière première hors du sol), éthiquement injustifiable, ne disparaîtra pas. Garder les gens dépendants de leur « doudou numérique » par tous les moyens, aussi discutables soient-il, est prodigieusement profitable. En dépit de toutes leurs déclarations, les entreprises ne s’autoréguleront pas. La seule solution consisterait à interdire le marché des données humaines comme sont interdits les marchés d’organes ou d’esclaves, suggère l’autrice et philosophe Shoshana Zuboff.

La technologie, à la fois utopie et dystopie, permet ou facilite tant de choses, mais à quel prix ? C’est là tout le dilemme du titre.

Ne manquez pas le générique de fin, pour entendre quelques recommandations de la bouche des personnes mêmes qui ont contribué à créer cette situation. Ils désactivent toutes leurs notifications. Suppriment la plupart des applications. Demandent une régulation étatique. Et surtout ne laissent JAMAIS leurs enfants utiliser les réseaux sociaux. Songez-y….

  • The Social Dilemma (Derrière nos écrans de fumée), documentaire de Jeff Orlowski, 1h33. Sur Netflix : www.thesocialdilemma.com

Lars Kophal
Ancien journaliste, Lars Kophal a choisi de tout plaquer en 2016 et de partir tenter l’aventure aux Philippines.
www.larskophal.ch
Insta : @thefoodjeepney

2020-10-20T11:16:16+02:00octobre 20th, 2020|1 Comment

Un commentaire

  1. […] qu’un journaliste détient forcément la vérité. Prenons un autre exemple qui en dit long sur notre aveuglement : en pleine pandémie, quatre auteurs suisses du genre facétieux ont écrit un article tendant à […]

Laisser un commentaire

Go to Top