Livraison gratuite dès 100€ pour la France et la Belgique

Visitez la boutique
Logo Le Chou Brave
Logo Le Chou Brave

The Social Dilemma : nous sommes le produit

Publié le : 20 octobre 2020Par

Quiconque a déjà utilisé Facebook, Twitter ou Instagram connaît le caractère addictif de ces réseaux. Mais dans le documentaire de Jeff Orlowski, d’anciens cadres et dirigeants révèlent que cette addiction n’est pas un effet secondaire involontaire, mais un objectif minutieusement encodé au cœur des algorithmes. Et ce n’est pas le plus grave.

The Social Dilemma (Derrière nos écrans de fumée en VF) est construit autour d’interviews d’anciens décideurs de Facebook, Pinterest ou Google, des hommes et (quelques) femmes ayant contribué de manière significative au développement de ces systèmes, qui mettent désormais en garde contre les effets de leurs propres créations sur la santé mentale des utilisateurs et les fondements même de la société.

« Si le produit est gratuit, c’est que VOUS êtes le produit», rappelle Tristan Harris, transfuge et « objecteur de conscience » de Google. « Ou plutôt : c’est le changement progressif et imperceptible de votre comportement et de votre perception qui est le produit », développe Jaron Lanier, essayiste et chercheur spécialiste de la réalité virtuelle.

«Une cinquantaine de designers de la Silicon Valley prennent des décisions qui vont influencer les pensées et les actes de 2 milliards de personnes », souligne Harris, qui explique comment la société qui l’employait est progressivement devenue un véhicule du « capitalisme de surveillance », défini comme le profit (astronomique !) réalisé grâce au suivi permanent des activités de chaque utilisateur par la plateforme, gratuite en apparence… mais dont le métier réel est de garantir que les annonceurs qui la financent atteignent leur cible.

Ces algorithmes qui nous dirigent

Tout ce que nous faisons en ligne est suivi et analysé. Quelle image retient notre attention, pendant combien de temps, quel est le contenu auquel nous nous abonnons, quels sont les liens sur lesquels nous cliquons… Peu à peu, le système cerne notre personnalité, nos intérêts, notre comportement et même nos névroses. Ainsi peut-il non seulement prédire mais également influencer nos réactions avec une précision croissante, transformant les utilisateurs en proies faciles pour les annonceurs… et les propagandistes, qu’ils soient privés ou étatiques.

Le film met en scène la façon dont les algorithmes se servent des acquis de la psychologie pour nous maintenir accros à nos écrans, selon les techniques étudiées et enseignées par le Persuasive Technology Lab de l’Université de Stanford. Un ami vient de me taguer ? J’ai une alerte ! Ah, Facebook vient de m’inviter à un événement… Autant de « renforcements positifs intermittents » qui nous poussent à consulter notre téléphone, encore et encore, comme un joueur compulsif espérant le jackpot à une machine à sous.

La manipulation de notre comportement par l’intelligence artificielle prédictive dans le but de nous maintenir en ligne le plus longtemps possible, la collecte de nos données et leur vente au plus offrant… The Social Dilemma confirme que tout cela a été voulu et encodé avec une précision machiavélique.

Demain, la guerre civile ?

Mais pousser à la consommation n’est pas la plus grave conséquence de la cupidité sur Internet. « Que se passerait-il si Wikipédia personnalisait les définitions en fonction de chaque utilisateur, et était payé pour cela ? interroge Jaron Lanier. Wikipédia nous espionnerait et essaierait de deviner nos préférences afin de modifier subtilement notre comportement. Vous imaginez cela ? Eh bien c’est exactement ce que fait Facebook ! »

Sur Facebook, personne ne voit défiler exactement le même fil d’actualité ni n’est confronté aux mêmes informations. La capacité de l’algorithme à cerner les intérêts particuliers de chaque utilisateur a comme conséquence d’exposer celui-ci à des points de vue de plus en plus étroits, qui vont toujours dans le sens de ses opinions et renforcent ses convictions. « Malheureusement, la polarisation est une stratégie terriblement efficace pour garder les gens en ligne », souligne Lanier.

Avec le risque au bout du compte de ne plus pouvoir s’accorder sur rien, ni distinguer le vrai du faux. Rien de plus redoutable pour déstabiliser toute une société : polarisation des opinions, indignation permanente pour tout et rien, radicalisation, solitude, aliénation… si chacun a droit à ses propres « faits », sur quelle base trouver un compromis ? Et quel avenir, à part la guerre civile ?

Comme dans ses précédents documentaires autour du changement climatique, Chasing Ice et Chasing Coral, Jeff Orlowski part d’une réalité trop complexe et abstraite et la ramène à taille humaine. The Social Dilemma met ainsi en scène une famille fictive, jouée par des acteurs, pour illustrer les conséquences de la dépendance aux médias sociaux. Il y a des dîners silencieux, une fille prépubère accro aux « likes » et souffrant de problèmes d’image et d’estime de soi (les dépressions et les suicides chez les jeunes Américaines ont presque doublé depuis 2010), un fils adolescent radicalisé par les recommandations de YouTube.

L’intelligence artificielle a dépassé nos faiblesses

Allons-nous nous adapter et apprendre à ne plus nous laisser manipuler ? Le problème est que nous faisons face à une technologie dont la capacité de traitement augmente de façon exponentielle… alors que nos cerveaux, eux, n’évoluent pas, ou si peu. Les algorithmes sont programmés pour apprendre et s’améliorer sans intervention humaine. Ils poursuivent leurs propres objectifs, exploitant nos instincts contre nous-mêmes. D’une certaine manière, l’intelligence artificielle a déjà dépassé nos faiblesses. Selon les intervenants du film, nous avons presque déjà perdu le contrôle.

Tous s’accordent également pour dire que ce système d’ « extraction d’attention » (comme on extrait une matière première hors du sol), éthiquement injustifiable, ne disparaîtra pas. Garder les gens dépendants de leur « doudou numérique » par tous les moyens, aussi discutables soient-il, est prodigieusement profitable. En dépit de toutes leurs déclarations, les entreprises ne s’autoréguleront pas. La seule solution consisterait à interdire le marché des données humaines comme sont interdits les marchés d’organes ou d’esclaves, suggère l’autrice et philosophe Shoshana Zuboff.

La technologie, à la fois utopie et dystopie, permet ou facilite tant de choses, mais à quel prix ? C’est là tout le dilemme du titre.

Ne manquez pas le générique de fin, pour entendre quelques recommandations de la bouche des personnes mêmes qui ont contribué à créer cette situation. Ils désactivent toutes leurs notifications. Suppriment la plupart des applications. Demandent une régulation étatique. Et surtout ne laissent JAMAIS leurs enfants utiliser les réseaux sociaux. Songez-y….

  • The Social Dilemma (Derrière nos écrans de fumée), documentaire de Jeff Orlowski, 1h33. Sur Netflix : www.thesocialdilemma.com

Lars Kophal
Ancien journaliste, Lars Kophal a choisi de tout plaquer en 2016 et de partir tenter l’aventure aux Philippines.
www.larskophal.ch
Insta : @thefoodjeepney

Nous suivre

Recevez nos meilleurs articles, des idées recette, nos interviews en avant-première, et ne ratez aucun événement.

Inscrivez-vous à notre infolettre !

Partager cet article

À propos de l’auteur

Lars est journaliste pour Le Chou Brave magazine.

Commentaires

Afficher

2 Commentaires

  1. […] qu’un journaliste détient forcément la vérité. Prenons un autre exemple qui en dit long sur notre aveuglement : en pleine pandémie, quatre auteurs suisses du genre facétieux ont écrit un article tendant à […]

  2. […] qui a racheté la plateforme en 2006, amassent autant d’informations que possible dans le but de cerner le profil et les intérêts de ses utilisateurs (« améliorer notre service », selon le jargon officiel). YouTube connait et exploite entre […]

Laisser un commentaire

À lire aussi

Charger plus d’articles

Soutenez le ChouBrave

Par vos dons et vos achats vous encouragez :
  • Un magazine indépendant
  • Du contenu toujours plus qualitatif
  • L’achat de matériel, notamment pour les reportages vidéos (lumières, caméras, etc.)
  • Nos déplacements
  • L’impression des flyers et autres supports de communication
  • L’élaboration de différents projets
Je visite la boutique
Je m’abonne
Je fais un don

Les plus populaires

1010, 2018

Irène Grosjean – Le livre

Par |10 octobre 2018|

Nous vous avons présenté Irène Grosjean en 2013, avec la fameuse vidéo « La vie en abondance » qui a été visionnée plus de 2 millions de fois à travers le monde. Au cours

Lire l'article

Nous suivre

Recevez nos meilleurs articles, des idées recettes, nos interviews en avant-première, et ne ratez aucun événement.

Inscrivez-vous à notre infolettre !
Aller en haut