Comment une poignée d’entreprises Tech contrôle des millards d’esprits

Comment une poignée d’entreprises Tech contrôle des millards d’esprits

6 mars 2019 0 Par Elodie Honegger

Dans le cadre de mon #DéfiTed💡, je vous propose un résumé de ce Ted Talk de Tristan Harris, un ancien employé de Google dont la mission tournait jusqu’en 2016 autour de l’éthique des fonctionnalités. Il est aujourd’hui engagé dans la promotion d’une plus grande liberté des utilisateurs et utilisatrices, mettant en lumière la manière dont notre temps nous est volé, en quelque sorte, puisque nous l’utilisons par réponse à des impulsions et notifications, plutôt que par choix.

1. Attirer et maintenir l’attention

Attirer et maintenir l’attention, explique Tristan Harris, est un objectif qui donne leur forme à tous nos environnements numériques. Il cite YouTube, Facebook et Netflix, qui ont tous mis en place la fonctionnalité de ‘lecture automatique” de la prochaine vidéo, ou du prochain épisode. Cette fonctionnalité est mise en place pour une raison seulement : c’est une technique qui fonctionne particulièrement bien pour nous retenir sur une plateforme.

Pour Tristan Harris, lorsque maintenir l’attention est l’unique objectif à atteindre, on assiste à une course. Les concurrents de cette course utilisent leur compréhension de notre esprit, chacun pour se tailler leur part.

NB : Tristan Harris a lui-même été formé dans ce sens, au Persuasive Technology Lab de Stanford.

2. La course à l’attention affecte nos vies par ricochet

Tristan Harris met en lumière le fait que cette course à l’attention n’est pas sans conséquences. Il cite l’exemple de Snapchat, qui a mis en place la fonctionnalité Snapstreaks, permettant d’afficher le nombre de jours d’affilée où vous avez communiqué avec quelqu’un.

Une fonctionnalité qui incite les utilisateurs, et les adolescents notamment, à s’échanger des messages sans fond véritable, juste pour maintenir et faire progresser leur score. “Ce ne sont même plus de vraies conversations”, explique Tristan Harris. Dans quelle mesure utilisons-nous tou.te.s de petits morceaux de nos journées pour répondre à des incitations comme celles-ci, que nous n’avons pas véritablement choisies ?

[Cela] compromet nos efforts pour focaliser notre attention sur le fait de vivre les vies que nous souhaitons. Cela change la manière dont nous avons des conversations, cela change notre démocratie, et cela modifie nos capacités à avoir des conversations et les relations que nous voulons avoir les uns avec les autres.

3. Tristan Harris : “descendre dans l’outrage, descendre dans l’émotion, descendre dans le cerveau reptilien”.

Nos émotions sont utilisées par les plateformes telles que Facebook. Qu’il s’agisse d’un choix conscient ou non, le fait est qu’elles bénéficient de sentiments tels que l’indignation, qui nous poussent à partager en commentant “Vous vous rendez compte que…?”. De fait, si Facebook avait le choix entre nous proposer un Feed d’actualités qui nous indignent, ou un Feed d’actualités qui nous relaxent, c’est le premier qui aurait le plus d’intérêt pour la plateforme.

“La salle de contrôle du fil d’actualités n’a pas de comptes à nous rendre. Elle n’est responsable que de devoir maximiser notre attention.”

La “salle de contrôle”, comme l’appelle T. Harris, est en revanche responsable envers les acheteurs d’espace publicitaire, qui décident de faire passer une pensée précise dans l’esprit d’un groupe de personnes précis. Se pose alors la question de l’éthique de la persuasion. Dans quelles circonstances est-il acceptable d’être persuadé ainsi ?

La seule sorte de persuasion éthique qui existe, c’est lorsque les buts de celui qui persuade sont alignés avec ceux de celui qui est persuadé.

4. Comment “réparer” ce problème?

Tristan Harris propose 3 changements radicaux

1. Nous devons admettre que nous pouvons être persuadés, pour être capables de nous en protéger.

2. Nous avons besoin de nouveaux modèles et systèmes de responsabilité. Les personnes qui sont dans ces “salles de contrôle” doivent pouvoir rendre des comptes de façon transparente par rapport à ce que nous voulons.

3. Nous devons orchestrer une renaissance, qui nous protège des timelines que nous nous voulons pas expérimenter, et nous permette de créer des timelines qui nous aident à vivre les vies que nous voulons vivre.

5. Des réseaux sociaux respectueux de nos aspirations, est-ce possible ?

T. Harris imagine une fonctionnalité de Facebook, une petite case qui nous demanderait “comment pourriez-vous utiliser votre temps au mieux ?”. On pourrait par exemple choisir “organiser un dîner à la maison”, puis lancer une invitation, et passer la soirée à discuter avec des ami.e.s chez soi, plutôt que de lancer un sujet de conversation sur Facebook. Les technologies numériques pourraient-elles nous appuyer dans la réalisation de ce qui nous importe vraiment, plutôt que de nous absorber sans but dans leurs flux ?

Au lieu d’handicaper notre attention, imaginez si nous utilisions toutes ces données, tout ce pouvoir […] pour nous donner une capacité de concentration surhumaine, un capacité surhumaine à prêter attention à ce qui nous importe, et une capacité surhumaine à avoir les conversations que nous devons avoir pour la démocratie.

6. Nos capacités d’attention et de collaboration

Tristan Harris termine son intervention en pointant les défis à relever par l’humanité dans un futur immédiat. Des défis qui ne peuvent pas, selon lui, être résolus de manière individuelle, mais nécessitent que l’on mobilise toutes nos capacités d’attention et de collaboration. Si nos dispositifs électroniques ont d’ores et déjà un énorme pouvoir sur nos pensées et capacités (ou incapacités) à communiquer et à collaborer… alors peut-être que ces dispositifs et ce que nous en faisons, sont un problème qui doit considéré dès maintenant.

Au lieu de inquiéter d’hypothétiques et futures intelligences artificielles folles qui n’ont qu’un objectif, nous pourrions réparer l’intelligence artificielle folle qui existe actuellement et qui sont ces fils d’actualités qui n’ont qu’un objectif. […] Résoudre ce problème offrirait l’infrastructure essentielle à la résolution de tous les autres. Il n’y a rien dans notre vie ou nos problèmes collectifs ne nécessitant pas notre capacité à nous concentrer sur ce qui nous importe. À la fin de notre vie, il ne nous reste que notre attention et notre temps. Comment bien utiliser notre temps ?


Vous avez aimé cet article ? Partagez-le ! 😉
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  • 1
    Partage