Le côté obscur des nouvelles technologies

Le documentaire "Le dilemme des réseaux sociaux" (Netflix) dévoile un panorama alarmant sur les conséquences de la mauvaise utilisation des nouvelles technologies de communication.

Dépendance aux écrans, symptômes dépressifs généralisés et manipulation des comportements à des fins commerciales. Dans quelle mesure certaines avancées pour l'humanité sont-elles devenues préjudiciables à notre coexistence et à notre qualité de vie ?

• Article associé: « L'addiction aux réseaux sociaux: l'abus du virtuel »

L'avis des créateurs

"Le dilemme des réseaux sociaux" est créé, produit et réalisé par ceux qui, occupant des postes élevés dans des entreprises telles que Twitter, Google, Instagram, Facebook et YouTube, ont contribué à construire le "monstre informatique" qui fait aujourd'hui partie du quotidien de millions de gens.

Le documentaire part d'une inquiétude: peut-être avons-nous été naïfs sur les conséquences des outils que nous avons créés nous-mêmes. Il en est ainsi au point que nombre de ceux qui ont créé ces sites et réseaux sociaux aujourd'hui sont reconnus comme « accros » à ces outils.

Ils éprouvent du regret et de la peur d'avoir fait partie de ce processus, et ces sentiments sont rejoints par le soupçon redouté qu'une certaine humanité les choses deviennent incontrôlables, et qu'en un sens nous nous conduisons sur le plan social selon l'ancienne parabole du "singe avec le rasoir".

Un aspect intéressant du documentaire est qu'il évite toute tentation « complotiste » en révélant qu'au final « il n'y a pas de méchant ». Quel est donc le problème ?

La naissance de "Frankenstein"

Avec l'industrie d'Internet, les mécanismes de marketing les plus subtils, complexes et efficaces ont été créés dans l'histoire de l'humanité. Les marchés de mille milliards de dollars sont gérés via Internet.

Si vous êtes un entrepreneur, vous saurez que jamais auparavant le public que vous souhaitez cibler n'a été prédit avec une telle précision un produit ou un service que vous offrez, au moment où vous le faites, ainsi que de façonner les comportements de vos potentiels consommateurs.

Maintenant, comment est-ce accompli? Très simple: de bonnes prédictions ne peuvent être faites qu'en ayant beaucoup de données. Plus vous traitez d'informations sur les utilisateurs, plus vous êtes certain que votre publicité fonctionnera.

Beaucoup pensent que Google est simplement un moteur de recherche. Ce qu'ils oublient souvent, c'est que le modèle d'affaires de ces entreprises est basé sur la recherche autant que possible de nos goûts, comportements et tendances, tous est inscrit dans chacune de nos actions sur le web.

Pour résumer, à quoi servent les outils comme les publicités Facebook (de la même manière que les vidéos fonctionnent par exemple recommandé par YouTube) consiste à segmenter les audiences de manière ultra spécialisée, en tenant compte de l'âge, du sexe, de la situation géographique, des intérêts et d'autres variables. Dans quel but est-ce fait? Très simple: afin d'attirer des clients potentiels pour certains produits proposés par des annonceurs qui sont ceux qui, in fine, font appel à leurs services.

Et cela nous amène à la « face cachée de l'entreprise », c'est-à-dire aux questions concernant les limites éthiques impliquées dans ce processus.

La manipulation est la clé du problème

Si nous vivons dans une grande ville, l'image suivante ne nous sera sûrement pas inconnue: en entrant dans un lieu public (comme un moyen de transport ou un bar) on voit 90% des personnes absorbées par l'écran de leur téléphone mobiles. Peut-être à plus petite échelle, au sein d'un groupe familial, quelque chose de similaire se produit dans la vie de tous les jours.

Comme le dit le documentaire, "il semble que le monde soit devenu fou ou qu'il soit tombé dans une sorte d'envoûtement". Ce qui se passe, entre autres, c'est que ceux qui ont conçu le système l'ont fait dans le but de capter le plus possible l'attention de l'utilisateur.

Le système est programmé pour s'affiner à cet égard et nous procurer du plaisir. C'est comme si nous pointions vers nous ces moteurs d'intelligence artificielle pour réapprendre de plus en plus ce qui provoquerait une réponse « réussie » de l'utilisateur.

En d'autres termes, l'ordinateur reçoit une commande: « Je veux ce résultat ». Et puis l'ordinateur apprend à le faire (c'est de là que vient le terme "machine learning"). A) Oui, chaque jour, le système s'améliore en choisissant les bonnes publicités dans le bon ordre afin que vous passiez plus de temps à vous intéresser à ces contenus.

Ce que révèle le documentaire, c'est que les internautes (et aujourd'hui, qui ne l'est pas ?) nous sommes devenus, sans nous en rendre compte, notre propre bien de consommation. Pour résumer: « Si vous ne payez pas pour le produit, vous êtes le produit.

Qu'est-ce qu'un algorithme ?

Comme il est bien expliqué dans le documentaire, "les algorithmes sont des opinions dans le code". Ils ne sont pas objectifs, ils ne correspondent à aucune réalité mais sont configurés selon une certaine définition de la réussite, et cette définition du succès n'est autre que le profit.

Un exemple de ceci est la façon dont les moteurs de recherche "remplissent" des informations sur certains sujets en fonction de l'endroit sur la planète à partir duquel la recherche est effectuée ou en fonction de ce que Google sait de vos intérêts et les plaisirs.

Par exemple, si vous Google: « le changement climatique est… » en fonction de divers facteurs, vous constaterez qu'il s'agit d'une menace, qu'il est inévitable, qu'il s'agit d'une imposture, et ainsi de suite... Un autre exemple est la fameuse "fake news" qui, selon les études, se multiplie six fois plus vite que les news vrai. Nous le savons grâce à certaines substances censées guérir par magie le COVID-19.

En d'autres termes: Si vous avez tendance à croire aux théories du complot, le système vous encouragera à trouver du contenu conforme à ces théories. Si vous avez des affinités pour un certain parti politique ou si vous avez exprimé de la haine envers certaines minorités, ce qui l'algorithme n'est pas pour vous montrer une vérité mais pour "secouer vos fantômes" afin de capturer de plus en plus votre attention.

C'est pourquoi il est dit dans le documentaire que Ces processus rongent rapidement le tissu social. Eh bien, si on montre à chacun la vérité qui les compose, ils sont liés à des gens qui pensent la même chose et on leur donne des arguments qui justifier leurs croyances (atteindre des extrêmes absurdes comme la Terre plate) cela explique qu'il y a de plus en plus de crises dans les systèmes démocratique.

Auteur: Guillermo Miatello, directeur de l'Academia de Psicoanálisis Madrid SL.