Par ROBERTO REGENSTEINER*

Commentaire sur le film qui vient de sortir

Le dilemme du réseau, un film de Netflix, fait des vagues en raison de sa critique des réseaux numériques. Il présente des dramatisations dans lesquelles des adolescents accros aux téléphones portables et aux écrans sont manipulés par des algorithmes représentés par des acteurs. Ces caricatures expriment des gadgets utilisés pour capter l'attention et pervertir le comportement humain en faveur de la « monétisation ». Ils font appel à l'émotionnel : une mère qui décide d'abolir l'usage du téléphone portable au dîner de famille, les crises d'abstinence des gens, la façon dont les camarades de lycée socialisent à travers les réseaux.

Les scènes sont entrecoupées de témoignages de personnages réels. La plupart ont environ 30 ans et ont travaillé pendant la période où les projets initiaux se sont transformés en grandes entreprises. Les hommes blancs prédominent, quelques Indiens. Peu de femmes, parmi lesquelles Dr. Lemcke qui témoigne en tant que médecin et mère et Shoshana Zuboff, universitaire, auteur d'un livre disséquant le "capitalisme de surveillance"^[I]. Un investisseur et d'autres personnages complètent la liste des témoignages dont sont extraits les extraits qui composent le film. Les arguments de Zuboff structurent plusieurs des séquences et illustrent les moments où les réseaux numériques s'approprient les consciences et les comportements, dans le but de « monétiser » les entreprises technologiques.

Les témoignages expriment la perplexité devant le phénomène de transformation, en machine à gagner de l'argent, des idéaux avec lesquels les entreprises (et les algorithmes) ont été construites par des personnes désireuses de contribuer à un monde meilleur. Entre étonnement, confusion et colère, les interviewés révèlent comment ils ont vu la créature devenir incontrôlable, "pervertie par la monétisation"^[Ii] et comment leur prise de conscience a commencé lorsqu'ils ont réalisé les troubles causés par la dépendance en eux-mêmes et chez leurs proches.

La discussion soulevée par le film permet d'identifier quelques-unes des extrémités de la « crise dans laquelle l'humanité est empêtrée » ^[Iii]. La question de la « monétisation » n'est pas nouvelle.

contextualisation

L'arrière-plan géographique du film se situe en Californie, qui a été prise du Mexique et est devenue une partie des États-Unis, après que la ruée vers l'or (1849) a exigé de monétiser (littéralement) la circulation mercantile internationale d'un capitalisme industriel en ascension des deux côtés de l'Atlantique et un colonialisme qui s'étend sur toutes les mers. En 1971, la vallée de Santa Clara est connue sous le nom de Silicon Valley grâce à des entreprises électroniques, incubées à l'Université de Stanford et ensemencées par des investissements fédéraux.

Le phénomène de « perversion par monétisation » est récurrent. Ainsi, par exemple, au milieu des années 1970, la contre-culture californienne avait l'intention d'apporter la puissance informatique au peuple. De là est venu Steve (Jobs et Wozniack) qui créera Apple et fondera la célèbre entreprise portant ce nom. Dans la publicité de lancement de MacIntosh^[Iv] ce moment fut exalté comme la libération du peuple contre le le grand frère orwellien.

Là, un espace particulièrement dense a été créé pour les capitaux privés disponibles pour des investissements à long terme. Les entreprises mentionnées dans le film ont passé des années à consommer des ressources avant de donner des rendements économiques aux investisseurs. Ceci est pertinent pour comprendre la dynamique de « monétisation », c'est-à-dire le développement capitaliste spécifique du segment technologique dans cette région. Pendant de longues périodes, les jeunes porteurs d'idées prometteuses sont «incubés» avec des ressources financières jusqu'à ce qu'ils se transforment en entreprises rentables. La logique de développement technique du produit donne aux programmeurs les conditions pour se réaliser en tant que créateurs. Lorsque la monétisation domine, la logique de développement du produit devient déterminée par la maximisation des revenus de l'annonceur.

Les déformations dénoncées par le film sont un énième chapitre de la longue lutte entre l'intérêt public et une industrie publicitaire qui, déjà au XIXe siècle, vendait de l'extrait de coca et de l'alcool comme une "boisson intellectuelle, tonifiante pour le cerveau et tonique pour les nerfs".^[V] et, plus récemment, il a été le protagoniste d'épisodes de dommages à la santé et à l'environnement, causés par les industries du tabac, pharmaceutiques, alimentaires^[Vi], automobile, pesticides et ainsi de suite sans épilogue en vue.

Google a commencé en 1996 en tant que projet académique par des doctorants de Stanford. Brin et Page ont développé un moteur de recherche qui, en organisant les résultats par pertinence, a balayé la concurrence du marché. En 1998, elle est devenue une entreprise qui a commencé à incuber d'autres projets et à acquérir des tiers. En 2019, la croissance exponentielle a constitué une société mère portant le nom d'Alphabet qui, entre autres éléments expressifs de la réalité actuelle, comprend chrome, gmail, youtube, cartes, android.

Vers l'an 2.000, au moment du boom des dot-com en bourse, Google a adopté de manière informelle le couplet "ne sois pas méchant" ("ne soit pas cruelle")^[Vii]. Une position idéaliste était dictée par le besoin d'orientations claires pour les employés. Il comprenait une critique du monde de l'entreprise dans lequel prévalait une image de malignité qui résulterait de la cupidité et du manque de principes. Au fur et à mesure que Google augmentait le nœud du conflit, il s'est concentré sur la séparation entre les résultats de recherche des utilisateurs et la liste des liens sponsorisés par la publicité payante. Celles-ci étaient présentées côte à côte, mais séparées, selon les bonnes lignes directrices de l'éthique journalistique anglo-saxonne. En 2015, la devise a été rétrogradée à «faire la bonne chose" ("faire la bonne chose"). Et, de là à ici, il semble se diriger vers l'oubli ^[Viii]. Cette impression est renforcée par le départ des fondateurs du commandement quotidien des opérations à partir de 2020. Cette histoire montre que la « perversion par monétisation » peut arriver, malgré la conscience, le génie et la noblesse éventuelle des objectifs des créateurs.

Les histoires de Facebook et de son fondateur, Mark Zuckerberg, sont les plus connues. Le projet a débuté en 2004 à Harvard (côte Est des USA) comme un jeu pour les garçons qui s'amusaient à classer les filles. Sa croissance exponentielle l'amène rapidement à s'installer en société et à s'installer dans la Vallée. Vers 2008, Max Schrems, un étudiant autrichien s'est rendu compte que la suppression des données qu'il effectuait sur Facebook, en fait, ne les cachait qu'à lui-même. Les informations étaient toujours stockées dans les systèmes de l'entreprise. Il entama alors un long contentieux, au terme duquel il obtint copie de l'ensemble de ses informations, qui lui furent remises, regroupées en plus de 50 catégories analytiques. C'est là que vous pouvez voir le potentiel de manipulations que Facebook a promu et contre cela a créé l'ONG "Europa versus Facebook", un élément important dans le processus de création de lois sur la protection des données.

En 2012, Facebook a acquis son concurrent Instagram (lancé en 2010 et acheté pour 1 milliard de dollars) et en 2014, WhatsApp (lancé en 2009) pour 19 milliards de dollars.

Le film échoue à mettre toutes les entreprises dans le même panier^[Ix]. Des scènes puissantes telles que des dramatisations d'adolescents manipulés, ainsi que des extraits de la réalité qui ont conduit à la victoire du le Brexit et l'élection de Bolsonaro, doivent être attribuées aux performances spécifiques de Facebook et de son partenariat avec Cambridge Analytica.

L'influence que le gouvernement américain et ses agences exercent sur les entreprises en général et les entreprises technologiques n'est pas non plus constamment sous pression pour favoriser l'accès aux portes dérobées.^[X] qui vont bien au-delà des enjeux soulevés par le film. Il convient de rappeler le rôle des nouveaux médias dans le « printemps arabe » (2010) et les dénonciations de l'utilisation du système Prisme, d'espionnage illégal, contre des citoyens américains et des dirigeants de nations amies (entre presque le Brésil et l'Allemagne) faite par Snowden^[xi] (2013).

épilogue

La monétisation qui produit de merveilleuses avancées technologiques est la même qui les transforme en instruments d'addition, d'oppression et d'exploitation. Le côté sinistre du problème n'est pas la technologie, mais son utilisation abusive à des fins politiques et pour l'accumulation et la concentration du capital.

Comment l'humanité va-t-elle se démêler de cette pelote de laine ? c'est là que le bât blesse^[xii].

*Roberto Regensteiner est professeur et consultant en gestion et technologies de l'information.

Référence

Le dilemme du réseau (Le dilemme social)
Documentaire, États-Unis, 2020, 89 minutes
Réalisé par : Jeff Orlowski
Diffusion :Netflix

notes

[I] Zuboff, Shoshana, The Age of Surveillance Capitalism, 692 pages, Voir la critique d'Arbix et Brandão : https://periodicos.fclar.unesp.br/estudos/article/download/13404/9363 et le commentaire d'Abramovay : https:/ / quatrocincoum.folha.uol.com.br/br/resenhas/economia/sociedade-da-vigilancia-em-rede

[Ii]Sans cynisme, il convient de souligner la difficulté de développer une conscience critique dans un environnement de rémunération généreuse : salaires élevés, distribution d'actions, primes et prix, qui ont généré une ribambelle de jeunes millionnaires travaillant dans ce qu'ils aimaient faire, dans des lieux de travail similaires à ces campus universitaires avec un approvisionnement subventionné en caféine et en nourriture, sans parler du processus de dissimulation de l'histoire que les colonisateurs européens ont promu (à la fois là-bas et ici).

[Iii] Le terme fait référence à l'excellent texte d'Eugenio Bucci, https://opiniao.estadao.com.br/noticias/espaco-aberto,enredaram-a-humanidade,70003450081 le 24/9/2020.

[Iv]"1984 Apple's Macintosh Commercial" dans https://www.youtube.com/watch?v=VtvjbmoDx-I

[V] Dans https://pt.wikipedia.org/wiki/Coca-Cola#A_cria%C3%A7%C3%A3o

[Vi]Super Size Me (film disponible sur Amazon) documente comment MacDonalds avec ses menus et ses promotions a favorisé les épidémies d'obésité et d'hypertension artérielle.

[Vii] Voir https://en.wikipedia.org/wiki/Don%27t_be_evil

[Viii] V. "Ancien directeur de Google : la devise 'Don't Be Evil' Is Dead" dans https://www.entrepreneur.com/article/344493

[Ix] Dora Kaufmann a raison lorsqu'elle souligne "La plupart des critiques du documentaire sont dirigées vers les réseaux sociaux, ce qui n'est pas le cas de Google" dans https://epocanegocios.globo.com/colunas/IAgora/noticia/2020/09/documentario -social-dilemma-polemica-da-vez.html

[X] Jargon qui identifie les aspects des systèmes informatiques (logiciels et matériels) qui peuvent éventuellement être nécessaires d'un point de vue technique, et qui permettent également l'accès aux enregistrements et aux enregistrements, par conséquent, la manipulation des utilisateurs, s'ils sont utilisés de manière inappropriée ; Législation fédérale américaine qui donne à l'État de larges pouvoirs d'intervention dans les entreprises qui sont une partie importante du problème.

[xi]Il convient de compléter les histoires de "Dilemma das Redes" avec celle présentée dans le documentaire "Citizen Four", de Laura Poitras, et dans le film "Edward Snowden" d'Oliver Stone, et de comparer le processus de prise de conscience à travers lequel les acteurs prennent conscience des problèmes et de les porter au public, ainsi que de réfléchir aux conséquences possibles de leur action. Snowden est toujours en exil en Russie et une campagne américaine est en cours pour qu'il bénéficie d'une grâce présidentielle.

[xii] Du Houaiss; « Le mot orig.contrv., busillis dans le sens de 'difficulté, point difficile' a été lié à loc.lat. in diebus illis au sens de 'à l'époque' et attribué à l'anecdote racontée depuis le XNUMXème siècle, d'un étudiant des anciennes classes de latin qui, en traduisant le lat. in diebus illis, l'a compris comme Indiae dans le sens de 'les Indes' et est resté bloqué sur busillis; dans une autre version, parce que les lettres des mots sont un peu éloignées, le candidat lisait et traduisait in die busillis dans le sens de « le jour appelé busillis » ; selon Castilho, expr. voici le hic n'est pas d'origine. vulgaire, constituant un produit littéraire vulgarisé.