Par ANDRÉ CAMPOS ROCHA*
Considérations sur l'impact des transformations numériques
L'un des aspects fondamentaux de la révolution numérique est la conversion de nombreux événements et phénomènes quotidiens - événements, sons, images, documents, etc. - au langage binaire, 0 et 1, des ordinateurs, qui peuvent ainsi analyser, mesurer, comparer et générer des prédictions ou appréhender des modèles et des relations entre les choses dans le monde qui s'avèrent parfois étranges pour le bon sens.
Dans ce processus, un nouveau cadre culturel émerge, marqué par une rupture radicale avec les formes de vie antérieures. Regardez, par exemple, notre smartphones, ces appareils compacts et puissants, qui nous accompagnent du réveil au coucher, et qui font des expériences obsolètes qui constituaient jusqu'à récemment la texture de notre quotidien, désormais dépassé par le rythme effréné de la transformation numérique.
Qui aujourd'hui encore quitte son domicile avec un portefeuille rempli de documents, si ce qui appartient à notre vie privée est dûment emballé et compressé dans notre les bits d'informations provenant de nos appareils électroniques ? Qui se souvient de la dernière fois où ils ont levé la main pour commander un taxi, dans une attente peut-être angoissée, alors que le marché du transport privé est de plus en plus dominé par les plateformes numériques ? Quel sera le sort des billets de banque et des pièces (et aussi des petits cochons d'argent dont nous avions l'habitude de décorer nos maisons) ou même des cartes physiques, si nos transactions financières et nos moyens d'orientation spatiale sont directement intégrés dans notre smarts?
En dématérialisant et en subsumant les choses en un seul objet, le smartphones dépeignent la subordination de la cadence de changement de nos habitudes et conventions à la dynamique de l'innovation numérique. Plus que cela, ces artefacts, véritables synthèses des conquêtes techniques récentes, dénoncent, du brassage des sphères du travail et du temps libre jusqu'à l'indistinction (qu'est-ce qu'un réseau social sinon un mélange de loisir et de divertissement avec un espace de publicités et publicités ?), car ces mêmes habitudes et comportements ordinaires sont inscrits dans les dispositifs financiers, techniques, juridiques et opérationnels qui soutiennent et orientent l'univers numérique. Comme il existe des déséquilibres de pouvoir évidents dans la capacité et l'initiative de le façonner, le monde qui nous est montré sur les écrans n'est pas une représentation neutre. Il est conçu en fonction des intérêts des entreprises et institutions qui contrôlent nos données. Bien que nous soyons conscients qu'en entrant dans cet univers nous renonçons à notre vie privée et à notre intimité, les termes du marché ne sont pas toujours clairs. Cela implique que pour opérer avec compétence au quotidien, nous dépendons d'un ensemble d'acteurs techniques que nous ne connaissons pas, les leaders d'un univers dont la logique de fonctionnement nous est opaque, et dont les conséquences sur notre subjectivité sont commence à peine à prendre conscience.
Il n'en a pas toujours été ainsi… Comme l'atteste le blogueur et militant iranien Hossein Derakhshan (2015), nous vivons aujourd'hui la mort du lien hypertexte. le mot anglais lien donne l'idée d'un chemin, d'un raccourci, d'une connexion. le moment de lien hypertexte c'était une époque où world wide web il appréciait la décentralisation, brisant les hiérarchies, réalisant un vaste système navigable de nœuds et de réseaux. C'était l'âge d'or des blogs personnels, « des fenêtres sur des vies que nous savions peu, des ponts qui reliaient différentes existences entre elles et donc les transformaient » (Derakhshan, 2015). Ce n'est plus le cas.
Dans le monde post-crise de 2008, l'infrastructure de l'écosystème numérique occidental est opérée et dominée par cinq grandes entreprises situées sur la côte ouest des États-Unis : Alphabet/Google, Facebook, Amazon, Apple et, dans une moindre mesure, Microsoft . Le cœur de ce système est l'entreprise (Dijck, Poell et Waal, 2018). Les idéaux vantés de « l'idéologie californienne » de la Silicon Valley qui, dans un curieux mélange de rébellion et de transgression à la Nouvelle gauche avec l'esprit d'entreprise technologie de pointe, proclamaient les valeurs d'ouverture et de partage (Barbrook et Cameron, 2015), ne sont rien d'autre qu'un chant face à l'agressivité avec laquelle ces grandes technologies développer leur activité sur le net, en achetant start-up et nouer des partenariats, barrer la route aux autres plateformes et les obliger, au prix de leur survie, à se connecter, d'une manière ou d'une autre, à elles. On sait que son principal atout, notamment dans le cas d'Alphabet/Google, Facebook et Amazon, ce sont les données fournies par les utilisateurs. Avec eux, ces entreprises peuvent extraire les connaissances nécessaires pour vendre à des tiers des publicités personnalisées qui atteignent avec une précision millimétrique les cibles visées.
Pour cette raison, ils s'efforcent avant tout d'attirer notre attention, une ressource de plus en plus rare dans la société excitée d'aujourd'hui pleine d'écrans (Türcke, 2010) et qui, étant non transférable, devient de plus en plus précieuse. Pour générer de la valeur, pour produire l'information essentielle au développement de leur entreprise, il est d'une importance vitale pour ces grandes technologies que l’on reste le plus longtemps possible attaché à leurs plateformes – d’où le reproche de Derakhshan (2015) que les réseaux sociaux, contrairement aux blogs d’antan, aient un caractère fermé, autoréférentiel, puisqu’ils ont tendance à traiter des textes et images natifs, directement publiés sur leur domaines, avec beaucoup plus de respect que ceux hébergés en dehors d'eux. Et les techniques de persuasion qu'ils utilisent constituent un « tournant » dans les stratégies marketing, faisant passer pour un jeu d'enfant les dispositifs idéologiques de « l'industrie culturelle classique », comme le soulignent Adorno et Horkheimer (1985).
Tout au long du XNUMXème siècle, les stratégies marketing ont cherché avant tout à créer une identification du consommateur aux produits : les cigarettes Marlboro s'accordent très bien avec une personnalité hautaine et indépendante ; la margarine était l'aliment idéal pour un milieu familial prospère et harmonieux. Actuellement, combinant l'informatique avancée et le Big Data avec la connaissance de économie comportementale et sciences cognitivo-comportementales, ces grandes entreprises ne cherchent pas seulement à générer idées. des choses précieuses sur nous, mais, de manière beaucoup plus décisive, pour transformer qui nous sommes, pour affecter notre personnalité, afin que nous devenions des personnes beaucoup plus prévisibles, des proies faciles aux mécanismes complexes de sa gestion algorithmique (Bentes, 2019).
Confinés dans des bulles numériques, nous devenons beaucoup plus radicaux politiquement, incapables d'appréhender des visions multiples et des points de vue différents sur un sujet donné. Accros à cette superindustrie de l'imaginaire, selon les termes d'Eugênio Bucci (2021), dans les techniques de domination duquel réside tout le lexique de la psychologie behavioriste – conditionnement, déclencheurs, récompenses variables, architecture de décision, etc. aspiré dans ces rouages de l'addiction, de sorte que nous nous retrouvons souvent dans des mouvements interminables de tapotement e défilement sur YouTube, Facebook ou Instagram, qui nous séduisent avec une puissance écrasante.
Ici, ce qui est décisif, c'est moins le fond que la forme ; ou comme nous le rappelle McLuhan (1967), spécialiste des médias, Le voyant est le message. Le modèle de communication introduit par les réseaux, qui fait appel à l'inconscient et aux émotions, est un facteur révolutionnaire dans le paysage culturel contemporain. Selon des études en neurosciences, notre cerveau est plastique et malléable, son réseau de synapses est façonné par nos habitudes. Ainsi, du point de vue de l'histoire intellectuelle, Internet est une force qui nous a fait changer d'avis (Carr, 2010). Dans la multiplicité de ses stimuli, il favorise une pensée distraite et superficielle qui, liée aux pressions de performance du capitalisme néolibéral, engendre diverses pathologies psychiques liées à la multitâche, fatigue et déficit d'attention (Han, 2017). Dans ce système de livraison et de récompense ultra-rapide, qui encourage la répétition des actions physiques et mentales, nos esprits sont consommés au milieu. Ainsi, non seulement les technologies sont nos extensions, mais nous devenons aussi des extensions des technologies.
De cet entrelacement de la culture, de l'économie et de la technique, il faut s'interroger sur la validité de cet individu rationnel et averti avec lequel la théorie libérale a toujours pensé la société et la politique. Quelle est la place des choix réfléchis et réfléchis, quand on est plongé dans un environnement propice à la propagation de fausses nouvelles et des théories du complot, sans savoir avec certitude, au milieu d'une profusion d'informations qui circulent rapidement, où chercher la « vérité » des faits ? Comment parler de « sujet autonome » alors que nous nous convertissons en particules situées dans une toile algorithmique qui a la capacité de conditionner nos goûts et désirs et d'orienter nos actions ?
Avec la centralisation de l'information entre les mains d'un groupe restreint de grandes technologies, en conséquence, les gouvernements et les entreprises deviennent beaucoup plus puissants que nous. Et par rapport à cela, deux caractéristiques de la gestion algorithmique à l'ère du Big Data et de l'intelligence artificielle apparaissent fondamentales. Tout d'abord, il convient de noter que les algorithmes ne sont rien de plus que des ensembles d'instructions, une série d'étapes qui transforment certaines données d'entrée (entrées) en un résultat escompté (sorties). Quelque chose de banal, comme une recette de gâteau au chocolat, par exemple, peut être considéré comme un algorithme. La recette consiste en un ensemble d'instructions qui visent à transformer certaines données d'entrée, les ingrédients (œufs, farine, levure, etc.), en un produit fini, le gâteau chaud prêt à être dévoré. En gros, la particularité des systèmes d'intelligence artificielle est qu'ils sont dotés d'entrées et de sorties de données, et les algorithmes recherchent le meilleur moyen – le meilleur ensemble d'étapes – pour atteindre l'objectif proposé. (Dans le cas trivial du gâteau, tout se passe comme si, face aux ingrédients et au gâteau prêt à l'emploi, l'algorithme cherchait les meilleures méthodes pour accomplir la tâche, en termes d'utilisation des ingrédients, d'optimisation des coûts, de gain de temps, etc.)
Ainsi, alimentés par de grandes bases de données et dopés par la puissance de calcul actuelle, ces systèmes ont une énorme capacité d'efficacité, c'est-à-dire de trouver les chemins optimaux et appropriés entre les moyens et les fins, quels qu'ils soient, à tel point qu'en eux réside une possibilité quelque peu irrationnelle et dystopique – largement utilisée par les séries et les romans de science-fiction – de surpasser ou de dépasser les « buts » pour lesquels ils étaient, en principe, programmés.
AlphaGo, logiciel d'intelligence artificielle développé par Alphabet/Google pour vaincre le champion du monde de Go (un jeu de société beaucoup plus complexe que les échecs), Lee Sedol, a non seulement battu le maître sud-coréen, faisant des mouvements apparemment absurdes, mais aussi, peu de temps après, il a été vaincu par sa nouvelle version, AlphaGoZero. La nouveauté d'AlphaGoZero par rapport à son prédécesseur est qu'il a appris de nombreuses astuces et techniques des grands joueurs de Go jouant des millions de jeux contre lui-même, ne recevant que le tableau blanc et les règles du jeu. Cette technique d'apprentissage dans laquelle la machine se passe d'exemples concrets, apprenant à résoudre de manière autonome des problèmes complexes, représente sans doute un grand pas vers l'inconnu de ses facultés cognitives (Knight, 2017). Et des ressources comme celle-ci peuvent être utilisées dans différents secteurs de la société, ce qui nous amène à la deuxième caractéristique listée ici : la facilité avec laquelle certaines applications d'intelligence artificielle peuvent être transposées d'un contexte à un autre, en se détachant de leur usage d'origine.
L'application FindFace, développé par Alexander Kabakov, permettait aux utilisateurs de faire le télécharger de photos d'inconnus et comparez-les avec toutes les images partagées sur le réseau social russe Vkontakte, passant au crible des milliards d'entre eux en moins d'une seconde. Une fois emballés et mis à la disposition du public, les appli il était déjà utilisé par un photographe pour identifier des inconnus dans le métro de Moscou et aussi par un groupe de sexistes misogynes pour harceler et harceler les travailleuses du sexe. Kabakov a fini par signer un contrat avec la municipalité de Moscou pour que son algorithme de reconnaissance faciale soit utilisé dans 150.000 2017 caméras de surveillance dans toute la ville (Greenfield, XNUMX).
En effet, les applications d'intelligence artificielle telles que FindFace de Kabakov se sont avérés très efficaces pour servir l'autoritarisme dans le monde entier. Leur grand avantage par rapport aux moyens traditionnels de coercition et d'intimidation est qu'ils sont silencieux et permettent donc un type de domination beaucoup plus large et plus systématique. Si un gouvernement autoritaire veut réprimer l'opposition, il n'est plus nécessaire de mobiliser un large contingent de forces de police armées jusqu'aux dents. Outre les coûts et les risques encourus, l'efficacité de ces moyens se heurte aux limites biologiques du corps humain – même si, comme le rappelle Crary (2014), les surmonter est l'un des objectifs du capitalisme néolibéral 24/7.
L'être humain a faim et soif : ses réserves énergétiques sont limitées. Les systèmes automatisés d'intelligence artificielle sont implacables et omniprésents, produisant un changement de comportement et créant un effet inhibiteur important même en l'absence de violence physique. Appliqué aux grandes villes, le langage des algorithmes est celui de la surveillance, du contrôle préventif et de la détection évolutive d'anomalies. Sachant qu'ils sont surveillés, sachant que les algorithmes de détection de clusters en temps réel - qui déterminent quand un groupe plus important de personnes s'est formé - sont utilisés par les gouvernements ou même que les robots l'intelligence artificielle parcourt leurs informations à la recherche de messages critiques à l'égard du régime, les gens se sentiront fortement obligés de se conformer (Feldstein, 2019).
Le rôle des nouvelles technologies dans la surveillance étatique fait débat depuis un certain temps maintenant, du moins depuis qu'Edward Snowden a révélé, en 2013, les mécanismes de surveillance globale employés par la NSA (National Security Agency) Nord Américain. On sait aussi comment les réseaux sociaux tels que Facebook et Twitter ont contribué à la montée de l'autoritarisme et à l'émergence de nouveaux populismes de droite à travers le monde, comme en témoignent les performances de Cambridge Analytica dans le Brexit et dans l'élection de Donald Trump en 2016. Bien qu'il existe des mécanismes juridiques avec lesquels les démocraties libérales occidentales peuvent faire face à de tels abus, imposant des réglementations et des amendes aux grandes plateformes ou adoptant des lois pour protéger les données personnelles, il n'est pas difficile d'imaginer, malgré les discours contraires, que les gouvernements démocratiques cèdent à la tentation d'utiliser les technologies de l'intelligence artificielle pour violer les droits des citoyens. Et, bien qu'ils aient mis en place des "mécanismes de transparence", comme la vérification des informations, il est difficile de croire que les plateformes numériques et les réseaux sociaux prennent un virage radical vers la démocratie, puisque le modèle de surveillance et d'extraction de données est le noyau et la raison d'être être de son entreprise.
De plus, il y a ici une composante géopolitique pertinente, qui sera fondamentale pour dicter l'orientation de la technologie dans les années à venir. En Chine, deuxième puissance économique mondiale et leader mondial de la révolution 5G, l'utilisation de l'intelligence artificielle fait partie d'un système de contrôle plus large qui sous-tend le Parti communiste chinois. Là, l'union des grandes entreprises technologiques - Alibaba, Tencent et Baidu, le grandes technologies dominant dans le géant asiatique, unique parmi les entreprises concurrentes de la Silicon Valley – avec l'État, il est d'une telle ampleur qu'il n'a pas d'équivalent dans le monde occidental. Outre les méthodes « plus traditionnelles » de coercition et de surveillance numérique, utilisées par exemple pour réprimer la minorité musulmane ouïgour dans la province du Xinjiang – télévision en circuit fermé avec caméras équipées de reconnaissance faciale reliée à des renifleurs Wi-Fi, qui filtrent les contacts, les e-mails et les photos et vidéos sur les réseaux sociaux – la Chine met en place un véritable système national de crédit social orwellien, où les les réputations sont marquées et ceux qui ne « marchent pas » (commérer, traverser la mauvaise rue ou même avoir un jardin en désordre) peuvent voir leurs chances d'obtenir un emploi ou même d'aller dans une bonne école compromises. Compte tenu du projet grandiose de la Nouvelle Route de la Soie, symbole de son ambition de défier l'ordre libéral occidental, la Chine devrait élargir son rayon d'influence, en exportant ses modèles de gouvernance vers d'autres pays ; et, en fait, ceux-ci sont déjà utilisés dans des endroits aussi divers que le Zimbabwe, la Malaisie ou Singapour (Feldstein, 2019).
* André Campos Rocha est doctorante en sciences sociales à la PUC-MG.
Références
ADORNO, Théodore; HORKHEIMER, Max. Dialectique des Lumières : fragments philosophiques. Rio de Janeiro : Jorge Zahar, 1985.
BARBROOK, Richard; CAMERON, Andy. L'idéologie californienne. 1995. Disponible sur: http://www.comune.torino.it/gioart/big/bigguest/riflessioni/californian_engl.pdf.
BENT, Anna. La gestion algorithmique de l'attention : accrocher, connaître et persuader. Dans : POLIDO, Fabricio ; ANJOS, Lucas ; BRANDÃO, Luiza (org.). Politique, Internet et Société. Belo Horizonte : Institut de Référence Internet et Société, 2019.
BUCCI, Eugène. La surindustrie de l'imaginaire : comment le capital transforme le regard en travail et s'approprie tout ce qui est visible. Belo Horizonte : Authentique, 2021
CARRR, Nicolas. Les eaux peu profondes : ce qu'Internet fait à notre cerveau. New York : WW Norton & Company, 2010.
CRARY, Jonathan. Capitalisme tardif et fin du sommeil. São Paulo : Cosac Naify, 2014.
DERAKHSHAN, Hossein. Sauvez Internet. PISEAGRAMME, Belo Horizonte, numéro 08, pages 52 – 55, 2015.
DIJCK, José van; POELL, Thomas; WAAL, Martijn de. La société plateforme. New York : Oxford University Press, 2018.
HAN, Byung Chul. société de la fatigue. Petrópolis, RJ : Voix, 2017.
VERT, Adam. Technologies radicales : le design du quotidien. Londres: Verse Books, 2017.
FELDSTEIN, Steven. Comment l'intelligence artificielle transforme la répression. 2019. Disponible sur : https://medium.com/funda%C3%A7%C3%A3o-fhc/como-a-intelig%C3%AAncia-artificial-est%C3%A1-transformando-a-repress%C3%A3o-c1bdba0bbacf.
CHEVALIER, Will. AlphaGo Zero montre que les machines peuvent devenir surhumaines sans aucune aide. 2017. Disponible sur: https://www.technologyreview.com/2017/10/18/148511/alphago-zero-shows-machines-can-become-superhuman-without-any-help/.
MLUHAN, Maréchal. Le voyant est le message. Un inventaire des effets. New York : Livres Bantam, 1967.
TÜRCKE, Christoph. Société excitée : philosophie de la sensation. Campinas, SP : Éditeur d'Unicamp, 2010.
