Par SERGIO AMADEU DA SILVEIRA*
La catastrophe algorithmique et le cloud « black-out »
1.
La sociologie de la modernité a produit un ensemble de réflexions qui méritent d’être approfondies, surtout en ces temps de vagues réactionnaires qui coexistent et se nourrissent de la montée des technologies qui se proposent de servir d’intermédiaire dans toutes les activités humaines. Le sociologue Ulrich Beck à Société du risque, publié en Allemagne en 1986, avertissait que les risques et les incertitudes étaient devenus centraux dans les sociétés modernes guidées par le progrès technologique et industriel.
Ulrich Beck a déjà souligné que ces risques seraient de plus en plus invisibles et que leur perception serait façonnée par les institutions scientifiques et les médias. La dynamique du risque serait intégrée et la recherche constante des responsables et des coupables des catastrophes nous conduirait à une certaine politique soutenue par la gestion des risques.
La perception d'Ulrich Beck est on ne peut plus réaliste, puisque les technologies numériques ont dominé l'économie et que les grandes entreprises qui les contrôlent et commandent leur développement ont imposé un style de gestion des risques. Le philosophe Yuk Hui a ouvert son texte Catastrophe algorithmique – la revanche de la contingence, 2020, les catastrophes technologiques ne sont pas de simples échecs matériels, mais des échecs de la raison. S'inspirant de Paul Virilio, Yuk Hui considère les systèmes technologiques contemporains comme porteurs de catastrophes et de techniques permettant d'atténuer les tragédies mêmes que leurs dynamiques et leurs objectifs génèrent.
Les catastrophes sont inévitables en raison de la nature même de l’automatisation et des technologies d’automatisation. Nos systèmes évoluent vers l'utilisation croissante de solutions d'intelligence artificielle basées sur des statistiques et des probabilités converties en systèmes algorithmiques qui fonctionnent à partir d'une gigantesque puissance de calcul, générant des modèles utilisés pour automatiser les activités et leurs risques.
Norbert Wiener, dans le texte Quelques conséquences morales et techniques de l'automatisation, publié en mai 1960 dans le magazine Science, a déclaré que les machines pouvaient développer des stratégies imprévues, car elles étaient dotées d'algorithmes d'apprentissage, qui ne pouvaient pas toujours être compris et suivis par leurs programmeurs.
2.
Ce qui s’est passé les 18 et 19 juillet 2024 est un exemple de catastrophe algorithmique. Le système de gestion des risques, plus précisément l’atténuation des cyberattaques, a échoué. Une erreur dans la mise à jour du logiciel de la société de cybersécurité CrowdStrike appliquée au système d'exploitation de Microsoft a généré ce que la presse mondiale a appelé une cyber-panne numérique. Un message de Microsoft sur l'ancien Twitter, désormais X, disait : « Nous sommes conscients d'un problème avec les PC Cloud Windows 365 causé par une récente mise à jour du logiciel CrowdStrike Falcon Sensor. »
Tout système numérique intègre d’une manière ou d’une autre la tentative de détecter et de contenir les erreurs, les pannes, les attaques, autrement dit les risques et les incidents. Il existe donc d’autres systèmes algorithmiques qui fonctionnent en permanence pour analyser les pannes, les erreurs et les attaques. Les antivirus sont un exemple d'action préventive visant à protéger un système contre l'envoi de fichiers malveillants susceptibles de détruire des informations et même de crypter une base de données pour obtenir une rançon des criminels qui détiennent la clé permettant de déchiffrer les informations. Il est intéressant de noter que le problème qui s’est produit et appelé « black-out » s’est produit lorsque le système de protection ou de prévention des attaques a fini par promouvoir une attaque contre le système censé se défendre.
Anthony Giddens et Ulrich Beck ont écrit qu’à la fin de la modernité, les risques sont en grande partie produits par la société elle-même, principalement par la technologie, l’industrialisation et la mondialisation. Cependant, nous sommes depuis longtemps dans une modernité tardive, nous sommes dans un système capitaliste pourrissant. Le rêve du capitaliste est dystopique et cherche à remplacer à l'extrême le travail humain par des systèmes automatisés dans le but de réduire les coûts et d'augmenter la qualité et la précision des services et des produits en augmentant la productivité.
Ainsi, dans le capitalisme contemporain, les grandes entreprises technologiques progressent dans la collecte incessante de données pour améliorer l’extraction de modèles à partir des processus humains, sociaux et machiniques. Cependant, ce rêve a des conséquences socio-techniques qui ne sont pas prévisibles et ne peuvent être contrôlées.
Il est important de souligner ici que les risques se conjuguent avec des objectifs qui les augmentent, parmi lesquels la recherche de domination du marché promue par les oligopoles numériques, appelés Big Tech. Au cours de la première décennie du 21e siècle, le modèle économique basé sur le cloud computing s'est répandu, accélérant la concentration de la puissance de calcul et du stockage de données et, par conséquent, élargissant la concentration économique.
À quoi ressemble le secteur du cloud ? Que signifie l'expression « mes données sont dans le cloud » ? Le cloud est une métaphore de l'activité de stockage et de traitement des données et des systèmes situés dans les centres de données accessibles à distance via Internet. Comme le dit la plaisanterie « le cloud, ce sont les ordinateurs des autres ».
Quelques entreprises se sont spécialisées et ont fini par dominer le secteur de l'approvisionnement en cloud. Amazon Web Server et Microsoft Azure détenaient, en 2021, 60 % du marché mondial du cloud proposant une infrastructure en tant que service. Qu'est-ce que cela signifie. Que plusieurs entreprises, institutions et gouvernements ont remplacé leurs propres infrastructures locales de traitement et de stockage de données par des contrats avec Amazon et Microsoft pour « s'occuper » et « louer » de l'espace de stockage de données et des services informatiques.
Les coûts de contrats cloud pour les entreprises et les gouvernements étaient attractifs. Cela a conduit à une croissance gigantesque sur ce marché. La conséquence fut une plus grande concentration économique.
Selon Gartner Group, la concentration sur le marché de l'infrastructure cloud en tant que service (IaaS) était la suivante en 2023 : Amazon en détenait 39 %, Microsoft 23 %, Google 8,2 %, Alibaba 7,9 %, Huawei 4,3 %. Ces cinq sociétés dominaient 82,4 % du marché mondial du cloud. De plus, ce scénario s'aggrave en raison de la formation de grands modèles de langage, les LLM, qui nécessitent de nombreux ordinateurs disponibles dotés d'une capacité de traitement ou d'une puissance de calcul très élevées. Par conséquent, l’intelligence artificielle générative basée sur l’extraction de modèles à partir de grandes quantités de données contribue à la concentration de la puissance de calcul qui implique une puissance économique.
3.
Le jour de la panne, de nombreuses entreprises sont allées accéder à leurs applications et systèmes dans le cloud Microsoft et se sont retrouvées confrontées au fameux écran bleu, signifiant que le système d'exploitation ne pouvait pas fonctionner. De nombreuses personnes disposant de Microsoft 365 avaient également accès à leurs fichiers verrouillés. Microsoft 365 est comme un service d'abonnement qui permet aux utilisateurs d'accéder à la suite Office et à d'autres services via Internet, au lieu de les installer localement sur leurs propres machines.
Cela signifie que les données et fichiers des utilisateurs sont stockés dans le cloud Microsoft, leur permettant d'accéder à leurs documents et informations depuis n'importe où disposant d'une connexion Internet. Sauf lorsque l’entreprise qui propose le service subit une panne, une attaque ou des blocages, intentionnels ou non.
La panne a démontré le pouvoir gigantesque d’un médiateur des relations numériques et d’un opérateur informatique comme Microsoft. Sans aucun doute, la panne involontaire a provoqué la panne. Mais il est clair que Microsoft a le pouvoir d'empêcher les entreprises et les institutions d'accéder à leurs propres données situées sur leur ordinateur. les centres de données, loin de notre juridiction et de notre capacité à y accéder physiquement.
On a là un problème de souveraineté numérique. Les dirigeants de l’État brésilien doivent évaluer les risques liés à la poursuite de l’hébergement de leurs données stratégiques et de l’utilisation quotidienne de logiciels dans des infrastructures situées en dehors de notre pays. Nos universités doivent débattre s'il ne serait pas indispensable de conserver leurs données de communication et de recherche dans des infrastructures installées dans notre pays, dans notre juridiction et soumises à nos comités d'éthique. L’autonomie nécessaire au développement passe de plus en plus par la souveraineté numérique.
*Sergio Amadeu da Silveira est professeur à l'Université fédérale d'ABC. Auteur, entre autres livres, de Colonialisme des données : comment opère la tranchée algorithmique dans la guerre néolibérale (Autonomie littéraire) [https://amzn.to/3ZZjDfb]
Références
BECK, Ulrich ; GIDDENS, Antoine ; CILS, Scott. La réinvention du politique : vers une théorie de la modernisation réflexive. Presse universitaire de Stanford, 1994.
BECK, Ulrich. société du risque. São Paulo : Editora 34, 2010.
GARTNER affirme que les revenus mondiaux des services de cloud public IaaS ont augmenté de 16.2 % en 2023
STAMFORD, Connecticut, 22 juillet 2024. Lien : https://www.gartner.com/en/newsroom/press-releases/2024-07-22-gartner-says-worldwide-iaas-public-cloud-services-revenue-grew-16-point-2-percent-in-2023
HUI, beurk. Catastrophe algorithmique. La revanche de la contingence. Parrhesia : un journal de philosophie critique, nf. 34, 2020.
WIENER, Norbert. Quelques conséquences morales et techniques de l'automatisation : à mesure que les machines apprennent, elles peuvent développer des stratégies imprévues à un rythme qui déroute leurs programmeurs. Science, v. 131, non. 3410, p. 1355-1358, 1960.
la terre est ronde il y a merci à nos lecteurs et sympathisants.
Aidez-nous à faire perdurer cette idée.
CONTRIBUER
