Par RAFAEL CARDOSO SAMPAIO*
Les entreprises qui contrôlent les données et l'infrastructure de l'IA profitent de la surveillance de masse et de l'automatisation prédatrice, tandis que les travailleurs perdent leur autonomie et leurs revenus
En 2023, l'économiste et professeur au MIT Daron Acemoglu, lauréat du prix Nobel pour le livre Pourquoi les nations échouent, a apporté au débat mondial une critique cinglante dans un autre ouvrage, intitulé Pouvoir et progrès : une lutte millénaire entre technologie et prospérité. Dans cet article, Daron Acemoglu et Simon Johnson soutiennent que la trajectoire actuelle de l’intelligence artificielle – marquée par des modèles de plus en plus grands, dépendants de données massives et orientés vers une automatisation sans discrimination – n’est pas un destin inévitable. Il s’agit d’un choix technologique, et les choix, comme nous le savons bien, peuvent être revisités.
Daron Acemoglu et Simon Johnson partent d’un postulat historique : les technologies sont façonnées par ceux qui détiennent le pouvoir. Dans le cas de l’IA moderne, le récit dominant, porté par des géants comme OpenAI, Google, Microsoft et Meta, tourne autour de la quête d’une « intelligence générale artificielle » – des machines capables de reproduire (et de remplacer) la cognition humaine. Cette vision, inspirée des idées d’Alan Turing, alimente un cercle vicieux de concentration du pouvoir. Les entreprises qui contrôlent les données et l’infrastructure de l’IA – comme les fournisseurs de cloud et les plateformes Big Tech – profitent de la surveillance de masse et de l’automatisation prédatrice, tandis que les travailleurs perdent leur autonomie et leurs revenus.
Être à la pointe de l’innovation en intelligence artificielle étant l’objectif à tout prix, ces entreprises dépensent des sommes gigantesques de ressources, tant en termes de ressources humaines que de ressources informatiques, ce qui génère une série de problèmes connexes. Des modèles comme GPT-4 consomment des quantités gigantesques d’énergie et coûtent des millions de litres d'eau pour refroidir leurs serveurs pour des tâches triviales, comme reconnaître des chats sur des photos ou générer des textes superficiellement cohérents, comme le citent les auteurs du livre. Parallèlement, les applications socialement pertinentes – comme le diagnostic précoce de maladies rares ou l’adaptation des cultures au changement climatique – passent au second plan pour ces entreprises.
La récente sortie du modèle d’intelligence artificielle générative open source de la société chinoise DeepSeek a attiré l’attention du monde entier, frappant directement le cœur du capital financier et spéculatif. qui maintient une grande partie de la structure des Big Techs de la Silicon Valley. Le coup d’État a eu lieu précisément parce qu’il a démantelé les récits antérieurs de ce secteur.
Jusqu'au lancement du modèle R1 Chez DeepSeek, la croyance dominante était que le développement de modèles d’intelligence artificielle de pointe nécessitait des investissements astronomiques, d’immenses volumes de données et du matériel Nvidia de pointe pour un traitement informatique intensif, ce qui justifierait la nature exclusive et le secret industriel de ces technologies.
Bien qu'il s'agisse d'une entreprise dotée d'un budget et d'une équipe modestes par rapport aux géants de la Silicon Valley, DeepSeek a réussi à former son modèle d'intelligence artificielle à un coût nettement inférieur, en innovant dans les techniques de formation et en quelques mois seulement. Même sans les meilleures cartes de traitement, l'entreprise a développé un modèle qui rivalise avec les meilleurs produits d'OpenAI, Google et Anthropic. De plus, le laboratoire a innové en publiant le modèle ouvertement, permettant ainsi son utilisation et son traitement par toute personne intéressée sur des serveurs plus modestes.
Le succès de DeepSeek n’est pas seulement technique : il est politique. Il ne s’agit pas seulement d’une innovation technique, mais d’un manifeste pratique contre « l’illusion de l’intelligence artificielle », un terme inventé par les auteurs Daron Acemoglu et Simon Johnson pour décrire la croyance naïve selon laquelle des machines autonomes et superintelligentes apporteront automatiquement des avantages à la société.
Dans un article publié dans le journal The GuardianKenan Malik soutient également que l’impact de DeepSeek réside dans le fait d’avoir démystifié l’aura entourant l’intelligence artificielle. La Silicon Valley, selon l’auteur, a cultivé l’image de l’intelligence artificielle comme une réalisation précieuse et miraculeuse, présentant ses dirigeants comme des prophètes et la technologie comme possédant des pouvoirs presque magiques, y compris la promesse d’une « intelligence artificielle générale » (IAG). Cependant, Kenan Malik note que de telles affirmations découlent moins des possibilités technologiques que de la nécessité politique et économique, car le modèle économique de l'IA s'appuie sur le battage médiatique pour stimuler les investissements et influencer les politiques.
DeepSeek démontre qu’il est possible de résister au discours et au battage médiatique des Big Tech et de construire une intelligence artificielle qui sert les objectifs humains et non ceux des entreprises. Acemoglu et Johnson nous rappellent que la technologie est un miroir de valeurs : si nous privilégions l’utilité plutôt que l’intelligence artificielle, l’efficacité plutôt que la surveillance et la collaboration plutôt que l’automatisation, l’avenir sera radicalement différent. DeepSeek nous rappelle que nous pouvons encore changer le cours de l’innovation et qu’il existe d’autres options.
Et le Brésil dans cette histoire ?
Nous pourrions d’abord être tristes que le gouvernement fédéral n’ait pas pris au sérieux ce nouveau paysage technologique. S’il y avait eu une initiative là-bas, déjà en 2023, alors que ChatGPT impressionnait déjà le monde, ce serait certainement le pays qui exposerait son propre DeepSeek.
Mais cela ne sert à rien de verser des larmes sous la pluie. Ce changement indique également des pistes intéressantes, ainsi que des besoins urgents pour le Brésil. Deux problématiques ont particulièrement retenu l’attention de DeepSeek, au-delà de son innovation technologique.
Premièrement, bien qu'il soit gratuit, ses conditions de service permettent aux données des utilisateurs, y compris leurs interactions, d'être stocké en Chine et réutilisé pour former de futurs modèles. Deuxièmement, il a attiré l’attention pour son parti pris et, dans une certaine mesure, pour sa censure qui l’empêche d’aborder des questions sensibles pour le gouvernement chinois.
Ce qui est intéressant dans cette question, c’est que pratiquement tous les principaux modèles de langage, comme ChatGPT, Claude et Gemini, le font déjà. Leurs conditions de service indiquent clairement que les interactions des utilisateurs peuvent être utilisées pour former leurs modèles et que les données sont stockées sur des serveurs aux États-Unis. Comme toute technologie, ces modèles présentent plusieurs biais du point de vue de leurs programmeurs, qui sont généralement des hommes blancs, au pouvoir d’achat très élevé, qui vivent dans la Silicon Valley.
Par conséquent, toute question sur des concepts controversés, tels que la démocratie, le féminisme, l’égalité économique et bien d’autres, aura tendance à être biaisée par cette perspective, en plus, bien sûr, des biais déjà présents dans les données de formation, qui peuvent générer de nouvelles formes de discrimination.
Malgré cela, lorsqu’il est téléchargé et exécuté localement, DeepSeek n’applique pas de censure. Apparemment, il existe un deuxième système qui applique la censure uniquement à la version en ligne pour se conformer aux lois chinoises. Par conséquent, DeepSeek fonctionnera sans ces restrictions lors de son exécution locale.
Lorsque nous mettons toutes ces informations ensemble, nous pouvons dégager des actions à court et à long terme pour le Brésil. À très court terme, il est urgent que le gouvernement brésilien lance une réglementation sur la préservation des données stratégiques. Deux domaines requièrent une attention prioritaire : les données gouvernementales et les données scientifiques. Les données gouvernementales représentent l’un des atouts les plus précieux de tout gouvernement et impliquent souvent des décisions stratégiques, voire secrètes, du pays.
En toute bonne foi, en ce moment même, des centaines, voire des milliers de fonctionnaires téléchargent par inadvertance ces données sur ChatGPT et des sociétés similaires et transmettent cette valeur gratuitement aux grandes entreprises technologiques américaines (et maintenant chinoises !). À l’heure actuelle, il n’existe pas d’ordonnances ni de réglementations claires émanant du gouvernement fédéral dans son ensemble, exigeant une prudence particulière avec ces données. Il en va de même pour les autres pouvoirs.
De même, les universitaires répètent la même erreur avec les découvertes scientifiques de pointe. Cherchant à accroître leur productivité, nos scientifiques analysent des données, rédigent et révisent des textes en intelligence artificielle générative, livrant gratuitement ces données, fruit d'un important investissement financier et intellectuel, sans aucune compensation. Il n'existe actuellement aucune réglementation de la part des ministères de l'Éducation ou de la Science et de la Technologie, ni de la part des organismes de régulation et de promotion de la recherche, tels que le CAPES, le CNPq et autres.
C'est précisément pour cette raison que, dans un propre guide, Moi et d’autres collègues suggérons que la science adopte des modèles ouverts d’intelligence artificielle générale et qu’elle conserve ses données dans des nuages souverains, ce qui, en pratique, pourrait également être fait par des fonctionnaires. DeepSeek lui-même pourrait être utilisé pour cela, mais il existe déjà d'autres options sur le marché. Le gouvernement de l'État de Piauí est sur le point de libérer le Souveraineté, un modèle linguistique entièrement développé par l’État. Ainsi, la science et l’État brésiliens sont pleinement capables de créer leurs propres modèles.
A moyen et long terme, on connaît déjà la recette. Investissements. Les grandes lignes du Plan brésilien d’intelligence artificielle (PBIA) semblent être un bon début et les nouvelles qui sont venues de la récente « Conférence nationale sur la science, la technologie et l’innovation » sont tout aussi passionnantes, au point que nous pouvons penser à une nouveau tournant de la science brésilienne. Il semble donc que nous soyons sur la bonne voie.
Cependant, nous devons nous rappeler la leçon de DeepSeek. Faire plus pour moins, travailler avec des modèles ouverts et collaboratifs, échapper au battage médiatique des grandes technologies, développer des technologies utiles à nos besoins, comme nous le rappellent Daron Acemoglu et Simon Johnson. Ce n’est qu’à ce moment-là que nous pourrons parler et réfléchir efficacement à une souveraineté numérique effective.
*Rafael Cardoso Sampaio est professeur au Département de sciences politiques de l'Université fédérale du Paraná (UFPR).
Note
[1] Ce texte a été corrigé et amélioré avec l'aide de DeepSeek R1 puis dûment revu, enrichi et approprié par son auteur humain.
la terre est ronde il y a merci à nos lecteurs et sympathisants.
Aidez-nous à faire perdurer cette idée.
CONTRIBUER
