Par EUGENIO BUCCI*
Si les processus décisionnels des sociétés démocratiques sont détournés par l’ignorance fabriquée par l’intelligence artificielle, l’humanité sera sérieusement menacée.
À la fin de la semaine dernière, nous avons eu encore un autre reportage sur l’utilisation sombre des technologies lumineuses. Cette fois, un gang a utilisé des outils de faux profond pour réaliser un coup d'État d'un million de dollars, qui a été un grand succès. Faux profond, comme vous le savez bien, est le nom donné à ces vidéos truquées qui semblent aussi authentiques que le discours métallique des présentateurs du journal télé. Revue nationale. Ce sont des vidéos frauduleuses, mais si délicieusement frauduleuses, si claires qu’elles donnent des images crédibles, fiables, parfaites et irréfutables d’événements qui ne se sont jamais produits.
Ils sont partout. Sur l'écran de leur téléphone portable, des célébrités prononcent des phrases qu'elles n'ont pas prononcées dans le monde réel, sans parler des personnalités publiques qui se livrent à des gestes orgiaques qui – heureusement ou malheureusement – n'ont jamais vraiment existé. Ce qui se passe maintenant, c'est que les mêmes ressources illusionnistes ont convaincu un employé du secteur financier d'une multinationale à Hong Kong que son patron, par téléconférence, avait ordonné le transfert immédiat de 25,6 millions de dollars vers un compte inconnu. Le gars a obéi, la fortune s'est envolée et la police locale recherche les dégâts et les voleurs. Il semblerait que certaines arrestations aient déjà eu lieu.
Vous pensez peut-être que cela ne suffit pas. Peut-être que tu diras qu'il n'y a rien de surprenant dans un crime technologie de pointe et que puisque le monde est sale, les mauvaises actions nécessitent les services d'innovations, qu'il s'agisse d'un morceau de pierre taillée, d'un curare, d'une machine à écrire ou, plus couramment, du smartphone. Il serait néanmoins prudent d’examiner un autre épisode, celui-ci un peu plus intrigant.
En décembre, un robot a attaqué un ingénieur sur la chaîne de montage d'une usine de Tesla aux États-Unis. La machine a même enfoncé ses griffes d'acier dans le bras de l'être humain sans méfiance. Les explications sont venues de manière biaisée, à contrecœur et, jusqu’à présent, des doutes subsistent sur ce qui s’est passé et comment. Que s'est-il passé là-bas ? Était-ce une erreur de programmation ? Si l’hypothèse est vraie, le monstre lubrifié n’était pas au service d’un criminel sans scrupules, mais aurait agi de son propre chef, comme s’il disposait d’un libre arbitre, ou, à tout le moins, d’un arbitraire insensé. En fait, c’est plus intrigant.
Imaginez maintenant une combinaison, ou un chevauchement, entre la première et la deuxième nouvelle. Imaginez un robot virtuel (un bot, comme on dit) qui commande la création d'images artificielles qui satisfont la soif de curiosité du public. Parfois, cet être immatériel travaillait sous les ordres d’êtres soi-disant humains.
D’autres fois cependant, grâce aux admirables prouesses de l’automatisation, notre être cybernétique serait capable, de manière autonome, de concevoir des prouesses époustouflantes, un peu comme l’algorithme Spotify, avec ses automatismes bien entraînés, est capable de choisir la musique que vous écouterez. ... ensuite, et faites les choses correctement. Imaginez alors un bot qui manipule le faux profond pour plaire aux rétines perverses des foules les plus en colère, qui se délectent de la souffrance de ceux à qui elles vouent leur haine la plus venimeuse et qui, au nom de leur haine inconditionnelle, prennent pour vérité définitive tout outrage qui confirme leurs préjugés et leurs défauts.
Avez-vous imaginé ? Maintenant, allez plus loin. C'est nécessaire. Le Forum économique mondial (WEF) est allé plus loin. En janvier, le Forum économique mondial a désigné la désinformation et les outils permettant de la diffuser comme le plus grand risque auquel l’humanité sera confrontée au cours des deux prochaines années. Ce risque est réel, insidieux et imminent au coin de votre maison. En 2024, plus de deux milliards d’électeurs seront appelés à décider du sort de 58 pays, dont la Russie, le Mexique, l’Inde ou encore les Etats-Unis. La moitié de la planète n’ira aux urnes qu’en 2024, la plus grande année électorale jamais vue, selon les statistiques. Si le mensonge industrialisé continue de causer les dégâts qu’il cause déjà, des désastres cumulatifs se produiront.
Il n'y a plus moyen de ne pas le voir. Si les processus décisionnels des sociétés démocratiques sont kidnappés par l’ignorance fabriquée par l’intelligence artificielle, l’humanité sera en effet sérieusement menacée. Le Forum mondial a raison, c'est indéniable. Pour l’instant, c’est vrai, on ne parle que d’un risque, mais ce risque n’a rien à voir avec une « petite grippe ». C'est réel. Si la désinformation triomphe, la démocratie engendrera son contraire et sera engloutie par lui. Et nous ne manquons pas de tests pratiques qui prouvent l’imminence du pire des cas. De nos jours, j’ai insisté là-dessus, la désinformation, c’est le pouvoir.
Les circuits électroniques et les médias numériques peuvent-ils servir au bien ? Oui, évidemment, ils le peuvent. Il y a la comptabilité des Campagnes de Fraternité, les consultations virtuelles de télémédecine, les modèles météo ultra-complexes. Chaque technique peut servir de bonnes causes. Mais si elle n’est pas gouvernée ou livrée aux caprices du capital, la technique anarchique nous mènera au pire des précipices. Des penseurs comme Günther Anders, qui comprenait les inversions des Lumières, pressentaient l’apparition de l’apocalypse produite par la technique. Mais ce qui arrive, si nous ne faisons rien, est encore plus étonnant.
* Eugène Bucci Il est professeur titulaire à l'École des communications et des arts de l'USP. Auteur, entre autres livres, de L'incertitude, un essai : comment nous pensons l'idée qui nous désoriente (et oriente le monde numérique) (authentique). [https://amzn.to/3SytDKl]
Initialement publié dans le journal L'État de São Paulo.
la terre est ronde existe grâce à nos lecteurs et sympathisants.
Aidez-nous à faire perdurer cette idée.
CONTRIBUER
