Par EUGENIO BUCCI*
Chaque jour, les humains perdent de leur pertinence. L’humain, humainement péjoratif, cesse d’être le protagoniste de son propre destin
Désormais, les petits panneaux sont partout. Les appareils intelligents prennent des décisions à la place des personnes en chair et en os. Dans la circulation, ce qui décide si vous allez tourner à gauche ou à droite, c'est un algorithme qui vous donne des ordres via l'écran électronique. Grâce à un système similaire, le chauffeur de taxi sait qui sera le passager et à quelle adresse il doit le récupérer. Personne n’y échappe.
Tout le monde est un peu chauffeur Uber : tout le monde, parfois plus, parfois moins, suit le relais de logiciels qui dirigent la routine des populations connectées. Le battement de cœur des anonymes, le trafic aérien, l’effervescence des marchés boursiers, le sentiment que les gens nous aiment ou ne nous aiment pas : tout passe par les chiffres. Ce que nous aimions autrefois appeler le « libre arbitre » a finalement été réduit à la volonté des machines.
Des signes, beaucoup de signes. L’électorat s’appuie sur les films Internet pour choisir pour qui voter. Il y a beaucoup de mensonges, nous le savons déjà. Au Brésil, le Tribunal électoral supérieur annonce que sa plus grande préoccupation est de contenir les appels deepfakes, ces scènes parfaites, impeccablement crédibles, dans lesquelles un candidat, devant les caméras, dit, toutes syllabes cachées, une phrase qu'il n'a jamais prononcée – tout un travail de cybernétique. Ce type de manipulation maléfique s'est répandu lors des élections en Argentine voisine, et des complications sont déjà prévisibles de ce côté de la frontière.
Dans la presse de tous les continents, les rédactions édictent des règles de conduite pour encadrer l’utilisation des outils d’Intelligence Artificielle par leurs professionnels. Les chances de succès sont minces. L’intelligence artificielle mine l’activité journalistique sans laisser à personne le temps de respirer. Elle nous régule de plus en plus, sans être régulée par nous.
Or, ces petits signes qui se multiplient partout nous montrent qu’une limite virtuelle a été placée – virtuellement seulement pour l’instant – à l’aventure humaine sur Terre. Chaque jour, les humains perdent de leur pertinence. L’humain, humainement péjoratif, cesse d’être le protagoniste de son propre destin. Pauvre humain. Le seul événement dans lequel elle joue encore un rôle prépondérant est le réchauffement climatique, dans sa tragédie finale, l'Anthropocène. A part ça, il lui restait un second rôle.
Au milieu des panneaux partout, le terme « transhumanisme » prend un nouvel élan, comme ça, sans trait d’union ni rien. Le mot, en anglais, est devenu connu au milieu du XXe siècle, mais il revêt désormais un rôle plus accrocheur. Elle a suscité des enthousiastes endurcis – ceux qui voient la technologie comme un raccourci pour perfectionner notre corps et notre esprit, dans le cadre d’une « réforme de la nature » qui finira par fonctionner. Le nom de « transhumanisme » apparaît dans toutes les réunions d'experts sur Internet, le monde numérique, machine learning et transmigration des âmes dans des nuages de métaux lourds.
C'est une « idéologie », disent-ils. Je dirais qu'il s'agit d'un fantasme totalisant, dont le corollaire est très simple : le anthropos, d'abord transformé en cyborg, doté d'un stimulateur cardiaque, d'une puce mémoire, d'un fémur trabéculaire en titane et d'un appareil auditif, succédera à des êtres programmés sur la base du génie génétique. La mutation chromosomique sera alors aussi anodine qu’une tasse de café à la boulangerie. Beaucoup de gens aiment le paysage.
Il y a quinze ans, précisément en 2008, dans l'un des cycles de conférences organisés par Adauto Novaes, j'ai donné une conférence sur ce sujet (« Ce dont l'humain est un instrument jetable : les sensations théoriques »).
A l’époque, les petits signes n’étaient pas encore partout, et mon discours sonnait encore plus catastrophiste que cet article. Il y a quinze ans, j’ai dit : « La nouvelle révolution technologique permettra d’apprivoiser le cancer. » Aujourd’hui, c’est incontestable : l’évolution biologique deviendra gérable et, dans un court laps de temps, les nouvelles générations de riches disposeront d’attributs physiques et cognitifs supérieurs à ceux des autres classes sociales. La différence de classe ne deviendra pas une « différence de compétition », mais une différence évolutive. Bien sûr, si tout se passe bien et s’il reste encore des vestiges de ce que nous étions autrefois dans les corps qui existeront après nous.
L’immortalité fait évidemment partie de l’horizon proche. Ray Kurzweil, ancien ingénieur chez Google qui s'est fait connaître grâce à ses prédictions tape-à-l'œil, a déclaré en mars que l'immortalité serait atteinte d'ici huit ans, grâce à des recherches combinant robotique, génétique et nanotechnologie. Et pour quoi? Depuis toujours, ce qui distingue les humains des dieux est l’atout sans précédent de la mortalité. Dès que nous l’aurons surmonté, l’espèce, ou ce qu’il en reste, n’aura laissé derrière elle rien de moins que sa condition humaine.
La nouvelle, bien qu’elle nous séduit comme l’apparition soudaine d’un mystère inaccessible, est donc horrifiante. Les nouvelles sont mauvaises. Imaginez qui seront les personnages, avec des cartes d'identité vieilles de 120 ans, se promenant dans des corps de dix-huit ans. Ceux-ci voteront pour toujours et financeront religieusement le deepfakes que le TSE voudrait désormais inhiber. Oui, la sélection naturelle est impitoyable, mais la sélection artificielle sera perverse.
* Eugène Bucci Il est professeur à l'École des communications et des arts de l'USP. Auteur, entre autres livres, de L'incertitude, un essai : comment nous pensons l'idée qui nous désoriente (et oriente le monde numérique) (authentique).
Initialement publié dans le journal L'État de São Paulo.
la terre est ronde existe grâce à nos lecteurs et sympathisants.
Aidez-nous à faire perdurer cette idée.
CONTRIBUER
