Par EUGENIO BUCCI*
Une trêve de six mois dans la recherche sur l'IA ne résoudra rien. Regardez avec tendresse et compassion le monde qui vous entoure, car il disparaîtra dans un soupir.
Au cours des dernières semaines, l'historien israélien Yuval Noah Harari a écrit quelques articles affirmant que l'intelligence artificielle (IA) a « piraté » le « système d'exploitation » de l'espèce humaine. C'est une métaphore : « système d'exploitation » signifie ici langage. La machine a finalement pris le contrôle de nos formes d'expression et de communication - et le danger qu'elle représente est sans précédent, colossal, plus grand que tout ce que nous avons connu auparavant.
Yuval Noah Harari tisse des arguments avec une clarté irrésistible. Auteur de best-sellers mondiaux tels que Homo Sapiens (publié au Brésil par Companhia das Letras), a le don de rendre certains des dilemmes les plus atroces de notre temps acceptables, accessibles et même engageants. Le premier des articles, initialement publié dans The New York Times, a été traduit dans les journaux et sites brésiliens.
Peu de temps après, l'écrivain a mené une pétition transnationale appelant à une trêve de six mois dans la recherche sur l'intelligence artificielle. Puis, il revient à la charge avec un nouveau texte, cette fois dans l'hebdomadaire anglais The Economist (28 avril), publié en portugais sur le site la terre est ronde, avec le même message : une technologie capable de s'emparer du langage humain a tout pour encombrer toute l'humanité.
L'argument avance. Tous les mythes, toutes les religions et toutes les cultures qui existent ou ont existé sur la face de la Terre ne sont pas faits d'acides aminés ou de chromosomes, mais de signes linguistiques. Ces signes sous-tendent le « système d'exploitation » de nos systèmes religieux, notre expression artistique et notre identité – ils sont le tissu de notre conscience. Bientôt, logiciels e matériel qui s'approprie ce « système » pourra nous gouverner. C'est pourquoi, de l'avis de nombreuses personnes bien informées, l'intelligence artificielle est à égalité avec les armes nucléaires en termes de potentiel destructeur.
Mais ce n'est même pas la moitié de la messe de requiem qui vient de commencer. Si nous regardons la question de front, nous remarquerons que Yuval Harari aurait pu en dire plus qu'il ne l'a fait. Le développement de l'appel machine learning, Je le Big Data et les équipements auto-programmables suivent un cours imparable. Aucun soussigné ne peut l'arrêter. Le point de non-retour est peut-être déjà derrière nous.
Pour comprendre l'irréversibilité du processus technologique, il est bon de rappeler cet autre processus, le juridique, tel que le décrit Franz Kafka. Indépendamment de l'existence ou non de preuves, le complot judiciaire avançait, sans que personne ne puisse l'arrêter. La technologie, comme le droit, est une création humaine. Contrairement à la loi, cependant, elle se renforce à mesure qu'elle se déshumanise et se libère des gens.
Martin Heidegger a ressenti quelque chose de similaire lorsqu'il a parlé du pouvoir de la technologie dans la première moitié du XXe siècle. Trois cents ans auparavant, Thomas Hobbes notait que l'État, possédé par le monstre Léviathan, ferait ce qu'il voudrait, contre n'importe qui. Le sentiment que l'ingéniosité humaine fabrique des « monstres » qui mènent une vie propre n'est pas nouveau. Adam Smith a imaginé une telle "main invisible" tirant les ficelles du marché. Karl Marx a décelé un « sujet automatique » caché dans un recoin entre la marchandise et le capital.
La réalité leur a donné raison. La bureaucratie que Max Weber considérait avec un brin d'optimisme se dégrada bientôt en stalinisme et dévora ses parents, comme pour confirmer la malédiction du roman. Frankenstein, de 1818, dans lequel Mary Shelley dépeint la créature qui subjugue le créateur. Dans les tragédies de la Grèce antique, la fatalité qui n'avait pas de gouvernement s'appelait le destin. Dans les temps modernes, vous pouvez l'appeler l'inconscient. La pensée comprend même ce qu'elle contemple, mais elle n'a aucun moyen de l'empêcher.
Et nous voilà face à face avec l'intelligence artificielle. La possibilité de l'apprivoiser est mince. Elle a accompli l'exploit de soustraire le langage humain au domaine des locuteurs de chair et d'os. Elle, la langue, qui ne pouvait exister qu'à travers nous, va désormais pouvoir vivre au-delà de nous. Ne sous-estimons pas la taille de ce petit pas qui sera un grand bond en avant pour la technologie. Le linguiste Ferdinand de Saussure enseignait que celui qui invente une langue et la met en circulation en perd le contrôle. Bientôt, nous pourrions perdre le contrôle des machines qui ont appris à parler la langue qui était la nôtre seule.
L'intelligence artificielle automatise les protocoles d'origine humaine et en extrait des prédictions efficaces, à des échelles de plus en plus rapides et gigantesques. Il grandit et se complexifie au sein du bunkers privé et opaque grandes technologies – ou à l'intérieur des secrets d'État les mieux gardés, eux aussi opaques. Il n'existe actuellement aucune force politique capable de briser simultanément ces deux opacités. Non, une trêve de six mois ne résoudra rien. Nos chances sont minces.
Regardez avec tendresse et compassion le monde qui vous entoure, car il disparaîtra dans un soupir.
* Eugène Bucci Il est professeur à l'École des communications et des arts de l'USP. Auteur, entre autres livres, de L'incertitude, un essai (authentique).
Initialement publié dans le journal L'État de São Paulo.
la terre est ronde existe grâce à nos lecteurs et sympathisants.
Aidez-nous à faire perdurer cette idée.
CONTRIBUER
