Par SLAVEJ ŽIŽEK*
Le développement de l'Intelligence Artificielle conduira à la fin du capitalisme tel que nous le connaissons
La lettre ouverte de l'institut L'avenir de la vie Exiger une pause de précaution de six mois dans le développement de l'intelligence artificielle a déjà été signé par des milliers de personnalités de haut rang, dont Elon Musk. Les signataires craignent que les laboratoires d'IA ne soient "enfermés dans une fuite en avant" pour développer et mettre en œuvre des systèmes de plus en plus puissants que personne - y compris leurs créateurs - ne peut comprendre, prédire ou contrôler.
Qu'est-ce qui explique l'explosion de panique d'un certain secteur des élites ? Le contrôle et la régulation sont évidemment au cœur de l'histoire. Mais par qui ? Pendant la pause semestrielle proposée, quand l'humanité pourra faire le point sur les risques, qui la défendra ? Étant donné que les laboratoires d'intelligence artificielle en Chine, en Inde et en Russie continueront de fonctionner (éventuellement en secret), un débat public mondial sur le problème est inconcevable.
Malgré cela, nous devons considérer ce qui est en jeu ici. Dans son livre de 2015, Homo Deus, l'historien Yuval Harari a prédit que la conséquence la plus probable de l'intelligence artificielle serait une division radicale - bien plus forte que la division de classe - au sein de la société humaine. Très bientôt, la biotechnologie et les algorithmes informatiques s'associeront dans la production de "corps, de cerveaux et d'esprits", entraînant un écart grandissant "entre ceux qui savent développer des corps et des cerveaux et ceux qui ne le savent pas". Dans ce monde, "ceux qui ont pris le train du progrès acquerront des capacités divines de création et de destruction, tandis que ceux qui resteront seront voués à l'extinction".
La panique que reflète la lettre sur l'intelligence artificielle fait partie de la crainte que même ceux qui sont sur le "train du progrès" ne soient pas en mesure de le monter. Nos maîtres féodaux numériques contemporains ont peur. Ce qu'ils veulent, cependant, ce n'est pas un débat public, mais un accord entre les gouvernements et les entreprises technologiques pour maintenir le pouvoir à sa place.
L'expansion massive des capacités de l'intelligence artificielle est une menace sérieuse pour ceux qui sont au pouvoir, y compris ceux qui développent, possèdent et contrôlent l'intelligence artificielle. Il ne pointe rien de moins que la fin du capitalisme tel que nous le connaissons, qui se manifeste dans la perspective d'un système d'Intelligence Artificielle auto-reproducteur qui nécessitera de moins en moins entrées d'agents humains (le commerce algorithmique sur le marché n'est qu'un premier pas dans cette direction). Le choix qui nous reste sera entre une nouvelle forme de communisme et un chaos incontrôlable.
Le nouveau Chatbots offrira à de nombreuses personnes seules (ou moins seules) des soirées interminables de conversation amicale sur les films, les livres, la cuisine ou la politique. En réutilisant une de mes vieilles métaphores, ce que les gens auront, c'est la version Intelligence Artificielle du café décaféiné, du soda sans sucre : un voisin amical sans sombres secrets, un Autre qui s'adaptera simplement à vos besoins. Il y a là une structure de déni fétichiste : « Je sais très bien que je ne parle pas à une personne réelle, mais j'ai l'impression de le faire – et sans aucun des risques que cela comporte !
En tout cas, un examen attentif de la lettre sur l'Intelligence Artificielle montre que nous assistons à une énième tentative d'interdire l'impossible. C'est un vieux paradoxe : il nous est impossible, en tant qu'humains, de participer à un futur posthumain, nous devons donc interdire son développement. Pour s'orienter face à ces technologies, il faut se poser la vieille question de Lénine : Liberté pour qui faire quoi ? Dans quel sens étions-nous libres auparavant ? N'étions-nous pas déjà beaucoup plus contrôlés que nous ne le pensions ? Plutôt que de nous plaindre de la menace qui pèse sur notre liberté et notre dignité à l'avenir, peut-être devrions-nous plutôt réfléchir à ce que signifie la liberté aujourd'hui. Jusqu'à ce que nous fassions cela, nous agirons comme des hystériques qui, selon le psychanalyste français Jacques Lacan, recherchent désespérément un maître, mais un maître que nous pouvons maîtriser.
Le futuriste Ray Kurzweil prédit qu'en raison de la nature exponentielle du progrès technologique, nous devrons bientôt faire face à des machines "spirituelles" qui non seulement démontreront tous les signes de conscience de soi, mais dépasseront de loin l'intelligence humaine. Cependant, il ne faut pas confondre cette position « post-humaine » avec le souci paradigmatiquement moderne de conquérir une domination technologique totale sur la nature. Ce à quoi nous assistons, au contraire, est un renversement dialectique de ce processus.
Les sciences « post-humaines » d'aujourd'hui ne recherchent plus la domination. Sa conviction est la surprise : quel type de propriétés émergentes, contingentes et imprévues les modèles d'Intelligence Artificielle « boîte noire » acquerront-ils ? Personne ne le sait, et c'est le frisson – ou, vraiment, la banalité – de toute cette entreprise.
Ainsi, en ce début de siècle, l'ingénieur-philosophe français Jean-Pierre Dupuy décèle dans la nouvelle robotique, la génétique, les nanotechnologies, la vie artificielle et l'Intelligence Artificielle une étrange inversion de l'arrogance anthropocentrique traditionnelle que permet la technologie : « Comment expliquer que la science est devenue une activité tellement « risquée » que, selon certains scientifiques de haut niveau, elle est aujourd'hui la principale menace pour la survie de l'humanité ? Certains philosophes répondent à cette question en disant que le rêve de Descartes – « devenir le maître et le possesseur de la nature » – a mal tourné, et qu'il est urgent de revenir au « domaine du domaine ». Ils n'ont rien compris. Ils ne voient pas que la technologie qui se dessine à notre horizon par la « convergence » de toutes les disciplines vise précisément la non-domination. L'ingénieur de demain ne sera pas apprenti sorcier par négligence ou ignorance, mais par choix.
L'humanité est en train de créer son propre dieu ou démon. Bien que le résultat ne puisse être prédit, une chose est certaine. Si quelque chose comme cette « post-humanité » émerge comme un fait collectif, notre vision du monde perdra ses trois sujets déterminants et qui se chevauchent : l'humanité, la nature et la divinité. Notre identité en tant qu'humains ne peut exister que dans le contexte d'une nature impénétrable, mais si la vie devient quelque chose qui peut être complètement manipulé par la technologie, elle perdra son caractère « naturel ». Une existence parfaitement maîtrisée est une existence dépourvue de sens, sans parler du hasard et du charme.
Il en va de même, bien sûr, pour tout sens du divin. L'expérience humaine de « dieu » n'a de sens que du point de vue de la finitude et de la mortalité humaines. Quand nous devenons homo deus et que nous créons des propriétés qui semblent être "surnaturelles" de notre ancien point de vue humain, les "dieux" tels que nous les connaissons disparaîtront. La question est de savoir ce qui restera, le cas échéant. Allons-nous adorer les intelligences artificielles que nous avons créées ?
Nous avons toutes les raisons de craindre que les visions techno-gnostiques d'un futur post-humain ne soient des fantasmes idéologiques obscurcissant l'abîme qui nous attend. Inutile de dire qu'il faudra bien plus qu'une pause de six mois pour s'assurer que les humains ne deviennent pas inutiles et que leur vie n'a pas de sens dans un avenir pas trop lointain.
*Slavoj Žizek, professeur de philosophie à l'European Graduate School, il est directeur international du Birkbeck Institute for the Humanities de l'Université de Londres. Auteur, entre autres livres, de Pour la défense des causes perdues (Boitetemps).
Traduction: Daniel Pavan.
Initialement publié sur le portail Project Syndicate.
Le site A Terra é Redonda existe grâce à nos lecteurs et sympathisants.
Aidez-nous à faire perdurer cette idée.
Cliquez ici et découvrez comment
