Par MARCOS PALACIOS*
Considérations sur le livre d'Isaac Asimov qui fête ses 75 ans.
Dans les années 40, le célèbre écrivain de science-fiction Isaac Asimov (1920-1992) a écrit une série de nouvelles mettant en vedette des robots dans leurs relations avec les êtres humains.
En 1950, il y avait Je robot (je vole), un recueil qui rassemble ces nouvelles et fête son 75e anniversaire.
Contrairement à ce qui se passe avec une grande partie de la littérature de science-fiction, qui a tendance à vieillir rapidement, les récits de je vole restent d’actualité et offrent un contrepoint – dans une certaine mesure optimiste – aux visions négatives, voire apocalyptiques, de l’intelligence artificielle (IA) qui, ces dernières années, est devenue le centre de l’attention et des controverses, tant du côté de la technophilie que de la technophobie.
La collection rassemble neuf nouvelles, présentées à travers un entretien avec le Dr Susan Calvin, « psychologue roboticiste » et employée de Robots américains et hommes mécaniques, la méga-entreprise produisant des cerveaux robotiques positroniques et leur application à différents types d'automates.
- Pardonnez-moi. Je crois avoir bien entendu votre nom : Dr Susan Calvin, n'est-ce pas ?
– Oui, M. Byerley.
– Vous êtes le psychologue de Robots américains, ce n'est pas?
– Psychologue roboticien, S'il vous plait.
- Oh! Les robots sont-ils mentalement différents des hommes ?
– Très différent (…) Les robots sont fondamentalement décents.
Qu'est-ce qu'un Homo sapiens ? Un être doté d’une grande capacité à penser et à agir de manière logique et intelligente ? Est-ce la caractéristique essentielle dans la définition de l’être humain ? Ou serait-ce précisément l’irrationnel en nous, ce qui est en dessous (ou au-delà ?) de notre intelligence – nos sentiments, nos peurs, nos passions – qui nous rend véritablement humains ? Une machine peut-elle rêver, avoir des hallucinations, des obsessions, des souhaits, des désirs ? Ou vous interrogez-vous sur le sens d’être au monde ? Peut-on apprendre à aimer ? Ou bien aimer et inculquer à l’Autre le sentiment de l’amour est-il un attribut exclusivement humain, une qualité innée, faisant partie de notre génome ?
les contes de je vole s’articulent autour de questions comme celles-ci, basées sur de multiples situations nées de la coexistence entre humains et robots.
The Self, dans le titre du recueil, constitue une indication claire de l'intention d'Isaac Asimov dans chacun des récits : une plongée dans la subjectivité des machines dans leur relation avec les humains. Une relation d'amour et de confiance entre un enfant et son soignant mécanique ; un robot qui ment systématiquement pour ne pas blesser ni causer de douleur ; l'impasse entre l'obéissance et l'auto-préservation ; les soupçons selon lesquels un robot se ferait passer pour un humain pour briguer un poste politique élevé, sont quelques-unes des situations explorées dans les pages de je vole. Les intrigues sont complétées par des conflits, des drames et des comédies entre les personnages humains impliqués.
Isaac Asimov élabore et explore des situations dans lesquelles l'intelligence, la rationalité, les sentiments, la conscience commencent à se confondre – dangereusement – et à se fondre dans les équations mathématiques de plus en plus complexes impliquées dans la construction de cerveaux positroniques de plus en plus sophistiqués. Le point culminant, dans l’une des nouvelles du recueil, est l’apparition d’un robot capable d’élocubrations théologiques qui, grâce à un raisonnement logique, commence à croire qu’il a été créé par des humains :
– Regarde-toi – dit-il finalement. – Je ne dis pas cela dans un esprit de mépris… mais regarde-toi ! Le matériau dont ils sont faits est mou et flasque, dépourvu de résistance et de force, dont l'énergie dépend de l'oxydation inefficace produite par une matière organique comme… ça – il montra avec désapprobation les restes du sandwich de Donovan. – Ils entrent périodiquement dans le coma et la moindre variation de température, de pression atmosphérique, d’humidité ou d’intensité des rayonnements compromet leur efficacité. Ils sont temporaires. Pour ma part, je suis un produit fini. J'absorbe directement l'énergie électrique et je l'utilise avec une efficacité de près de cent pour cent. Je suis fait d'un métal solide et résistant, je reste continuellement conscient et je peux facilement résister aux changements extrêmes de l'environnement. Ce sont ces faits qui, appuyés par la proposition évidente selon laquelle aucun être n’est capable de créer un autre être supérieur à lui-même, détruisent complètement votre hypothèse insensée.
Yuval Harari, peut-être l'auteur le plus connu et le plus populaire de la diffusion scientifique aujourd'hui, a renforcé dans une récente interview les craintes déjà multipliées selon lesquelles l'humanité finirait victime de son propre développement technologique et a demandé – avec véhémence – que la production d'intelligence artificielle les outils soient soumis à des contrôles stricts, comme dans le cas des voitures et des médicaments : « L’intelligence artificielle est la technologie la plus puissante jamais créée par l’humanité, car elle est la première à pouvoir prendre des décisions : une bombe atomique ne peut pas décider qui attaquer, ni il en invente de nouvelles ou. de nouvelles stratégies militaires. Une Intelligence Artificielle, au contraire, peut décider seule d’attaquer une cible précise et inventer de nouvelles bombes » (Folha de S. PaulDu 03/09/2024).
Les robots d'Isaac Asimov, du moins en théorie, ne nécessitent pas de contrôles externes, comme l'exige Yuval Harari, puisqu'ils sont régis en interne par des principes inflexibles, implantés dans leur cerveau positronique, les fameuses Trois Lois de la Robotique, inventées par l'auteur : (i ) Un robot ne peut pas nuire à un être humain ni, par inaction, permettre à un être humain de subir un danger. (ii) Un robot doit obéir aux ordres qui lui sont donnés par des êtres humains, sauf lorsqu'ils entrent en conflit avec la première loi. (iii) Un robot doit protéger sa propre existence, tant qu'une telle protection n'entre pas en conflit avec la première ou la deuxième loi.
À première vue, les Trois Lois semblent constituer une garantie absolue que les machines intelligentes ne dépasseront pas les limites qui mettraient les humains en danger. Ils constituent un contrepoint au soi-disant complexe de Frankenstein, l'idée selon laquelle les robots sont intrinsèquement menaçants ou mauvais et que les humains, tôt ou tard, créeraient des machines qui se retourneraient contre eux. Pourtant, toutes les nouvelles du recueil, d’une manière ou d’une autre, s’articulent précisément autour des tensions et des conflits entre les trois lois, conduisant à des situations de crise, aux résultats parfois paradoxaux ou désastreux.
Dans les années 1940, lorsque les récits de Moi, robot étaient collectés, les ordinateurs étaient encore des machines qui fonctionnaient avec des centaines ou des milliers de vannes, pesaient des tonnes et occupaient des étages entiers d'un bâtiment. Il est curieux de retrouver, à travers la temporalité exprimée dans les récits, comment Asimov, à cette époque, imaginait ce que serait le futur au XXIe siècle, c'est-à-dire ce qui est aujourd'hui notre présent, notre passé ou notre futur très proche.
Dans la collection, l'année 1996 apparaît comme le point de départ de la création des premiers robots, conçus comme des assistants domestiques : nounous, majordomes, cuisiniers, tous très efficaces et sûrs, mais complètement muets. Le premier robot parlant n'apparaîtra qu'en 2002, mais en 2007, l'utilisation des automates sera limitée aux bases et colonies en dehors de la Terre. Dans la vision futuriste d'Isaac Asimov, en 2015, nous exploiterions déjà Mercure et d'autres planètes du système solaire, avec l'aide de robots ; En 2029, le « saut hyperespace » était sur le point de se produire, permettant l'établissement de colonies humaines sur les planètes des étoiles les plus proches de la Voie Lactée dans les décennies suivantes.
Si les attentes d'Isaac Asimov concernant les voyages et l'exploration interplanétaires allaient au-delà des avancées technologiques et des réalisations de notre réalité, ses prédictions concernant la robotique et l'intelligence artificielle se rapprochent considérablement des développements réels dans ce domaine.
D’une manière générale, il s’agit d’une intégration progressive de l’intelligence artificielle et de la robotique dans notre vie quotidienne, de manière continue, subtile et incontournable. Il est facile de donner un exemple : en 1997, Garry Kasparov, alors champion du monde d'échecs, a été battu par Deep Blue, un programme informatique d'IBM ; Si nous n’exploitons pas déjà Mercure, comme le prévoyait Isaac Asimov, nous avons Rovers de la NASA explorant la surface de Mars depuis 2004, et des humains vivant dans des stations spatiales entièrement contrôlées par l'Intelligence Artificielle.
Une intervention chirurgicale délicate est aujourd’hui beaucoup plus sûre et efficace si elle est réalisée par des robots ; l'utilisation d'automates dans les processus industriels à grande échelle est répandue ; les robots sont utilisés, avec une grande efficacité, dans la recherche des personnes disparues lors de catastrophes naturelles majeures ; les assistants virtuels Alexa et Siri font désormais partie de nombreuses familles ; Nous traversons le monde sur des vols transatlantiques opérés par des « pilotes automatiques » et peu de conducteurs s'aventurent aujourd'hui à naviguer dans une grande ville sans l'aide de Waze ou de Google Maps.
Le journalisme est de plus en plus soutenu, voire entièrement produit, par l’intelligence artificielle générative ; nous avons dans nos poches des magasins, des restaurants et toutes sortes de services (ainsi que nos comptes bancaires pour les payer !) ; L’éducation et la création artistique, dans tous les domaines, sont fortement soutenues par les ressources de l’Intelligence Artificielle et les recherches scientifiques à grande échelle, comme la cartographie génétique, en dépendent de manière décisive, tout comme l’espionnage, les guerres, le terrorisme, la surveillance panoptique du citoyen ordinaire.
La même année que je vole a été libéré, le mathématicien britannique Alan Turing (1912-1954) a créé un test, qui porte ton nom, pour identifier les interactions entre humains et entre un humain et une machine, à travers un protocole de questions et réponses écrites. L'année dernière, ChatGPT-4.0 aurait a réussi le test de Turing, même s'il y a objections et des propositions de tests plus raffinés à utiliser dans le domaine du traitement du langage naturel (NLP).
En fait, compte tenu d’autres développements récents dans le domaine de l’intelligence artificielle, le test de Turing est peut-être devenu anachronique. Sinon, voyons voir : j'ai demandé à ChatGPT 4.0 : « Écrivez un sonnet sur la faim, à la manière de João Cabral de Melo Neto ». Voici le résultat :
Sonnet de la faim
La faim est une lame invisible,
coupe de l'intérieur, saigne sans fil;
est un couteau émoussé qui, même absent,
grave dans le corps ce en quoi il ne croit pas.
Ce ne sont ni des mots, ni des vers, ni des chants,
mais du fer froid dans l'air sec et crépitant ;
C'est un sol sans plante, un mur qui ne parle pas,
C'est une maison creuse qui respire des larmes.
Dans la bouche morte, rien n'était mâché ;
dans l'oeil opaque, le silence coupant,
la faim est une pierre qui ne se détourne jamais.
Ne demandez pas, prenez, en temps constant ;
et ce qu'il dévore est toujours marqué :
dans la chair dure, dans le rêve lointain.
En lisant le poème, nous pouvons avoir des appréciations divergentes quant à sa valeur littéraire ou sa proximité avec le style du poète, mais la question asimovienne la plus pertinente est peut-être : « Dans un futur proche, l'Intelligence Artificielle sera capable de comprendre le sonnet qui a créé ?
Les robots humanoïdes ne circulent pas encore en grand nombre parmi nous, mais nous vivons et interagissons certainement quotidiennement avec le « cerveau électronique » (Gilberto Gil, 1969), à une échelle si vaste que cela conduit à la naturalisation de ces processus.
S'il a exagéré dans certaines prédictions technologiques, Isaac Asimov a tout à fait raison sur un détail culturel : fumer persistait au XXIe siècle, avec un de ses personnages – humain bien sûr – fumant des cigares, en 2021, et un autre allumant une cigarette, en 2052. 2029. Et pourtant, leurs visions du futur se glissent à l'aune d'un petit détail qui ferait sourire un Millennial : en XNUMX, dans une base militaire et scientifique, située sur un astéroïde, une photographie prise lors d’une expérience devait encore être développée chimiquement avant de pouvoir être vue !
En 2004, sort un film du même titre, réalisé par Alex Proyas, mais il ne s'agit pas d'une adaptation du livre mais plutôt d'un film policier, avec une utilisation très libre des personnages et des idées des nouvelles d'Isaac Asimov, autour d'un complot de meurtre. Rien qui, cinématiquement, puisse être comparé à des productions phares sur le thème des machines pensantes, comme Métropole (Fritz Lang, 1927), qui a été la pionnière de Maria, le premier androïde cinématographique ; 2001 : L'odyssée de l'espace (Stanley Kubrick, 1968), avec le puissant et fou supercalculateur Hall 9000 ; ou Blade Runner (Ridley Scott, 1982), avec l'inoubliable Rachael, une réplique si parfaite qu'elle avait même des souvenirs d'une enfance qu'elle n'avait jamais connue.
Mais c'est peut-être le cas IA – Intelligence Artificielle (Steven Spielberg, 2001) l'œuvre cinématographique qui décrit le plus fidèlement les thèmes et les préoccupations de je vole. Structuré comme un conte de fées, le film de Steven Spielberg partage avec ce genre littéraire la particularité de situer l'action de ses personnages entre le fantasme le plus doux et la terreur pure, entre la féerie et l'obscurité.
Comme on pouvait s'y attendre, je vole et l'œuvre d'Isaac Asimov, en général, a fait l'objet d'innombrables critiques, d'articles littéraires, de thèses universitaires et de thèses de doctorat. A la fin, je dresse une petite liste de lectures dans ce genre.
S'il est vrai que la science-fiction vieillit souvent mal, les robots d'Isaac Asimov sont encore jeunes et se portent bien, merci. Si vous ne les connaissez pas, il est temps de le faire ; Si vous les connaissez déjà, il est temps de les retrouver.
*Marcos Palacios, sociologue, professeur retraité de communication sociale à l'Université fédérale de Bahia (UFBA).
Référence

Isaac Asimov. je vole. Traduction: Aline Storto Pereira. São Paulo, Editora Aleph, 2014, 320 pages. [https://amzn.to/4gOV8sU]
Bibliographie
BALKIN, JM (2024) Les trois lois de la robotique à l'ère du Big Data, Magazine Droits fondamentaux et démocratie, Vol.29 (2), Curitiba. Ici.
COSTA, Monize FV & ARAUZ, Valéria AR (2018) Limites et possibilités des personnages automates dans «je vole», d'Isaac Asimov, XXIIe Congrès National de Linguistique et Philologie, Rio de Janeiro. Ici.
GOMES, Miguel R. (2012). Deus ex machina : Histoire et utopie chez Isaac Asimov, E-topia : Revue électronique d'études sur l'utopie (13), Porto. Voir ici.
LAZARINI, L. (2022) Dimensions de l'inconscient dans la nouvelle « Robot Dreams », d'Isaac Asimov, Littératures, (17), p. 249/254, São Paulo. Voir ici.
MELO, Karen Stéphanie (2016). Les robots d'Isaac Asimov : une analyse des relations entre l'homme et la machine dans la littérature de science-fiction et au cinéma, Thèse de doctorat, Universidade Presbiteriana Mackenzie, São Paulo. Voir ici.
ORSI, Carlos. (2019). Dans "Moi, Robot" d'Isaac Asimov, les robots sont une distraction, Com Ciência, Revue électronique de journalisme scientifique, Société brésilienne pour le progrès de la science, avril 2019. Ici.
PEREIRA, Ivo S. (2006) je vole et une intelligence artificielle forte : l'homme entre esprit et machine, Sciences et cognition, v.9, p. 150/157, nov. 2006, Rio de Janeiro. Voir ici.
PEREIRA, Fernanda L. & PISETTA, Lenita M. (2020). Cas de polysémie et choix de traduction de la nouvelle « Le petit robot perdu », d'Isaac Asimov, TradTerm, v.35, juin/2020, p. 25-48, São Paulo. Ici.
SEIFFERT, Andreya S. (2018) Les robots d'Asimov et l'avenir de l'humanité, Magazine électronique de l'ANPHLAC, (24). São Paulo. Voir ici.
CHRONOLOGIE DE L'HISTOIRE DE L'ORDINATEUR -Musée d'histoire de l'ordinateur – 1401 N. Shoreline Blvd. Mountain View, Californie 94043 Ici.
la terre est ronde il y a merci à nos lecteurs et sympathisants.
Aidez-nous à faire perdurer cette idée.
CONTRIBUER