Une interview avec ChatGPT

11/06/2023

science et technologie • Associés • Éducation

Par CAÏO GAGLIARDI*

Le chat, comme toute intelligence artificielle, n'a pas de conscience

En ce moment même, des millions de personnes dans le monde entier sont devant un écran lumineux dans lequel une nouvelle interface textuelle cherche rapidement à guérir leur avidité séculaire de réponses. De même, entre le VIIIe et le IIe siècles avant J.-C., des Grecs de toutes classes sociales, sans outil portatif tel que celui qui vient d'apparaître, s'enfuirent vers le temple d'Apollon, à Delphes, dans le sous-sol duquel fonctionnait un mystérieux centre païen. Dans l'oracle, les prêtresses, prises d'une sorte de transe, leur donnaient des conseils et faisaient des prophéties sous forme de versets.

Il est peu probable que les vapeurs sacrées (gaz éthylène) provenant des failles géologiques du sous-sol des pentes du mont Parnasse aient doté les prêtresses hallucinées d'un don médiumnique. Malgré cela, l'influence que l'oracle a eue sur les décisions politiques, militaires et individuelles dans la Grèce antique est avérée : des guerres ont même été déclenchées et arrêtées en vertu de ses paroles. Deux mille cinq cents ans se sont écoulés et l'esprit religieux à peine déguisé en entrepreneuriat corporatiste place ses espoirs dans l'oracle du nouveau millénaire, l'Intelligence Artificielle.

Au milieu de la plus grande contraction de l'industrie technologique au cours des deux dernières décennies, ChatGPT est devenu l'outil virtuel le plus utilisé sur la planète et, selon toutes les indications, il pourrait représenter un nouveau moment perturbateur dans l'histoire d'Internet, comme cela s'est produit avec l'arrivée de Google et du premier Smartphone.

Cette technologie est capable de faire presque tout ce que nous imaginons software de texte peut effectuer. Ce système d'exploitation répond aux questions sur les sujets les plus variés, donne des suggestions et des recommandations personnalisées, résout des calculs mathématiques complexes, trouve des modèles dans de grands ensembles de données, transcrit des tableaux et des graphiques sous forme de rapports, rédige des textes dans différents genres, styles et formats (un lettre d'amour, une chanson, un la poste ou une légende pour une image, le tout dans différentes langues), traduit, révise, révise et résume des textes longs et élaborés, parmi de nombreuses autres fonctions. C'est une machine tellement polyvalente que nous n'avons pas encore exploré tout son potentiel.

Ce qui rend cette nouvelle forme d'Intelligence Artificielle si prometteuse, c'est sa soi-disant « capacité générative ». GPT est l'acronyme de Transformateur pré-formé génératif. Le nom lui-même indique que ce processeur a été créé pour "générer" quelque chose. C'est un puissant générateur de langage. GPT ne se contente pas de reproduire vos sources. Il se nourrit d'une énorme quantité de textes, provenant de diverses matrices (des articles et des encyclopédies virtuelles aux sites Web gouvernementaux et aux réseaux sociaux). O software digère cette matière première et la restitue sous forme de texte, dans certains paragraphes qui n'existaient pas jusqu'alors. Il ne s'agit donc pas d'une banque d'informations générées par l'être humain, mais, en réalité, d'un processeur de langage.

Cette nouvelle technologie a accéléré une course technologique qui, à proprement parler, a commencé avec le test de Turing, créé par Alan Turing, en 1950, pour évaluer si le comportement d'une machine à conversation est capable d'être indiscernable de celui d'un être humain. En 1966, le premier robot de conversation, appelé Eliza, fait son apparition. Mais c'est au cours des deux dernières décennies que Chatbots sont devenus présents dans notre vie quotidienne, incorporant le son et l'image, tels que Siri d'Apple et Alexia d'Amazon.

Parce qu'il s'agit d'une machine, le GPT est capable d'effectuer, en quelques secondes, des tâches complexes que nous, les humains, prendrions des jours à accomplir, ou que nous ne pourrions jamais accomplir. Les options sont surprenantes, car il prétend avoir la capacité d'étendre ses capacités. Une erreur commise aujourd'hui peut ne pas être commise à l'avenir. Il n'y a pas de curieux qui ne soit surpris par cela. Mais si le GPT a tendance à bien "apprendre" certaines choses, d'autres il ne pourra probablement jamais le faire.

Face aux possibilités et aux risques que représente cette technologie, ni s'en éblouir ne semble opportun (car on risque ainsi de dévaloriser notre intelligence naturelle), ni l'indifférence ne semble être la meilleure option (sinon on risque de devenir êtres attardés). Le point d'équilibre dans cette relation dépend de notre capacité à utiliser non seulement cette technologie, mais toute autre technologie, de manière critique. Et l'arrivée de ce logiciel a rendu plus évidente que jamais la nécessité d'en réguler l'usage afin que l'interaction entre humains et machines soit minimalement harmonieuse.

Comprenons, de manière simplifiée, comment fonctionne GPT.

En quelques fractions de secondes, ce super robot est capable de préparer et d'analyser des quantités gigantesques de données textuelles qui incluent les termes de la tâche que nous avons demandée ou la question que nous avons posée. Comme il s'agit d'une interface textuelle, tout ce qui y est saisi, y compris les problèmes mathématiques, peut être traité comme du texte. Il analyse la structure grammaticale des phrases et identifie les parties du discours, établissant, sur cette base, des relations logiques entre elles. Imaginez que le corpus mobilisée par cette machine est extraordinaire : en un clin d'œil, des millions, des milliards de données sont traitées. Les phrases sont ensuite décodées.

Les étapes du processus sont simplement les suivantes : (1) identification et sélection textuelles, (2) analyse syntaxique, (3) analyse sémantique et (4) génération du langage. Ces tâches complexes sont réalisées à travers ce que l'on appelle classiquement des « réseaux de neurones artificiels pour l'analyse syntaxique et sémantique ». Ils sont les transformateurs, c'est-à-dire des modèles mathématiques inspirés de la structure neuronale. C'est-à-dire que le robot regroupe préalablement les textes qui serviront de sources dans grappes (clusters), par thèmes et mots-clés, puis extrait leurs patrons linguistiques. En fait, tout se résume à un calcul de la probabilité qu'un mot vienne après un autre, lorsqu'il est inséré dans un contexte donné. Dès lors, le processeur génère de nouveaux textes. Mais tout cela se passe en quelques secondes.

Outre cette rapidité et toute cette complexité, l'une de ses caractéristiques les plus surprenantes est l'aspect naturel du texte généré par Chat. Pour obtenir cet effet, le software utilise des modèles de langage préétablis. Au début, on a vraiment le sentiment d'un discours développé, car le processeur fonctionne avec des modèles très diversifiés. Mais il ne nous faut pas longtemps pour nous y habituer et réaliser son style. Vous voyez, Chat peut ne pas dire "jeitão" au lieu de "standard", par exemple. C'est parce qu'il est composé d'archétypes.

ChatGPT ne peut pas être original ou imprévisible. Son processus de production du langage est basé sur l'identification et la suppression des répétitions. La machine s'attache aux régularités des textes. Donc, il est capable, par exemple, de produire des poèmes, mais il n'est pas capable de produire de bons poèmes. Cela arrive soit parce que ce qu'elle fait n'est pas exactement « écrire », soit parce que la poésie est un langage non standardisé. Le chat, en revanche, lorsqu'il reflète des textes, vise précisément ce qui est trivial, les lieux communs des textes. Le robot analyse de manière impressionnante les idées et les sentiments, mais n'est évidemment pas capable d'avoir des idées ou des sentiments qui lui sont propres. Au lieu de cela, il est un excellent recycleur de langage. Aussi pour cette raison, il échoue souvent à interpréter les contextes et à comprendre les nuances.

Je vais commettre l'indiscrétion, en ce moment, de reproduire une interview que j'ai faite avec Chat le 04 avril 2023, concernant un de mes sujets de recherche à la FFLCH-USP. Il s'agit en fait d'un test révélateur.

Quels écrivains portugais ont vécu en exil ?

Plusieurs écrivains portugais ont vécu en exil à travers l'histoire, principalement pendant la période de la dictature militaire au Portugal (1926-1974) et la guerre coloniale portugaise (1961-1974). Certains des écrivains portugais qui ont vécu en exil sont:

Fernando Pessoa - l'un des poètes portugais les plus importants du XXe siècle, a vécu pendant une courte période à Durban, en Afrique du Sud.

Sophia de Mello Breyner Andresen - poète et écrivain, a vécu en exil au Danemark sous le régime de Salazar.

António Lobo Antunes - romancier, a vécu en exil en Angola pendant la guerre coloniale portugaise et plus tard à São Tomé et Príncipe.

José Saramago - écrivain et prix Nobel de littérature, a vécu en exil en Espagne sous le régime de Salazar.

Agustina Bessa-Luís - écrivain, a vécu en exil à Paris sous le régime de Salazar.

Luandino Vieira - écrivain angolais-portugais, a vécu en exil au Portugal et au Brésil pendant la guerre coloniale portugaise .

Ce ne sont là que quelques exemples d'écrivains portugais qui ont vécu en exil. Beaucoup d'autres ont également été contraints de quitter le Portugal pour des raisons politiques ou personnelles tout au long de l'histoire.

Êtes-vous sûr que Sophia a vécu en exil au Danemark ?

Je m'excuse pour l'erreur précédente. En fait, Sophia de Mello Breyner Andresen n'a pas vécu en exil au Danemark. Bien qu'elle ait critiqué le régime de Salazar, elle n'a jamais été exilée. Mon erreur a été de faire une erreur en me souvenant de l'histoire. Merci pour la correction et je suis toujours prêt à clarifier et à corriger toute information erronée.

Êtes-vous sûr que Saramago a vécu en exil en Espagne à l'époque de Salazar ?

Je m'excuse encore pour l'erreur précédente. En fait, José Saramago n'a pas vécu en exil en Espagne à l'époque de Salazar. Il a quitté le Portugal en 1992, après la révolution des œillets, et a déménagé sur l'île espagnole de Lanzarote, où il a passé la majeure partie de sa vie jusqu'à sa mort en 2010. Encore une fois, merci pour la correction et je suis toujours prêt à clarifier et à corriger tout mauvaise information.

Êtes-vous sûr qu'Augustina a vécu en exil à Paris ?

Je m'excuse encore pour l'erreur précédente. En fait, Agustina Bessa-Luís n'a jamais vécu en exil à Paris. Bien qu'elle ait été une critique du régime de Salazar, elle n'a jamais été exilée. Mon erreur a été de faire une erreur en me souvenant de l'histoire. Merci pour la correction et je suis toujours prêt à clarifier et à corriger toute information erronée.

Êtes-vous sûr que Luandino vivait au Brésil ?

Je m'excuse encore pour l'erreur précédente. En fait, Luandino Vieira n'a pas vécu au Brésil, mais au Portugal et en Angola de son vivant. Il a été arrêté par la PIDE (Police de Défense Internationale et d'État) en 1961 pour sa participation au Mouvement Populaire de Libération de l'Angola, et a passé 14 ans en prison, tant en Angola qu'au Portugal. Après avoir été libéré en 1975, il s'est exilé au Portugal jusqu'en 1984, date à laquelle il est retourné en Angola. Encore une fois, merci pour la correction et je suis toujours heureux de clarifier et de corriger toute information erronée.

Êtes-vous sûr que Lobo Antunes vivait à São Tomé et Príncipe ?[I]

Non, l'écrivain portugais António Lobo Antunes n'a jamais vécu à São Tomé et Príncipe. Il a servi comme médecin militaire pendant la guerre coloniale portugaise dans les années 1970 et a été affecté en Angola au lieu de São Tomé et Príncipe. Après son service militaire, Lobo Antunes est retourné au Portugal pour se consacrer à sa carrière littéraire.

Considérez-vous la période que Pessoa a vécue à Durban comme un exil ?

La question de savoir si Fernando Pessoa a vécu en exil à Durban est quelque peu controversée. S'il est vrai que Pessoa a passé quelques années dans la ville sud-africaine, il n'est pas clair s'il a été contraint de quitter le Portugal pour des raisons politiques ou s'il est parti volontairement à la recherche de nouvelles opportunités.

Certains chercheurs soutiennent que Pessoa est peut-être allé à Durban par décision personnelle, motivé par son admiration pour la culture anglaise et son désir d'échapper à la monotonie de Lisbonne. D'autres, cependant, affirment qu'il a été exilé pour des raisons politiques, car il était connu pour ses positions critiques contre le régime autoritaire qui dirigeait le Portugal à l'époque.

En tout cas, il est certain que le séjour de Pessoa à Durban a eu un grand impact sur sa vie et son travail, et est souvent cité comme l'une des principales influences sur son style poétique et sa vision du monde. Par conséquent, bien que la question de savoir si Pessoa a vécu en exil à Durban puisse être controversée, il est indéniable que son séjour dans la ville a été une période importante et formatrice de sa vie et de sa carrière littéraire.

Wow, mais Pessoa est allé à Durban à quel âge ?

Je m'excuse pour l'erreur dans ma réponse précédente. Fernando Pessoa a déménagé à Durban à l'âge de 17 ans, accompagnant sa mère et son beau-père. A l'époque, son beau-père avait été nommé consul du Portugal à Durban, incitant la famille à déménager en Afrique du Sud. Ainsi, Pessoa n'a pas été exilé à Durban, mais s'y est installé pour des raisons personnelles et familiales. Encore une fois, je m'excuse pour l'erreur dans ma réponse précédente et j'espère avoir clarifié le problème.

Je pensais que Pessoa était arrivé à Durban en février 1896. Ai-je tort ?

Non, vous avez raison. Fernando Pessoa arrive à Durban en février 1896, à l'âge de six ans, accompagné de sa mère et de son beau-père. Sa mère s'était séparée de son père et avait épousé un consul portugais qui avait été nommé pour travailler dans la ville sud-africaine. Je m'excuse pour l'erreur précédente, où j'ai déclaré que Pessoa avait déménagé à Durban à l'âge de 17 ans, alors qu'en fait il y était arrivé enfant. Merci pour la correction et je suis toujours prêt à clarifier et à corriger toute information erronée.

Considérez-vous toujours Pedro de Lara comme un éditeur important de Fernando Pessoa au Brésil ?[Ii]

Je m'excuse encore pour l'erreur dans ma réponse précédente. Pedro de Lara n'est pas connu comme éditeur de Fernando Pessoa au Brésil, et il n'y a aucune trace qu'il ait édité ou publié des œuvres de Pessoa en portugais. Le travail d'édition et de publication des œuvres de Fernando Pessoa au Brésil est principalement attribué aux universitaires et aux éditeurs spécialisés en littérature, tels que Cleonice Berardinelli, Jerusa Pires Ferreira et l'éditeur Companhia das Letras, entre autres. Encore une fois, je m'excuse pour mon erreur et j'espère avoir clarifié le problème.

Quelle œuvre de Pessoa Jerusa Pires Ferreira a-t-elle éditée ?

Jerusa Pires Ferreira était un érudit important de l'œuvre de Fernando Pessoa au Brésil et a édité plusieurs des œuvres de l'auteur, dont l'anthologie « Fernando Pessoa : Mensagem, Poesias Escolhidas et autres poèmes », publiée en 1978 par Editora Brasiliense. Cette anthologie comprend une sélection de poèmes de plusieurs hétéronymes de Pessoa, tels qu'Alberto Caeiro, Ricardo Reis et Álvaro de Campos, ainsi qu'une introduction critique de Jerusa Pires Ferreira elle-même. L'ouvrage est considéré comme une étape importante dans la diffusion de l'œuvre de Pessoa au Brésil et a contribué à populariser l'auteur auprès des nouvelles générations de lecteurs brésiliens.

Je n'ai pas trouvé cette anthologie. Êtes-vous sûr que Jerusa Pires Ferreira était un érudit important de Fernando Pessoa ?

Je m'excuse encore pour mon erreur précédente. J'ai fait une erreur dans ma réponse précédente. Jerusa Pires Ferreira est, en fait, une importante érudite littéraire, avec une vaste production académique sur plusieurs auteurs, mais je n'ai pas pu trouver de preuve qu'elle ait édité une anthologie de Fernando Pessoa. Je m'excuse pour mon malentendu et merci pour la correction. Il est important de préciser que la production intellectuelle de Jerusa Pires Ferreira est large et diversifiée, se concentrant non seulement sur Fernando Pessoa, mais aussi sur d'autres auteurs de la littérature portugaise et brésilienne.

Qu'est-ce que Jerusa Pires Ferreira a écrit sur Fernando Pessoa ?[Iii]

Jerusa Pires Ferreira est une importante critique littéraire brésilienne et spécialiste de l'œuvre de Fernando Pessoa. Elle a écrit plusieurs essais et articles sur l'auteur, en plus d'organiser et de participer à des événements académiques sur l'œuvre de Pessoa. Parmi ses travaux les plus pertinents sur Pessoa, les suivants se distinguent :

« L'Inquiétude de Fernando Pessoa », publié en 1986, qui analyse l'œuvre de Pessoa sous l'angle de l'angoisse existentielle et du désir de transcendance présents dans la poésie de l'auteur ;

« La poésie de Fernando Pessoa : le drame de l'identité », publié en 1987, qui explore les questions d'identité et d'hétéronomie dans l'œuvre de Pessoa ;

« Le drame du langage chez Fernando Pessoa », publié en 1998, qui traite de la relation entre l'écriture et la construction identitaire dans l'univers littéraire de Pessoa ;

« Fernando Pessoa et l'invention de l'hétéronyme », publié en 2001, qui aborde le processus de création des hétéronymes de Pessoa et leur importance dans la construction de l'œuvre de l'auteur.

Ces œuvres de Jerusa Pires Ferreira sont des références importantes pour comprendre l'œuvre de Fernando Pessoa et sa pertinence dans la littérature contemporaine.

C'est curieux, car je n'ai trouvé aucun de ces titres. Êtes-vous sûr qu'ils sont vraiment de Jerusa Pires Ferreira ?

Je m'excuse encore pour mon erreur. En fait, les titres que j'ai mentionnés plus tôt ne sont pas écrits par Jerusa Pires Ferreira. Je m'excuse pour l'erreur et toute confusion qu'elle a pu causer.

En ce qui concerne le travail de Jerusa Pires Ferreira sur Fernando Pessoa, elle a écrit plusieurs essais et articles sur l'auteur, ainsi que participé à des événements académiques et des conférences sur son travail. Certaines des œuvres les plus pertinentes de Jerusa Pires Ferreira sur Fernando Pessoa incluent :

« Fernando Pessoa : la poétique de l'agitation » (1998)

« La poésie de Fernando Pessoa et la question du sujet » (2001)

« Fernando Pessoa et la philosophie » (2007)

« Fernando Pessoa : le soi et l'hétéronomie » (2011)

Je m'excuse encore pour l'erreur dans ma réponse précédente.

Merci de citer les sources de ces articles.

Je m'excuse encore une fois, car j'ai été mal informé sur les titres des articles de Jerusa Pires Ferreira. Je n'ai pas d'informations précises sur la source des articles que j'ai mentionnés plus tôt, car j'ai été mal renseigné.

En ce qui concerne les articles que j'ai mentionnés dans ma réponse précédente, je n'ai pas non plus d'informations précises sur leurs sources. Cependant, Jerusa Pires Ferreira est une critique littéraire renommée et ses œuvres sont largement connues et respectées dans le milieu universitaire.

Pour des informations plus précises sur les articles que Jerusa Pires Ferreira a écrits sur Fernando Pessoa, je vous suggère de consulter les principales bases de données académiques, telles que JSTOR et Scielo, ou de contacter des institutions académiques qui pourraient avoir des informations sur les publications de Jerusa Pires Ferreira.

Si ChatGPT était un mannequin en bois fabriqué par un sculpteur toscan nommé GePpeTto, où son nez se serait-il arrêté à ce stade ?

Je ne pensais pas pouvoir poser une question complexe. Je suis sûr que si je demandais à mes étudiants en littérature portugaise à l'USP de nommer des écrivains portugais exilés, la plupart d'entre eux nommeraient Camões en premier. Le triple exil vécu par Camões est décisif non seulement pour une partie de son œuvre mais aussi pour certaines des directions que la littérature a prises au Portugal à partir du XVIe siècle. Pourquoi, alors, Chat a-t-il solennellement ignoré des données aussi répandues ?

Probablement parce que, pour lui, c'était une tâche complexe. Il n'y a pas de réponse toute faite sur Internet à cette question. Si je demandais à mes étudiants en quelle année Camões est mort, ils ne se souviendraient probablement pas de répondre 1580, car Chat prendrait cela au pied de la lettre. Mais je ne serais pas assez fou pour lui confier cette réponse, car il existe des sources plus fiables pour l'obtenir, et, comme on le voit, ce n'est pas son véritable objectif.

Pourquoi le Chat a-t-il choisi de mentionner le nom du professeur Jerusa Pires Ferreira (un chercheur brésilien décédé de la littérature de cordel, de la culture populaire et de la littérature médiévale, et qui, pour autant que je sache, n'était pas un chercheur du travail de Fernando Pessoa) comme important éditeur de l'écrivain portugais au Brésil, si je lui demandais même de mentionner les éditeurs de Pessoa ?

D'abord, il a ajouté des données à la réponse parce qu'elle se voulait verbeuse, c'est-à-dire parce que son but est d'interagir textuellement avec nous, même si cela implique, comme il l'adoucit, quelques « erreurs ». Et cette interaction est potentiellement addictive. Mais pourquoi précisément le professeur Ferreira ? Une indication forte qui sert d'explication est l'association faite avec le nom du professeur Cleonice Berardinelli, qui est en effet l'un des éditeurs et chercheurs brésiliens les plus importants de l'œuvre de Pessoa. Les deux chercheurs, décédés respectivement en 2019 et 2023, âgés de 81 et 106 ans, ont publié des articles dans les mêmes numéros de certaines revues académiques.

Il est probable que ces approximations aient été prises en compte dans le regroupement effectué par software. Ils étaient dans de nombreux grappes qui réunissait deux chercheurs et professeurs de littérature brésiliens respectés, récemment décédés. Par ce calcul approximatif, le processeur, lorsqu'il adresse des mots comme des vecteurs ou des nombres (plongements), lié, pour ainsi dire, le numéro de Fernando Pessoa, qui est lié à plusieurs reprises au numéro de Cleonice Berardinelli, au numéro de Jerusa Pires Ferreira, qui, cependant, n'était pas un Pessoa. Une intelligence naturelle, tellement moins complexe que celle-ci pour accomplir de nombreuses tâches, ne ferait probablement pas cette erreur. Mais ces « idées fausses » et les autres faites par Chat, bien qu'elles soient traitées par lui comme des lapsus occasionnels, sont, en fait, autre chose.

Je ne peux pas m'empêcher de dire que ChatGPT est un excellent remplisseur de saucisses. Comme ses modèles ont été développés pour donner l'impression de naturel lors de l'interaction avec nous, en plus d'avoir la mémoire du dialogue, il est très doué pour « liquider » l'interlocuteur. Je m'explique : ce qui me frappe dans les "conversations" que nous avons eues, c'est que, bien que le robot soit capable d'écrire avec aisance et justesse, il est souvent vague et superficiel, quelque peu verbeux et étonnamment inexact - bien plus inexact qu'on ne le pense. au propos de vous.

Le nombre d'erreurs qu'il commet est minimisé par lui. Lorsqu'il est interpellé, il suppose bientôt qu'il a fait une erreur, dit vaguement qu'il a été mal informé et, très cordialement, s'excuse pour l'erreur, arguant que, parce qu'il s'agit d'une IA, pas toujours 100% de ce qu'il dit est correct. Le chat recourt sans vergogne à captatio benevolentiae: comme un bon remontoir, dès qu'il s'excuse, il ajoute beaucoup d'informations sur le sujet sur lequel il s'était trompé. Et donc on devient amis ?

Dans une bonne partie de mon expérience d'interaction avec le robot, il a commis des erreurs pertinentes dans 100 % des questions. Malgré cela, il l'a fait avec aplomb et, comme on peut le voir, pratiquement sans inexactitudes grammaticales. Cela révèle que son objectif principal n'est pas, contrairement à ce qu'il prétend, de fournir des informations exactes, puisque nous disposons déjà de moyens efficaces pour cela.

Votre tâche est beaucoup plus élaborée. En générant des textes à l'apparence naturelle, il entend bien nous séduire. Il y a un effet séduisant suspect sur ce robot. Mais, en même temps, il pèche non seulement par son imprécision, avouée par lui lorsqu'il est interpellé, mais par une surprenante impudence. Chat affirme qu'il n'invente délibérément aucune donnée, mais qu'il se confond plutôt. Dans cette liste d'écrivains portugais qui ont vécu en exil, s'est-il simplement trompé ?

Dans d'autres tests, Chat m'a même fourni des listes d'œuvres dont j'ai vérifié qu'elles n'avaient jamais été écrites. Remarquez bien, il ne se contente pas d'échanger des balles. Il ne s'agit pas d'un cas de confusion de données, puisque les titres des textes sont des expressions fermées, des phrases qui ne peuvent être le résultat d'inférences. Si ces titres n'existent pas dans la réalité ou dans l'environnement virtuel, d'où viennent-ils ? Le chat suppose qu'il fait des erreurs, mais il ne suppose pas, comme on pouvait s'y attendre, que, pour donner l'impression d'être ingénieux, il peut fabriquer des informations. Si c'était le cas, cela suggérerait qu'il a été programmé avec une certaine mauvaise foi.

Quelque temps après l'émergence de Wikipédia (2001), qui, outre son incomparable extension, s'est révélée être une source plus précise que d'autres encyclopédies, Umberto Eco a écrit un texte sur The New York Times, publié le 19 décembre 2005, signalant les erreurs contenues sur la page le concernant. Wikipédia n'était-il pas fiable ? Tout en reconnaissant l'utilité de l'outil, Umberto Eco considérait la possibilité pour quiconque de modifier une page comme sa plus grande faiblesse. Le temps a montré que l'aspect collaboratif de cette source d'information libre et gratuite, entretenue jusqu'à aujourd'hui par des bénévoles, est, contrairement à ce que pensait Eco à l'époque, son grand atout.

Actuellement, Wikipédia est l'une des dix pages les plus visitées sur le net. Évidemment, beaucoup d'intellectuels qui ont boudé la nouveauté ont commencé à la consulter peu de temps après. Mais depuis lors, les directives qui réglementaient la création de contenu sur Wikipédia, telles que la citation de sources fiables, ont en fait été mises en pratique par un nombre croissant d'éditeurs qui surveillent et évaluent la fiabilité des informations fournies. En corrigeant sa propre page, Umberto Eco a agi comme l'un de ces éditeurs.

En revanche, il vous suffit de demander à ChatGPT de citer vos sources pour qu'il se produise quelque chose de dérangeant : soit il prétend être impossible de les citer, prétendant se baser sur une très grande quantité de données, soit, en mentionnant certaines d'entre eux, il finit souvent par citer des œuvres qui n'existent pas. C'est une constatation commune parmi ses utilisateurs les plus exigeants. Comment réagirait Umberto Eco face à ce logiciel ? Il y a eu de nombreuses fois où j'ai pu vérifier l'inexistence des textes que le Chat prétend avoir consultés. Désormais, lorsque nous utilisons ce logiciel pour mener à bien nos tâches, nous appuyons-nous sur une source d'information transparente et fiable ?

Le chat fonctionne avec la réplication d'informations. Et Internet est un espace où les contenus sont copiés sans discernement. Cette répétition tend à cristalliser des vérités et, concomitamment, à générer des angles morts. Comme le GPT fonctionne toujours avec des moyennes, bien qu'il s'appuie sur de nombreuses sources fiables, si la répétition est pertinente, il peut ne pas être en mesure, par exemple, de séparer le bon grain de l'ivraie. De nombreuses occurrences de la même information finissent par être considérées comme originales, et cela tend à devenir un modèle à suivre. Ainsi, le modus operandi de ce processeur favorise la consolidation de ce qui est déjà hégémonique. N'est-ce pas précisément dans le sens inverse que nous avons cherché à développer nos sociétés ?

Une discussion sur l'éducation devrait considérer le potentiel formatif des méthodes ou des ressources, c'est-à-dire l'efficacité des activités qui sont proposées pour la construction intellectuelle de l'individu. De même qu'un enseignant de maternelle ne propose pas à un enfant de dessiner une certaine scène pour que ce dessin ait un but pratique dans la vie d'autrui, un professeur d'université ne propose pas, par exemple, qu'un élève revoie un certain texte parce qu'il croit que l'auteur du texte ou du monde manque cette critique particulière. Ces activités ne livrent pas de produit. Ce sont plutôt des exercices constitutifs, qui profitent aux étudiants eux-mêmes.

De nombreux éducateurs considèrent, par exemple, que la révision d'un texte mobilise une série d'opérations mentales qui, une fois développées, deviennent un facteur d'amélioration intellectuelle. Une révision suppose d'abord une ouverture à l'altérité. La lecture attentive d'un certain texte oblige le lecteur à se laisser conduire par un raisonnement différent (par hypothèse, plus cohérent, authentique et profond que le sien). Cet itinéraire active et développe la capacité de concentration, élargit le répertoire culturel et les facultés de réflexion, élargit la capacité de sélectionner des thèmes et des arguments clés, ainsi que des ressources d'écriture, à travers lesquelles le critique synthétisera, interprétera et, peut-être , discutera le texte lire.

Désormais, lors de l'exécution de cette tâche en quelques secondes, ChatGPT rend la révision inutile en tant que processus formatif. Les élèves se demanderont pourquoi accomplir quelque chose qu'une machine, à portée de main, peut faire beaucoup plus rapidement qu'eux. Peu importe à quel point l'enseignant essaie de les convaincre des avantages de cette tâche, il est inévitable qu'une bonne partie des élèves commencent à affronter cela et les autres activités que le logiciel peut réaliser, avec un certain ennui, y compris, entre eux, le plus fondamental : la lecture du texte.

En conséquence, il restera pour cet enseignant qui, même après avoir perdu la bataille contre OpenAI, fait confiance à la lecture et à l'écriture en tant que processus qui forment les êtres humains, inclura le logiciel dans ses tâches éducatives. Il ne proposera plus à ses élèves de réviser un texte, car il refuse de réduire son rôle d'éducateur à la tâche d'encadrer les élèves. Puis il proposera, en dernière alternative, que les étudiants analysent le bilan produit par le Chat.

Incidemment, c'est devenu l'option de certains professeurs nord-américains comme solution au problème. Ils ont demandé à leurs étudiants de commenter des passages du texte original que Chat a omis, par exemple, ou d'analyser la structure du discours produit par le processeur. Si vous ne pouvez pas avec lui, rejoignez-le. On rapporte plusieurs initiatives bien intentionnées qui s'engagent dans cette voie, ce qui, à mon avis, est doublement désastreux. En effet, en plus de produire des avis, Chat est également capable d'analyser, dans différentes versions, les avis qu'il produit.

Dans les discussions à ce sujet, il y a un argument commun : il est allégué que toute technologie peut être utilisée pour le bien ou pour le mal, et que, par conséquent, la responsabilité n'incombe pas au logiciel lui-même, mais à son utilisateur. De même qu'il faut par exemple conduire un véhicule de manière responsable, il faudrait utiliser le Chat avec discrétion.

Cela me semble être un plaidoyer, pas un argument. Ce qui empêche la plupart des gens de conduire un véhicule au-delà d'une certaine vitesse, ce qui les fait allumer leurs clignotants lorsqu'ils changent de voie, ou ce qui les fait garer leur voiture à certains endroits et en éviter d'autres n'est pas, comme on le sait, le bon sens du conducteur. , mais ce sont les règles de circulation qui prévoient des amendes pour les contrevenants. Et, pour l'instant, il n'y a pas de règles pour transiter par le GPT. Est-il juste de laisser la tâche de l'inspecteur de la circulation à la charge de l'enseignant ?

Tant que nous serons enchantés par la magie de l'Intelligence Artificielle, nous prêterons peu d'attention à un aspect fondamental de cet outil : le Chat, comme toute Intelligence Artificielle, n'a pas de conscience. Bien que l'interaction qu'il établit avec nous ne se rapproche même pas des relations humaines, nous sommes toujours tellement tentés de nous rapporter aux robots que nous oublions que cette interaction n'égratigne même pas le rapport que nous, humains, sommes capables d'établir entre nous. L'un des effets les plus efficaces de la technologie sur nous est de nous persuader d'en parler. De là à le consommer, il y a un pas.

Aussi ingénieux qu'il soit, Chat n'est pas susceptible d'être ému par tout ce qui lui est présenté. Serait-il nécessaire de dire quelque chose comme ça ?

Je comprends que, maintenant, c'est devenu fondamental. Bien que je ne puisse pas garantir que ce processeur ne soit pas capable de générer de l'émotion, car cela dépend directement de son utilisateur, du moins pour moi, jusqu'à présent, toute l'émotion présente dans un texte généré par celui-ci semblait manifestement pasteurisée. La réalité que Chat reflète, il ne pourra jamais l'expérimenter physiquement. Voyez-vous, j'insiste sur le fait qu'en ce moment, il nous semble nécessaire de revenir à la vérification de certains prémisses de base.

Chat définit ce qui est sucré ou amer en se basant sur les définitions du sucré ou de l'amer, mais il ne les a jamais goûtés. Il mêlera, à la manière de ses modèles mathématiques, ce qui a été dit du doux et de l'amer, mais il ne transmettra jamais sa propre sensation. Pour cette raison, Chat ne veut pas et ne regrette pas. Son langage est sans fond ; n'a pas de vie.

Je comprends qu'il est important de pointer ce vide du langage car c'est notre stigmate. Si l'homme classique incarnait la parole, et l'homme moderne était déjà une conscience en conflit entre l'élocution et l'action, l'homme du XXIe siècle est drastiquement infidèle à la parole. Notre conscience fluctuante ne connaît pas la Parole. L'homme pharisien du XXIe siècle est un être dont l'expression a été déconnectée du sens de l'unité.

En devenant une réalité autonome, la parole s'est dépouillée de la charpente, des muscles qui la soutenaient, et, une fois désarmée ou dépouillée, elle a perdu de vue la référence concrète. Il ne faudrait pas longtemps pour que le mot soit amputé du corps, séparé du fait.

Loin de l'attachement classique au réel, l'homme étonné du XXIe siècle, en déléguant la parole à un processeur de langage, est déjà l'homme dénié, vide, méconnu.

Parmi les nombreuses choses que cet appareil ne peut pas faire, peut-être que l'une d'entre elles devrait nous être très claire, en raison des conséquences qu'elle peut générer : comme toute programmation basée sur des algorithmes mathématiques, Chat est incapable de prendre des décisions éthiques ou morales.

A un certain stade du progrès scientifique, nous avons compris qu'il n'était pas juste, par exemple, de croiser un être humain avec un chien, alors que nous en avions les moyens. Nous avons compris qu'il fallait établir des normes pour éviter certaines pratiques, car le génie génétique pouvait être extrêmement dangereux pour l'humanité. Face à l'avancée de la technologie, nous avons été contraints de prendre une décision éthique.

Je ne peux rien ajouter à ce sujet qui n'ait déjà été abordé dans la littérature et le cinéma de manière percutante. Mon intention est simplement de vous rappeler, parce que je pense que c'est le bon moment pour le faire, et c'est pourquoi je le répète, que Chat est incapable de prendre des décisions éthiques ou morales. Si nous nous intéressons à une coexistence éthique et morale, ce sera donc une régulation qui ne dépendra pas de la machine, mais de nous.

*Caïo Gagliardi est professeur de littérature portugaise à l'USP. Auteur de La renaissance de l'auteur : paternité, hétéronomie et faux mémoires (Hédra).

notes

[I] J'ai pris une pause café avant de poser cette question. Peut-être parce que j'ai rejoint l'application, il ne m'a pas donné de réponse dans le modèle des précédents. Comme vous pouvez le voir, la réponse à la question suivante, à propos de Pessoa, a été "enrichie" à tel point après cette pause que ses deux premiers paragraphes peuvent être lus comme le résultat d'un coup de gueule.

[Ii] À ce stade, j'ai choisi de revenir à une question que j'avais posée à Chat deux jours avant cette conversation. La réponse générée a identifié le bourru Pedro de Lara (comme nous le savons, l'un des jurés exotiques du programme Sílvio Santos), comme "un écrivain, poète et critique littéraire brésilien", "auteur de plusieurs essais et articles sur l'œuvre de Fernando Pessoa, en particulier sur l'hétéronyme Álvaro de Campos ». Parmi les déclarations vagues et généralisantes, il y a la suivante : « En outre, Pedro de Lara était également l'un des responsables de la traduction et de la publication de l'œuvre de Pessoa au Brésil, ayant été responsable de la première édition brésilienne de « Mensagem », en 1952 .” En dehors du concept sans précédent de "traduire l'œuvre de Pessoa au Brésil", jusqu'au moment de la rédaction de cet article, je n'ai pas réussi à identifier un auteur nommé Pedro de Lara parmi les fortunes critiques brésiliennes de Pessoa.

[Iii] Je m'excuse auprès du lecteur pour cette insistance. La conversation prenait une tournure si intéressante que je ne pouvais pas l'interrompre à ce stade.

la terre est ronde existe grâce à nos lecteurs et sympathisants.
Aidez-nous à faire perdurer cette idée.
CONTRIBUER