Par EUGENIO BUCCI

La machine nous invite à jouer un rôle de soutien dans notre propre histoire. Et parle à travers des coudes en silicone

Oui, vous savez ce qu'est ChatGPT. Bien sûr, vous le savez : vous avez lu à ce sujet, vous avez vu des informations aux actualités et peut-être même avez-vous joué avec. O Chatbot développé par Institut ouvert de l'IA a explosé dans les préférences des masses interconnectées. La version 3,5, qui fonctionne en combinant 175 milliards de paramètres simultanément, a déjà atteint le cap des 120 millions d'utilisateurs. La version 4,0, en cours de route, compte 1 XNUMX milliards de paramètres.

Les gens ne parlent de rien d'autre. Les machines aussi : elles ne parlent de rien d'autre. C'est vrai : maintenant, les machines parlent, écrivent sur des sujets abstraits, bien au-delà de « prenez la deuxième sortie à gauche » ou « veuillez faire la queue, votre appel est très important pour nous ». Les ordinateurs et les téléphones portables ont été promus à des êtres parlants, et déjà avec l'air d'êtres pensants. Le mec s'y rend et demande : "Quelle réplique de Bocage puis-je citer à ma copine ce soir au dîner ?". L'entreprise répond par écrit. « Comment faire un gâteau à l'orange ? » Il enseigne, en une seconde. « Quelle est la différence entre un émir et un calife ? « Qui était Eschyle ? « Comment inverser le réchauffement climatique ? » "Vladimir Poutine est-il ému par les passions tristes dont parlait Espinosa ?" "La trigonométrie sera-t-elle un jour consommable dans les calculs géométriques ?"

Les temples du savoir sont en effervescence. Le cyber-oracle a des aspects addictifs, on le sait déjà, mais ce sont les aspects vicieux qui agitent le plus la communauté académique. Les élèves se tournent vers lui pour rédiger leurs devoirs. Comment va le professeur ? Comment savoir si ce texte appartient vraiment à la personne qui l'a signé ? Les méthodes d'évaluation des écoles sont en échec. Le plagiat a changé de niveau. Le droit d'auteur pour les robots est à l'ordre du jour.

Les tests en classe, basés sur l'ancienne technologie du stylo et du papier, renaissent. Les revues scientifiques les plus prestigieuses du monde n'hésitent pas à annoncer des règles éditoriales urgentes : elles n'acceptent papiers écrites par l'Intelligence Artificielle (IA), bien qu'elles admettent utiliser la fameuse Intelligence Artificielle pour mieux diffuser du « contenu » sur les réseaux.

A partir de maintenant, tout sera différent. "Ce qui arrive est un flot d'innovations et rien dans le passé ne se compare à ce qui est sur le point de se produire", a averti le professeur Glauco Garbix, du département de sociologie de l'USP, lors du séminaire ChatGPT : potentiel, limites et implications pour l'université, qui a eu lieu à l'Institut d'études avancées de l'USP, à São Paulo, mardi dernier. L'un des chercheurs brésiliens les plus influents en Intelligence Artificielle, Glauco Garbix affirme que les technologies en cours ne sont pas des « outils » neutres : « ce ne sont pas de simples tournevis ».

En résumé : la grande mutation a déjà commencé dans le rapport des êtres humains entre eux et au savoir, au travail, à la consommation et à la culture. Les machines n'ont pas encore commencé à apprendre à être des personnes, mais elles ont déjà commencé à se comporter comme des sujets du langage.

Problèmes en vue. Si vous demandiez aux psychanalystes ce qui distingue les humains des autres animaux, ils vous diront que seuls les humains sont sujets du langage, contrairement aux vers de terre et aux calculatrices. Un anthropologue esquissera une réponse dans le même sens. L'homme-animal se distingue parce qu'il parle et, en parlant, active des représentations abstraites et enchaîne des propositions guidées par des valeurs morales.

Eh bien, ChatGPT fait tout cela - ou du moins le simule très bien. Non pas qu'il soit humain, ce n'est pas ça, mais les différences entre humain et non-humain s'estompent de plus en plus. Si les machines sont des êtres du langage (et s'il y a déjà des gens aux États-Unis qui utilisent des applications conversationnelles pour faire de la psychothérapie), qu'est-ce qui, après tout, sépare une personne en chair et en os d'un algorithme bavard ?

Il y a ceux qui évitent le débat et se réfugient dans des prétentions techniques. ChatGPT fait des erreurs, disent-ils, avec soulagement. En fait, selon les mots des programmeurs et des informaticiens, le gadget va dans les hallucinations : il fait des erreurs, induit des erreurs, ment – ​​et tout cela sans rougir.

Mais est-ce vraiment un critère pour garantir que l'organisme n'est pas humain ? L'erreur est-elle inhumaine ? Depuis quand? L'autre jour, dans une réponse donnée à un doctorant de l'USP, le prodige du numérique sortait un « à Deus », avec crasis et tout. Quoi de plus humain ? Nous avons affaire à un Rolando Lero machinique, un personnage qui a l'endurance nécessaire pour soutenir des affirmations sauvages évidentes. Et il écrit « à Dieu » avec crasse.

D'autres disent que le chat ne devrait pas nous inquiéter parce qu'il n'est pas vraiment intelligent, il fait juste semblant de l'être. Pour ceux-ci, l'artefact donne l'impression d'une cohérence logique, mais ne pense rien. Peut-être qu'ils ont raison. Cependant, le monde est plein de gens qui affichent l'intelligence qu'ils n'ont pas. Exactement comme GPT. Sont-ils moins humains ?

Et nous le sommes. Avec des algorithmes qui parlent (et, pire encore, écoutent), ainsi qu'écrivent (et même lisent), notre non-pertinence devient encore plus évidente. La machine nous invite à jouer un rôle de soutien dans notre propre histoire. Et parle pour les coudes en silicone.

* Eugène Bucci Il est professeur à l'École des communications et des arts de l'USP. Auteur, entre autres livres, de La superindustrie de l'imaginaire (authentique).

Initialement publié dans le journal L'État de São Paulo.

Le site A Terra é Redonda existe grâce à nos lecteurs et sympathisants.
Aidez-nous à faire perdurer cette idée.
Cliquez ici et découvrez comment