Par JOSÉ MACHADO MOITA NETO*
Il n'y a pas d'intelligence artificielle qui n'ait des conséquences éducatives, culturelles, sociales, économiques et politiques.
Les controverses autour de ChatGPT, qui semblent alimenter une en direct, provoquent une réflexion qui va au-delà de cette application technologique spécifique, orientant le regard vers le domaine plus large de l'Intelligence Artificielle (IA). qui a eu l'occasion de lire Intelligence artificielle par Kai-Fu Lee peut avoir été emporté par l'optimisme technologique ou réfléchi sur les questions de pouvoir, de domination et de transformations éducatives et culturelles absentes de ce texte.
La position d'un éducateur est toujours, face à presque tout, celle d'un optimisme retenu. Il n'y a rien de spectaculaire qui ne mérite une critique ou, du moins, une alerte sur des développements possibles et indésirables. Le but de ce texte est de naviguer à travers les possibilités de l'Intelligence Artificielle, alors que certaines applications peuvent être considérées comme inutiles ou dangereuses.
robots humains
Le premier point de cette réflexion est l'existence de « bots » humains : des personnes qui se comportent, dans certaines pratiques, comme s'ils étaient des robots. Cela vient de la formation, de la standardisation, de la standardisation des comportements, voire exigée par les entreprises. A titre d'exemple, certains ont déjà subi le désagrément de vouloir acquérir rapidement un article dans un supermarché, en anticipant les informations qui leur seront demandées. L'article est livré en indiquant qu'il sera payé par carte de crédit (une fois ou en espèces), pensant que cela fera gagner du temps et aidera également le caissier à faire son travail plus rapidement. Ce n'est pas vrai. Il traitera l'achat et posera ensuite la question : crédit ou débit ? Si la réponse est crédit, il vous demandera s'il s'agit d'espèces ou de versements. Cette information lui avait déjà été fournie auparavant, mais il n'y a pas prêté attention ou, s'il l'a fait, il doit suivre un protocole très strict, ce qui fait de lui un véritable « bot » humain (robot humain).
Donc, si nous avons ce comportement admissible dans la société, cette super standardisation, et ce n'est qu'un des exemples, il n'est pas surprenant l'énorme succès que peut obtenir une Intelligence Artificielle précisément parce que les humains standardisent rapidement. Les comportements et les modèles uniformes sont facilement captés et appris par les machines. C'est le cas par exemple de ChatGPT. L'intelligence artificielle remplacera massivement les "robots humains".
Normalisation du comportement humain
Il existe des techniques d'ingénierie sociale pour la structuration. Il est courant, par exemple, pour Slogans des publicités ou des manifestations émotionnelles suivent un certain schéma dicté par quelqu'un, par un ensemble de discours, de telle sorte que le comportement de personnes très différentes est standardisé/formaté autour du même type de discours, de la même approche, de la même idole et même de la même produit ou marque. Créer un comportement standard de masse est excellent du point de vue du marché pour de nombreuses entreprises.
Transparence Post-ChatGPT
Il n'y a pas d'intelligence artificielle qui n'ait des conséquences éducatives, culturelles, sociales, économiques et politiques. Si c'était le cas, ce serait hors de propos. De cette manière, discuter de la transparence technico-constructive de chaque mécanisme utilisé dans une IA définit comment la société veut être transformée par elle, y compris en traçant les limites éthiques. Dans cette provocation post-chatGPT, il y a une question de transparence qui peut être simplifiée par un slogan qui par le passé était entendu pour afficher une position sociale "savez-vous à qui vous parlez?".
Ce qui devrait être exigé de toute Intelligence Artificielle, c'est que sa première réponse soit une question à l'utilisateur posée par l'Intelligence Artificielle elle-même : "savez-vous à qui vous parlez ?". L'utilisateur qui a répondu "non" entendrait une introduction rapide, dans laquelle l'ensemble de données avec lequel l'intelligence artificielle a été formée et la période que comprend la base de données utilisée seraient indiqués. En plus des cas d'indications et de contre-indications à son utilisation, comme une notice de médicament. Tout ce qui sera vrai ou faux dans la réponse dépendra évidemment de cette base de données ou de ses caractéristiques. Toute Intelligence Artificielle qui est évolutive et continue d'apprendre de ses utilisateurs devrait contenir un avertissement spécial en raison du risque déjà expérimenté d'évolutions indésirables qui conduisent à incorporer des attaques programmées par les utilisateurs pour la changer.
Supposons qu'une base de données soit entraînée à partir de la programmation du Rede Globo entre les années 1970 et 1980. En faisant cela, vous pouvez stocker toute cette programmation et, à partir de celle-ci, former une Intelligence Artificielle. De cette façon, il inclura toute la programmation pour cette période particulière. Une question sur le changement climatique peut être répondue par : « Je n'ai pas été formé pour cela » ou, même, une question impliquant des changements culturels récents peut être présentée avec une réponse préjugée qui serait parfaitement adéquate dans cette décennie. Par conséquent, nous pouvons classer une réponse sur le rôle des femmes dans la société comme anachronique ; parce qu'on sait que, dans cette période historique, c'était comme ça qu'on disait et c'était comme ça qu'on traitait une certaine question.
Avec cela, l'argument que j'avance est que l'Intelligence Artificielle aujourd'hui, précisément parce qu'elle veut couvrir un très large éventail, est très concernée par des problèmes qui impliquent de nombreux ensembles de données. Ainsi, il fait face à toutes sortes de problèmes à partir de la définition du jeu de données lui-même et de sa représentativité. De cette façon, les modèles d'IA sont confrontés aux mêmes problèmes que tous les autres domaines de la science confrontés à des modèles extrêmement grands/larges.
Parcours théorique des autres sciences
En Chimie, nous avons des théories pour la Cinétique qui sont encore enseignées aujourd'hui, davantage en raison de leur caractère historique, et sont applicables à toutes les réactions chimiques. Aujourd'hui, on sait qu'une théorie unique capable d'expliquer qualitativement et quantitativement la cinétique d'une réaction chimique est irréalisable. Aussi, maintenant nous savons que les théories du passé étaient importantes pour expliquer les aspects qualitatifs impliqués dans la vitesse d'une réaction, mais elles ne sont pas présentes du point de vue quantitatif. Et pour cela, il existe d'autres théories, mais pour des réactions très spécifiques. Cela vaut pour les théories sur le comportement des gaz, les théories générales font partie du cadre historique et donnent des informations qualitatives sur la pression, la température, le volume sous le comportement gazeux. Cependant, ils sont loin de représenter un modèle pour un gaz spécifique dans une situation applicable avec des résultats quantitatifs significatifs/précis. Dans toutes les sciences, il est possible de démontrer que les théories initialement utilisées avaient une portée non mesurée.
Actuellement, les modèles d'Intelligence Artificielle correspondent à ces théories génériques et ne deviendront bons et précis que lorsqu'ils perdront leur généralité et évolueront vers une spécialisation. Imaginez que nous puissions avoir une Intelligence Artificielle basée sur l'ensemble du travail de Machado de Assis, rassemblant dans la base de données, en plus de son travail, tous les journaux de son temps et tout ce qui correspond à son expérience. Donc, cette Intelligence Artificielle, en quelque sorte, passera l'univers de Machado de Assis. Et, par conséquent, une question posée à cette Intelligence Artificielle ferait référence à la langue de Machado de Assis, dans les aspects, y compris les aspects sémantiques de l'époque de Machado de Assis et avec les catégories qu'il a utilisées, sa différenciation en termes de société de classe et la milieu dans lequel il vivait. Une telle Intelligence Artificielle aurait un potentiel didactique impressionnant pour l'étudiant qui interrogeait Machado de Assis sur cette période historique. Ce serait comme avoir un ancêtre vivant racontant des histoires de son temps.
création de Intelligence artificielle personnalisée
Aujourd'hui, il est à la portée de tout chercheur, par exemple, de créer des modèles statistiques assez complexes, dont l'algèbre est souvent mal comprise, mais il est possible de les interpréter conformément à ce que l'on veut. De même, il est possible de créer un IDLE (Environnement de développement et d'apprentissage intégré) pour que les élèves créent leurs Intelligences Artificielles. Dans ce cas, le business model ne serait pas la vente d'une Intelligence Artificielle, mais des bases de données adaptées pour l'importation dans IDLE constructeurs d'Intelligences Artificielles. L'étape d'apprentissage serait simplifiée par ces algorithmes, comme elle l'est aujourd'hui dans le cas des statistiques, à condition que les bases de données aient été soigneusement prétraitées.
L'avenir possible d'un intelligence artificielle
L'avenir de l'Intelligence Artificielle se construira sur mesure pour l'utilisateur, dans lequel l'utilisateur lui-même fournit et utilise comme il le souhaite, la formation à partir de la base de données qu'il souhaite. Imaginez accéder à une Intelligence Artificielle qui fonctionnera avec toute la programmation du Radio Pioneira de Teresina avec les interviews faites, musique jouée, tout au long de la période historique qu'il a une base de données. Supposons que ce soit des années 1960 à 2010 ou 2020. Ainsi, nous pourrions avoir une IA de toute cette période ou, même, avoir une IA d'une période encore plus restreinte comme les années 60-80, 80-90, 90- 2000 et ainsi de suite dans cette fragmentation. Cela signifie que chacun construirait sa propre Intelligence Artificielle à partir d'une base de données donnée qu'il choisirait.
En effet, cette spécialisation serait d'une grande valeur car nous aurions aussi des « phénomènes de bulles ». Quelqu'un qui a fait une IA dans les années 80 et 90 n'aurait pas toutes les réponses nécessaires pour le monde d'aujourd'hui, mais l'IA les placerait dans cette bulle cognitive qui correspondrait à cette période. Mais rien n'empêcherait cette personne, n'ayant pas accès aux connaissances de l'IA de cette décennie, d'utiliser la décennie suivante. Donc, il se peut que quelqu'un préfère continuer à consulter l'Intelligence Artificielle des années 60-80, un autre des années 2000-2010, etc., parce que ce sont des gens qui sont arrêtés dans le temps, qui sont obsédés par ces chansons qui ont été jouées à cette période, dans la façon de voir le monde de cette période.
Fondamentaux de la communication pour Intelligence Artificielle
Compte tenu de ce qui précède, la chose la plus importante, également d'un point de vue éthique, lorsque vous répondez à la question : "savez-vous à qui vous parlez ?" serait l'émission de la réponse : "vous parlez à l'Intelligence Artificielle basée sur une telle base de données qui a été formée et produite à partir de telles informations, dans un certain laps de temps." De cette façon, ces informations de base du journalisme 5W2H (Quoi, Pourquoi, Qui, Où, Quand, Comment, Combien) serait dans les informations données par l'Intelligence Artificielle que chacun pourrait créer ou reprendre une déjà créée sur le marché de l'Intelligence Artificielle, c'est l'avenir possible. Cela résoudrait les problèmes actuels de l'Intelligence Artificielle, mais cela apporterait une autre dimension éthique et enfermerait dans une certaine période historique tous les anachronismes que les Intelligences Artificielles ont aujourd'hui.
Quel est le problème avec l'Intelligence Artificielle qui ne satisfait pas les exigences de la plupart des gens ? La façon rapide dont ils peuvent devenir politiquement corrects ou discriminatoires en se basant sur certaines opinions du passé. Une intelligence artificielle regardera toujours vers le passé, car elle s'entraîne à partir de ce qui lui a été donné. De cette façon, lorsque nous déclarons ce qu'est la base de données et qu'il n'y a aucune prétention de généralité, elle se spécialise dans une certaine période historique, dans un contexte, elle peut atteindre n'importe qui, car aujourd'hui nous n'avons pas besoin d'un professionnel appelé photographe. Chaque individu peut créer ses propres photographies, tout comme nous n'avons pas besoin de laboratoires pour développer des images, nous pouvons les projeter et les montrer partout.
Utilisation proposée de L'intelligence artificielle dans l'éducation
Je crois que l'Intelligence Artificielle aura cet autre biais et, lorsqu'elle arrivera dans un milieu scolaire, une pratique qui pourrait être faite serait de demander aux élèves de créer une base de données pour former une Intelligence Artificielle basée sur le Romantisme. Ainsi, chaque étudiant chercherait tous les éléments possibles du romantisme, sa période historique, les principales œuvres, compilerait toutes ces bases de données et chacun ajouterait à sa base de formation une chose ou une autre qui le différencierait. Autrement dit, nous intégrerions véritablement les caractéristiques de l'intelligence artificielle dans le modèle d'éducation et nous ne serions pas de simples utilisateurs appuyant sur des boutons pour obtenir des réponses simples. Cela signifie dire que nous devrions avoir de meilleurs enseignants, plus formés à ces possibilités, des algorithmes plus faciles et plus populaires à utiliser et, aussi, nous aurions un règlement très spécifique qui serait la documentation nécessaire de chaque Intelligence Artificielle.
Entre créativité et standardisation
L'homme ne cessera jamais d'être deux choses à la fois : il tendra toujours vers une uniformité basée sur sa vie sociale, ce qui favorise grandement l'Intelligence Artificielle et sera aussi créatif, différent de l'autre/voisin, ce qui laissera toujours un vide dans Intelligences Artificielles. Cependant, il est clair qu'il apportera des avantages à la société dans son ensemble, tout comme le fait de la presse, tout comme les grandes encyclopédies, les dictionnaires et les divers moyens dont dispose la communauté pour accéder à l'information et l'interpréter. Évidemment, il ne cessera jamais d'être un mimétisme d'une certaine époque et demandera toujours à l'utilisateur d'user de sa capacité d'interprétation.
Lorsqu'on demande à une Intelligence Artificielle basée sur les données de Machado de Assis d'écrire un texte sur le changement climatique, ce texte aura le style de Machado de Assis et la profondeur correspondant à son époque. Peut-être, raconter une situation, associée au changement climatique, qui s'est produite dans une certaine période, qui serait simplement décrite comme pleine ou inondation, froid intense ou seulement à la fin déclarerait que l'information présentée est insuffisante pour compléter l'idée, puisque cette catégorie n'existait pas à cette période historique. Cependant, nous aurions beaucoup d'autres choses intéressantes à explorer.
Conclusion
L'explosion de textes, d'actualités et d'informations sur l'utilisation de ChatGPT se qualifie davantage comme une version majeure de en direct qu'un changement de rythme dans la recherche et le développement de l'intelligence artificielle. Les développements substantiels de l'intelligence artificielle ne se produiront que lorsque les modèles génériques, qui cibleraient également tous les marchés de consommation pour une langue donnée, seront abandonnés.
*José Machado Moita Neto est professeur à la retraite à l'Université fédérale du Piauí (UFPI) et chercheur à l'UFDPar.
Références
Il est encore tôt pour dire que je suis la plus grande révolution depuis Internet, dit ChatGPT, https://impactomais.com.br/ciencia-e-tecnologia/ainda-e-cedo-para-dizer-que-sou-a-maior-revolucao-desde-a-internet-diz-chatgpt/.
AI avance avec ChatGPT met en garde contre la tricherie des étudiants, https://www1.folha.uol.com.br/mercado/2022/12/avanco-da-ia-com-chatgpt-alerta-sobre-trapaca-de-estudantes.shtml.
ChatGPT : comment utiliser le robot au quotidien, https://g1.globo.com/economia/tecnologia/video/chatgpt-como-usar-o-robo-no-dia-a-dia-11287993.ghtml.
ChatGPT : outil contrôlé par l'intelligence artificielle génère de la polémique lors de la création de textes, de poèmes et même de paroles de chansons,
https://g1.globo.com/fantastico/noticia/2023/01/29/chatgpt-ferramenta-controlada-por-inteligencia-
artificielle-génère-la-controverse-en-créant-des-textes-poèmes-et-même-des-paroles.ghtml.
Le laboratoire qui a créé ChatGPT a été fondé à but non lucratif et pourrait valoir 29 milliards de dollars, https://www1.folha.uol.com.br/mercado/2023/01/laboratorio-que-criou-chatgpt-foi-fundado-sem-visar-lucro-e-pode-valer-us-29-bi.shtml.
Nature 613, 612 (2023), https://doi.org/10.1038/d41586-023-00191-1
Le département de l'éducation de NYC bloque ChatGPT sur les appareils scolaires, les réseaux, https://ny.chalkbeat.org/2023/1/3/23537987/nyc-schools-ban-chatgpt-writing-artificial-intelligence#:~:text=%E2%80%9CDue%20to%20concerns%20about%20negative,education%20department%20spokesperson%20Jenna%20Lyle.
ChatGPT et le débat sur les avancées dans le domaine de l'intelligence artificielle – Ao Ponto – podcast du journal O Globo,
Préoccupées par ChatGPT, les universités commencent à revoir leurs méthodes d'enseignement, https://www1.folha.uol.com.br/mundo/2023/01/preocupadas-com-chatgpt-universidades-comecam-a-rever-metodos-de-ensino.shtml.
Quand la technologie peut faire obstacle. https://cidadeverde.com/cienciaviva/121159/Quem-a-tecnologia-pode-atrapalhar.
Essayer d'interdire ChatGPT dans les écoles sera une perte de temps, disent les experts.
Note
[1] Je tiens à remercier mon ami et collaborateur Prof.Dr. Regis Casimiro (IFRN) qui a fait la lecture et a contribué avec des indications de sources récentes de discussion sur le sujet.
Le site A Terra é Redonda existe grâce à nos lecteurs et sympathisants.
Aidez-nous à faire perdurer cette idée.
Cliquez ici et découvrez comment
