Par EUGENIO BUCCI*
Chapitre de livre récemment publié
La personne incertaine et le propriétaire de la machine
Notre problème est que la machine est un facteur d'incertitude bien plus important pour vous que vous ne l'êtes pour elle. La plupart des doutes sur vous, votre smartphone a déjà pris en compte et tarifé. Les applications et les algorithmes savent presque tout sur ce qui se cache derrière vos doigts qui tapent et vos yeux qui bougent d'une manière difficile couvrant chaque millimètre carré de l'écran. C'est pourquoi la machine « devine », au moment même où vous tapez le « v », que vous allez écrire « vide », ou « valeur », ou « vice ».
Notre problème est de l'autre côté, je veux dire, c'est de ce côté-ci. Notre problème est que vous n'avez aucune idée de la manière dont la machine parvient à tout savoir sur vous. Notre problème est que de l'autre côté il y a un ensemble d'opérations complexes, très rentables et inaccessibles pour vous. On ne sait pas vraiment ce qui se passe là-bas. Presque personne ne le sait. Les seules personnes qui connaissent l'autre côté sont celles qui ont la clé du coffre-fort où se trouve le grandes technologies – comme Alphabet, qui possède Google et YouTube, ou Meta, qui possède Facebook et WhatsApp – verrouillent les codes de leurs algorithmes. Il y a très peu de monde.
Notre vie est tombée dans une asymétrie sans pareille. De l'autre côté, le centre névralgique du « monde numérique », monopolisé par les conglomérats technologiques, est une source d'énormes incertitudes pour l'immense majorité de l'humanité. Les algorithmes, contrôlés par des géants de la technologie, ont déjà assimilé presque toutes les incertitudes qui pourraient subsister sur le comportement des gens. De ce côté, on regarde les conglomérats et on ne voit pas ce qu'ils gardent. Ils ont des parois opaques.
Vous aurez une prise de sang. Votre praticien de soins primaires a certaines attentes concernant les résultats. À partir des symptômes qu'il a évalués, il envisage la possibilité que des marqueurs de l'une ou l'autre maladie apparaissent. Ces indicateurs sont plus ou moins probables, selon le jugement clinique de votre médecin. De toute façon, jusqu'à ce que les indices sortent du laboratoire, vous n'êtes rien de plus qu'un système avec un certain degré d'entropie. Plus il y a d'incertitude par rapport aux résultats possibles de votre examen en laboratoire, plus les informations qui en découlent auront de la valeur.
Mais il y a toutes les conditions technologiques pour que les algorithmes connaissent les probabilités de votre examen avec plus de précision que votre clinicien en chair et en os. Tout comme le téléphone portable l'anticipe, dès que votre doigt appuie sur la lettre "v" sur WhatsApp, votre intention est d'écrire "virus" ou "viral", un système qui a accès à la base de données de votre laboratoire et à des milliers d'autres banques sera capable de projeter des tendances probables dans les résultats. Ces tendances probables seront basées sur des modèles statistiques extraits de vos données d'examen précédentes combinées à des données de millions ou de milliards d'autres patients.
Un groupe de zéros et de uns à l'intérieur de votre téléphone portable peut anticiper, avec une bonne marge de certitude mathématique, le moment où le terrible diagnostic apparaîtra pour vous. Et pourquoi les systèmes veulent-ils connaître l'avenir de votre santé ? C'est vrai : parce que cette prédiction a une valeur marchande, en particulier pour les compagnies d'assurance. Il y a aussi les conséquences, dirons-nous, propédeutiques de ces prédictions cliniques. Formé par le Big Data, les médecins se comportent de plus en plus comme des gestionnaires de risques : ils gèrent le « portefeuille » d'indicateurs cliniques de leurs patients (cholestérol, glycémie, triglycérides…) dans le but de les sortir des groupes statistiques les moins favorables. Le bien-être et la santé sont réduits à des arrangements probabilistes.
Le traitement que nous recevons dans les bureaux est une variante des paramètres actuariels, dans le but de nous retirer des quadrants dans lesquels les réclamations sont plus susceptibles de se produire. Les professionnels de la santé se comportent plus ou moins comme des négociants en bourse ou comme des gestionnaires de fonds. Quant aux hôpitaux, ils s'apparentent à des banques d'investissement.
En changeant les choses (en zéros et en uns), l'incertitude est une bonne (ou une mauvaise chose) inégalement répartie dans le monde numérisé : elle est plus grande, elle est immense, elle est insurmontable pour des humains qui ne sont pas propriétaires de fortunes, de grande entreprise ou pouvoir; il est petit, bien géré et rentable pour les propriétaires d'entreprises valant des milliards ou des billions de dollars et pour ceux qui dirigent l'appareil politique.
La plupart du temps, nous voyons cette iniquité comme un clivage entre les humains et les machines, mais, à vrai dire, nous parlons ici d'un clivage entre classes sociales. La différence est que ceux d'en haut, l'élite de l'élite de l'élite, possèdent la technologie, dont ils tirent des gains avec incertitude, tandis que ceux d'en bas ne font que perdre avec elle. Notre problème, finalement, ne réside pas dans la technologie, mais dans les relations de propriété qui la lient.
* Eugène Bucci Il est professeur à l'École des communications et des arts de l'USP. Auteur, entre autres livres, de La superindustrie de l'imaginaire (authentique).
Référence
Eugène Bucci. L'incertitude, un essai. Comment nous pensons à l'idée qui nous désoriente (et guide le monde numérique). Belo Horizonte, Autêntica, 2023, 140 pages (https://amzn.to/3Qyfigp).
