Par SERGIO AMADEU DA SILVEIRA*
Marco Civil n'a jamais empêché la modération de contenu par les plateformes
On assiste à un renversement inquiétant du débat sur la lutte contre la désinformation et les discours de haine. Du coup, le Civil Rights Framework pour Internet est devenu responsable de l'inefficacité des plateformes face aux attaques contre la science et la qualité des informations basées sur des faits. Aux États-Unis ou en Angleterre, le Marco Civil n'existait pas et cela ne nous a pas empêchés d'assister à une vague de désinformation qui a abouti à la le Brexit, l'élection de Donald Trump et l'invasion du Capitole.
Le Marco Civil n'a jamais empêché la modération du contenu par les plateformes. Ceux qui n'ont pas contenu les falsifications de la réalité, les «fermes à clics», la prolifération des groupes fascistes et leur discours de haine étaient les propriétaires des plateformes. Ce n'est pas simplement parce qu'une grande partie de la Silicon Valley sympathise avec les idées d'incompatibilité entre la liberté illimitée d'exploitation économique et les démocraties, comme Peter Thiel, fondateur de PayPall, ou Larry Elisson, cofondateur d'Oracle, partisans de l'extrême droite et de la soi-disant mouvement alt-droite.
Les plateformes ont un modèle de rémunération extrêmement réussi qui a abouti à des valeurs marchandes supérieures à 1 billion de dollars pour les Big Techs qui détiennent leur participation majoritaire. Quelle est la principale dynamique de ce business model ? Premièrement, l'offre gratuite d'interfaces et de services dans le but de collecter massivement les données des personnes qui les utilisent. Deuxièmement, ces données sont traitées par des systèmes algorithmiques de formation de profils comportementaux et de micro-segmentation de la population qui les utilise. Troisièmement, les profils sont regroupés par plateformes pour être ciblés avec des publicités ciblées par ceux qui ont de l'argent, des entreprises, des services marketing, des groupes politiques et autres.
Ainsi, les plateformes monétisent chaque seconde qu'une personne parcourt leurs structures, conçues pour attirer et moduler l'attention. Dès lors, ils ont créé la logique de la viralisation, de l'engagement et de la vente de aime et les impulsions. Tous les efforts déployés par les plateformes ne visent pas à fournir des informations de qualité ou à protéger la démocratie. Son objectif est la spectaculaire qui permet aux gens de regarder et de partager son contenu. Dès lors, l'appauvrissement des débats que l'on observe dans la politique mondiale doit beaucoup à cette logique virale qui consiste à transformer tout en quelque chose de surprenant.
En attaquant le Marco Civil, en général, l'intention est de déclarer que les plateformes ont été empêchées de bloquer les contenus mensongers et de désinformation. Par conséquent, la loi devrait exiger que la désinformation soit contenue par les plateformes. Alors maintenant, nous allons donner à Big Tech le pouvoir légal de dire ce qui est et n'est pas de la désinformation. Comme dans le scandale de Cambridge analityca, la solution proposée à Facebook concentrait encore plus de pouvoir sur la direction de l'entreprise et ne réduisait en rien le processus de désinformation – comme l'a démontré Frances Haugen, ancienne chef de produit du réseau social.
Dans la seconde moitié de mars 2023, quiconque est entré dans le Democracy Now sur Youtube tomberait sur un avertissement : "La communauté YouTube a identifié le contenu suivant comme inapproprié ou offensant pour certains publics". La vidéo jugée inappropriée était un reportage sur Julian Assange, chef du Wikileaks qui a dénoncé les crimes de guerre des États-Unis. Le même Youtube a bloqué la visualisation du contenu du podcast technopolitique en douze épisodes. Dans aucun de ces cas, il n'y a eu de désinformation ou de discours de haine, mais les responsables de la plateforme ont jugé bon de réduire les vues et de bloquer le contenu. Fait intéressant, cela ne se fait pas sur les chaînes de l'extrême droite, pas même sur la chaîne de l'ancien député Mamãe Falei. Pour Youtube, ces chaînes ne violent pas ses règles.
La nécessaire régulation des plateformes ne doit pas accroître leur pouvoir arbitraire sur les contenus. Nous avons besoin d'une loi qui réduise ce pouvoir et les place sous le contrôle des démocraties. La réglementation exige les informations nécessaires sur les données qu'ils collectent, les croisements effectués et les objectifs des systèmes algorithmiques qu'ils utilisent. Les conditions d'utilisation et les politiques de confidentialité qu'ils exposent ne suffisent pas pour que les démocraties et les sociétés disposent d'informations de base dans leurs opérations sur les comportements sociaux.
Les plateformes de réseaux sociaux ne sont pas des sites Web ou des blogs. Ils se présentent comme des espaces publics non liés à une quelconque option culturelle, partisane, religieuse ou commerciale. Ils le font pour attirer tous les publics et les atteindre avec de la publicité et du marketing. Dans cette condition, les plateformes doivent être soumises à un contrôle démocratique.
La gestion immédiate des plateformes étant assurée par des systèmes algorithmiques de machine learning, il est essentiel d'évaluer l'impact des traitements de données qu'ils effectuent. A tout le moins, les finalités des modèles qu'ils créent doivent être clairement exposées, sans doutes ni euphémismes, pour ceux qu'ils modulent. Les conditions d'utilisation et les politiques de confidentialité des plateformes sont trop génériques et ne permettent pas de savoir si elles pratiquent une collecte et un traitement excessifs, discriminatoires et inappropriés des données.
Au moment même où les Européens créent un Conseil de l'Intelligence Artificielle composé d'experts en intelligence artificielle, de représentants de la société civile, du gouvernement et du marché, la régulation des plateformes, compte tenu de leur complexité, devrait avancer dans la formation d'une structure d'application démocratique et multisectorielle des règles. sur ces entreprises de modulation sociale.
*Sergio Amadeu da Silveira est professeur à l'Université fédérale d'ABC. Auteur, entre autres livres, de Logiciel libre – le combat pour la liberté du savoir (Conrad).
Initialement publié sur le site Autres mots.
Le site A Terra é Redonda existe grâce à nos lecteurs et sympathisants.
Aidez-nous à faire perdurer cette idée.
Cliquez ici et découvrez comment
