Voici une partie d’un texte que j’avais préparé pour un oral en cours d’anglais, que je vous laisse en français, et qui traite de l’exploitation de nos données sur Internet. Cette courte proposition s’inscrivait dans le cadre d’un exposé sur les biais cognitifs humains sur lesquels les intelligences artificielles se basent pour se développer. En effet celles-ci semblent surreprésenter certaines catégories sociales selon des schémas de représentation stéréotypés, et favoriser les autres dans des situations économiques ou sociales comme l’accès à la santé, ou les tarifs des assurances. J’espère qu’après la lecture de ces quelques lignes, vous aurez à cœur de faire vos propres recherches sur ce sujet qui vient de trouver un renouveau d’intérêt, puisqu’à l’heure où je recopie mon texte, une intelligence artificielle du groupe Meta vient de critiquer Marc Zuckerberg, et semble prouver qu’elle est bien aussi victime des chambres d’écho à l’instar des humains.
Merci pour votre intérêt.
Nos données sont en permanence captées sur internet, afin d’enrichir les algorithmes de ciblage marketing des entreprises qui constellent la toile. Ces données, appelées aussi données comportementales, sont exploitées par ces algorithmes afin de mieux nous comprendre, comme l’algorithme de l’intelligence artificielle de Facebook, qui les utilise pour nous diffuser de la publicité adaptée à ce que le réseau pense être nos besoins.
Les données pour Desrosières ne peuvent être comprises seules. En effet elles doivent être interprétées, contextualisées et analysées pour faire sens. Et en 2021 les estimations du volume de données générées ou répliquées dans le monde montraient que celui-ci avait été triplé durant la dernière décennie. Cette augmentation est due essentiellement à l’augmentation des systèmes de stockage. Et les prévisions annoncent que ce chiffre devrait tripler d’ici 2025 selon les chiffres d’instituts statistiques comme Statista.
On peut alors se questionner sur les possibilités d’analyse du genre humain laissées aux algorithmes des IA avec ce nouveau volume de données. Et la vitesse à laquelle peut arriver une IA toujours plus proche de notre sensibilité. Nous pouvons également nous demander si elle sera capable de faire face aux biais cognitifs discriminants et sur quel modèle elle calquera ses capacités de jugement.
Mais il y a une différence entre le Data et le Big Data. Lenaic Couderc du département de sciences sociales de l’école normale supérieure de Cachan nous explique que le Data est essentiellement recueilli pour sa valeur utile, c’est parce que cette donnée est utile qu’elle est recherchée. Le Big Data lui est l’ensemble des données utiles ou non, il inclue donc toutes les données comportementales qui ne servent pas directement à faire un lien avec un produit marchand à vendre à l’utilisateur. Ce machine learning va donc de la possibilité de produire des voitures autonomes à la gestion des spams dans les boites aux lettres, en passant par la suggestion de contenu marchand personnalisé à l’utilisateur.
Facebook collecte du Big Data, pour cibler ses utilisateurs avec des annonces de produits marchands sélectionnés spécialement selon ce qu’il pense être leurs besoins. Mais pas seulement. A travers son offre pour développeurs et webmasters, la solution « social plugin », Facebook peut collecter des données comportementales à l’extérieur de ses propres pages web. Il s’agit d’un bouton like, hate, share, et d’un champ de commentaire que l’on peut ajouter à ses propres pages web. Ces données comportementales acquises par le réseau lui permettent ainsi de développer des algorithmes qui ciblent aussi bien vos idées politiques, que culinaires ou sportives, afin de vous proposer du contenu en accord avec elles.
Aujourd’hui un des problèmes liés à l’information sur internet est l’effet de bulle des chambres d’échos décrit par Gérald Bronner en 2021, qui fait qu’on ne propose à l’utilisateur que des informations allant dans son sens. Et malheureusement les intelligences artificielles n’absorbent pas seulement des données comportementales, mais aussi la manière dont elles celles-ci sont structurées, même si c’est selon des biais cognitifs préjudiciables pour certaines catégories sociales. On peut donc se poser la question de la marge de liberté à laisser aux intelligences artificielles, dans un contexte où la liberté elle-même est devenue un enjeu de pouvoir entre libertariens soucieux de leurs profits personnels, et partisans d’une régulation nécessaire pour éviter le chaos et réduire les inégalités.
Sources, notes, liens:
- Graphique: Le Big Bang du Big Data | Statista
Quelques jours après son lancement, le chatbot de Meta tient des propos racistes et complotistes (ouest-france.fr)- Data, big data, open data : de quoi parle-t-on ? | Cairn.info
- Apocalypse cognitive – Gérald Bronner – Hors collection – Format Physique et Numérique | PUF