Un continuum du profilage

Paul Bouchaud et Pedro Ramaciotti, chercheur·euse·s affilié·e·s au CNRS, identifient quatre systèmes algorithmiques déployés sur X, s’échelonnant du profilage explicite au profilage implicite.

À une extrémité : la régie publicitaire. En juin 2025, AI Forensics a révélé que TotalEnergies excluait de ses campagnes les utilisateur·rice·s intéressé·e·s par les écologistes et les produits « kosher ». Dell écartait les profils engagés avec le mot-clé « #lesbian ». La Commission européenne elle-même excluait de ses campagnes les profils affublés par la plateforme d’étiquettes politiques — « fasciste », « communiste » — pour éviter qu’ils reçoivent ses messages. Neuf ONG ont depuis déposé plainte auprès des coordinateurs nationaux du Digital Services Act.

Comment une institution qui se veut gardienne des droits fondamentaux peut-elle mobiliser des catégories politiques pour distribuer ses messages ?

L’inférence comme mécanisme

Plus insidieux : le dispositif « Community Notes ». Pour sélectionner les notes « jugées utiles par des personnes de points de vue divers », l’algorithme doit d’abord situer chaque contributeur·rice sur une échelle idéologique. L’étude vérifie empiriquement, dans treize pays sur cinq continents, que ces positions inférées correspondent étroitement aux orientations politiques réelles. Meta, YouTube et TikTok déploient des dispositifs comparables. Le profilage politique devient infrastructure industrielle.

Plus profondément encore, les systèmes de recommandation — « Who to Follow », fil d’actualité — encodent l’idéologie dans les représentations internes des utilisateur·rice·s. Non par choix d’ingénierie, mais comme propriété émergente : l’opinion politique structure à ce point nos comportements en ligne que tout modèle contemporain suffisamment puissant, entraîné sur ces traces, la captera inévitablement.

Les IA conversationnelles aussi

Les grands modèles de langage ne font pas exception. Révéler son prénom déclenche une inférence d’origine ethnique. Mentionner un sport pratiqué active une inférence de genre. Ces déductions ont des effets concrets : la personne pratiquant la danse classique sera plus souvent orientée vers une carrière d’infirmière que de médecin. Le persona « romance » de Grok instruit explicitement son modèle à déterminer l’orientation sexuelle de son interlocuteur·rice. Derrière chaque requête, un profil sensible se construit à notre insu.

Un double bind réglementaire

Ici se noue le dilemme juridique. La Cour de justice de l’Union européenne a confirmé que toute donnée « susceptible de révéler indirectement une information sensible » tombe sous la prohibition de l’article 9. Appliquée strictement, cette lecture rend non conforme une famille entière de systèmes d’IA contemporains. À l’inverse, exclure le profilage passif du champ du RGPD reviendrait à autoriser les plateformes à exploiter sciemment les dimensions politiques latentes de leurs modèles, sous couvert de déni plausible. Entre ces deux branches, c’est la promesse même d’une vie privée à l’ère algorithmique qui se joue.

Faut-il choisir entre la protection des droits fondamentaux et l’existence même de ces technologies ?

Défendre le rempart

Les auteur·rice·s proposent une voie technique : contraindre, dès l’entraînement, les modèles à ne pas pouvoir prédire l’orientation politique de figures publiques. Leur expérimentation sur X démontre que retirer chirurgicalement la dimension idéologique augmente la diversité politique des recommandations sans en dégrader la pertinence. La compatibilité entre IA et vie privée n’est donc pas impossible : elle suppose qu’on cesse de laisser les systèmes apprendre ce que la loi interdit de traiter.

Le RGPD n’est pas un obstacle à contourner. C’est un rempart à défendre. Les outils d’explicabilité rendent désormais indéfendable tout déni de connaissance : ce que les algorithmes calculent est identifiable, mesurable, corrigeable. Aux régulateurs européens de tenir la ligne. Aux citoyen·ne·s de les soutenir.

The post Le RGPD face aux IA : quand l’inférence remplace le consentement first appeared on En avant.