Combien valent vraiment nos données quand l'IA les avale ?
Confidentialité, données, vie privée numérique
Le vertige
Plus vous donnez à l'IA, plus elle est utile. C'est sa loi. Plus elle est utile, plus vous lui donnez.
Au bout du chemin, vos historiques, vos émotions, vos voix, vos visages, vos conversations professionnelles, vos questions intimes, vos doutes de deux heures du matin... tout cela nourrit des systèmes que vous ne contrôlez pas. Le contrat est implicite : votre vie privée contre un peu de magie.
Et personne ne lit jamais la politique de confidentialité.
Le point de départ
Les modèles d'IA s'entraînent sur des montagnes de données. Leurs interfaces, elles, collectent en permanence ce qu'on leur dit pour s'améliorer, pour personnaliser, ou pour entraîner les futures versions. La frontière entre « l'outil que j'utilise » et « l'outil qui m'utilise » est devenue floue.
La question n'est plus de savoir si nous donnons des données : SPOILER nous en donnons sans cesse! C'est de savoir lesquelles, à qui, pour quoi, pendant combien de temps, et sous quel contrôle. Et de mesurer l'asymétrie : eux savent tout ce qu'ils ont sur nous ; nous, presque rien.
Il y a aussi un effet vertigineux : nos données d'aujourd'hui entraîneront les IA de demain, qui parleront ensuite à des inconnus. Un message confiant que vous écrivez maintenant peut, indirectement, façonner la personnalité d'un modèle dans cinq ans.
Demain
Demain, l'IA sera dans le médical, l'éducation, le travail, la maison, la voiture, à votre poignet, voir même dans une puce sous votre peau. Chaque conversation, chaque clic, chaque battement de cœur pourra devenir l'entrée d'un modèle.
La vie privée sera plus que jamais un terrain à défendre, même si vous pensez ne rien avoir à cacher.
Angles possibles
Revue d'articles pour commencer
RGPD et guides de la CNIL sur l'IA et les données personnelles
Pour comprendre le cadre légal en vigueur et les droits des personnes face aux systèmes d'IA.
Shoshana Zuboff — L'âge du capitalisme de surveillance
Un livre exigeant mais central. Au moins en synthèse : comment les données personnelles sont devenues la matière première d'un nouveau capitalisme.
Ann Cavoukian — Privacy by Design
Une approche qui propose de penser la vie privée avant de concevoir un produit — pas après.
Articles sur la confidentialité différentielle et l'apprentissage fédéré
Pour découvrir des techniques qui permettent d'entraîner des IA sans tout collecter.
MyData / NOYB
Pour découvrir des collectifs qui défendent activement les droits numériques en Europe.
Tester vous-même
- Lisez en entier la politique de confidentialité de l'outil IA que vous utilisez le plus. Notez ce qui vous surprend.
- Demandez à un assistant IA : « Qu'est-ce que tu sais de moi ? Gardes-tu une trace de nos échanges ? ». Confrontez sa réponse à ce que dit sa politique officielle.
- Essayez de supprimer vos données d'un service IA. Mesurez le temps que cela vous prend, et le nombre d'étapes.
- Comparez : ce que vous avez raconté à un proche cette semaine, et ce que vous avez écrit à un chatbot. La frontière est-elle là où vous pensiez ?
- Recensez tout ce que vos applications quotidiennes savent de vous. Faites-en une liste. Soyez honnête.
Et vous, dans quel contexte l'anchreriez-vous ?
La question des données personnelles prend une acuité différente selon qu'on parle de santé, d'apprentissage ou de travail.
Enseignement supérieur
Suivi des étudiants, learning analytics, données de progression et de comportement
Entreprise
Assistants IA internes, surveillance des salariés, données clients et contrats
Industrie créative
Droits sur les œuvres utilisées pour l'entraînement, données d'audience, profils de consommateurs