Notre mémoire est-elle une marchandise comme les autres ?
Après avoir colonisé notre présent, les géants de la tech s'attaquent à notre passé pour mieux influencer notre futur #303
👨🚀 Tous les mardis, Stéphane Schultz décrypte l’impact des technologies sur l’économie et la société... En savoir plus sur cette lettre : À propos
Vous êtes 11 206 abonnés à recevoir cette lettre. Bienvenue aux nouvelles et nouveaux et merci aux autres pour leur fidélité.
Pas encore abonné·e ?
🧭 De quoi allons-nous parler
5 000 milliards. C’est le nombre de photos qui seraient prises chaque année avec nos appareils mobiles, soit entre 300 et 700 par an et par personne. Prendre une photo avec ses terminaux numériques est devenu un geste aussi banal que de regarder l’heure ou envoyer un message. Or ces photos sont notre journal intime à nous, notre cahier d’observation, les traces de notre propre histoire, avec ou sans majuscule. Nous en partageons certaines avec nos proches ou sur les réseaux. La plupart restent cependant dans les “pellicules” de nos appareils. À moins que ce soit dans les clouds de nos fournisseurs. Peu importe au juste. Elles sont quelque part, tout près de nous, tels les albums d’antan, disponibles même après notre mort. Sauf que ces banales photos intéressent bigrement les géants du numérique. Après avoir colonisé notre présent, ils s’attaquent à notre mémoire en cherchant à récupérer ces souvenirs si bien contextualisés.
La marchandisation de notre mémoire, c’est le thème de la semaine. Vous trouverez plus bas également des histoires de montres générées par l’IA, des idées cadeau, des cartes de la ville du quart d’heure et des interviews passionnantes.
🎯 Cette semaine
À chaque lettre un nouveau sujet décrypté : Notre mémoire, nouvelle frontière de la tech
Extension du domaine du pillage
On avait failli rater cela : l’application Tinder propose désormais une fonctionnalité par laquelle on l’autorise à explorer toutes les photos de notre téléphone. L’app nous pose alors des questions sur notre “vie” ainsi illustrée dans le but de nous proposer des matchs (rencontres) plus pertinents. “Laisse-moi te mettre en contact avec des gens qui aiment l’escalade et la Sicile comme toi”. Le camera roll1 devient le nouveau champ de bataille des géants de la tech. Meta propose d’ailleurs une fonctionnalité similaire qui vous permet de “pimper” vos photos de vacances ou vos selfies afin de ravir vos followers et générer plus de likes. Le tout grâce à l’IA évidemment.
Cette tactique n’a rien de nouvelle. Contrairement aux idées reçues, Meta ou Google ne vendent pas les données qu’ils collectent. Ils achètent au contraire des données, à l’aide d’une méthode bien éprouvée. En fournissant des outils gratuits d’analyse, de partage et de ciblage à un média, ils récupèrent en toute légalité les données d’usage de son site. Et ainsi de suite avec de très nombreux outils mis à disposition de l’écosystème numérique dans le but non avoué d’aspirer les données qui s’y trouvent. Donner ses souvenirs pour obtenir de meilleures publications ou trouver l’âme soeur, c’est le nouveau deal proposé par les géants de la tech. Une manière bien “élégante” (les guillemets sont ironiques) de contourner vos réticences à les partager directement en ligne.
Pendant deux décennies ce moissonnage a permis d’affiner leur modèle de ciblage publicitaire et vendre de la performance aux annonceurs. En 2025 ces images serviront aussi à entraîner leurs modèles génératifs. “Nous voulons que l’IA comprenne même vos souvenirs, vos amis et vos centres d’intérêt pour vous aider”. Des photos de votre vie quotidienne, toutes géolocalisées, datées voire taguées et partagées avec d’autres personnes : du pain béni pour ces modèles qui pourront créer des profils de plus en plus “humains” grâce aux 3 milliards de semblables qui utilisent les apps de Meta. Pieter Levels disait non sans malice qu’ “internet a été inventé dans le seul but de récupérer nos données pour entraîner des modèles génératifs”. Ce n’était peut-être que le début de l’extraction de masse.
Mémoire subjective
Les fidèles de cette lettre connaissent ma passion pour Daniel Kahneman et ses travaux sur les biais qui guident nos choix. S’agissant de la mémoire, Kahneman distingue l’experiencing self - le “moi qui expérimente” du memoring self - littéralement le “moi qui se souvient”. L’experiencing self assure la vie courante, le memoring self comptabilise et fait des choix entre nos souvenirs.
Tout ce que nous vivons ne devient pas souvenir et tous nos souvenirs ne sont pas égaux pour nous. Plus spécifiquement, nous jugeons certains souvenirs rétrospectivement bons ou mauvais, agréables ou pénibles,...Qu’est-ce qui influence notre jugement ? Daniel Kahneman et Barbara Fredrickson ont démontré qu’en matière de souvenirs ce n’est pas la durée, mais l’intensité de certains évènements (les peaks) qui comptent. De même, la fin d’un évènement joue un rôle prépondérant.
Pour le démontrer, les chercheurs ont proposé à des participants de plonger leur main pendant une minute dans une bassine d’eau à 14 degrés. Ensuite ils leur ont demandé de plonger l’autre main une minute dans une bassine d’eau à 14 degrés, portée ensuite à 15 degrés pendant 30 nouvelles secondes. Interrogés à la fin, les participants ont indiqué avoir préféré la seconde expérience, pourtant plus longue (15 degrés c’est froid aussi). L’amélioration finale a plus joué dans leur choix que la durée. C’est la peak-end rule, un biais de mémoire qui privilégie les émotions vécues à la rationalité.
Ceci explique par exemple que l’attente d’un plat au restaurant est vite oubliée si le plat est ensuite jugé délicieux. Dans Vice Versa de Pixar, Tristesse transforme a posteriori des souvenirs en souvenirs tristes rien qu’en les touchant (ils deviennent bleus, couleur de la tristesse - I Got The Blues). D’où la difficulté de “ne garder que les bons souvenirs” d’une relation amoureuse ou professionnelle qui s’est mal terminée.
Memory is (social) money
Nos souvenirs servent aussi de “monnaie sociale”. La super-soirée-diapo qui rassemblaient les proches de vos parents devant leurs souvenirs de voyage a été remplacée par messages instantanés WhatsApp et des Travel Books sur Polarstep. Je suis assez vieux pour avoir connu et pratiqué les live tweets sur Twitter et les checks-in sur Foursquare. On disait simplement “je suis ici” et cela informait notre réseau de connaissances de ce que nous faisions à un instant t. Il y a derrière ces pratiques une recherche implicite de validation sociale comme je l’expliquais à ma fille il y a quelques années :
“(....) l’approbation de tes amis, proches, parents, profs,…ceux qui comptent pour toi, est importante. Quand ils t’approuvent tu te se sens rassurée et confiante. Quand ils ne le font pas tu doutes. On appelle ça la validation sociale. Elle est surdimensionnée dans nos choix”.
C’est vieux comme une conversation de collégiens à la rentrée et cela ne pose pas de souci a priori. Le problème apparaît lorsque le rapport de causalité est inversé. Susan Maushart dans Pause (2014) raconte comment ses enfants et leurs amis se rendent à certains évènements dans le seul but apparent d’alimenter leurs comptes sur les réseaux sociaux, tels des grands reporters en quête de scoops. Ils ne prennent plus les photos pour se souvenir d’une expérience, ils vivent cette expérience pour prendre des photos. Mais encore tout cela correspond à notre libre-arbitre, certes manipulé, mais libre-arbitre tout de même. Que celui ou celle qui n’a jamais marché 500 mètres pour faire une photo inutile d’un monument ultra-connu leur jette la pierre. Chacun fait c’qui lui plaît comme disait la chanson (demandez à vos parents). Rien à voir avec le risque que représente l’appropriation et la manipulation de cette mémoire par des entreprises technologiques.
Lorsque la technologie s’empare de nos mémoires
De même que l’on a pas trouvé beaucoup mieux que Her de Spike Jonze (2013 !) pour représenter un “futur avec des IA générales”, c’est encore le cinéma qui nous aide le mieux à imaginer la rencontre entre technologie et mémoire.
🚨 Alerte divulgâchage : je vais raconter certains scénarios de films
Dans Eternal Sunshine of a Spotless Mind (Michel Gondry, 2004), Clémentine (Kate Winslet) fait appel à une clinique privée, Lacuna Inc., pour faire effacer de sa mémoire les souvenirs douloureux de sa relation avec Joel (Jim Carrey). Lorsque ce dernier se rend compte qu’il a été “rayé de la mémoire” de Clémentine au sens premier du terme, il veut à son tour faire détruire les souvenirs de sa relation avec elle, avant de changer d’avis. Le film confronte avec beaucoup de sensibilité le désir de se libérer (artificiellement) d’une douleur au besoin si humain de conserver l’intégrité de sa mémoire comme narration de sa propre identité. Les scènes dans lesquelles les temporalités mémorielles s’entrechoquent (se rencontrent-ils vraiment pour la première fois ?) sont aussi troublantes que révélatrices2. “Vous allez rentrer à la maison et nous ramener tout ce que vous possédez qui a la moindre association avec Clémentine, absolument tout. Nous utiliserons ces objets pour créer une carte de Clémentine dans votre cerveau” explique le Dr Mierzwiak de la clinique Lacuna à notre Joel éploré. C’est très exactement ce que nous demandent les géants de la tech au détour d’une banale mise à jour.
Joel et Clementine sous les étoiles (Eternal Sunshine of a Spotless Mind, Michel Gondry 2004)
Comprendre le passé pour agir sur le futur
Pourquoi notre passé est-il si important ?
Dans Minority Report (Steven Spielberg, 2002) le service d’État PreCrime prédit l’imminence d’un crime à l’aide de trois êtres humains mutants, des precogs3. Les individus désignés sont arrêtés avant d’avoir commis leur forfait. Le drame est évité mais cela pose évidemment de lourdes questions de responsabilité individuelle, de libre-arbitre et de contrôle. Minority reprend l’un des grands fantasmes des tenants d’une politique sécuritaire omnipotente : empêcher les crimes avant qu’ils ne se déroulent, quitte à arrêter des (encore) innocents. La mémoire devient alors preuve rétrospective, laissant la porte ouverte à toutes les interprétations, amalgames et préjugés.
Benjamin Bayart de la Quadrature du Net expliquait en 2024 chez Thinkerview comment l’intelligence artificielle pourrait aider la justice en permettant de retracer des profils de délinquants ou criminels beaucoup plus sûrement qu’elle ne s’avérait capable de repérer un visage parmi des milliers à la sortie du métro. Encore fallait-il nourrir les modèles avec des données sur le passé des criminels comme on nourrit aujourd’hui les IA de diagnostic médical avec des anciens dossiers de patients. Ce qui est loin d’être le cas.
Nos mémoires sont-elles des marchandises ?
La manipulation de la mémoire fait partie de l’arsenal des régimes autoritaires, du révisionnisme à la propagande en passant par la rééducation des individus. Les intentions de Meta et Tinder sont plus prosaïques : nourrir les modèles génératifs afin d’“humaniser” les comportements futurs de leurs interfaces. Prédire vos actions aussi, mais d’abord et surtout pour prévoir ce que vous allez consommer. Nous savons cependant après deux décennies de pratique que derrière ces intentions “simplement” (ou bassement) mercantiles se cachent de graves dérives potentielles. Que nos souvenirs puissent se retrouver entre les mains d’entreprises échappant à tout contrôle devrait nous inquiéter. D’où la nécessité de toujours se demander : qui “tient les comptes” de notre mémoire ? Qui décide ce qui est important pour l’avenir ? Rester maître de notre “moi qui se souvient” pour que notre “moi qui expérimente” soit libre et responsable.
Cet article vous fait réagir ? Dites-le nous.
🤓 Mon offre de prestation
Cette lettre gratuite et sans publicité existe aussi grâce aux missions que vous nous confiez.
J’accompagne les dirigeantes et dirigeants pour mettre leur stratégie à l’épreuve du futur : je viens les questionner avec un oeil neuf et extérieur
Je coache vos équipes de l’idée au business : idéation, preuve de concept, go-to-market, modèle économique
Je propose des veilles sur des sujets et domaines spécifiques en lien avec les technologies. En physique - conférences, masterclass, tables rondes - ou sous forme de media interne
J’imagine et lance des formats d’innovation ouverte : marathons créatifs, plateformes de données, management des idées
Plus de 160 clients nous ont déjà fait confiance parmi lesquels : Beta Gouv, Vélib, Famille Mulliez, Maif, ADEME, Transdev, Docaposte, Allianz, Uber, Truffaut, ...
Vous avez une idée, un projet ?
(ou répondez simplement à cet e-mail)
🤓 Et aussi
Des ressources en lien avec le sujet de la semaine
Vous vous demandez peut-être si les photos de votre téléphone sont scannées par Apple ou Android ? Photos sur Apple, Google Photos et Google Workspace
Comment sécuriser vos photos avec Google - Is Google Photos safe? For sharing private photos, not so much (Proton)
Les articles sur le scan de vos photos par des apps tierces :
Tinder - Tinder’s AI can find better matches by scanning your camera roll
Meta - Conditions de service relatives à Meta AI et Meta AI may be scanning your camera roll photos without your consent (Proton)
🧐 On a aimé
Nos trouvailles de la semaine, en vrac et sans détour
Si un modèle génératif ne donne jamais deux fois la même réponse, c’est parce qu’il est paramétré pour cela. La preuve avec cette animation hypnotisante de 9 montres générées par les plus grands modèles du marché, rafraîchies toutes les minutes - AI World Clocks
Une voix qui compte quand on s’intéresse au potentiel et limites de l’intelligence artificielle : Andrej Karpathy interrogé par Dwarkesh Patel
Ville du quart d’heure : cette carte du monde analyse chaque ville au regard de la proximité des différents services à pied et à vélo - 15mn-City
Et si on arrêtait de parler d’”adaptation climatique” alors que nous faisons face en réalité à une insécurité climatique ? Dans l’excellente nouvelle infolettre de Clément Jeanneau (Nourritures Terrestres), Trois Degrés. Paris est-elle en insécurité climatique ? Grand entretien avec Alexandre Florentin
Idée cadeau pour le Noël des cartophiles : La beauté cachée des cartes, “un lieu de rencontre entre imagination et connaissance” - La beauté cachée des cartes, Jean-Luc Arnaud
Le sondage WTF de la semaine : les gens préfèrent la musique live au sexe - More People Prefer Live Music Over Sex, New Survey Finds
💬 La phrase
“Je devins un de ces Américains anonymes qui tentent d’entretenir leur intelligence et leur curiosité d’esprit en même temps qu’ils sacrifient à tous les rituels humiliants de la petite bourgeoisie”. Pat Conroy, Le Prince des Marées (1986).
C’est terminé pour aujourd’hui !
À la semaine prochaine, n’hésitez pas à réagir.
Si vous avez apprécié cette lettre, laissez-nous un 💙 pour nous encourager. Vous pouvez également acheter mon livre pour soutenir mon travail (et l’édition indépendante française).
Stéphane
Je suis Stéphane Schultz, de 15marches. Le jour je suis consultant, je prends des trains à travers les plaines. La nuit je lis et j’écris cette lettre.
littéralement : le “rouleau de pellicule”, on a apparemment pas inventé mieux comme terme depuis la photo numérique
Charlie Kaufmann a été récompensé de l’Oscar 2005 du meilleur scénario pour ce film. Il est également le scénariste de Dans la Peau de John Malkovitch que je ne peux que vous recommander
De “précognition” : perception extra-sensorielle d’informations concernant des évènements ou situations futures