Les naufragés de la création

Les IA sont désormais capables de générer de A à Z un documentaire réaliste. Avec quelles conséquences pour le secteur de la création ? #280

👨‍🚀 Tous les mardis, Stéphane Schultz décrypte l’impact des technologies sur l’économie et la société... En savoir plus sur cette lettre : À propos

Vous êtes 10 268 abonnés à recevoir cette lettre. Bienvenue aux nouvelles et nouveaux et merci aux autres pour leur fidélité. Vous avez reçu cette lettre par un autre canal ?

🧭 De quoi allons-nous parler

“Les naufragés du téléphérique” est une démonstration magistrale du niveau déjà atteint par les solutions d’IA. L’équipe de Les Pieds sur Terre et la Direction Numérique de France Culture ont produit deux reportages fictifs à l’aide d’IA génératives disponibles sur le marché. Les textes ont été écrits par une IA, puis lus par une IA avec des voix clonées par une IA. Nous écoutons “François” puis “Marie” raconter avec conviction leurs mésaventures à l’intérieur d’un téléphérique grenoblois tombé en panne. Malgré l’avertissement en introduction, on se pince parfois pour être sûr. Cette demi-heure de reportages sans commentaire a l’air presque aussi vraie que les émissions habituelles. C’est assez fascinant.

En nourrissant les IA avec un millier d’émissions enregistrées et 2000 “chapôs” (textes introductifs) pour améliorer les résultats initiaux proposés par les IA, l’équipe de France Culture a joué courageusement le jeu du réalisme. Bien entendu, des professionnels aguerris repèreront rapidement les failles dans la voix ou certains faits relatés. Vous vous ferez votre opinion. Retenez bien une chose : ce qu’ils ont fait, d’autres auraient pu le faire et c’est bien cela le problème.

Comme souvent, le retour d’expérience des créateurs est plus intéressant que l’expérience elle-même.

En “singeant” les émissions qui les ont nourries, les IA ont un effet réflexif. Elles révèlent aux créateurs leurs propres défauts : les tics de langage, les accents mélodramatiques, le côté “hollywoodien” du traité des sujets. Alors, l’IA, un simple miroir intelligent pour améliorer ses émissions ? La productrice est réaliste sur les risques existentiels que posent l’évolution rapide de ces technologies. Dans le cadre du Sommet de l’IA à Paris, cette expérimentation expose au grand jour un scénario dystopique pour les métiers de la création. Si des professionnels peuvent créer en une semaine des documentaires réalistes mais totalement fake à l’aide de machines, comment résister ?

“Il faut qu’on se parle plus” conclut Sonia Kronlund. La productrice de l’émission place la relation de confiance entre les créateurs et leur audience au centre des nouveaux enjeux. Être encore plus exigeant et transparent sur la vérification, la fidélité de la parole en récit. Créer des occasions de se parler. Cela suffira-t-il ?

En tant qu’analyste, je vous propose de prolonger cette réflexion en soulevant plusieurs enjeux propres à l’irruption de l’IA dans nos métiers. Ces réflexions portent sur les innovations en général car, au-delà de l’effet spectaculaire des créations sonores ou visuels, les enjeux à étudier sont plus généraux :

1. Pourquoi il faut prendre certaines innovations au sérieux à leurs débuts

2. Une innovation n’a pas besoin de résoudre un problème

3. Sera-t-elle dans la main des maîtres ou des esclaves ?

4. Dans quel sens cet outil sera-t-il utilisé ?

5. Ne pas confondre perfection et crédibilité

6. Flooding the zone : les risques de déstabilisation de l’écosystème

7. Miser sur ses forces : relation et confiance

Image Les Pieds sur Terre

🎯 Cette semaine

À chaque lettre un nouveau sujet décrypté : Quand des producteurs génèrent leur propre émission avec des IA

Pourquoi il faut prendre certaines innovations au sérieux à leurs débuts (et d’autres pas)

Comme le rappelait Benedict Evans en 2020, la plupart des inventions majeures des cent dernières années comme les avions, les voitures, les téléphones ou les ordinateurs n’ont pas été prises au sérieux à leur création. Elles fonctionnaient mal, étaient chères, peu efficientes et peu pratiques. Cela ne signifie pas pour autant que tout ce qui est nouveau, cher et marche mal¹ sera un succès. La différence entre le possible succès et l’échec certain tient à l’existence d’un chemin d’évolution technologique clair dès le lancement de l’invention. Est-ce que cela va marcher ? est la première question. 24 ans seulement séparent le premier vol des Frères Wright (1903) de la traversée de l’Atlantique par Charles Lindbergh (1927). La différence entre les deux aéronefs n’était pas si énorme : le Spirit of St-Louis fut une évolution assez prévisible du premier engin.

Ensuite vient la question : à quoi ça sert ? La fiabilisation des moteurs à explosion a permis de passer rapidement aux vols commerciaux. Dès janvier 1946 la Pan Am offrait 5 vols transatlantiques par semaine. Les véhicules autonomes sont un contre-exemple intéressant : après des progrès fulgurants dans la reconnaissance d’image et le machine learning, on sent clairement que ces véhicules ne seront jamais totalement autonomes. Les 5 ou 10 derniers % de fiabilité ne seront sans doute jamais atteints. Or un véhicule pas-complètement autonome n’a qu’une utilité relative par rapport à un véhicule conduit par un chauffeur.

Revenons à nos IA génératives. L’exemple du documentaire montre que des journalistes assistés d’une équipe technique limitée peuvent fournir un travail remarquable en à peine une semaine. Nul doute que dans très peu de temps il sera impossible de distinguer un vrai d’un faux documentaire. L’avenir des professions créatives est clairement en jeu. En revanche, l’IA Générale ou super-intelligence qui “remplacerait les humains sur toutes les tâches” semble encore plus improbable que le véhicule autonome. En tout cas on n’en voit pas le chemin comme disait ma grand-mère.

Une innovation n’a pas besoin de résoudre un problème pour devenir un succès

Dans son excellent Guns, Germs and Steel, Jared Diamond rappelle que l’adage “la nécessité est la mère de l’invention” correspond en réalité à très peu d’inventions importantes. Rares sont les innovations qui ont répondu de prime abord à des besoins clairement perçus au préalable. L’invention arrive, les usages suivent ensuite, parfois à l’insu de l’inventeur. Le premier phonographe était accompagné d’un article qui listait ses 10 usages possibles : annoncer l’heure, recueillir les dernières paroles d’un mourant,…² Il fut ensuite commercialisé comme dictaphone de bureau. Les premiers usages de son invention pour diffuser de la musique (dans des juke box) suscitèrent d’ailleurs la réprobation d’Edison. Daniel Kaplan, que j’ai interviewé dans mon livre (vous devriez l’acheter) infirmait également l’idée que les start-up se créent pour résoudre des problèmes : “pour l’essentiel, l’objectif de l’innovation est plutôt d’ouvrir le champ des possibles, ou de changer les termes de référence d’un marché (la fameuse disruption) avec pour conséquence de créer de nouveaux problèmes qui parfois remplacent avantageusement les anciens et parfois s’y ajoutent”. L’IA n’est pas là pour résoudre des problèmes.

Quels seront les usages des IA génératives ? Pour le moment nous assistons essentiellement à un “apprivoisement” des solutions par les grands acteurs du numérique. Ils utilisent l’IA pour créer des fonctionnalités supplémentaires mais sans changer leurs modèles. Attendons de voir comment des utilisations radicalement différentes de l’IA s’imposeront. La manière dont ces technologies sont rendues disponibles - open source, paiement à la demande, absence de régulation - devrait contribuer à ce que cela arrive rapidement en “ouvrant le champ des possibles”.

Sera-t-elle dans la main des maîtres ou des esclaves ?

Je reviens encore sur l’essai déjà cité de Jared Diamond. En examinant les circuits de diffusion des différents types de langages écrits, il constate que certains systèmes d’écriture se sont répandus très rapidement dans l’Antiquité et d’autres pas du tout. L’auteur invite à sortir de nos perspectives contemporaines, en particulier notre “optique d’alphabétisation de masse” pour analyser ces évolutions. “Les usages délibérément restreints des premières écritures étaient faits pour décourager la mise au point de systèmes d’écritures moins ambigus (…) La principale fonction de l’écriture ancienne, note justement Claude Levi-Strauss, était de faciliter l’asservissement d’autres êtres humains”. La question de savoir à qui va profiter l’IA ? est posée. Disons que pour le moment, son usage est clairement ouvert comme nous venons de le voir, mais en revanche la manière dont fonctionnent les modèles génératifs ne l’est pas. Signalons également les biais, qui peuvent être une forme d’aliénation et d’oppression, dont sont affublés la plupart des solutions : la réponse à une question a de grande chance de convenir à un utilisateur blanc, américain et masculin (jetez un oeil ici c’est consternant mais revenez après). Mais là aussi, c’est une “optique d’aujourd’hui” pour analyser un phénomène à peine émergent.

Dans quel sens cet outil sera-t-il utilisé ?

Cette question est différente de la précédente. Vous pouvez utiliser internet principalement de deux manières : 1/ en surfant passivement sur de grands sites de medias ou “tubes” qui tenteront tant bien que mal de vous proposer des contenus (et des pubs) adaptés 2/ Vous pouvez paramétrer des alertes, bookmarks et autres flux RSS pour bénéficier de contenus sur mesure.

L’histoire a montré que le web a été conçu par des gens qui voulaient le 2/ et que l’on s’est retrouvé à bouffer du 1/ quatre heures par jour. Qu’en sera-t-il pour les IA génératives ? Seront-elles utilisées pour nous livrer des contenus (sans doute artificiellement générés) via de grands médias / fournisseurs de solutions ? Ou disposerons-nous de nos propres filtres (pensez aux AdBlocks par exemple) qui choisiront pour nous les contenus les plus adaptés, intéressants, inspirants sur le web ? Je vois que vous doutez…pourtant l’IA semble plus efficace pour la deuxième solution. S’il reste encore des contenus originaux à dénicher.

Ne pas confondre perfection et crédibilité

Revenons à notre vrai-faux documentaire des Pieds sur Terre. La productrice nous informe entre les deux reportages des limites détectées par le réalisateur de l’émission. Les voix, certaines affirmations dans le texte,…sonnent faux. Cela contribuerait à décrédibiliser la version synthétique de l’émission.

Outre que ces limites ne semblent que temporaires vue la courbe d’évolution de ces technologies, je soulèverai un autre point : et si, au contraire, c’était l’imperfection des contenus qui les rendaient crédibles ? Je regardais récemment un test qui montrait que des images vidéo générées “à la manière d’un manifestant portant un smartphone” étaient jugées plus crédibles par les spectateurs que celles d’une vraie reporter. Flippant ou…normal ? Nous nous sommes habitués à “consommer” des contenus dans des conditions médiocres. Musique, vidéos, podcasts, sont écoutés majoritairement sur de mauvais appareils dans des environnements bruyants. Ne parlons pas des vidéos soit-disant “amateurs” qui deviennent la norme sur les tubes spécialisés. C’est la perfection dorénavant qui sonne faux.

Flooding the zone : les risques de déstabilisation de l’écosystème

C’est une question très contemporaine avec l’arrivée de Trump au pouvoir. Je vais essayer de la faire courte, mais voici le “plan” préparé par Steve Bannon et autres idéologues populistes qui entourent le nouveau POTUS : 1/ annoncer chaque jour des nouvelles radicales, si possible dérangeantes, pour “inonder la zone” médiatique et politique 2/ laisser le camp d’en face tenter de répondre point par point aux mensonges, incohérences, manque d’éthique,…de ces propositions 3/ recommencer sans cesse pour les prendre de vitesse 4/ les opposants seront réduits à des réactions toujours trop tardives et ne pourront faire entendre la moindre proposition. Je vous ai mis un podcast en lien plus bas qui analyse cela bien mieux que moi.

Le déploiement massif et généralisé de l’intelligence artificielle va sans aucun doute également inonder la zone. Les médias, commentateurs et autres analystes passeront l’essentiel de leur temps (et leur visibilité) à dénoncer les outrances et dérives de l’IA. Sans pour autant arriver à formuler de contre-propositions crédibles. J’étais jeudi dernier à un évènement sur l’éco-conception des solutions numériques et la position très “réactionnaire” entendue sur l’IA, quoique tout à fait justifiée d’un point de vue purement technique, m’a frappé. Il est temps de définir des contre-feux ou, mieux, des moyens de naviguer en zone inondée.

Miser sur ses forces : relations et confiance

L’inondation à venir de contenus générés par les IA est inéluctable et va sans aucun doute bouleverser les équilibres actuels des plateformes numériques comme je l’ai décrit dans mon livre (vous devriez l’acheter). Cela doit nous encourager à reprendre la main sur nos propres manières de “consommer des “contenus”³. Privilégier les échanges véritables avec de vraies personnes, éduquer notre vigilance, établir des liens de confiance au-delà des notoriétés et “tendances” éphémères.

Quand j’ai commencé à travailler sur la transformation numérique, il était courant de dire : si quelqu’un sait ce qu’il veut acheter, il va le trouver moins cher en ligne. Si vous voulez qu’il se déplace dans votre magasin, proposez-lui beaucoup plus qu’une transaction : une expérience, une relation, des conseils, de la confiance, des idées,…Vous voyez où je veux en venir ? Les IA génératives vont imposer ce type de changements pour un nombre difficilement estimable de secteurs et de jobs. Il sera plus rapide et efficace de passer par une IA que de consulter un avocat, un comptable, un consultant. Les “contre-feux” auront sans aucun doute les mêmes points communs : établir de vraies relations, entretenir la confiance, partager sensibilité authentique et empathie. Les naufragés devront sans doute nager un peu. Certains couleront. Les rescapés trouveront alors une île, et elle sera peut-être plus belle que celle qu’ils auront quitté.

---

Vous avez un projet autour de l’IA ? Envie de tester vos idées ou engager un débat sur ces sujets dans votre organisation ? Ne comptez plus sur les algorithmes.

🧐 Et aussi

Des ressources utiles en lien avec le sujet traité cette semaine.

L’émission Les naufragés du téléphérique - Les Pieds sur Terre

La fiche technique de l’émission - Google docs

Cette cartographie en 3D de l’AI générative est incroyable - Cartography of generative AI

🤩 On a aimé

Nos trouvailles de la semaine, en vrac et sans détour

C’est le Donald qu’on admirait. Donald Shoup, la légende du parking, le théoricien génial de l’impact du stationnement sur la ville, s’est éteint. Death of a Legend: Donald Shoup, Parking Reformer

C’est le Donald qu’on admire pas. Les architectes du chaos, excellent épisode du podcast Sismique de Julien Devaureix - Amérique 2025 - Sismique

Ce site qui montre des réalisations graphiques en ASCII (une norme informatique d’encodage des caractères) est le truc le plus génial que vous verrez aujourd’hui - Adelfaure.net

Au secours, quelqu’un a marié Wikipedia avec TikTok !!! - WikiTok

Ils passent leur temps à laisser des commentaires ou des photos sur Google Maps. Qui sont les Local Guides ? - À la rencontre des plus gros « joueurs » de Google Maps - Le Monde

---

C’est terminé pour aujourd’hui ! Cette lettre écrite par un humain va prendre quelques vacances. On se retrouve en mars.

Si vous avez apprécié cette lettre, laissez-nous un 💙 pour nous encourager. Vous pouvez également acheter mon livre ici pour soutenir mon travail (et apprendre plein de choses).

---

Stéphane

Je suis Stéphane Schultz, de 15marches. Le jour je suis consultant, je prends des trains à travers les plaines. La nuit je lis et j’écris cette lettre.

1. On pourrait ajouter selon les critères contemporains : “et qui a un bilan carbone catastrophique”)

2. Ironie de l’histoire, on trouve aussi des exemples de question à poser à ChatGPT sur sa page d’accueil

3. À commencer sans doute par ne plus utiliser ces termes inappropriés pour des créations humaines.