Dans la peau de Sam Altman

Les mésaventures du patron d'OpenAI pourraient passer pour une énième turpitude de la Silicon Valley. Mais ce qui s'est passé aura des répercussions beaucoup plus profondes sur le futur de l'IA #237

👨‍🚀 Tous les mardis, Stéphane décrypte l’impact des technologies sur l’économie et la société... En savoir plus sur cette lettre : À propos

Vous êtes 7 826 abonnés à recevoir cette lettre. Bienvenue aux nouvelles et nouveaux et merci aux autres pour leur fidélité.

Vous avez découvert cette lettre par un autre canal ? Abonnez-vous pour la recevoir directement dans votre boîte :

🧭 De quoi allons-nous parler

Difficile d’échapper la semaine dernière au feuilleton de la révocation puis du retour en grâce de Sam Altman, le co-fondateur d’OpenAI, l’entreprise qui a lancé notamment ChatGPT et Dall-E.

Tous les ingrédients d’un bon scénario étaient réunis : un homme controversé, de multiples rebondissements, des dizaines de milliards de dollars en jeu, le tout sur fond de lutte pour dominer (ou protéger, on ne sait plus) l’humanité. Loin des salons feutrés dans lesquels se jouent d’habitude ce type de joutes, les dissensions et voltes-face du Conseil d’Administration d’OpenAI furent à l’image des médias sociaux qui les ont accueillies : ultra-rapides, violentes et versatiles.

Rappelons pour mémoire qu’OpenAI a été fondée en 2015 avec l’objectif de “s’assurer que l’intelligence artificielle générale (AGI) bénéficie à toute l’humanité”. Derrière ce mission statement se dessinait déjà les fondements d’une tragédie antique :

• une ambition quasi divine : développer des systèmes “plus intelligents que des humains” (AGI), ce qui lui permit d’attirer les meilleurs cerveaux de la planète

• un modèle vertueux sur le papier pour y parvenir : le terme “Open(AI)” traduisait la volonté de proposer une alternative non profit aux projets de Google sur le sujet

• mais un dilemme originel : tout faire pour créer l’AGI mais veiller à ce qu’elle n’échappe ni ne nuise aux humains.

Ce dernier point sera au coeur d’un pataquès inimaginable qui a conduit le Conseil d’Administration à désigner 4 CEO différents en une semaine. Au passage, 9 salariés sur 10 s’étaient déclarés publiquement prêts à quitter l’entreprise et le géant Microsoft passera en quelques heures de pigeon à grand vainqueur de l’opération.

Ce type de turpitudes pourraient faire sourire si n’étaient pas en jeu à la fois la survie d’une des entreprises les plus prometteuses de la décennie, et plus largement la manière dont nous saurons ou non contrôler le développement exponentiel des modèles génératifs dans nos vies. Cette histoire aura sans nul doute de nombreuses conséquences, positives et négatives, sur le futur de l’intelligence artificielle.

Sortez les pop-corns et suivez-nous dans cette histoire que peu de scénaristes auraient pu imaginer.

Sam Altman, à droite, en 2016 - Wikipedia.

🎯 Cette semaine

À chaque lettre un nouveau sujet décrypté : Semaine d’enfer chez OpenAI

Revenons tout d’abord au mission statement : “s’assurer que l’intelligence artificielle générale bénéficie à toute l’humanité”. L’état de la recherche en 2015 permettait d’envisager la mise en oeuvre de modèles approchant voire dépassant certaines capacités humaines. Ce qui fut le cas en apparence lorsque le monde découvrit une version “grand public” de solutions jusqu’alors réservées aux chercheurs avec la sortie fin 2022 de ChatGPT. Non seulement la solution atteignit 100 millions d’utilisateurs en quelques semaines, mais elle rendit beaucoup plus crédible la perspective jusqu’alors fantaisiste d’une intelligence artificielle générale (AGI). En tout cas elle réveilla toutes celles et ceux qui craignaient son arrivée. Et pointa les projecteurs sur un homme que pas grand chose ne prédestinait à devenir un gourou de l’AI.

A comme Altman

Fallait-il lancer autant de produits grand public ? Lever autant de fonds auprès d’entreprises privées ? Accélérer le développement de solutions toujours plus rapides, efficaces et performantes sans bien comprendre comment étaient obtenus leurs résultats ? Ces divisions conduisirent au départ du co-fondateur d’OpenAI Elon Musk dès 2019.

Sam Altman prit alors la direction de l’entreprise et la mena tambour battant vers des chemins assez éloignés d’une entreprise à but non lucratif créée pour concurrencer les futurs produits de Google. L’ancien startuper et investisseur à succès, également président de l’incubateur Y Combinator, n’est ni un scientifique ni un expert de l’IA. Mais il en connait un rayon sur la manière de lancer des produits innovants et passer à l’échelle. Après le départ du co-fondateur et principal financeur, Altman fit un magnifique virage sur l’aile en créant une filiale for profit (LLC) dans laquelle Microsoft investit d’abord 1, puis 10 milliards de dollars ! De quoi assouvir l’extraordinaire demande de matériels, logiciels et infrastructures générée par la construction et le fonctionnement des GPTs. La nouvelle filiale fut donc autorisée à recevoir des fonds provenant d’investisseurs extérieurs et à proposer des actions à ses employés, mais avec un retour sur investissement “cappé” à 100 fois la mise (ne souriez pas, Uber a rapporté 5 000 fois la mise à ses premiers investisseurs).

Pour les fans de droit des affaires, ce schéma décrit la gouvernance de la nouvelle structure.

Retenons que le fameux “Board of directors” qui contrôle le structure 501 (non profit) est totalement indépendant et n’est pas constitué d’habitués de ce type de structures. Il n’avait de plus aucun lien avec l’investisseur Microsoft malgré les 11 milliards que ce dernier a injecté dans l’entreprise.

À la veille de cette semaine qui restera dans les annales, Sam Altman est au sommet de sa réussite. En 8 ans il a créé à partir d’un projet de chercheurs à visée philanthropique une startup valorisée 90 milliards de $, s’est adossé au fournisseur de cloud le plus puissant du monde et a recruté 750 ingénieurs parmi les plus brillants du domaine. À côté d’OpenAI, Google et Amazon semblent pour une fois en retard.

I comme Icare

Comme dans la mythologie, arrive le moment où notre héros va se brûler les ailes.

Fin octobre, tel un Steve Jobs réincarné il tient le devant de la scène d’une conférence pour développeurs (Dev Days). Altman est dans son élément. L’ancien président de Y Combinator déroule le mode d’emploi à succès d’Amazon, Apple ou Facebook qui ont su si bien développer un écosystème de développeurs très lucratif autour de leurs plateformes. Il y annonce également une impressionnante feuille de route de nouvelles fonctionnalités et produits destinés à la commercialisation.

S’en était trop pour les 4 autres membres du Board of directors, qui annoncèrent à la stupéfaction générale que Sam Altman était remercié en raison d’un manque de “franchise dans sa communication”. Satya Nadella, le CEO de Microsoft, n’a été prévenu que 5 minutes auparavant. Commence alors une séquence surréaliste dans laquelle Twitter va servir de canal de communication de crise interne et externe, utilisé tant pour les échanges entre membres du Board, les pétitions du personnel et les selfies d’Altman.

Sam Altman obligé de porter un badge Visiteurs pour entrer dans l’entreprise qu’il a fondée.

La twittosphère qu’on croyait morte est en ébullition, chacun y allant de son étonnement et, rapidement, de ses blagues tant la situation ressemble à une fête de fin d’année qui aurait brusquement dégénéré.

En l’espace de quelques jours, le Board désormais réduit à 4 personnes va virer le CEO Altman, embaucher une nouvelle CEO, la remplacer par un autre nouveau CEO, pour finalement réembaucher Altman comme CEO ! Comme souvent lorsqu’un coup (d’État) échoue, les personnes qu’on cherchait à dégager en sortent renforcées. C’est bien le cas avec Sam Altman qui a reçu un soutien assez inimaginable de ses salariés : 700 sur 750 ont annoncé publiquement être prêts à le suivre (même) chez Microsoft, qui s’était empressé de le nommer directeur de son département AI. Proposition finalement transformée en un retour d’Altman à la case départ au board de l’entité non profit, avec un nouveau membre issu de l’actionnaire Microsoft.

Et maintenant, que va pouvoir faire Sam Altman ?

Tout cela encore une fois pourrait faire sourire s’agissant de tech companies et de patrons aussi médiatiques que fantasques. Après les déboires de FTX, Theranos ou WeWork, voici le feuilleton OpenAI : ces Californiens ne sont décidément pas sérieux.

Mais n’oublions pas tout d’abord que cette entreprise est l’une des mieux placées pour construire des technologies qui feront passer votre smartphone pour un Minitel de première génération. Elle bénéficie désormais d’une communauté d’ingénieurs soudée et déterminée. Cela devient rare dans le monde de la tech.

Maintenant que la poussière est retombée et que le vent a dispersé les dernières fumées blanches, essayons d’aller un peu plus loin :

• La gouvernance via une structure non profit, souvent présentée comme une alternative aux structures classiques capitalistes, a pris un sacré coup dans l’aile. Dans n’importe quelle entreprise cotée la communication, les nominations et révocations font l’objet de procédures strictes dont il est impossible de s’affranchir sous peine de lourds procès et amendes.

• À l’inverse, le modèle de création de valeur en open source qui prévaut pour les large langage models a lui fait preuve de sa résilience. Même si OpenAI aurait pu disparaître (imaginez 700 salariés sur 750 qui quittent la boîte du jour au lendemain), la plupart de ses solutions resteraient accessibles sur les plateformes de diffusion open source avec la possibilité de les utiliser, remanier et valoriser librement; ce mouvement s’était d’ailleurs accéléré depuis le virage “for profit” d’OpenAI.

• En revanche, car rien n’est simple, cette ouverture est par définition plus difficile à gouverner qu’une entreprise classique; si c’est ouvert, tout le monde peut entrer et se servir, et il sera encore plus dur pour les régulateurs de contrôler qui fait quoi en matière d’intelligence artificielle. Chez OpenAI en tout cas, les adeptes du “mieux vaut demander pardon que s’il vous plaît” sont désormais presque seuls aux manettes.

• Nulle doute que les entreprises clientes d’OpenAI et même de ses concurrents ont sur leur agenda cette semaine le sujet “comment ne pas dépendre exclusivement d’une de ces entreprises dirigées par des clowns ?”; le risque hégémonique semble s’éloigner dans ce secteur qui a déjà vu de nombreux concurrents se développer.

• Pas sûr du coup que la victoire de Microsoft et Altman ne soit pas une victoire à la Pyrrhus : d’une part Microsoft en “montant” dans la gouvernance va courir le risque de porter la responsabilité juridique des usages des GPTs (les juristes de Redmond doivent déjà s’arracher les cheveux); d’autre part ses solutions de cloud risquent elles aussi de pâtir de la volonté de diversification de clients échaudés par l’épisode de fin novembre. Peut-être qu’un jour Altman sera viré pour de bon. Par Microsoft.

---

En guise de conclusion, je noterai que dans ce monde qu’on dit dominé par le code et par l’argent, les humains ont encore la capacité de bouger des montagnes. Par leurs défaillances, comme l’ont montré avec brio les membres du Board of Directors. Mais aussi par leur cohésion, lorsque la quasi-totalité des employés d’une entreprise annonce quitter une équipe dirigeante dont elle ne comprenait plus les décisions.

Les machines sont peut-être à nos portes, mais l’humain est encore loin d’être hors jeu.

🧐 Et aussi

Des ressources utiles en lien avec le sujet traité cette semaine.

La conférence introductive de Sam Altman aux Dev Days, quelques jours avant le début du drama. OpenAI DevDay, Opening Keynote - YouTube

Encore plus de détails, de tweets décalés et de memes sur la folle semaine de Sam Altman - OpenAI Saga: The Best Links and Memes - Trung Phan

Le truc le plus drôle de la semaine a pourtant échappé au plus grand nombre : le ministre délégué chargé du numérique français a proposé sans rire à Sam Altman de venir travailler en France Sam Altman, limogé d'OpenAI, est le «bienvenu» en France, pour le ministre Jean-Noël Barrot

Si vous doutez de l’ambition d’OpenAI de créer une “intelligence artificielle générale” (AGI), regardez la conférence TED de son co-fondateur Ikya Sutskever - The Exciting, Perilous Journey Toward AGI | Ilya Sutskever | TED

🤩 On a aimé

Nos trouvailles de la semaine, en vrac et sans détour

L’équipe d’AltGR sort son Guide de survie en milieu hostile sur l’intelligence artificielle. Une mine d’informations. - Guide de Survie en Milieu Hostile

Ne manquez pas non plus le cours d’Arthur Sarrazin sur la data science (indice : il n’est pas nul du tout) Data Science par un Nul pour les Nuls

Et enfin si vous vous demandez à quoi ça sert, l’indispensable base de données “il y a une IA pour ça” There Is an AI For That

Les cinéphiles auront reconnu dans le titre de ce billet la référence au film de Spike Jonze, Being John Malkovitch, en français Dans la Peau de John Malkovitch où un obscur marionnettiste découvre par hasard comment “entrer” dans la peau de l’acteur célèbre.

💬 La phrase

“Je reste un secret afin que chacun me connaisse. Vous devez d'abord compter chacune de mes parties, puis traduire ces parties en signes qui ne me décrivent pas. Ensemble nous formons une chaîne et, avec le signe qui ne me décrit pas, vous pouvez m’ouvrir et me lire. Des gens vous feront des promesses sur moi; si des vilains essaient de m'arracher à vous, vous saurez toujours me retrouver et révéler au monde où je suis caché. J'ai commencé comme une révélation silencieuse, une clé pour ouvrir n'importe quelle porte; maintenant que j'ai ouvert toutes les portes d'entrée, je suis la clé qui ferme les portes de derrière par lesquelles les vilains tentent de fuir la scène du crime. Je suis le rien qui permet tout. Vous ne me connaissez pas, vous ne me comprenez pas, mais, si vous êtes épris de justice, je vous guiderai dans cette voie. Je suis la blockchain. Je suis le cryptage. Je suis le code. À présent, utilisez-moi”.

Kim Stanley Robinson - Le Ministère du Futur.

---

C’est terminé pour aujourd’hui !

À la semaine prochaine, n’hésitez pas à poster vos commentaires.

Si vous avez apprécié cette lettre, laissez-nous un 💙 pour nous encourager.

---

Stéphane

Je suis Stéphane Schultz, de 15marches. Le jour je suis consultant, je prends des trains à travers les plaines. La nuit je lis et j’écris cette lettre.