Transcription
Bonjour à tous. Euh, qui a là, juste par lever de main, qui a utilisé un petit peu Claude 4.5 ? OK, il y en a quelques-uns quand même. Ou Jemy Kight 3. Voilà. OK.
Donc ça, c'est des IA qui sont arrivées il y a 2-3 mois et on s'est déjà habitué à ce qu'elles sont capables de faire, alors que c'est une toute nouvelle génération de système par rapport à ce qu'on avait avant. Elles arrivent par rapport à ce qu'on avait anticipé dans l'industrie de l'IA presque un an en avance.
Alors, comment on fait pour anticiper ? En fait, il y a des façons de penser l'avenir en intelligence artificielle qui font sens. On peut raconter un peu tout et n'importe quoi, mais il y a des façons euh un peu fondées de regarder l'avenir de l'IA. C'est ce qu'on a fait pendant 2 ans pour se dire que les technologies comme Claude 4.5 n'allaient pas arriver avant 1 an, et on s'est trompé. Donc bien entendu, ce n'est pas de la boule de cristal, mais n'empêche qu'elle nous donne des indicatifs sur ce à quoi on peut s'attendre.
Alors, vous connaissez tous la loi de Moore. La loi de Moore, donc, c'est pour la puissance de calcul, et pendant plusieurs dizaines d'années, elle a tiré ce qu'on comprenait de l'évolution de l'industrie de la puissance de calcul. Donc, elle nous dit que tous les 18 mois, la puissance de calcul est multipliée par 2 à taille égale, et euh, on va dire, l'industrie croit tellement à cette loi-là qu'elle fait tout pour le réaliser. C'est une espèce de prophétie autoréalisatrice.
Et ben, en intelligence artificielle, on a un peu l'équivalent. Ça s'appelle les lois d'échelle neurolindales. C'est des lois empiriques. On regarde le passé, et elle nous permet de comprendre un petit peu comment évoluent les systèmes d'IA, et donc elle nous permettent d'extrapoler.
Alors, je vous les explique en 2 minutes. En gros, on s'est rendu compte que sur les 10 dernières années, il y avait trois paramètres qui évoluaient de façon très régulière. Une évolution exponentielle, ça fait très bizarre. Vous allez voir, les trois paramètres sont les suivants : la taille des réseaux de neurones, le nombre de neurones qu'on met dans un système, enfin le nombre de paramètres, mais voilà pour faire simple. Deuxièmement, la puissance de calcul ou l'énergie, l'un et l'autre peuvent se ramener l'un à l'autre. Et 3ème critère, le nombre de données qu'on va mettre dans le système pour l'entraîner. Si on prend ces trois systèmes, on voit qu'ils ont tous une évolution exponentielle sur les 10, les 10-12 dernières années environ.
Et en fait, on s'est aussi rendu compte que, en plus d'avoir cette progression très régulière qui nous permet d'extrapoler, ces trois paramètres étaient très liés par une jolie équation. Attention, c'est pour le plaisir des yeux. Tada ! C'est une équation empirique. Ce n'est pas écrit dans les lois de la nature, mais si on regarde le passé, cette équation marche. On prend ces trois paramètres, on les met dans l'équation, et on a un très bon prédicteur de la performance du système d'IA.
Et donc, en 2020, on prenait cette équation qui a été créée à peu près en 2020. Ouais, 2021. En 2021, on prend cette équation, on regarde, et on se demande où on en est en 2023. En 2023, ChatGPT sort, paf, on est en avance sur ces lois. En 2023, on reprend les calculs, on refait passer tous les paramètres dans cette équation, on regarde 2025, et finalement, ce qu'on a en 2025, c'est à peu près ce qu'on anticipait en 2026.
Et donc, aujourd'hui, on est en 2000, début 2026. Bah, on peut se demander si on extrapole ces lois, qu'est-ce qui se passe ? Qu'est-ce qu'elle nous dit sur l'avenir de l'intelligence artificielle pour les trois paramètres que je viens d'évoquer et pour la performance ?
Je vais commencer par la performance, parce que évidemment, c'est ce qui fait le plus rêver, cauchemarder selon les uns et les autres. Voilà ce que nous racontent les lois d'échelle. Si on les extrapole brutalement, on tire le trait par rapport aux 15 dernières années, sachant que les 15 dernières années, elles se sont révélées cohérentes sur un passage à l'échelle de la puissance de calcul effective de 10 puissance 15. On a multiplié par un million de milliards la puissance de calcul, et ces lois d'échelle ont été robustes. Donc, d'une certaine façon, on s'attend à ce qu'elle continue. Vous allez voir, je vais nuancer un petit peu ce propos.
Voilà ce qu'elles nous disent. En 2023, GPT-4 arrive. Alors, je vais faire un abus de langage. Je vais dire qu'il a le niveau, la capacité à produire les résultats intellectuels d'un étudiant universitaire. Ce n'est pas un étudiant universitaire, il ne sait pas faire le café, il y a plein de choses qu'un étudiant universitaire sait faire que GPT-4 ne fait pas. Mais il y a le sentiment qu'il est capable de produire les résultats intellectuels qu'on attendrait d'un étudiant universitaire.
Début 2025, on s'attendait enfin, en début milieu 2025, on s'attendait à avoir des systèmes qui aient la capacité d'un doctorant. Finalement, au 1er, le système d'OpenAI est arrivé en septembre 2024 pour sa version preview. Il avait à peu près le niveau d'un doctorant. Et là, avec des systèmes comme Claude 4.5, comme Jemy, on a des systèmes qui ont à peu près le niveau docteur dans un grand nombre de disciplines. Claude 4.5 se classe parmi les 3 % de meilleurs codeurs du monde. Ceux qui pensent encore que dans 2-3 ans les codeurs, enfin coder, ça sera encore un métier, je pense qu'il faut se réveiller. Moi-même, je suis codeur, ça m'a fait bizarre au début, mais là, je crois qu'il faut se réveiller. Claude 4.5, c'est un nouveau modèle mental, et ce qui est en train d'arriver derrière avec DeepMind V4 qui arrive le 17 février, vu ce qu'ils ont annoncé, on va encore passer un cran sur le code. C'est très impressionnant.
Alors, que nous disent les lois d'échelle pour autour de 2028 ? Elles nous disent que en 2028, les systèmes d'IA arriveront au niveau, voire dépasseront les meilleurs experts d'à peu près tous les domaines qu'on peut imaginer. Et si on extrapole un tout petit peu plus loin, il faut s'attendre à ce qu'entre 2030 et 2032, on ait des systèmes qu'on puisse qualifier, vous savez, c'est le grand mot de la science-fiction, d'IA générale, voire même, moi un terme qui m'intéresse plus, de super intelligence.
Et en France, on a encore tendance à se dire que c'est que de la science-fiction. La science-fiction est une histoire de l'avenir. En ce moment, on est en train de réaliser les patterns que la science-fiction nous a raconté pendant des décennies. Ce n'est plus du tout de la science-fiction. Et aux États-Unis, ils l'ont très bien compris. En Chine aussi, même en Angleterre ou aux Pays-Bas, par exemple, ils sont très conscients que la question civilisationnelle fondamentale de notre époque, ce n'est pas les retraites, c'est la super intelligence.
Donc, il y a une probabilité tout à fait crédible qu'autour de 2030, on ait des systèmes qui soient capables, c'est la définition qu'on donne souvent de façon pragmatique de l'IA générale, qui soit capable d'automatiser tous les travaux intellectuels d'abord, mais même physiques avec la robotique derrière, qu'un humain peut réaliser. Donc, évidemment, quand on a cet insight, cet éclairage en tête, il faut s'attendre à ce que l'IA soit clairement le plus gros enjeu géopolitique et économique qu'on ait jamais connu.
Et vous savez, on adore raconter l'histoire que c'est une révolution industrielle comme les autres. Ça va détruire des emplois, ça va en créer d'autres, et cetera. L'IA, c'est une technologie qui apprend. Elle ne fait que s'améliorer. Il n'y a pas de frontière. Donc, on va avoir un énorme sujet économique et géopolitique. C'est en train de cristalliser tous les plus grands scénarios de la science-fiction. Et actuellement, il suffit de regarder comment le gouvernement américain euh euh se s'organise autour de la question d'IA pour voir que la géopolitique est en train de se polariser autour du sujet.
Deux-trois petits chiffres pour encore marteler ça, et puis après, on va projeter encore plus. Euh, aujourd'hui, 100 % de la croissance du PIB des États-Unis est tirée par la chaîne de valeur de l'IA. Donc, la chaîne de valeur, c'est en effet la commercialisation et la création des modèles. Avant ça, la création des centres de calcul. Avant ça, la création des puces avec les matériaux rares, et cetera. Et avant ça, l'énergie pour faire tourner le tout. On prend cette chaîne de valeur, c'est 100 % de la croissance du PIB des États-Unis.
Vous avez sûrement vu qu'en octobre, Nvidia a dépassé les 4,7 trillions de dollars de capitalisation boursière. C'est plus que toutes les capitalisations boursières de tous les labos pharmaceutiques du monde réunis. Donc, on a comme ça des... Ah oui, le dernier chiffre encore un, parce que autant faire une petite ribambelle. En octobre, c'est pareil. On a passé un cap symbolique. Plus de 50 % de l'argent privé investi dans le monde sur la chaîne de valeur de l'IA, dont 64 % aux États-Unis. Donc, on a un monde qui est en train de complètement s'organiser autour du sujet IA. Il y a une probabilité, là aussi, assez forte que après 2030, l'intelligence artificielle soit le principal et largement principal objet de création de valeur de notre monde.
Alors, évidemment, ça, c'est ce qu'on appelle la baseline. C'est le scénario si on tire les lois d'échelle qu'on a et qu'on regarde dans le passé. Évidemment, cette baseline, c'est un outil de réflexion, ce n'est pas une réalité, ce n'est pas l'avenir n'est pas écrit. Ce qu'on appelle une baseline en prospective, c'est ce qui va être sujet à débat. À partir de cette baseline, on regarde qu'est-ce qu'il faut nuancer, qu'est-ce qui pourrait ne pas fonctionner, voir qu'est-ce qui pourrait accélérer les choses.
Alors, le premier élément qui pourrait ralentir les choses, c'est ce que représente cette image. Là, je vous ai parlé que de la performance, mais pour que cette performance augmente, il faut, c'est les lois d'échelle, qu'on augmente la taille des systèmes d'IA, ça c'est facile, qu'on augmente le nombre de données qu'on met dedans. C'est pas facile, mais je pense qu'on va y arriver. Ce qu'on appelle le "data wall", le mur de la donnée. On a plein, plein, plein de stratégies pour aller plus loin autour de cette question-là, mais il va y avoir des enjeux. Mais surtout, surtout, on a besoin de mettre plus de puissance de calcul et donc plus d'énergie. Et le premier goulot d'étranglement dans les prochaines années de l'intelligence artificielle, vous en avez déjà entendu parler sur cette scène avant, c'est la question énergétique. C'est construire des centres de calcul et les alimenter.
Alors, voilà un petit tableau. C'est la personne qui était juste avant a évoqué ces chiffres. Les voilà : 2023, 2025, c'est ce qu'on a déjà. Vous avez la colonne avec la performance. Vous avez la colonne avec le nombre de puces, des équivalents H100. Ça, c'est les puces de Nvidia les plus utilisées aujourd'hui pour l'entraînement des IA. Donc, vous avez l'équivalent en H100. Si on a de meilleures puces, ben il en faut moins. Vous avez le coût, la puissance mise en œuvre pour entraîner le système d'IA, pas l'utiliser, l'entraîner, et l'équivalent.
2023 : ChatGPT, 10 000 puces environ, euh 500 millions de dollars, 10 MW pendant quelques semaines, peut-être mois. Bon, c'est l'équivalent de 10 000 foyers américains moyens. C'est beaucoup, mais pour faire un objet monde aussi incroyable, c'est OK.
2025 : On passe dans un régime, vous avez sûrement vu des choses comme Colossus, le centre de calcul d'Elon Musk. On est entre 200 000 et 300 000 H100 aujourd'hui, et donc 200 à 300 MW de puissances énergétiques. Vous avez des centres de calcul comme Hyperion annoncé par Meta qui arrive normalement autour de 2027-28. Hyperion fera la taille de Manhattan, un centre de calcul. Vous avez aussi le gros centre de calcul pour Stargate, le premier qui est en train d'être construit à Abilene. On est sur un horizon 2027-2028, et en effet, on va passer à plutôt 2 millions d'équivalents H100 et une puissance énergétique pour entraîner un système d'environ 2, 3, 4 GW. 1 GW, c'est un réacteur nucléaire. Il va falloir qu'on construise des centres de calcul sur lesquels on va connecter, on va créer en même temps que le centre de calcul des centrales nucléaires.
Vous avez une boîte qui s'appelle Crusoe, très intéressante, une capacité d'exécution incroyable pour créer des centres de calcul. Elle est assez jeune, et c'est eux qui ont le marché Stargate. Ce qu'ils font, c'est qu'ils vont créer des centres de calcul directement là où il y a des exploitations de gaz et où il y a ce qu'on appelle du gaz torché. Il y a une grosse partie du gaz et aussi sur les puits de pétrole et cetera qu'on ne peut pas transformer directement en énergie et qu'on crame sur place. Au lieu de le cramer, eux sur place, ils le transforment en énergie pour les centres de calcul. Donc, ça permet de récupérer une énergie un peu plus, je ne sais pas dire verte, mais en tout cas au moins de ne pas la juste la gaspiller. Et donc, eux, ils sont en train d'exploser, et ils ont sur Abilene un horizon, une ambition d'environ 3-4 GW sur ce premier centre de calcul.
Et puis, si on pousse encore plus loin, autour de 2030-2032, bah, des centres de calcul de 10, 12, 15 GW, la puissance énergétique de la Belgique pour entraîner une IA dans un monde environnementalement contraint. Évidemment, ça, c'est un scénario qui a l'air complètement délirant.
Alors, on s'attend dans l'écosystème de l'IA à ce que ça ralentisse les choses. Il va y avoir des goulots d'étranglement aussi sur la chaîne de valeur des puces, notamment sur ce qu'on appelle les HBM, mais énormément sur la création de la capacité d'énergie, capacité énergétique qui met un peu de temps à être construite.
Maintenant qu'on a nuancé dans le négatif, et donc ça risque de rallonger de quelques années, mais quelques années finalement, ça reste rapide à l'échelle de nos institutions et de l'humanité. Je vais montrer quelques petits éléments qui pourraient accélérer, et après le débat est ouvert de là où ça va aller.
Comme c'est l'enjeu géostratégique du siècle, Poutine a dit : "Le premier qui a de l'IA générale est maître du monde." Trump l'a très bien compris. Xi Jinping aussi. En Europe, un petit peu moins. Mais on commence à le comprendre, heureusement. Euh, évidemment, se met en place une course parce que tous les gouvernements veulent être les premiers à avoir des systèmes beaucoup plus puissants. Il faut se rendre compte que quand on a un système qui est capable d'automatiser tout ce que l'humain sait faire, il est capable d'automatiser ou de grandement accélérer la recherche en IA. Et donc, quand on a ce type de système, pour passer au système suivant, on a un avantage comparatif. On peut développer des systèmes d'IA plus puissants de plus en plus vite. Donc, d'une certaine façon, on crée un avantage qui est irréversible par rapport aux autres. C'est pour ça qu'il y a cette course en avant avec l'idée que le premier qui a quelque chose comme de l'IA générale, il y a une fuite en avant, il est maître du monde pour toujours. Ça paraît complètement dingue de penser comme ça. On dirait que ce sont des termes qui viennent d'un livre de science-fiction, 1984. Mais il y a une réalité géostratégique derrière l'IA. Et qu'elle soit réaliste ou pas, les gouvernements ont ça en tête, notamment des gouvernements américains. Vous savez que Trump a un IA qui lui murmure à l'oreille ce genre de scénario.
Comme c'est l'enjeu géostratégique, on a une course. Une course, ça accélère les choses et ça permet, comme pour le projet Manhattan, une débauche complètement dingue de ressources avec l'idée que, par exemple, pour les Américains, si de toute façon ils ne mettent pas tout ce qu'ils peuvent pour créer des centres de calcul et mettre de l'énergie à fond et déréguler à fond le gaz, le pétrole, les hydrocarbures et cetera, la Chine va le faire avant eux, et donc ils sont foutus. Donc, ça pousse à ce qu'il y ait cette accélération et cette dérégulation.
Deuxième élément, évidemment, en ce moment, avec ces limites énergétiques et ces limites de données, il y a un gros incitatif à ne pas juste faire plus gros, mais à faire mieux, à faire des systèmes qui permettent, avec autant de données, autant de puissance de calcul, d'aller plus loin. On sait que c'est possible. Le cerveau humain est un million de fois plus efficient que nos systèmes d'IA. Avec quelques watts, on développe une surface d'intelligence incroyable. On a l'exemple, la nature a su faire de l'intelligence, de l'intelligence naturelle générale qui est beaucoup plus efficiente. Donc, on sait que c'est possible. Donc, en ce moment, on a énormément, énormément d'avancées.
Alors, les leaders de ça initialement qu'on a beaucoup connu dans le plus grand public, c'est DeepMind, en effet, qui avait sorti la version 3 de DeepMind l'année dernière en faisant bien mieux avec autant, et donc ils ont fait s'écrouler la bourse pendant quelques jours et cetera. Bon, évidemment, c'est reparti de plus belle derrière. Donc, il faut s'attendre à ce qu'on ait des grosses améliorations sur plusieurs choses. Déjà, vous avez peut-être entendu parler des "world models", les modèles du monde. Donc, le fait que l'on donne à nos systèmes d'IA une représentation interne du monde beaucoup plus structurée qui leur permettent d'utiliser les données d'entraînement et ensuite de raisonner de façon beaucoup plus efficace.
Vous avez aussi ce qu'on appelle les "energy-based models". Ça, c'est pour moi un des trucs fondamentaux à suivre. C'est ce qui va nous permettre de faire du raisonnement bien plus efficace qu'avec les grands modèles de langue. Ça va s'interfacer aux grands modèles de langue pour faire du raisonnement avec beaucoup, beaucoup moins de puissance énergétique et beaucoup plus de rigueur.
Et puis, euh, il y a aussi le fait que la robotique, qui va de plus en plus se développer, va nous permettre d'avoir un flux de données nouveau, des données qui viennent directement du monde réel, qui sont des données hautement qualitatives pour entraîner les systèmes d'IA.
Donc, voilà quelques éléments aussi. Il y en a plein d'autres, hein. Euh, le débat est bien plus vaste que ça. J'ai que 15 minutes. Mais si vous avez envie d'aller plus loin, puisque j'ai déjà dépassé mon temps, j'ai sorti une BD et un bouquin qui parlent exactement de ça, et je les vends en dédicace là-bas. C'était l'instant promo.
Un grand merci à tous. Il ne faut pas avoir peur de cet avenir. Il faut avoir le vertige, mais par contre, il faut le surfer. On n'a pas le choix. On ne peut pas faire l'autruche. Encore merci à tous. Bonne journée.