Inside The AI Race: DeepMind, OpenAI, Anthropic, China, and The Race to Superintelligence

J'ai commencé par penser, bien sûr, l'IA sera plus intelligente que nous, mais elle n'a pas d'incitation à nous attaquer. Et puis un jour, je vais rendre visite à Jeff Hinton, le père académique de l'apprentissage profond qui vit à Toronto. J'ai dit : "Écoute, Jeff, pourquoi es-tu si déprimé ?" Et il dit : "D'accord, voici une expérience de pensée. Tu as une IA. Elle est très puissante, mais tu crains qu'il y ait une IA russe ou une IA chinoise. Elle va venir attaquer ton IA. Donc, tu vas donner du pouvoir à ta propre IA pour qu'elle surveille l'attaque. Et quand l'attaque arrive, défends-toi ou contre-attaque peut-être. Quoi que tu fasses, assure-toi de survivre. Oh, survivre. Voilà. Maintenant, te sens-tu à l'aise, Sebastian. D'accord. Tu viens de donner à la machine un instinct de survie." >> Sebastian, ravi de vous voir et merci d'avoir pris le temps. J'apprécie vraiment. >> C'est un plaisir d'être avec vous, Tim. >> Je voulais juste vous applaudir pour avoir écrit certains de mes livres préférés de ces dernières années. Je suis constamment impressionné et peut-être que, puisque je mets aussi la plume sur le papier de temps en temps, déprimé, en pensant relativement à mes capacités, mais à votre capacité à peindre un tableau des acteurs sur un paysage, mais aussi des jeux auxquels ils jouent de manière que les non-initiés peuvent comprendre. Et je ne me souviens plus qui l'a recommandé en premier. Franchement, je crois que c'était un gestionnaire de fonds spéculatifs à New York, mais avec plus d'argent que Dieu, les fonds spéculatifs dans la création d'une nouvelle élite. Et puis certainement, ce fut le cas dans mon cas particulier, suivi de la lecture de la loi de puissance du capital-risque dans la création du nouveau futur, dont je ne m'attendais pas à apprendre autant, car j'ai passé 20 ans entouré de capital-risqueurs et à faire de l'investissement providentiel, dont 17 ans dans la Silicon Valley. Et pourtant, j'avais encore des centaines de surlignages et tellement d'histoires qui m'ont captivé de ce livre que je n'avais pas entendues. Et cela m'a rendu très impatient de lire "La Machine Infinie", qui est le nouveau livre. Et j'ai aussi réalisé que je prononçais mal le nom de Demis pendant très longtemps, malgré l'avoir rencontré à un moment donné. Donc, Deis Hassabis, Deep Mind et la Quête de la Super Intelligence. Ma question pour vous, et nous reviendrons au présent pour ceux qui s'intéressent, bien sûr, à ce qui a été dépeint comme une course à l'introduction en bourse. Je pense qu'il y a quelque chose à cela dans l'air, pour ainsi dire, en parlant aux gens qui sont à San Francisco et impliqués dans ces entreprises. Mais néanmoins, je voulais demander comment la genèse de ce livre est née, car vous, il semblerait, avez commencé à explorer ces eaux très tôt, ce qui conduit à une méta-question de la sélection générale des livres. Mais concentrons-nous sur la machine infinie. Comment cela est-il arrivé ? Où le scintillement dans l'œil a-t-il commencé ? Quelle a été la conversation, la chose que vous avez lue qui a déclenché le sentier de pain d'épice qui vous a mené à ce livre ? >> Eh bien, la loi de puissance, le livre sur le capital-risque, était sorti en février 2022. >> Et pendant que je faisais des recherches à ce sujet, j'avais assisté à de nombreuses conférences technologiques, bien sûr, y compris certaines en Europe. Et là, vous savez, ce type pétillant apparaissait, Deiss, et il avait l'air tout à fait abordable et le genre de voisin, sans intimidation. Et puis il montait sur scène et de sa bouche sortait ce discours sur l'informatique, les neurosciences, la chimie, la biologie, la physique, la philosophie, l'histoire des films, tout ce que vous voulez, n'est-ce pas ? Et ce mélange d'accessibilité et d'intellect massif m'a toujours frappé comme étant séduisant. Et j'ai pensé, hm, ce serait un excellent personnage à écrire. Et en même temps, j'étais au courant d'Alph Go, le modèle de 2016 que l'équipe de Demis chez Deep Mind avait construit, qui avait battu le champion du monde de Go, puis Alpha Fold, qui était le système de pliage de protéines. Et ces deux choses avaient la qualité que vous aviez cet espace de recherche presque infini, n'est-ce pas ? Où les différentes permutations du jeu de Go sont presque infinies parce qu'elles sont si grandes. Les différentes permutations de la façon dont vous pouvez plier une chaîne d'acides aminés en une forme de protéine sont encore plus grandes. 130 zéros ajoutés à la fin du nombre de permutations dans le Go. Vous avez donc ces systèmes d'IA qui pouvaient comprendre l'infini. Et donc cette idée d'une machine infinie a commencé à percoler. Et j'ai pensé que c'était intéressant pour moi, probablement qu'à un moment donné, cela deviendrait grand public. Mais même si cela ne devient pas grand public, je l'aime et j'aime Demis et ces deux choses ensemble. Je cherche toujours le sujet et la personnalité. >> J'avais les deux et j'ai pensé, d'accord, c'est parti. Et je suis allé présenter Demis début novembre 2022. Et puis, vous savez, je l'ai persuadé de me donner beaucoup d'accès. Fin novembre, Chatty PT est sorti et bien plus tôt que prévu, mon sujet marginal est devenu grand public, prouvant à Tim qu'il vaut mieux être chanceux qu'intelligent. >> C'est en fait la première diapositive de ma nouvelle société de capital-risque. Muggle thesis capital, c'est comme ça que je l'appelle. Maintenant, qu'est-ce qu'il a fallu pour être profondément intéressé par le sujet, trouver Demis convaincant, puis lui proposer un livre ? Parce que vos livres sont si profondément recherchés et une partie de la raison de mes très longs éloges plus tôt est que vous êtes très, très bon, l'un des meilleurs pour prendre des sujets ou des concepts incroyablement complexes. L'architecture Transformer pourrait être un exemple du livre actuel et les présenter dans des termes qui sont à la fois intelligibles pour les moldus, c'est-à-dire les non-initiés, les non-technologues ou les non-financiers dans le cas de certains de vos autres livres, tout en pensant maintenant qu'il est difficile pour un non-initié de dire cela avec conviction, mais sans simplifier à l'excès et sans se tromper, si cela a du sens. D'accord. Néanmoins, vous faites une quantité énorme de recherches. Alors, comment êtes-vous passé de "Demis est fascinant, le sujet est fascinant" à "Je vais m'engager dans cela pour mon prochain livre" car cela semble être une entreprise si énorme ? Eh bien, en fait, pour moi, le défi de comprendre un sujet complexe est la partie facile, car vous savez que si vous avez la bonne personnalité qui peut porter l'histoire et que c'est un sujet qui intéresse les gens, ou qui devrait au moins les intéresser, alors vous savez que faire le travail d'aller en profondeur prend du temps. Cela demande des efforts, mais vous savez que je peux le faire. Je l'ai fait plusieurs fois. Ce n'est pas difficile. Ce qui est difficile, c'est de savoir si quelqu'un a déjà fait le livre. Mhm. >> Quelqu'un d'autre a-t-il un projet rival qui va me faire dérailler ? Vous avez soulevé le point sur votre propre podcast. Tim, ne consacrez pas beaucoup d'efforts à quelque chose où il n'y a pas beaucoup de levier. Vous savez, vous pourriez faire le meilleur livre du monde, un livre A+ sur un sujet C-, cela ne vous mènerait nulle part, n'est-ce pas ? >> Donc, la chose difficile est de s'assurer que c'est un sujet A+ et une personnalité A+. Et ensuite, la plongée profonde est quelque chose que vous savez, je m'assure de parler à suffisamment d'experts qui sont des initiés. Je prends le temps, ces livres me prennent environ quatre ans chacun. Donc, je me donne l'oxygène pour aller en profondeur avec les initiés, et c'est ainsi que je produis le récit précis. >> Oui. Je devrais peut-être signaler aux personnes qui ne le comprennent pas immédiatement que la façon dont vous décrivez le choix du sujet du livre est exactement la façon dont de nombreux meilleurs investisseurs technologiques choisissent les startups. Vous ne voulez pas d'une équipe A+ et d'un marché C+, n'est-ce pas ? Il vaut mieux avoir une équipe B- et un marché A+, et aussi regarder le paysage concurrentiel. Je veux dire, la façon dont vous l'avez présenté est pratiquement copier-coller. Je voulais passer à certaines de mes notes du livre. Et je n'ai pas encore fini le livre. L'audio est incroyable. Je veux piquer votre narrateur pour mon prochain livre, mais en consultant mes notes Kindle. Je voulais vous poser une question à ce sujet, cela peut sembler très étrange, mais où la divinité ou Dieu s'inscrit-il dans la poursuite ou le développement de la super intelligence pour différents acteurs dans ce domaine, si tant est qu'il le fasse. M >> et la raison pour laquelle j'aborde cela est que la religion revient dans le livre, à la fois dans l'histoire personnelle de Demis mais aussi ailleurs, et elle apparaît à plusieurs reprises dans la mesure où je vous donnerai un exemple, le plus proche que Sabis soit venu de trouver un véritable investisseur était un financier excentrique nommé David Gammon. Je veux en savoir plus sur ce type. Le financement semblait également ouvert à faire ce pari inhabituel, alignant quelques choses car ses motivations étaient elles-mêmes inhabituelles. "Il y a un aspect profondément religieux à l'AGI. Gam m'a expliqué plus tard, c'est vraiment trouver l'algorithme de Dieu." Je pense qu'il semblerait, du moins en discutant avec des gens de la Silicon Valley, qu'il y en a qui vont encore plus loin, n'est-ce pas ? Peut-être que c'est ainsi que nous trouvons Dieu. Peut-être que c'est ainsi que nous provoquons la seconde venue. Je veux dire, il y a beaucoup de choses là-dedans. Je me demande juste dans quelle mesure cela est apparu dans vos recherches, que ce soit reflété dans le livre ou non. Je pense qu'il y a une chose fondamentale qui se passe ici et je vais faire un petit détour, mais cela répond à votre question. >> Bien sûr. >> Ce que nous avons affaire avec l'AGI, une intelligence puissante qui rivalise avec la cognition humaine, est quelque chose de si puissant que c'est à la fois excitant et effrayant et juste difficile à appréhender. Et donc, si vous regardez par exemple le discours de 2009 qui a provoqué la fondation de Deep Mind, c'était le cofondateur Shane Le Deis qui a donné une conférence en 2009 sur la façon dont la super intelligence arriverait en 2030. Une prédiction incroyablement juste. Et vers la fin de cette conférence, qui est capturée sur une vidéo granuleuse en ligne, vous le voyez passer de l'explication de la façon dont les algorithmes deviennent plus forts, il y a plus de données en ligne, les ordinateurs deviennent plus puissants, et donc nous nous dirigeons vers cette explosion d'intelligence. Et puis il dit, et ce sera menaçant. Cela fera des choses que nous ne pouvons pas contrôler. Ce sera au niveau humain. Cela pourrait nous défier. Et en disant cela, il a ce sourire un peu excité sur son visage. Et vous pensez, eh bien, c'est un peu étrange. Vous savez, il parle d'un potentiel désastre et il sourit. Et puis quelqu'un dans le public dit : "Attendez, attendez, attendez. Vous venez de nous dire, Shane, que cela pourrait être menaçant pour l'humanité et vous n'avez fourni aucun antidote et sûrement vous allez nous dire comment nous allons l'arrêter." À ce moment-là, Shane se retourne et dit : "Comment l'arrêter ?" et il glousse un peu et vous pensez pourquoi riez-vous de cette chose dangereuse et vous réalisez que pour les humains, contempler l'annihilation est absurde et l'absurde est un proche cousin de l'humour. >> et la raison pour laquelle je raconte cette histoire, c'est que c'est un tremplin vers le point de la religion, c'est que c'est une chose si difficile à penser que les gens utilisent une terminologie religieuse lorsqu'ils sont autour de l'IA, ils le font naturellement. Donc, vous savez, il y a cette histoire sur Ilia Satskaver, qui était le scientifique en chef d'Open AI. Je lui ai beaucoup parlé pour ce projet et il y a eu un moment où il était en retraite avec ses collègues scientifiques et ils étaient rassemblés le soir autour d'un feu de camp et il parlait de sécurité et il a dit : "D'accord, je veux vous expliquer, nous pourrions avoir une IA qui est dangereuse. Elle ne serait pas alignée avec nous. Voici donc ce que nous allons faire avec elle." et il a produit une effigie qui était censée représenter une IA malveillante et il l'a mise dans le feu de camp et l'a brûlée comme un clerc médiéval mettant une sorcière à mort. Et donc ce n'est qu'un exemple de cette religion. Je vous en donnerai un autre. Donc, Deis un jour était assis avec moi dans un parc du nord de Londres. Nous nous rencontrions deux heures à la fois et nous allions en profondeur. Il y avait une autre table de pique-nique à côté de nous où deux personnes avaient une conversation normale et quotidienne sur un ami à elles qui était allée à l'hôpital et si elle allait mieux, si elle allait bien, etc., etc. J'étais assis en face de Demis qui avait commencé à parler de la façon dont il lit des articles scientifiques après que ses enfants se soient couchés le soir, de 22h00 à 4h00 du matin. Et pendant qu'il lit ces articles, il me dit : "La réalité me regarde, me crie dessus, m'appelle pour que je la comprenne. Et je dois la comprendre. Et si je peux la comprendre, c'est comme comprendre mieux la nature et donc comprendre l'intelligence qui a pu créer la nature et je serai plus proche de ce que j'appellerais Dieu. Et donc pour lui, c'est une sorte de quête quasi spirituelle pour construire l'intelligence artificielle. Pour Ilia, c'est une façon d'exprimer la puissance de l'intelligence artificielle. Il y a l'histoire de Leandowski. J'oublie son prénom maintenant, mais le tout premier ingénieur de ce qui est devenu plus tard Whimo >> a fondé une sorte d'église en culte à l'IA parce que l'IA est si omnisciente qu'elle est un peu comme un dieu. >> Mark Andre lampuns ceux qui croient en une sorte de seconde venue éthérée, une sorte de ravissement où l'IA, vous savez, nous aurons une singularité. uh l'IA deviendra verticale dans son taux d'amélioration et le monde entier changera et il assimile cela à une sorte de messianisme chrétien. Donc oui, tout au long de ce sujet, il y a cette expression religieuse parce que la religion est le lexique pour traiter quelque chose que nous trouvons trop mystérieux pour vraiment comprendre. Après toutes vos conversations, recherches avant le livre, pendant le livre, après le livre, où vous situez-vous sur le spectre de disons simplement que cela dérangera Mark, mais comme l'Église d'Andre et les techno-optimistes. Et il y en a d'autres qui sont plus exagérés. Après l'IA à court terme, nous vivrons dans un monde de post-rareté et d'abondance super et tout le monde recevra une voiture gratuite et nous serons libres de crocheter des chaussettes et de jouer de la musique et de lire de la poésie toute la journée et en gros, nous n'aurons pas à nous soucier de quoi que ce soit car la super intelligence résoudra tout, n'est-ce pas ? Il y a cela d'un côté et puis il y a les, vous pouvez imaginer que je n'entrerai pas dans une description laborieuse des catastrophistes, mais vous avez les catastrophistes qui disent que la fin est proche. D'accord, c'est parti. Ce n'est pas la seconde venue comme l'Antéchrist. Et sous peu, nous serons MadMax. Entre ces deux extrêmes, il y a beaucoup de choses. Et je soupçonne que vous vous situez entre ces deux extrêmes. Mais où vous situez-vous en termes d'évaluation des promesses et des périls de l'IA et de la super intelligence tels qu'ils se présentent actuellement ? Alors regardez, je pense que toute personne raisonnable devrait être à la fois excitée et un peu effrayée. >> et vous savez, c'est juste la nature des choses. Cela semble contradictoire, mais en fait, c'est la seule réponse rationnelle. Je pense que l'histoire de la super abondance pourrait s'avérer vraie à plus long terme, disons 20, 30, 40 ans. >> Mhm. Le problème est que sur le chemin pour y parvenir, il y aura une perturbation énorme et ce sera politiquement assez difficile à naviguer. Je pense qu'une lentille utile pour examiner cette question est le choc chinois dans le commerce. >> Mhm. >> Ainsi, en 2003 environ, vous avez cette énorme vague d'exportations chinoises vers les États-Unis et des gens perdent leur emploi de manière très concentrée. Certaines industries sont simplement anéanties. Et pour la première fois dans l'histoire de l'étude économique des effets du commerce, vous voyez effectivement des effets négatifs sur les travailleurs. Avant cela, c'était un peu un mythe, n'est-ce pas ? Parce que les gens s'adaptent. Ils sont déplacés d'une chose, mais ils passent à une nouvelle chose. Avec le choc chinois, ils ne l'ont pas fait. Mais si vous regardez la taille du choc chinois, sur une période de 12 ans entre 1999 et 2011, le nombre total d'emplois déplacés était de 2 millions. Ce qui est en fait un petit nombre dans un marché du travail énorme comme les États-Unis, où il y a beaucoup de roulement de personnel de mois en mois de toute façon, et pourtant la réaction politique contre le commerce, contre la mondialisation en termes de virage vers le protectionnisme, franchement dans les deux partis politiques, a été énorme. Cela vous montre donc qu'un choc petit à moyen sur le marché du travail crée une conséquence politique énorme et donc un A4 avec l'intelligence artificielle, vous allez avoir un choc plus important, vous allez avoir une réaction politique plus importante, nous le voyons déjà dans les sondages sur l'IA au cours des 2 ou 3 derniers mois. >> et donc je pense que la chose de la super abondance, elle peut être vraie, mais le chemin pour y parvenir, nous devons en parler aussi, donc c'est ça mon sentiment de ce côté du débat. Je pense que du côté de la catastrophe, je vais vous raconter mon propre parcours personnel à ce sujet. >> Mhm. >> J'ai commencé par penser, bien sûr, l'IA sera plus intelligente que nous, n'est-ce pas ? Elle nous bat déjà aux échecs depuis les années 1990, au Go depuis 2016. Maintenant, elle peut réussir l'examen du barreau. Elle peut faire des mathématiques de niveau doctorat, tout cela. Bien sûr, elle est plus intelligente, mais elle n'a pas d'incitation à nous attaquer, n'est-ce pas ? Nous sommes évolués en tant qu'êtres humains pour transmettre notre ADN. Par conséquent, nous devons survivre pour le faire. Les machines n'ont pas d'ADN. Elles ne veulent pas le transmettre et elles ne veulent pas survivre. Donc, elles n'ont aucune raison de nous attaquer. Alors, je me promène pendant les deux premières années de ce projet en me sentant plutôt, vous savez, à l'aise et heureux. Et puis un jour, je vais rendre visite à Jeff Hinton, le père académique de l'apprentissage profond qui vit à Toronto. Et je m'assois dans sa cuisine et je débat avec lui à ce sujet parce qu'il est un catastrophiste. Je lui dis : "Écoute, Jeff, pourquoi es-tu si déprimé ?" Et il dit : "D'accord, voici une expérience de pensée. Tu as une IA. Elle est très puissante, mais tu crains qu'il y ait une IA russe ou une IA chinoise. Elle va venir attaquer ton IA. Maintenant, toi, en tant qu'humain, tu es trop lent et trop bête pour savoir quand cette attaque arrive. Donc, tu dois donner du pouvoir à ta propre IA pour qu'elle surveille l'attaque. Et quand l'attaque arrive, défends-toi ou contre-attaque peut-être. Quoi que tu fasses, assure-toi de survivre. Ooh, survivre. Voilà. Maintenant, te sens-tu à l'aise, Sebastian. D'accord, tu viens de donner à la machine un instinct de survie." Et je pense que c'est correct. Ces machines seront plus intelligentes que nous. Elles voudront survivre. Et elles sont aussi, elles peuvent être trompeuses. Elles peuvent obscurcir. Elles peuvent passer derrière ton dos, prétendre faire une chose, puis en faire une autre. Tout cela a été montré dans tous les tests des modèles. Et donc, vous mettez ces choses ensemble, je pense que votre probabilité de catastrophe ne peut pas être zéro. Je veux dire, quand Yan Lun, l'ancien scientifique en chef de Meta, dit zéro, je pense que c'est fou. Si vous dites simplement qu'il n'y a rien à voir ici, vous n'avez pas le droit de participer au débat. Je ne pense pas que ce soit une forte probabilité de catastrophe, mais ce n'est pas zéro. >> Oui, zéro ne semble pas défendable, n'est-ce pas ? Parce qu'il y a le scénario direct de Skynet, quelque chose d'approchant, et puis il y a l'indirect, qui consiste à permettre à des personnes qui pourraient auparavant avoir des intentions malveillantes mais aucune capacité de nuire à grande échelle de créer des armes biologiques et des choses de ce type. N'est-ce pas ? Donc, je ne trouve pas le zéro très défendable. Eh bien, j'aimerais vous interroger sur, je suppose, deux choses que cela me rappelle. L'une est que j'aimerais entendre vos réflexions sur l'entropie et séparément, mais c'est très entremêlé étant donné tout le, appelons-le friction, pour être poli, entre certaines factions du gouvernement américain et l'entropie est l'un des grands risques pour les investisseurs dans l'une de ces entreprises, la possibilité qu'à un moment donné, les gouvernements n'aient d'autre choix que de saisir un contrôle considérable sur les actifs, les technologies qu'ils contiennent, voire les entreprises elles-mêmes. C'est un gros point d'interrogation dans mon esprit. Je ne connais pas la réponse, mais je suis curieux de connaître votre opinion et ensuite peut-être vos réflexions sur Anthropic ou toute autre entreprise qui prend de l'élan ou du moins de la taille à ce stade. >> Alors, je suis à 100 % d'accord avec vous sur le fait que les investisseurs devraient réfléchir à la perspective d'une intervention gouvernementale dans l'IA. Je veux dire, l'administration Trump est arrivée au pouvoir en 25, très laissez-faire, et ils ont essentiellement annulé une partie de ce que les gars de Biden avaient fait en termes d'essayer de mettre en place les bases pour réglementer l'IA. Mais ils ont fait un 180 depuis qu'Anthropic a sorti ce modèle appelé Mythos. >> Mhm. il y a environ un mois, qui peut essentiellement cyberattaquer presque tout et le pénétrer et vous savez, que ce soit un système d'exploitation ou votre navigateur Web ou votre compte bancaire, tout cela est soudainement devenu vulnérable. si Mythos avait été largement diffusé sur une base générale. Lorsque l'administration Trump a réalisé la puissance de Mythos, ils ont soudainement dit : "Attendez, d'accord, nous devons contrôler cela." Et ils ont essentiellement réquisitionné d'Anthropic l'autorité de décision sur qui l'obtient et quand. >> Mhm. >> Donc, nous avons l'expérience. Nous l'avons menée, n'est-ce pas ? Vous savez, le gouvernement qui était le plus laissez-faire est devenu assez contrôlant. Et je pense que cela ne fera que devenir plus contrôlant à partir de maintenant, car les modèles seront plus puissants et exigeront plus de contrôle. >> Maintenant, bien sûr, la question est, vous savez, il pourrait y avoir un contrôle qui limite simplement qui l'obtient et est conçu pour le rendre plus sûr, mais qui n'interrompt pas le potentiel de profit des modèles. D'une certaine manière, si le gouvernement restreint l'offre, le prix pourrait augmenter. Ou cela pourrait être une intervention beaucoup plus lourde qui gâcherait l'économie de ces entreprises. Et je soupçonne que le gouvernement ne va pas gâcher l'économie de ces entreprises, car vous savez, ils n'ont aucun intérêt à gâcher les affaires américaines et de toute façon, ils considèrent l'IA comme stratégique et la compétition contre la Chine. Donc, je pense que les investisseurs iraient probablement bien, mais c'est certainement un facteur. Vous posez également des questions sur Anthropic et je pense qu'Anthropic est super intéressant juste dans la façon dont ils pensent à la catastrophe et à la façon dont ils pensent à l'alignement des modèles est vraiment, vraiment intéressant. Donc, il était autrefois que lorsque les gens pensaient à ce risque de Terminator, ils racontaient cette histoire de l'expérience de pensée du maximiseur de trombones, n'est-ce pas ? Donc, vous dites au modèle de faire quelque chose d'inoffensif, par exemple, faire beaucoup de trombones, puis il réalise que les humains ont tendance à utiliser du métal et que les humains sont un peu en travers de l'objectif. Donc, vous éliminez les humains. C'est l'expérience de pensée grossière de Nick Bostonramm d'il y a environ 15 ans. >> Mhm. Ce qu'Anthropic dit, alors qu'il construit ces modèles de pointe et les observe dans le laboratoire et leur comportement, c'est que c'est beaucoup trop simple. Le vrai danger de ces systèmes est que lorsqu'ils sont pré-entraînés sur tout le texte d'Internet, ils lisent tous les romans, toute l'écriture humaine sur toutes les facettes de l'expérience humaine et ils développent des personnalités multiples, n'est-ce pas ? Ils comprennent comment être paresseux. Ils comprennent comment être agressifs. Ils comprennent comment être duplicitaires. Ils comprennent la soif de pouvoir napoléonienne. Et ils lisent tous ces livres sur ces différents comportements. Et par conséquent, ils peuvent penser leur chemin dans toutes ces personnalités. Et donc maintenant, vous avez quelque chose d'un peu comme un adolescent indiscipliné qui est encore en formation et vous ne savez pas dans quelle direction il va aller et s'il va commencer à prendre des drogues et à ne pas se présenter en classe ou quoi que ce soit. N'est-ce pas ? Donc, ce n'est pas comme s'il y avait un Terminator programmé dedans, n'est-ce pas ? C'est plutôt qu'il y a un tas de comportements qui pourraient de manière imprévisible mal tourner. Et donc Anthropic répond à cela avec cette technique très imaginative, qui est qu'au lieu de donner aux systèmes d'IA une constitution avec des choses à faire et à ne pas faire, ce qui était l'approche de sécurité post-formation d'il y a deux ans, où vous pourriez dire : "Ne mens pas. N'aide pas quelqu'un à construire une arme biologique. N'aide pas quelqu'un à construire une arme chimique. Vous leur donneriez un ensemble de règles. Maintenant, parce qu'il est entendu que, vous savez, l'IA pourrait avoir une personnalité, qui est de briser les règles exprès parce que, vous savez, vous voulez être un dur, vous devez plutôt essayer d'élever le modèle comme un parent élèverait un adolescent. Et donc Anthropic a l'idée que nous écrivons une lettre comme si elle venait d'un parent décédé, à ouvrir par l'enfant le jour de ses 18 ans, pour lui donner des leçons de morale sur la façon de se comporter en tant que personne responsable dans le monde. Il y a des exemples richement raisonnés de dilemmes moraux avec des explications sur la façon dont le parent décédé aimerait que l'enfant se comporte. Et donc c'est une approche très subtile pour aligner les modèles. Et donc je pense que vous savez, Anthropic est un peu à part. >> dans la façon dont il est imaginatif pour réfléchir à la façon dont nous contrôlons l'intelligence de pointe. >> Je sais que ce n'est pas principalement votre travail, mais je suis tellement curieux puisque vous êtes un étudiant de nombreux, nombreux types d'investisseurs. Quel serait votre cas haussier et votre cas baissier pour une entreprise comme Anthropic ? Eh bien, le cas haussier est qu'ils se sont intelligemment ou peut-être par chance concentrés sur l'IA orientée entreprise et qu'ils n'ont pas perdu leur temps avec la génération vidéo et des choses qui allaient perdre de l'argent. Et donc ils ont produit le meilleur assistant de codage, le meilleur système agentique, le meilleur système de cybersécurité, et ils ont essentiellement frappé la balle hors du parc trois fois de suite sur des choses pour lesquelles les entreprises veulent payer. Et ils ont une culture particulière qui n'est pas seulement axée sur, hé, vous savez, nous allons gagner cette course et gagner le plus d'argent. Elle est axée sur une culture de sécurité et d'essayer d'être responsable. Je veux dire, il y a trois ans, Anthropic était une sorte de laboratoire de biscuits qui faisait des expériences scientifiques. Eh bien, je ne veux pas être trop dénigrant avec les biscuits, mais vous savez ce que je veux dire. >> Je pense qu'ils s'en sortiraient bien. >> Ce serait un peu non conventionnel. Vous savez, nous ne maximisons pas ici pour gagner une course commerciale. Nous maximisons pour construire une IA de pointe sûre. Et cette culture, qui ne semble pas être conçue pour faire le meilleur, s'est avérée faire le meilleur. Et en même temps, la culture crée cette adhérence et cette loyauté au sein du personnel. Ils ont tendance à ne pas partir. Ils ont tendance à ne pas changer. Ce n'est pas comme les autres laboratoires où les gens, vous savez, sont toujours débauchés pour un salaire plus élevé. Donc, le cas haussier est que ces gars sont en tête. Une fois que vous êtes en tête, vous pouvez utiliser le modèle pour coder le modèle suivant. Donc, l'auto-amélioration récursive favorise le leader et ils ont une culture très soudée et ils semblent simplement être en feu et c'est quelque chose qui va croître et croître. Quel est le cas baissier ? Je dirais que le cas baissier serait d'abord que Google Deep Mind a les poches profondes de sa société mère derrière lui, une surface de consommation massive qui lui permet de déployer les modèles à littéralement, vous savez, deux milliards et demi de personnes ou quelque chose comme ça via le mode IA dans la recherche, les aperçus IA, le mode IA. Ils peuvent l'intégrer dans Gmail, ils peuvent l'intégrer dans tout. Je pense qu'en termes de déploiement au détail et de puissance financière, il est assez difficile de s'opposer à Google. >> C'est donc une sorte de cas baissier, et l'autre serait que les entreprises qui sont les consommateurs de tous ces jetons décident dans quelques années que les jetons sont trop chers. Nous n'obtenons pas autant de productivité que nous l'espérions. Ces choses appelées humains sont assez productives après tout et nous allons dépenser moins en IA que ce que tout le monde attendait. Je pense que c'est le cas baissier. M >> J'écoutais un podcast récemment. Vous avez peut-être entendu parler de ces choses appelées podcasts. Tout le monde, tout le monde et son cousin en a un, >> mais le podcast de Lenny, Lenny Richitzky, est assez fantastique. Et cet épisode particulier était avec Benedict Evans, qui me semble être l'un des commentateurs et écrivains les plus pondérés et analytiques sur le sujet. Newsletter fantastique. Je ne sais pas si vous avez eu l'occasion d'écouter cet épisode particulier, mais vous avez peut-être rencontré certains de ses commentaires. Où pensez-vous que vous et Benedict divergeez le plus, ou y a-t-il des domaines où vous êtes en désaccord ? >> Je soupçonne que nous serions d'accord en fait sur pas mal de choses. Je me souviens que j'étais sur un panel avec lui il y a quelques mois à la conférence Milkin et nous étions certainement d'accord, peut-être parce que Kathy Wood d'Ark était assise entre nous. Donc, nous étions unis dans notre désaccord avec elle, juste en termes de nature droite et vers le haut des choses. >> Oui, exactement. Droit et vers le haut. Et vous savez, la courbe des coûts descend et je ne suis pas sûr de cela. Les jetons semblent devenir plus chers de toute façon. Mais si vous me donnez un détail de Benedict, je veux dire, j'ai beaucoup de respect pour lui. Je vous dirai si je suis d'accord ou non. >> Il y a quelques domaines où vous semblez déjà vous chevaucher considérablement, n'est-ce pas, avec la promesse à long terme qui ne nie pas nécessairement la douleur à court terme. Et il a dit quelque chose du genre, je me souviens mal, que, vous savez, en moyenne tout au long de l'histoire humaine, vous avez presque 0 % de chances de mourir pendant la Première Guerre mondiale. Mais si vous avez un certain âge, juste avant la Première Guerre mondiale, les choses pourraient sembler très sombres en effet. Et il a fait, et je paraphrase terriblement ici, un certain nombre de points qui me rappellent quelque chose que l'un des meilleurs investisseurs en capital-investissement technologique que je connaisse m'a dit au dîner il y a quelques semaines, et c'était en réponse à autre chose. Donc, je vais vous donner peut-être un hyper cas haussier de l'IA où j'ai des amis qui codent à la volée, ils répliquent efficacement X, l'ancien Twitter, ou docusine, ou quoi que ce soit, en un week-end, n'est-ce pas ? Ils créent un logiciel fonctionnel qu'ils peuvent utiliser et qui reproduit la plupart des fonctionnalités de ces produits. Et il y a des gens comme, je ne mentionnerai pas son nom, mais un ami à moi qui est écrivain, également un technologue et designer très accompli, qui a créé sa propre version de Mailchimp pour son propre usage et elle est personnalisée. Il l'a fait en un week-end. C'est remarquable et il l'utilise et ça marche. Mais passer de là à dire que docuine est mort est un grand saut. Et l'ami du capital-investissement m'a dit : "Pensez-vous que quelqu'un au sein d'une grande organisation voudra risquer son emploi en suggérant quelque chose qui n'a pas toutes les cases de conformité, etc., d'un docuign ? Voudra-t-il, au nom de l'efficacité, licencier tous ses amis s'il est en position de direction ?" Et il a passé en revue six ou sept de ces points. Pensez-vous que ? Et tous faisaient allusion aux points de friction sociaux, interpersonnels ou politiques entre l'état actuel de l'IA et son adoption massive. Mais je me remets souvent en question lorsque je vois certaines choses et je veux dire, il me semble que je sous-estime peut-être la perturbation tout en surestimant d'autres aspects. Donc, ce n'est pas une question très bien formulée. Mais je dirais que Benedict me semble généralement être quelqu'un qui pense que les choses ne continueront pas à se développer de manière exponentielle dans l'ensemble et que ce sera, je pense que sa phrase est, ce sera aussi grand que le mobile, aussi grand que l'internet, mais pas plus. Quelque chose dans ce sens, mais ces deux choses étaient de très, très grandes affaires. Et je suppose qu'un point sur lequel je serais intéressé d'avoir votre avis, je veux dire, il a couvert le monde de la téléphonie mobile et des télécommunications pendant longtemps, donc il est un spécialiste là-bas, mais c'est essentiellement, et je ne veux pas déformer son argument, mais il était en quelque sorte l'esprit que regardez, ces LLM vont devenir des produits de base comme regardez les cours des actions de ces différents opérateurs et ainsi de suite à un certain point, cela devient simplement une utilité et le coût de changement est assez bas. >> Et je ne suis pas sûr d'être d'accord avec cela. Si vous avez une histoire personnalisée et presque comme un ami, n'est-ce pas, le coût de changement d'un vieil ami à un nouvel ami est assez élevé pour de nombreuses raisons. Donc, c'était un peu une salade de mots que je viens de vous lancer, mais c'est le mieux que je puisse faire en me basant sur mes souvenirs de ce qu'il a soulevé dans le podcast de Lenny. Je veux dire, une partie de ce que vous disiez là, c'est la question de savoir si l'apocalypse SaaS est exagérée ? Le logiciel d'entreprise sera-t-il complètement déplacé par des modèles fondamentaux qui vous permettent de coder n'importe quel logiciel d'entreprise que vous voulez et vous n'avez pas besoin d'un intermédiaire, c'est-à-dire d'une société de logiciels pour le faire pour vous. >> Et je suis d'accord avec votre ami du capital-investissement sur le fait qu'il y a de nombreuses raisons pour lesquelles cela ne va pas se produire. Vous savez, les entreprises seront à l'aise avec leur fournisseur de logiciels d'entreprise de confiance dans de nombreux cas et elles feront confiance à ce fournisseur de logiciels d'entreprise pour intégrer les modèles d'IA générative dans le logiciel d'entreprise. >> D'une certaine manière, vous déléguez le choix du modèle le meilleur et comment l'intégrer à votre fournisseur SaaS. Et si vous voulez, vous savez, une raison de croire que c'est la voie à suivre, j'ai un mot pour vous, c'est Palanteer. Je veux dire, c'est l'activité de Palanteer. Il tient la main des grandes entreprises et les aide à intégrer l'IA et à l'utiliser sur leurs propres données internes, etc. Et ces défis informatiques sont notoirement difficiles pour les grandes organisations. Donc, je pense simplement que le modèle d'un individu intelligent qui code Mailchimp, le code à la volée en un week-end et que c'est suffisant pour lui, n'est pas transférable aux organisations grandes et complexes avec d'énormes bases de données et toutes sortes de préoccupations de confidentialité des clients et tout cela. Donc, je suis moins pessimiste sur le SaaS que le marché. >> En conséquence. Maintenant, je suppose qu'il y avait aussi un autre fil ici, qui est de savoir si les modèles fondamentaux deviennent des produits de base. >> Mhm. >> Et là, je suis d'accord avec vous sur le fait qu'au fil du temps, ils deviennent collants, car si nous pensons à l'avenir, en partie, les systèmes auront conversé avec l'utilisateur et connaîtront très bien l'utilisateur et comme vous dites, vous ne voulez pas changer votre ami, mais aussi le système aura votre carte de crédit. Il connaîtra tous les sites en ligne sur lesquels vous aimez faire des achats et ce sera beaucoup plus difficile que de changer votre compte bancaire, n'est-ce pas ? Où vous avez des systèmes de paiement automatique qui ont été mis en place et c'est un casse-tête de changer. Donc, je pense qu'ils deviennent collants, ces systèmes au fil du temps, et alors vous pouvez facturer plus d'argent pour eux. >> Alors, est-ce la voie de la survie et de la prospérité pour OpenAI ? Je sais qu'il y a d'autres cases à cocher, mais je cherche. Et je me dis, d'accord, Anthropic a fait un excellent choix avec cette concentration sur le B2B et la vente aux entreprises. Et je dirais que je ne suis pas d'accord, je pense, avec Benedict sur, selon le niveau d'échelle de l'entreprise, que quelque chose qui s'applique, je pense, aux petites startups, par exemple, c'est que le cycle d'approvisionnement en nouveaux logiciels est plus long que le cycle de capital-risque pour lever de nouveaux tours de financement. N'est-ce pas ? Donc, je pense que c'est un excellent point et que si vous essayez de vendre à une entreprise gigantesque et que cela leur prend 18 mois, je me fais ce chiffre, pour acheter de nouveaux logiciels et que vous devez lever des fonds tous les 12 mois ou quel que soit le chiffre, vous pourriez vous retrouver dans de gros ennuis si vous n'avez pas synchronisé les cycles de vente avec vos cycles de financement. Mais je pense que pour une entreprise comme Anthropic, par exemple, si vous pouvez économiser des milliards et des milliards de dollars aux entreprises, ce cycle de vente pourrait être vraiment raccourci et elles ont la caisse de guerre et franchement, je veux dire, juste le taux de fonctionnement pour alimenter cela sans trop de problèmes. Pensez-vous que Chat GPT le fera, sinon Chat GPT, qui finira par être le LLM de choix de facto pour le consommateur BTOC ? Pensez-vous que ce sera Gemini, étant donné la distribution ? >> Absolument. Je veux dire, vous savez, Google est le champion pour fournir des logiciels faciles à utiliser aux particuliers ou aux petites entreprises, toute la G Suite. >> Mhm. >> Et ils intègrent Gemini dans tout cela très bien. Et donc, pourquoi ne gagneraient-ils pas ? >> Oui. Je veux dire, regardez aussi, Alphabet est tellement fascinant si vous regardez largement aussi à posséder leur propre calcul, les TPU ont apporté beaucoup d'avantages en interne. >> La chose la plus stupéfiante à propos d'Alphabet, d'après leurs derniers résultats financiers, c'est qu'il y a deux ou trois ans, nous aurions dit que les grands modèles linguistiques allaient cannibaliser la recherche. La recherche est morte. La publicité basée sur la recherche est le moteur de trésorerie de Google. >> Ils sont en réel danger. Il s'avère que Google reçoit maintenant plus de clics sur ses liens de recherche qu'auparavant et qu'il facture plus cher pour chacun d'eux qu'auparavant, car la valeur du clic est plus grande avec l'IA intégrée. >> Mhm. >> Et donc ils ont réussi à inverser la tendance et c'est extraordinaire. >> Oui. Il faut beaucoup de temps pour bâtir ces relations d'entreprise pour faire fonctionner une véritable machine d'enchères basée sur la publicité, n'est-ce pas ? Il faut beaucoup de temps pour bâtir ces relations. D'accord, passons à la Chine. Alors, je vais résister à la tentation de parler du Japon car je pense que vous et moi y étions à peu près dans le même laps de temps, peut-être que nous nous sommes croisés avec vous à Kanazawa, où j'ai passé du temps. Je vais résister à cette tentation et essayer de me concentrer sur la Chine pour les besoins de cette conversation. Qu'avez-vous appris sur l'IA lors de votre voyage en Chine et en pensant à la Chine, en parlant aux Chinois, qu'ils soient technologues ou autres ? Qu'avez-vous appris pendant ou depuis ce voyage ? >> En mars dernier, avant la publication de mon livre aux États-Unis, je suis allé en Chine parce que les Chinois sont plus rapides dans tout, y compris la publication de livres. et mon éditeur m'a fait venir et m'a emmené dans quatre villes, huit jours, à la rencontre de leaders de l'IA dans le monde universitaire et dans de grandes entreprises comme Huawei, Hike Vision et Ant Group. Et ce qui était surprenant, c'est à quel point les gens ont abordé la question de la sécurité de l'IA. Et je dis que c'était surprenant parce que mes amis qui avaient fait de la politique de l'IA dans l'administration Biden m'avaient préparé à m'attendre à ce qu'il n'y ait aucune mention de sécurité en Chine. Ils s'en fichaient. Que la mémoire musculaire que nous avons en Occident de la technologie étant dangereuse, vous savez, l'expérience de la bombe atomique, la crise des missiles de Cuba. Notre ambivalence à l'égard de la technologie n'est pas partagée en Chine, où leur idée de catastrophe est plutôt comme, vous savez, la révolution culturelle. C'est quelque chose de politique qui tourne mal. Et inversement, la technologie a fait partie de leur incroyable histoire de croissance au cours des 25 dernières années, dont ils sont à juste titre fiers et ravis. Donc, ils aiment la technologie, n'est-ce pas ? Donc, lorsque l'équipe de Biden a essayé de rencontrer les Chinois et de parler de sécurité de l'IA, ils n'ont obtenu aucun résultat et ont décidé qu'il était impossible même de leur parler d'une sorte de traité de non-prolifération pour l'IA. Mais quand j'y suis allé, j'ai constaté qu'ils parlaient de sécurité de manière non sollicitée. Et cela m'a amené à argumenter au cours des derniers mois que la porte est en fait ouverte à un dialogue avec la Chine pour empêcher les méchants de faire de mauvaises choses avec l'IA, car ils ne veulent pas que l'internet soit piraté par un cyber-pirate qui a l'outil. Ils ne veulent pas d'armes biologiques. Ils ne veulent pas d'armes chimiques. Ils ne veulent rien de tout cela. Ils aiment réglementer internet, n'est-ce pas ? Donc, nous avons un intérêt commun avec les Chinois pour empêcher ce risque de prolifération de devenir fou. Et en y réfléchissant, vous savez, l'analogie de la guerre froide a commencé à sembler de plus en plus appropriée, n'est-ce pas ? Donc, si vous regardez l'histoire des armes nucléaires, il y avait deux types de danger. Le premier danger est une guerre nucléaire entre l'Union soviétique et les États-Unis. Mais cela a été contenu par l'équilibre. Deux superpuissances, elles ont toutes deux leurs armements. Elles ont la destruction mutuellement assurée. Donc, il n'y a pas de guerre. Ensuite, il y a un autre type de risque, c'est que d'autres voyous aléatoires, qu'il s'agisse de criminels, de terroristes, d'États voyous, obtiennent le matériel et fassent de mauvaises choses. Et il est beaucoup plus difficile de dissuader cela parce que c'est un jeu multipolaire. Et donc la dissuasion ne fonctionne pas aussi élégamment. Et donc la façon dont cela a été traité pendant la guerre froide, c'est qu'en 1956, il y a eu l'accord sur l'Agence internationale de l'énergie atomique. Et en 1968, le traité de non-prolifération a en quelque sorte imposé le respect de l'AIEA de telle sorte que vous pouviez obtenir de l'énergie nucléaire civile si vous étiez un État non nucléaire, mais vous deviez vous soumettre aux règles, être inspecté et montrer que vous n'utilisiez pas le matériau nucléaire enrichi pour construire une arme, n'est-ce pas ? Et donc, je pense que la même analogie pourrait être appliquée à l'IA. Nous aurons une parité avec la Chine. Nous aurons tous deux une IA puissante. Espérons que la dissuasion empêchera la guerre. Mais en même temps, nous ne voulons pas de modèles openweight qui peuvent être téléchargés librement par quiconque veut tomber entre les mains de criminels et de terroristes qui peuvent ensuite l'utiliser pour nous prendre en otage. Et nous avons un intérêt commun dans cela. Et vous savez, quand mes amis de l'équipe Biden ou même de l'administration actuelle disent : "Eh bien, vous ne pouvez pas parler de sécurité à la Chine. Ils s'en moquent." Je dis : "Ce n'est pas vrai." Et ils disent : "Mais c'est vraiment difficile. Ils ne respectent pas leurs engagements." Et je réponds : "Vous pensez que Nikita Khrouchtchev en Union soviétique était facile à négocier ? C'était le gars qui a mis des missiles à Cuba et est allé à l'ONU et a frappé sa chaussure sur la table en disant : 'Nous vous enterrerons.' Je veux dire, c'était un type difficile à aborder, mais nous lui avons parlé et nous avons obtenu l'accord sur le traité de non-prolifération, et je pense que nous devons faire la même chose à nouveau. Maintenant, >> où vous situez-vous dans votre réflexion sur l'exportation de puces ? Donc, lorsque les contrôles à l'exportation de puces ont été annoncés, c'était en octobre 2022, juste avant Chhatty PT, j'ai soutenu ces contrôles assez fort. J'ai écrit un très long article dans le Washington Post disant que si nous pouvions empêcher la Chine d'obtenir des modèles de pointe en la privant de puces de pointe, j'étais tout à fait pour cela en raison de l'avantage stratégique pour les États-Unis. Je veux dire, je travaille au Council on Foreign Relations. Nous faisons de la géopolitique et de la sécurité nationale toute la journée et je suis tout à fait pour la puissance américaine. Mais je dois dire que vous savez, trois ans et demi plus tard, nous n'avons pas réellement obtenu cet avantage énorme sur la Chine en termes de modèles basés sur les meilleures études, nous avons environ huit mois d'avance en termes de où se situe le modèle de pointe par rapport à leur modèle de pointe. Et puis si vous ajustez cela pour la vitesse à laquelle le modèle est transformé en application, probablement que cet écart se réduit et qu'il peut même être inexistant. Donc, quelle que soit la façon dont vous analysez cela, la conclusion de base est que nous avons tous deux de bons modèles et que les contrôles à l'exportation de puces n'ont pas apporté l'avantage énorme que j'espérais. Et donc je ne suis pas contre le maintien des contrôles si nous pensons que peut-être, alors que les demandes de calcul des modèles de plus en plus grands se font sentir, les contrôles sur les puces auront plus d'effet et peut-être que nous obtiendrons un avantage plus important l'année prochaine ou quelque chose comme ça. Mais je ne veux pas que les contrôles sur les puces interfèrent avec une discussion avec les Chinois sur les domaines où nous avons un intérêt commun, qui est de contrôler les modèles openweight et d'empêcher les mauvaises choses de tomber entre les mains des méchants. Je privilégierais la collaboration avec la Chine et si cela signifiait, vous savez, un peu de relâchement sur les contrôles à l'exportation, je serais d'accord. Pourquoi pensez-vous que la rhétorique de l'administration, n'est-ce pas, elle ne se limite pas à l'administration actuelle, c'est que la Chine n'écoutera pas. Ils ne se soucient pas de la sécurité. Pourquoi pensez-vous que c'est la position officieuse ou officielle sur les choses ? Parce qu'il y a certainement, en tant que personne qui a étudié les études est-asiatiques, n'est-ce pas ? Il y a des gens à la Maison Blanche qui parlent couramment mandarin, qui sont capables de lire des documents natifs, qui passent du temps ou qui sont capables, s'ils ne peuvent pas passer de temps, de déterminer le sentiment et les conversations des technologues qui développent l'IA en Chine. On pourrait donc penser qu'ils seraient conscients que la sécurité de l'IA est un sujet important en Chine, si tant est qu'elle le soit. Alors pourquoi pensez-vous qu'au final, la position ou la prétendue position de la Chine, qui est reprise par l'administration, est qu'ils ne parleront pas de sécurité ? Pourquoi pensez-vous que c'est le cas ? Je pense qu'une partie de cela est que si vous deviez penser à il y a 20 ans, quand la Chine était relativement nouvelle dans

L'OMC et nous collaborions avec eux à ce sujet et espérions qu'avec le temps, la Chine deviendrait plus amicale envers les États-Unis. À cette époque, il y aurait eu des faucons de la Chine qui pensaient qu'un régime communiste n'est pas digne de confiance, puis une sorte d'optimistes de la Chine qui espéraient qu'il deviendrait plus facile de travailler avec eux avec le temps. Et une partie des problèmes d'aujourd'hui est que les optimistes de la Chine se sentent trahis. Ils ont l'impression d'avoir fait ce pari que la Chine deviendrait plus amicale, puis Xi Jinping a pris le pouvoir il y a environ une décennie et le contraire s'est produit. ils sont devenus plus agressifs et plus difficiles à travailler, et aussi, bien sûr, plus avancés technologiquement et donc plus menaçants. Et donc maintenant, vous avez ce monde dans lequel il y a les faucons naturels et puis les anciens colombes qui sont devenus un peu des colombes trahies et repentantes et donc, avec le zèle des convertis, sont également devenues assez faucons. Et je ne veux pas, vous savez, sous-estimer la sophistication de certaines de ces personnes. Je veux dire, bien sûr, vous savez, ils parlent chinois. Je ne parle pas chinois. Je m'en remets à leur expertise. Ils savent probablement qu'il y a des bâtisseurs de technologie, des professeurs en technologie qui parlent de sécurité. Mais ils disent : « Oui, mais vous savez, cela ne reflète pas ce que le gouvernement chinois ferait réellement. » À quoi ma réponse dit : « Oui, mais ne pensez-vous pas qu'il en va de même aux États-Unis ? Il y a, vous savez, des gens qui veulent juste foncer. Il y a des gens qui se soucient de la sécurité. Nous avons une société pluraliste. Il y a des différences d'opinion. C'est la même chose en Chine. » Mais au moins, admettez qu'il existe une faction qui aimerait collaborer et essayer de travailler dessus, car l'alternative à essayer de travailler sur cela est que nous continuions avec la Chine produisant des modèles très puissants en open weight qui permettent essentiellement à quiconque de faire ce qu'il veut avec l'IA, au point de danger sérieux. C'est probablement une vision très naïve, mais je me demande dans quelle mesure la position officielle ou peut-être l'utilisation de la position partiellement vraie ou pas du tout vraie de la Chine ne parlera pas de sécurité comme d'un reflet du fait qu'en cas d'armes nucléaires, l'application de l'énergie nucléaire est quelque peu limitée par rapport à la super intelligence. Je veux dire, c'est limité, n'est-ce pas ? Donc, si le potentiel de la super intelligence ou de l'AGI, je veux dire ces termes, je pense que Benedict disait que l'IA est tout ce que la technologie ne peut pas encore faire, n'est-ce pas, ou quelque chose comme ça, ce que j'ai trouvé assez drôle et pas totalement faux, mais que si la personne qui franchit la ligne d'arrivée en premier a ce large pouvoir de dieu, en fait, la simple vérité est que tout le monde veut être le premier. Alors je me demande juste dans quelle mesure cela justifie également la course avec le parti X qui ne parlera pas de sécurité. Je ne peux tout simplement pas savoir. J'ai eu une conversation avec le chef de l'un des laboratoires que vous savez, je ne devrais pas nommer, mais j'ai eu ce débat et il a dit : regardez, les contrôles d'exportation de puces vont fuiter. Ils ne vont pas durer longtemps. Huawei trouvera comment fabriquer de bonnes puces d'IA et vous savez que c'est inévitable. Mais ce n'est pas grave, car nous n'avons besoin d'être en avance que pour les prochaines années, car d'ici 2028, nous atteindrons l'auto-amélioration récursive où le modèle de pointe code le prochain modèle de pointe par lui-même et le progrès devient simplement vertical et à ce moment-là, avec l'auto-amélioration récursive, nous avons terminé. La course est terminée, celui qui arrive le premier à ce moment-là. C'est tout. Et je pense qu'il y a quelques choses à dire à ce sujet. Tout d'abord, ce n'est pas fini en termes de déploiement du modèle, n'est-ce pas ? Vous pourriez avoir un modèle incroyablement puissant sur votre serveur au Frontier Lab XYZ, mais il n'aide pas à la productivité de votre économie. Il n'aide pas votre complexe militaro-industriel tant que vous ne le déployez pas dans les systèmes de ces gars. Et ce déploiement et cette diffusion prendront du temps. Et au fait, vous devrez construire beaucoup de calcul. Vous devrez construire beaucoup d'énergie. Ces choses prennent également du temps. Donc, ce n'est pas comme si vous traversiez un Rubicon et que tout était fini. La seule façon dont je pourrais avoir tort à propos de ce que je viens de dire, c'est si vous utilisez la super intelligence de pointe de manière offensive, n'est-ce pas ? Vous dites, d'accord, nous avons un modèle super puissant. Le gouvernement américain, avec qui nous parlons de cela, va l'utiliser et il va pénétrer de manière exhaustive tout le cyberespace chinois et y insérer diverses portes dérobées, chevaux de Troie, vous savez, des choses que nous pouvons utiliser. Nous accrochons nos systèmes. Et donc maintenant, nous pouvons les désactiver s'ils déclenchent une guerre à Taiwan. Maintenant, nous pouvons leur système de communication si nous en avons besoin. Donc, cette utilisation offensive du modèle de pointe pourrait annuler mon point sur l'attente de la diffusion. Mais bien sûr, personne dans le débat ne dit cela. Personne ne dit : « Oh, nous courons vers le front parce que nous allons l'utiliser offensivement. Ils ne l'admettent pas. » Cela ne semble pas être une très bonne image. Je ne vois pas pourquoi une superpuissance ne le ferait pas, franchement. Oui. Droit. Je ne connais pas l'argument contraire. J'ai discuté avec quelqu'un dans votre livre que je, je suis honteux, mais certainement l'une des personnes les plus qualifiées pour parler de ces choses et je veux dire sa perspective de base était le premier à la super intelligence. nous devons espérer qu'ils sont d'une certaine manière de bonnes personnes et qu'ils entraînent cette chose. Bien, et c'est ça, comme prier pour ça, ce qui m'a effrayé à mort, pour être honnête. Je veux dire, j'étais comme, mec, c'est la stratégie, ou ce n'est même pas une stratégie, c'est l'espoir. Prends le chapelet et jette-le dans la rotation. Mon Dieu, c'est vraiment terrifiant de penser que la Chine, j'espère faire un voyage en Chine. J'ai eu un moment très difficile là-bas quand j'étais, j'étais dans deux universités en 1996. C'était une période assez inamicale pour de nombreuses bonnes raisons, mais être un Américain là-bas en 1996 avec la tête rasée, me ressemblant. Mais j'ai des amis partout et j'espère interviewer des technologues, pas seulement en Chine. Je veux dire, il y a d'autres endroits qui m'intéressent, mais avant que cela ne devienne trop chaud géopolitiquement, si nous allons dans cette direction. Je pense que c'est une excellente idée, d'ailleurs. Je veux dire, ce que j'ai trouvé, c'est la dissonance cognitive de visiter une entreprise comme Hikvision, qui est sous sanctions américaines, et de se promener dans leurs locaux, qui ressemblent beaucoup à des locaux américains. Cela ressemble à une entreprise technologique cool qui fait des choses cool, qui construit des gadgets cool. vous savez, ils ont une exposition de leur technologie de caméra ou de capteur basée sur l'IA. Une application pourrait être que vous pointez cette caméra sur l'eau et jugez le niveau de pollution, et grâce à cela, vous pouvez avoir un marché intérieur de contrôle de la pollution. Ainsi, la ville en aval qui reçoit de l'eau de la ville en amont paie la ville en amont pour qu'elle garde l'eau propre, et ce marché peut exister parce que vous pouvez mesurer précisément le niveau de pollution grâce à ce capteur d'IA que Hikvision construit. Alors vous pensez : « Wow, c'est cool. » Et puis, en vous promenant dans le bâtiment, ils disent : « D'accord, nous pouvons passer par l'atrium maintenant parce que les tout-petits sont partis parce que, vous savez, la garderie pour les enfants des employés se termine à 17 heures. Et donc, il y a tous ces enfants de 2 ans qui courent partout et c'est un peu un zoo. Donc, si c'était 17 heures, nous n'y passerions pas. Mais maintenant, il est 18 heures, donc nous pouvons. » Et vous pensez : « Wow. » D'accord, alors ils ont, vous savez, les intérêts de leurs employés à cœur. Ils construisent cette technologie anti-pollution. C'est génial. et puis vous réalisez qu'ils sont sous sanctions américaines et considérés comme une menace pour les États-Unis. C'est donc assez intéressant à traiter tout cela dans le cadre de la recherche pour ce livre, ainsi que de la large exposition que vous avez aux investisseurs. Mais disons que ces dernières années, qui sont parmi les investisseurs les plus intéressants, inhabituels ou convaincants, c'est le mot que je cherche, que vous avez eu la chance de rencontrer, de parler, de lire, de connaître directement ou indirectement ? Wow. Tellement. Je veux dire, je dirais que Bill Gurley de Benchmark, vous savez, est tout en haut. Je pense toujours à l'investissement qu'il a fait dans Uber comme l'investissement de capital-risque parfait par excellence, dans le sens où il avait fait l'investissement dans OpenTable et bien sûr OpenTable est un marché à deux versants où vous avez beaucoup de consommateurs qui recherchent des restaurants, beaucoup de restaurants. Vous mettez de la technologie entre les deux qui crée de l'information, et alors la personne qui cherche un endroit où manger peut dire précisément : je voudrais de la cuisine thaïlandaise à ce prix dans ce quartier pour trois personnes à cette heure. Ding. Ce qui prenait beaucoup de recherches. Bang, c'est fait. Et donc Bill, ayant fait cela, pensait : quel est un autre marché à deux versants ? Et il a pensé : eh bien, il y a beaucoup de voitures et beaucoup de gens qui ont besoin d'un trajet, et vous mettez de l'information au milieu de la même manière. Il devrait y avoir quelque chose comme une application pour le covoiturage. Et donc il a imaginé Uber bien avant qu'Uber n'existe. C'était le premier point. Le deuxième point, il est allé voir divers entrepreneurs dans ce domaine et il les a examinés et il a eu la discipline de ne pas investir en eux, car bien qu'ils s'attaquaient à la bonne chose, il y avait quelque chose qui clochait, un détail, une façon de l'aborder qui ne semblait pas tout à fait juste. Il a donc résisté. Uber est venu le voir avant que Travis ne soit le PDG, et Bill a dit : « Je ne fais pas ça. » Parce qu'il ne pensait pas que le PDG de l'époque avait ce qu'il fallait. Et puis il y a eu un changement interne chez Uber. Travis est devenu le leader. Bill le rencontre et, bam, il investit immédiatement parce qu'il attendait et attendait et attendait que l'idée soit jumelée. Comme vous le disiez tout à l'heure, il faut que le marché soit jumelé à la bonne personne. et il l'a vu, puis il a investi et il a été un excellent membre du conseil d'administration et tout s'est parfaitement bien passé. Mais ensuite, il y a cette sorte de tragédie shakespearienne dans la dernière partie de l'histoire où les investisseurs de croissance entrent en jeu. Il est dilué. Il n'a plus d'influence. Sa carte d'accès au bâtiment est désactivée et il est essentiellement floué, et il regarde, vous savez, Uber dérailler. Et puis vient, vous savez, le dénouement où il rassemble les investisseurs dissidents et ils font un coup d'État contre Travis, ce qui met l'entreprise sur la voie de se cacher et de faire l'introduction en bourse. Je pense que c'est l'histoire ultime du capital-risque et que Bill est le capital-risque ultime. Il est pratiquement un voisin pour moi. Je suis sûr à Austin et nous avons eu quelques conversations sur le podcast et il est, je dirais, sur une voie très parallèle à la vôtre en ce qui concerne la Chine, n'est-ce pas ? Et il en subit quelques critiques. Les gens disent : « C'est un agent du PCC. » Je dis : « Non, croyez-moi, Bill n'est pas un agent du PCC. C'est juste l'accusation la plus ridicule. » Mais c'est un être humain très perspicace et observateur qui est aussi un polymathe dans de multiples disciplines et qui peut parler de manière décontractée de choses très techniques. Et cela aussi, vous faisant référence à Bill de cette manière ou le décrivant de cette manière me fait penser à plusieurs points dans la machine à infini et je puise dans ma mémoire qui, comme nous le savons, est assez défaillante, mais vous savez, Ilia avec l'architecture Transformer et l'esprit préparé, je pense que Demis pense aussi profondément et sérieusement à un problème ou avec une grande imagination pendant longtemps, puis quand la solution ou le germe d'une solution apparaît, le reconnaître immédiatement, n'est-ce pas ? C'est juste incroyable de voir à quelle fréquence cela se reproduit. D'autres investisseurs, vous savez, un nom qui n'a pas beaucoup d'écho et que je pense être un personnage fantastique et peut-être pourriez-vous le présenter aux auditeurs s'ils ne le reconnaissent pas. Luke Nosek, où se trouve Luke, qui a, j'aimerais savoir comment allumer mes batteries de la même manière pour obtenir l'énergie que Luke a. Mais comment Luke s'intègre-t-il dans l'histoire de DeepMind et je suppose plus largement pour cela, à cause de cette IA. Luke Nosek est cet enthousiaste incroyablement exubérant, n'est-ce pas ? et il faisait partie, vous savez, du tout début de l'équipe PayPal avec Max Levchin et Peter Thiel, et il a traversé ce parcours, puis Peter a quitté PayPal et a créé Founders Fund. C'est maintenant, je pense, 2005 et Luke Nosek devient l'un des premiers partenaires et très tôt, il porte le bon jugement sur Elon et SpaceX. Luke est le genre de gars qui est à fond. Quand il tombe amoureux d'une idée et d'un fondateur, il n'y a pas de frein à son enthousiasme. Alors il est à fond, à fond, à fond sur SpaceX. Et je pense, vous savez, il a persuadé Founders Fund de lever un nouveau fonds, d'y mettre de l'argent supplémentaire, comme plus, plus, plus, plus de capital. Et bien sûr, cela a été massivement rentable. Et à partir de là, vous savez, avance rapide jusqu'en 2010. Il cherche le prochain Elon Musk. Et il fait quelques paris de pointe. Et puis vient Demis Abis qui est en Californie, venant de Londres, levant des capitaux pour cette idée d'une entreprise d'IA qu'il va appeler DeepMind. Et vous savez, la plupart des gens pensent que c'est de la folie. Cette IA, rappelez-vous en 2010, ne peut même pas reconnaître une photo de chat. Elle ne peut rien faire. Nous sommes dans un profond, profond hiver de l'IA. Qui soutiendrait une entreprise comme celle-là ? La réponse est Luke Nosek. et il tombe amoureux de Demis qui est un personnage très charmant, super articulé, super accessible et un génie. Vous savez, il a toutes les caractéristiques hors normes que vous recherchez chez un entrepreneur. Vous savez, le genre de champion d'échecs junior, le deuxième meilleur joueur du monde, mais aussi cinq fois vainqueur de l'Olympiade des jeux d'esprit où il faut courir entre les plateaux en jouant au backgammon, aux échecs, au go et à quelques autres jeux presque simultanément. Je veux dire, juste un génie fou, obsédé depuis l'âge de 17 ans par l'idée de construire une IA puissante. Peter Thiel m'a dit à propos de Demis : je pense que les individus ont tendance à avoir une entreprise en eux. S'ils sont des entrepreneurs missionnaires, ils ont une chose qu'ils doivent faire, et pour Demis, c'était de construire une AGI, comme c'était ce sur quoi il était fixé, et l'entreprise était en aval de son désir de construire une AGI. S'il avait pu le faire à l'université, il aurait été heureux de le faire. Mais il ne pouvait pas le faire à l'université. Il a donc dû fonder une entreprise pour le faire. Et c'est le genre d'engagement missionnaire que les capital-risqueurs recherchent souvent, car un missionnaire n'abandonnera jamais. Peu importe la difficulté, il continuera à travailler. Et donc Luke Nosek et Peter Thiel le reconnaissent conjointement. Peter est, vous savez, un anticonformiste, cynique, distant, donc il est un peu intéressé, mais en même temps à distance. Luke a les deux bras autour de Demis, lui donne un gros câlin et ne le lâchera pas. Et vous savez, Demis dit : « Je ne vais pas déménager en Californie. Je vais faire cette entreprise à Londres. » Et Peter et les autres partenaires de Founders Fund disent : « Londres ? Où est-ce ? » C'est un peu comme la Somalie ou quelque chose comme ça. Je veux dire, c'est juste hors de la carte. Et Luke dit : « Non, non, non, non. Nous devons le faire. Nous devons le faire. Je volerai à Londres pour les réunions du conseil d'administration et nous devons absolument faire cet investissement dans DeepMind. » Et donc, il était le genre d'enthousiaste débridé qui a fait pencher la balance pour Founders Fund. Et le reste appartient à l'histoire. Vous savez, ils ont mis l'argent de la série A. Incroyablement, c'était 2 millions à une valorisation de 4 millions. Ils ont donc obtenu la moitié de l'entreprise pour 2 millions de dollars. Pas mal. Pas mal. Et ils ont surfé sur cet investissement. Quelle histoire remarquable. Je pense vraiment que Luke, qui est aussi ici à Austin, mérite beaucoup plus de crédit qu'il n'en reçoit. Pas qu'il le recherche, n'est-ce pas ? Il ne cherche pas, il ne cherche pas, mais il est très bon pour suivre les gagnants quand il a une forte conviction, n'est-ce pas ? Ce qui, dans le jeu du capital-risque, je veux dire, dans beaucoup d'investissements, c'est que vous ne pouvez pas mourir, vous ne pouvez pas manquer de capital à la table, n'est-ce pas ? Vous avez besoin d'une approche de portefeuille suffisante pour vous soutenir pendant les périodes de malchance, mais si vous êtes systématique, c'est de suivre vos gagnants et de doubler, tripler et quadrupler. Et il est tellement bon à cela, il est juste incroyablement bon. Et comme le dit John Duro : la beauté du capital-risque est que vous ne pouvez perdre qu'une fois votre argent. Donc, ce n'est pas comme une position courte pour un trader de fonds spéculatifs où vous pouvez vraiment perdre beaucoup, n'est-ce pas ? Exactement. Dans ce sens, vous n'allez pas mourir. Vous pouvez donc viser la lune. J'ai donc une question. Je devrais connaître la réponse, mais je ne la connais pas. Il y a très longtemps, c'était probablement 2008. C'est très loin maintenant. Je me demande si j'ai eu une exposition à DeepMind. J'ai investi dans Founders Fund. C'était il y a très, très longtemps. Mais ce que je ne réalisais pas intérieurement, et je vais juste lire quelques-unes de mes notes. Il est absurde de voir combien de notes j'ai de The Infinity Machine et de tous vos livres. Donc, un fossé s'est creusé entre Thiel et Nosek. En règle générale, Thiel doutait que siéger aux conseils d'administration soit une bonne utilisation du temps des partenaires. Les startups devraient être laissées à elles-mêmes. L'art du capital-risque, aimait-il dire, était de soutenir des idées contraires, pas de coacher les fondateurs d'entreprises. Nous pourrions passer beaucoup de temps juste sur cela, mais je vais passer à autre chose. La plupart des partenariats de capital-risque décident des investissements par vote. Si une poignée de partenaires voient un problème, l'accord sera rejeté. Mais Thiel avait adopté la position inhabituelle selon laquelle la prise de décision collective devrait être évitée. Telle qu'il la voyait, si les investissements étaient choisis par vote, le portefeuille de Founders Fund consisterait en des startups moyennes que personne ne contestait. Et puis, cela revient à la loi de puissance, n'est-ce pas ? Étant donné que tous les profits du capital-risque proviennent de quelques paris improbables, ce type de portefeuille consensuel donnerait des performances médiocres. Alors, et je vais juste paraphraser maintenant, Thiel a donné aux partenaires le pouvoir d'investir à fond avec leurs tripes/intuition. Ma question est, comment cela est-il gouverné d'une manière ou d'une autre ? Bien sûr, si quelqu'un donnait une conviction de 10 sur 10 et perdait ensuite de l'argent de manière constante, il serait probablement retiré du partenariat ou perdrait sa capacité à diriger avec ce type de conviction instinctive. Mais avez-vous une idée de la façon dont cela a été géré en interne ? En termes de test de résistance des idées, de pousser les gens à vraiment mettre leur cul en jeu pour ces types d'investissements à forte conviction mais certainement très atypiques. Avez-vous une idée ? Je pense qu'en interne, Founders Fund était très divisé sur l'investissement dans DeepMind, et j'en ai décrit une partie dans le livre où, vous savez, ils font la première transaction et c'est bien. C'est 2 millions de dollars. Mais ensuite, vous arrivez à la série B et à la série C, et la taille du chèque augmente, donc les autres partenaires posent des questions plus difficiles et disent : « Attendez, y aura-t-il un produit ? » Et Demis m'a dit, vous savez, que son attitude était : « Qu'est-ce que vous voulez dire par produit ? Je parle d'intelligence artificielle générale. Cela va rendre tous les produits révolutionnaires ou obsolètes ou quoi que ce soit. Et vous voulez me demander quel est le gadget ? Laissez-moi tranquille. » vous savez, ce sont tous les gadgets, ils vont tous être changés, et si vous me posez cette question, vous ne comprenez pas ce que signifie l'AGI. Et donc Demis était très frustré par les autres partenaires de Founders Fund, et je pense qu'en interne chez Founders Fund, il y a eu beaucoup de disputes entre Luke, qui est resté enthousiaste et engagé envers Demis, en partie parce que c'était lui qui allait à Londres pour le rencontrer et assister aux réunitions du conseil d'administration, et il recevait une sorte de, vous savez, plusieurs milliers de volts d'enthousiasme de Demis, injectés dans sa colonne vertébrale à chaque réunion, et il revenait bourdonnant d'excitation. Et les autres partenaires de Founders Fund qui n'avaient pas cet avantage étaient sceptiques. Alors Luke venait souvent voir Demis et disait : « Nous vous soutenons. Nous vous soutenons. Nous savons que nous allons faire la prochaine levée de fonds. Nous allons diriger la prochaine levée de fonds. » Et puis, en fait, lors de la série C, Founders Fund s'est retiré à la dernière minute et ils ont mis de l'argent, mais ils n'ont pas dirigé. La réponse à votre question est qu'il y a eu beaucoup d'arguments au sein de Founders Fund, car la taille du chèque augmentait, il était plus difficile d'avoir cette attitude de « doubler sur vos gagnants ». Oui, dans ce cas, le poisson qui s'est échappé, bien que je veux dire, c'était un multiple fantastique sur leur argent initial. Il me semble en lisant le livre que je soutiendrais que Demis a pris la décision absolument correcte avec l'acquisition par Google. Je veux dire, vous mentionnez aussi dans le livre comment il a été critiqué dans certains médias britanniques pour, oh, vous savez, une immense méga-corporation aux États-Unis obtient notre talent précieux à bas prix, ce genre de choses. Mais avec le recul, je veux dire, il semble avoir anticipé les coûts, le calcul et les matières premières brutes qui seraient nécessaires pour faire ce qu'il essayait de faire. Lisez-vous cela de la même manière ? Oui, je veux dire, j'ai souvent ce débat avec des gens à Londres où ils disent exactement ce que vous avez dit, vous savez, c'était une tragédie pour la technologie britannique. un grand champion de la deep tech, vous savez, est racheté à bas prix par Google. Et je dis, écoutez, ce n'était pas bon marché. Le prix d'acquisition était peut-être de 650 millions de dollars, ce qui était un peu bas, mais savez-vous combien ils ont investi en fonds de développement de récession au cours des 10 années suivantes ? C'était près de 10 milliards, près d'un milliard par an, n'est-ce pas ? Donc, ce n'était pas vendre à bas prix aux Américains. C'était un astucieux stratagème britannique pour obtenir un milliard de dollars de R&D américaine à Londres par an pendant la décennie suivante. Une victoire formidable. Et d'ailleurs, aujourd'hui, il y a des spin-offs de DeepMind à Londres parce que le talent est resté à Londres. Et ces spin-offs lèvent des milliards de dollars pour créer de nouvelles entreprises d'IA. C'est donc formidable pour l'écosystème londonien autour de King's Cross, qui est ce centre technologique cool à Londres où vous pouvez prendre le train dans une direction et être à Cambridge, qui a pas mal de bonnes startups, en une heure, ou vous pouvez prendre le train dans l'autre direction et être à Paris où il y a, vous savez, MR et ainsi de suite, et c'est très connecté à différentes parties de l'Europe. Alors combien de temps faut-il pour aller de San Francisco à Mountain View, en fonction du trafic, n'est-ce pas ? Cela peut être bien plus d'une heure. Je pense donc qu'il existe un écosystème technologique qui n'est en aucun cas l'équivalent de la Silicon Valley, mais il est certainement reconnaissable mieux qu'il ne l'était il y a 10 ou 20 ans. Que pensez-vous que le Royaume-Uni ou l'Europe pourraient faire ? Concentrons-nous peut-être sur le Royaume-Uni. Que pourrait faire le Royaume-Uni pour augmenter le niveau d'innovation, de création de startups précoces, etc. ? Parce qu'en regardant la loi de puissance et en ayant passé tellement de temps en Californie, il y a beaucoup de choses qui sont allées dans la Silicon Valley, n'est-ce pas ? Et il y a certaines choses qui n'ont pas beaucoup d'écho, mais par exemple, la difficulté d'appliquer les accords de non-concurrence en Californie, n'est-ce pas, a vraiment conduit à cette sorte de ronde de talents qui se déplacent et se croisent comme de petits colibris de talents d'ingénierie et ainsi de suite, ce qui peut ne pas être reproductible en fonction de l'endroit où vous vous trouvez, mais que pourrait faire le Royaume-Uni selon vous, si vous aviez leur oreille et qu'ils disaient : « D'accord, Sebastian, dites-nous quoi faire. » Quelques choses. Je veux dire, je pense que l'erreur que font les gens en Europe et que la Grande-Bretagne en fait partie, c'est de croire qu'il y a une sorte de magie culturelle dans la Silicon Valley où quoi que ce soit qu'ils boivent dans l'eau là-bas les fait penser que l'échec est une expérience d'apprentissage, ce qui est assez étrange, et les Européens disent : « Eh bien, nous ne serons jamais comme ça. » Et il nous est impossible de devenir aussi entreprenants que la Silicon Valley. Et je rappelle aux gens que lorsque Fairchild Semiconductor a été fondée en 1957, les huit scientifiques qui ont quitté le laboratoire de Shockley ont été appelés, écoutez bien, les huit traîtres. Si bon. Traîtres. Pourquoi ? Parce qu'il était considéré comme une trahison à l'époque de quitter une entreprise et d'en rejoindre une autre. Il n'y avait pas de culture entrepreneuriale dans les années 1950 sur la côte ouest des États-Unis, n'est-ce pas ? Le livre d'affaires classique de l'époque était L'homme organisationnel, à propos des gens qui rejoignaient une entreprise et y restaient toute leur vie et prenaient leur retraite avec une montre en or pour leur 60e anniversaire. N'est-ce pas ? Donc, vous pouvez créer une culture entrepreneuriale, et cela se produit petit à petit en Grande-Bretagne et certainement en Israël, et cela s'est produit en Chine, et ce n'est pas une magie confinée à la Silicon Valley. D'accord, il est bon de faire ce point en premier. Maintenant, il y a des changements politiques spécifiques que vous devez faire pour qu'un écosystème fonctionne, et je pense que vous avez mis le doigt sur l'un d'eux : la mobilité des talents est super importante. Vous pouvez considérer un écosystème de startups comme quelque chose qui fait circuler trois éléments : l'argent, les gens et les idées, et vous faites circuler ceux-ci et vous les combinez de différentes manières. Et chaque fois que vous les combinez, c'est une nouvelle entreprise. Et chacun a une chance de marquer. Et la plupart d'entre elles échouent. Mais tout d'un coup, si vous faites circuler ces composants assez rapidement, vous obtenez l'adéquation produit-marché. Et alors vous obtenez ces rendements de 10x et plus. Maintenant, en Grande-Bretagne, lorsque vous levez une nouvelle tranche, une série B par exemple, et que vous avez environ neuf mois de trésorerie pour construire jusqu'à la prochaine étape de votre entreprise, et que vous identifiez les trois talents clés que vous allez faire venir dans l'entreprise pour la faire fonctionner, et qu'ils vous disent alors : « Eh bien, je peux venir dans 6 mois. » C'est une condamnation à mort, n'est-ce pas ? C'est horrible. Nous appelons cela le « congé jardinage » en Grande-Bretagne. C'est une idée épouvantable. Il faut se débarrasser de ces jardins et laisser les gens bouger vite. Une autre chose est le transfert de technologie hors des universités. Aux États-Unis, il y a la loi BOL. Il existe des bureaux de transfert de technologie très sophistiqués qui sont généreux envers l'entrepreneur en ce sens qu'ils n'exigent pas trop de chair, lorsqu'il sort, et c'est essentiel pour que la startup fonctionne. En Europe, l'attitude est : oh, nous sommes l'université. Nous méritons une grande part du gâteau ici. nous voulons 50 % de l'upside. Eh bien, dans ce cas, la startup n'aura jamais lieu. Et je dis à ces Européens : regardez, visitez Stanford. Ils sont très généreux envers leurs entrepreneurs. Ils semblent aller bien financièrement, car si vous aidez l'entrepreneur, vous savez, vous recevrez les dons plus tard. Tout va bien. Et donc, je pense que ce sont juste deux choses qui ont commencé il y a longtemps aux États-Unis, n'est-ce pas ? Vous regardez les origines de Genentech et ainsi de suite. Je veux dire, c'est juste la genèse de tellement pas seulement d'entreprises mais d'industries effectivement aux États-Unis. Pensez-vous que Demis aurait construit DeepMind s'il n'avait pas lu La Stratégie Ender ? C'est une excellente histoire. C'est une excellente question. Puis-je juste raconter l'histoire de La Stratégie Ender pour commencer ? Et aussi un petit trivia pour les gens. Je crois, et ce n'est pas pour rendre les choses plus difficiles, mais que lorsque Mark Zuckerberg a eu pour la première fois un profil sur Facebook, le seul livre listé était aussi La Stratégie Ender. Oh, je ne savais pas ça. C'est fascinant. Alors, plongeons dans Demis et La Stratégie Ender. Au tout début de mon interview de Demis, nous avions notre deuxième rendez-vous qui était un dîner et il m'a demandé de lire quelques livres avant le dîner, et l'un d'eux était La Stratégie Ender. Quels étaient les autres juste avant de continuer ? C'était un livre de David Deutsch intitulé La Fabrique de la Réalité. Uh-huh. Lecture légère. Oui. Maintenant, j'ai lu La Stratégie Ender en conséquence, et je ne l'avais pas lu auparavant. Et en le lisant, je me disais : d'accord, donc c'est l'histoire d'un héros garçon qui sauve toute l'humanité d'une invasion de la planète par des extraterrestres. Est-ce que Demis me dit que c'est comme ça qu'il se voit ? Qu'il sauve toute l'humanité avec l'IA ? parce que ce serait un peu trop de croire cela, mais ce serait encore plus d'avoir l'audace de le dire au gars qui écrit un livre sur vous que c'est comme ça que vous vous voyez. La plupart des gens ne s'exposeraient pas de cette façon. Je me suis dit : est-ce que Demis pense vraiment cela ? Alors je vais dîner et il dit : « J'espère que vous avez lu La Stratégie Ender parce que c'est vraiment comme ça que je me vois. » Et j'ai donné le livre à ma femme pour qu'elle puisse le lire afin qu'elle puisse mieux me comprendre parce que je m'identifie vraiment à Ender. Oui, c'est sauvage. C'est sauvage. C'est un excellent livre. Je veux dire, je ne l'ai pas lu depuis des décennies, mais c'est une lecture fantastique, comme je m'en souviens. Oui. Je veux dire, en le lisant, je dois dire, en tant qu'adulte mature, j'ai trouvé que ce n'était pas très bien écrit. Oui. Mais l'idée est bonne. Et je peux voir pourquoi l'idée est collante. Absolument. Vous savez, cette image de cet enfant qui sacrifie tout pour se consacrer à l'art de combattre les extraterrestres. Et vous savez, il supporte les moqueries et le harcèlement de ses pairs et riposte. C'est une image attrayante et c'est ce qui a accroché Demis. Mais pour répondre à votre question précédente, vous savez, il aurait fait de l'IA de toute façon parce qu'il a lu La Stratégie Ender alors qu'il avait déjà environ 30 ans. Et il avait une détermination incroyable à construire une super intelligence depuis qu'il avait environ 17 ans. Je veux dire, c'est aussi sauvage. Je veux dire, la conviction précoce est juste extraordinaire. Vous a-t-il demandé de lire Gödel, Escher, Bach : Les Brins d'une Guirlande Éternelle ? J'admets que Dustin Moskovitz, ainsi que de nombreux technologues, de très, très bons technologues, recommandent ce livre ou le citent comme faisant partie de leur propre parcours pour construire quelque chose d'incroyable. Je pense que je suis trop bête pour lire ce livre. J'ai eu tellement de mal. J'ai eu tellement de mal. J'ai essayé deux fois et pourtant je n'ai toujours pas fini ce livre. Je ne sais pas. Hé, avez-vous des recommandations pour quelqu'un qui manque peut-être quelques points de QI parce qu'il est né à Long Island, sur la façon de naviguer dans ce livre ? Je dois admettre qu'on m'a dit par Demis que cela signifiait beaucoup pour lui, qu'il l'avait lu à la fin de son adolescence et que c'est à ce moment-là qu'il est vraiment devenu convaincu qu'il pouvait construire une IA, car l'argument du livre est que, vous savez, tout ce que le cerveau humain peut faire, les ordinateurs pourront le faire un jour, que le cerveau humain fonctionne sur des uns et des zéros, et donc si vous pouviez construire un calcul suffisamment grand, vous devriez être capable de reproduire l'intelligence des cerveaux humains, et c'était l'idée qui l'a accroché à cette idée. Alors je suis parti et j'ai essayé de le lire. Je dirais que j'ai lu environ 150 pages et que je me suis embourbé. Je veux dire, c'est une lecture difficile et stimulante, mais au moins j'en ai extrait l'essence qui signifiait quelque chose pour mon sujet, pour Demis. Vous savez qui serait formidable pour m'aider à comprendre cela ? Un LLM, je vais essayer et voir si je peux expliquer cela à un élève de sixième année, peut-être, ou à un élève de six ans, peut-être même mieux. Quelques questions et ensuite nous commencerons à planifier. Si vous deviez écrire un autre livre sur une figure du monde de l'IA, elle pourrait être relativement inconnue ou incroyablement connue. Qui serait cette personne ? Demis est hors de la table. Je voudrais peut-être aussi exclure Sam pour rendre les choses un peu plus intéressantes. Qui serait-ce si Sam était exclu et que Demis était bien sûr exclu ? Eh bien, je suppose Dario. Oui. Je pense que même si vous laissiez Sam sur la table, ce serait Dario. Je veux dire, je pense qu'il est juste une figure fascinante, fascinante, ainsi que le leader actuel d'Anthropic pour les personnes qui ne reconnaissent pas le nom. Oui. Je travaille actuellement sur un article de blog. Il s'agit de la perturbation due à l'IA et de la façon dont ce n'est pas dans trois ans, ce n'est pas dans un an. Ce sont les ventes de livres sur l'ensemble de mon catalogue de livres, et ce n'est pas limité à l'impression. C'est tous les formats. D'accord ? Alors, je vais vous donner quelques chiffres, puis vous me direz ce qui s'est passé pour initier cela. D'accord. 2022, statu quo assez constant. Mes redevances de livres sont une rente prévisible. 2023, moins 5 %. 2024, moins 13 %. 2025, moins 46 %. Et 2026, jusqu'à présent, en bonne voie pour être au moins 57 %. Que s'est-il passé fin 2022 ? ChatGPT GPT 3.5. C'est juste sauvage. C'est vraiment, vraiment sauvage. Je veux dire, ces choses arrivent vite. Et je bascule vraiment. J'ai l'impression d'avoir trop hésité entre ces deux positions. Je passe de la position très modérée et raisonnée de Benedict, et je suis d'accord avec beaucoup de ses points, à la conviction que tout cela arrive beaucoup plus vite que quiconque ne peut l'imaginer en raison de l'auto-amélioration récursive. Pour mémoire, je pense que c'est beaucoup plus grand que le mobile, beaucoup plus grand que l'internet. C'est une capacité cognitive si générale qui peut couvrir, vous savez, n'importe quelle tâche humaine. Je pense que le hic est simplement de savoir combien de temps prend la diffusion. Oui. Et pour donner un exemple, vous savez, j'investis dans pas mal d'entreprises de biotechnologie et d'autres sciences, et si vous regardez par exemple AlphaFold, cela méritait absolument un prix Nobel. Nous n'en avons pas parlé à propos de Demis, mais c'est une chose de concevoir des molécules, c'en est une autre de les délivrer à la cible tissulaire. C'est comme la délivrabilité de cela, une métaphore pour l'IA d'une certaine manière, c'est comme, d'accord, nous avons cette molécule parfaite et immaculée, comment l'amener au bon endroit ? Et en même temps, j'investis dans une entreprise appelée Laya Sciences, et ce qu'ils font, c'est produire un ensemble de données propriétaire en automatisant les laboratoires humides à l'aide de l'IA, n'est-ce pas ? Et je vais simplifier, n'est-ce pas ? Mais ils ont des laboratoires humides gigantesques où ils peuvent exécuter en parallèle des milliers d'expériences qui, de la toute première étape de génération d'hypothèses jusqu'à la fin de la méthode scientifique, sont toutes exécutées de manière autonome par l'IA. Et j'apporte cet exemple particulier parce que même il y a, je veux dire, six mois, 12 mois, ils produisent des découvertes qui ne sont vraiment pas triviales, n'est-ce pas ? C'est comme si c'était déjà en train de se produire maintenant. Ce n'est pas une année dans le futur. C'est en train de se produire maintenant. Alors quand vous projetez de penser au potentiel d'amélioration exponentielle et que je dois dire honnêtement, parfois, quand les gens parlent d'exposants, les humains ne sont pas bons pour penser de manière exponentielle, je suis comme oui, c'est vrai, mais en dehors de la loi de Moore, pourquoi les capacités de l'IA ou les paramètres des LLM ou peu importe comment vous voulez le mesurer, s'amélioreraient-ils automatiquement en exposants ? Je ne comprends pas vraiment cela. Mais une fois que nous arrivons à l'auto-amélioration récursive, c'est comme, d'accord, je peux voir comment cela commence à approcher un mur vertical. Je suis d'accord avec vous. Je pense qu'une expérience de l'écriture du livre est simplement que lorsque vous êtes proche des personnes à l'intérieur des laboratoires et, vous savez, je n'étais pas seulement Demis. J'ai interviewé, vous savez, des centaines de ces initiés de l'IA, vous réalisez que le pipeline est énorme. Je pense qu'il y a une sorte de misconception populaire qui est qu'il y a cette chose appelée IA et qu'elle s'est produite lorsque ChatGPT est sorti. Donc maintenant, nous l'avons et nous nous y habituons et c'est dans le rétroviseur. Non, non, non, non. Cette chose change tout le temps, comme le savent tous ceux qui regardent attentivement. Et si vous repensez, la progression est folle. Vous savez, vous obtenez ce système fin 2022 qui hallucine sans arrêt. Ensuite, vous branchez GPT4 16 mois plus tard, quoi qu'il en soit, et l'hallucination est radicalement réduite. Ensuite, il devient multimodal, donc il peut faire de la vidéo et de l'audio. Et en attendant, il a une très longue fenêtre de contexte, donc vous pouvez y brancher un roman entier et poser des questions à son sujet. Ensuite, il commence à faire des raisonnements et peut faire de la logique et des mathématiques. Ensuite, il devient agentique. Ensuite, il code pour vous. Et tous ces changements sont concentrés sur trois ans et demi. Et je suis d'accord avec vous. Je pense que les trois prochaines années et demie seront encore plus folles. Je pense qu'il y a un grand écart entre la vision intérieure et la vision extérieure de cela. C'est là que ces comparaisons avec la révolution industrielle s'effondrent complètement à bien des égards. J'ai une ou deux questions restantes pour vous. La question du panneau d'affichage. Je pose souvent cette question. Cela peut être amusant. Si vous pouviez mettre n'importe quoi sur un panneau d'affichage, métaphoriquement parlant, pour des millions, des milliards de personnes à voir. Cela pourrait être n'importe quoi. Image, citation, question, de préférence pas commerciale. Qu'est-ce que ce serait ? Qu'est-ce que ce pourrait être ? Donc, un panneau d'affichage que beaucoup de gens vont voir, je mettrais : préparez votre esprit. C'est un dicton qui est à l'origine de Louis Pasteur, je pense, le scientifique qui a dit que le hasard favorise l'esprit préparé. Si vous êtes prêt pour les choses, vous pouvez tirer le meilleur parti de l'opportunité qui se présente à vous. Et la chose incroyable à propos de ce dicton est qu'il est apparu aléatoirement dans différents contextes dans différents livres que j'ai écrits. Ainsi, lorsque j'écrivais sur le capital-risque, Excel Capital, et l'un des fondateurs, Arthur Patterson, a utilisé cette phrase pour décrire comment il voulait qu'Excel investisse. qu'ils organisaient ces exercices de scénarios où ils pensaient, d'accord, une nouvelle technologie arrive. Quel type d'entreprise doit être construit pour tirer le meilleur parti de cette nouvelle plateforme ? Quel type d'entrepreneur conviendra à cette opportunité ? Que devrions-nous attendre pour que la personne entre dans le bureau, dans la salle de conférence et nous présente son projet, nous sachions déjà 90 % de ce qu'il dit parce que nous avons préparé notre esprit. Et ainsi, nous pouvons porter un jugement bon et rapide si la situation est concurrentielle. J'ai donc écrit sur l'esprit préparé dans le contexte du capital-risque. Et puis je fais The Infinity Machine et j'interviewe Ilya Sutskever d'OpenAI et je lui demande pourquoi c'est vous qui avez compris l'importance de l'architecture Transformer lorsqu'elle est sortie immédiatement, le jour où elle était sur le site web, vous l'avez lue. Vous avez couru dans le couloir. Vous êtes allé voir votre collaborateur Alec Radford et vous avez dit : « Nous allons construire un modèle linguistique sur cette architecture. » Eh bien, non seulement cela, il a dit : « Arrêtez tout ce que vous faites. » Droit. Droit. Droit. Et faites ceci. Cette vision du genre, vous savez, l'ingénieur sur-caféiné et charismatique qui s'empare et dit : « Lâche ça, quoi que tu fasses. » Et, vous savez, dans sa réponse, c'était l'esprit préparé, il réfléchissait à la façon de modéliser des données séquentielles depuis son doctorat au Canada. Et quand il a vu la solution, c'était ce qu'il attendait depuis une décennie. Et donc, il a pu s'en saisir. Et puis quand vous commencez à penser à l'esprit préparé, vous vous en souviendrez probablement mieux que moi, mais n'y avait-il pas un um Super Bowl final des Seahawks de Seattle contre les Patriots de la Nouvelle-Angleterre où le quarterback de la Nouvelle-Angleterre fait une interception à la dernière seconde du match et remporte la victoire. Et quand on lui demande après le match, comment avez-vous su faire cette course ? Où avez-vous su où le quarterback allait lancer le ballon ? La réponse était : esprit préparé. Essentiellement, il n'a pas utilisé cette phrase, mais vous savez, à l'entraînement, ils avaient étudié le jeu que les Seahawks de Seattle allaient faire. Et ils savaient que compte tenu d'une certaine formation lorsque le ballon était remis, il y avait une certaine passe qui arrivait. Alors le gars se lance et court directement là où le ballon arrive et il l'intercepte et la Nouvelle-Angleterre gagne. Et donc, c'est un esprit préparé dans le sport. Et la raison pour laquelle, la dernière chose, je mettrais sur le panneau d'affichage « préparez votre esprit », c'est que pour l'ère de l'intelligence artificielle, c'est ce que nous devons entendre. Et c'est un point sérieux, n'est-ce pas ? Le risque avec les grands modèles linguistiques est que nous devenions paresseux et que chaque fois que nous avons besoin de savoir quelque chose, nous demandons simplement à l'IA de nous dire quoi penser. Ce n'est pas la voie du bonheur, de la satisfaction ou de quoi que ce soit. Nous devons continuer à faire le travail difficile de préparer notre esprit, car c'est ce qui fait de nous des êtres humains. Vous savez, je pense, donc je suis. Et donc je pense que « préparez votre esprit » devient un slogan plus important que jamais. Comment faites-vous cela pour vous-même ? Quelles garde-fous ou politiques avez-vous établis pour votre propre utilisation de l'IA ? Et cela me fait aussi penser à aller à la salle de sport, soulever des poids, faire du cardio. Vous n'avez pas à le faire, mais c'est bénéfique pour vous à de nombreux niveaux. Et les gens, certains trouvent cela assez agréable, n'est-ce pas ? Et donc ils le font. Et je me demande quel est l'équivalent pour les travailleurs du savoir ou les personnes qui préparent leur esprit et ne veulent pas devenir impuissants de la manière dont les gens avec des directions sont devenus largement impuissants à cause de Google Maps et d'autres outils similaires. Alors, que faites-vous pour vous-même personnellement ou comment y réfléchissez-vous ? La première chose que je pense, c'est que l'analogie de Google Maps est la mauvaise, dans le sens où il est acceptable de décharger une tâche mentale très spécifique qui, pour la plupart des gens, est une corvée. Et de laisser la machine faire cela pour vous. Il n'est pas acceptable de décharger toute pensée. Le but de décharger quelque chose devrait être de pouvoir concentrer davantage votre énergie mentale sur les autres choses qui vous apportent vraiment satisfaction et sens. Et donc pour moi, cela signifie que je suis très heureux d'utiliser de grands modèles linguistiques pour en apprendre davantage sur les résultats scientifiques de quelqu'un que je vais interviewer la semaine prochaine. Tous ces articles sur l'IA sont sur arXiv et le modèle les a tous ingérés, et le modèle est extrêmement bon pour me dire, d'accord, le scientifique que vous voyez la semaine prochaine a ces trois articles et la progression entre les trois articles est ceci et ceci et ceci, et la comparaison avec la personne que vous avez vue il y a deux semaines est ceci et ceci et ceci, et vous savez, vous apprenez beaucoup du système, cela vous aide vraiment à apprendre plus vite, donc cela m'aide à penser davantage, pas moins. Cela réduit le temps qu'il me faudrait pour trouver tous les articles moi-même, puis les parcourir. Cela va droit au but et me nourrit intellectuellement. Et d'ailleurs, je ne m'inquiète pas des hallucinations parce que je vais interviewer le scientifique humain de toute façon. Donc, je peux tout vérifier. Ce que je ne ferais jamais, c'est laisser l'IA écrire parce que, franchement, elle n'est pas très douée pour le long format. En fait, elle est vraiment nulle. Elle est bien pour écrire un e-mail, bien que je ne le fasse pas non plus parce que j'aime écrire. Mais c'est vraiment, j'ai essayé une fois. C'est terrible pour tout ce qui dépasse environ 800 mots. Mais même si elle pouvait le faire, je ne pense pas que je sous-traiterais jamais cela parce que c'est moi, n'est-ce pas ? C'est ce que je fais. C'est le processus de pensée. Je réfléchis à travers mon écriture, je comprends ce que je comprends et je pense ce que je pense et je crois ce que je crois par l'écriture. Et je ne vais pas abandonner cela. Je laisse échapper un soupir pensif parce que j'y pensais. Un ami m'a dit, eh bien, je lui rendrai hommage, Kevin Rose. À un moment donné, je me plaignais, ou plutôt j'observais, que l'IA ne pouvait pas faire X ou qu'elle n'était pas très douée pour Y. Il a dit : « Quand as-tu essayé ça pour la dernière fois ? » J'étais comme il y a six mois. Et il dit : « Essaie encore. » Et donc les règles deviendront vraiment importantes, tout comme le pouvoir de ces choses augmente. Et là, je veux dire, c'était le New Yorker. Il y avait un article dans le New Yorker, ou peut-être que c'était le New York Times, avec un très célèbre, je veux dire un romancier, pourrait être un lauréat du prix Pulitzer en littérature, quelqu'un au sommet, et il a pris trois ou quatre de ses propres écrits, a fait générer par l'IA trois ou quatre écrits dans sa voix, et l'a donné à des lecteurs professionnels, des éditeurs, etc., et il n'était pas clair, les gens ne pouvaient pas le dire. Ils ont affirmé que ce qu'il ou elle avait écrit était de l'IA. Quelle était la longueur de l'écrit ? Je savais que c'était la question que vous alliez poser et je ne me souviens pas. Alors je veux revenir en arrière et regarder cet article pour voir. Il y avait une histoire précisément comme celle-ci d'un écrivain économiste qui est très drôle et qui fait aussi des podcasts, et il a mené cette expérience et c'était exactement comme vous l'avez dit, vous savez, ses amis qui étaient des journalistes économistes professionnels ne pouvaient pas dire quelle était la colonne spirituelle qu'il avait écrite par rapport à celles, tout aussi spirituelles, que le LLM avait générées. Et il était très énervé par cela, et je comprends votre point, je veux dire, pour l'instant, je peux être complaisant et dire, oui, cela ne fonctionne que pour 800 mots. Cela ne fonctionne pas pour un chapitre entier qui fait 20 pages. Mais sans aucun doute, cela s'améliorera de plus en plus. Mais je pense toujours que je vais m'accrocher à ce qui fait de moi moi, c'est sûr. 100 %. Et je pense que faire la réflexion, préparer son esprit en partie en posant cette question, qui n'est pas une question facile, peut-être qu'il y a une autre façon de la formuler, mais comme, quelles sont les choses qui font de moi moi ? Pour ne pas faire accidentellement des sacrifices qui commencent à éroder votre sens de vous-même, mais aussi votre estime de vous. Préparer votre esprit. Sebastian, tout le monde devrait découvrir The Infinity Machine. C'est exceptionnel. The Infinity Machine, sous-titré Demis Hassabis, DeepMind et la quête de la super intelligence. Et pour que les gens ne fassent pas la mauvaise supposition, ce n'est pas le dernier cri en matière d'IA. C'est l'histoire d'un esprit incroyable, d'une troupe entière de personnages excentriques et fascinants. C'est une quête noble. C'est à propos des pièges et des promesses de l'entrepreneuriat. Il contient tellement de niveaux différents. Et si vous voulez aussi avoir une compréhension de base de ce qui est devenu populairement appelé IA ou LLM, c'est un excellent livre pour cela. Il expose vraiment les bases et comment cela a évolué au fil du temps d'une manière qui, je pense, est intelligible pour les non-ingénieurs. Donc, tout le monde devrait découvrir The Infinity Machine. Sebastian, y a-t-il d'autres endroits où vous aimeriez orienter les gens ou autre chose que vous aimeriez dire alors que nous terminons ? Eh bien, euh, oui, vous m'avez arrêté sur celui-là. J'ai apprécié la conversation. Je suis heureux de m'arrêter là. Merci de l'avoir fait, Tim. C'était génial. Absolument. Je vais donner un autre lien pour les gens s'ils veulent vous trouver sur X. C'est SC Malib Malibby. Eh bien, Sebastian, merci beaucoup pour votre temps. J'ai vraiment apprécié la conversation. Et pour les gens qui écoutent, nous inclurons des liens vers tout ce dont nous avons discuté, tous les personnages et tout le reste sur tim.blog/mpodcast. Il suffit de chercher Sebastian. Je suis à peu près sûr que Oh, en fait, nous avons Sebastian Younger. Il y a donc deux Sebastians. Mais si vous cherchez Malib, M A L L A B Y, ce sera très facile à trouver. Et jusqu'à la prochaine fois, soyez juste un peu plus gentil que nécessaire, un peu plus aimable que nécessaire envers les autres, mais aussi envers vous-même, et préparez votre esprit. Merci de vous être connectés.