Vous travaillez sur la sécurité de l'IA depuis au moins deux décennies. Oui, j'étais convaincu que nous pouvions créer une IA sûre, mais plus j'y regardais, plus je réalisais que ce n'est pas quelque chose que nous pouvons réellement faire. Vous avez fait une série de prédictions sur une variété d'états différents. Alors, quelle est votre prédiction pour 2027 ? [Musique] Le Dr Roman Yimpolski est une voix mondialement reconnue sur la sécurité de l'IA et professeur associé en informatique. Il éduque les gens sur la vérité terrifiante de l'IA et sur ce que nous devons faire pour sauver l'humanité. Dans 2 ans, la capacité de remplacer la plupart des humains dans la plupart des professions arrivera très rapidement. Je veux dire, dans 5 ans, nous regardons un monde où nous aurons des niveaux de chômage que nous n'avons jamais vus auparavant. Pas 10 % mais 99 %. Et ce, sans superintelligence. Un système plus intelligent que tous les humains dans tous les domaines. Donc, il serait meilleur que nous pour créer de nouvelles IA. Mais c'est pire que ça. Nous ne savons pas comment les rendre sûres et pourtant nous avons toujours les personnes les plus intelligentes du monde en compétition pour gagner la course à la superintelligence. Mais que pensez-vous des gens comme Sam Altman et de son parcours avec l'IA ? Il y a une décennie, nous avons publié des garde-fous sur la manière de faire de l'IA, n'est-ce pas ? Ils ont violé chacun d'entre eux et il parie 8 milliards de vies pour devenir plus riche et plus puissant. Donc, je suppose que certaines personnes veulent aller sur Mars, d'autres veulent contrôler l'univers. Mais peu importe qui la construit. Au moment où vous passez à la superintelligence, nous le regretterons très probablement terriblement. Et puis, d'ici 2045, c'est là que ça devient intéressant. Dr Roman Yimpolski, parlons de la théorie de la simulation. Je pense que nous en sommes dans une. Et il y a beaucoup d'accord sur cela, et c'est ce que vous devriez faire pour ne pas l'arrêter. Tout d'abord, je vois des messages tout le temps dans la section des commentaires que certains d'entre vous n'ont pas réalisé que vous n'étiez pas abonnés. Donc, si vous pouviez me rendre un service et vérifier si vous êtes abonné à cette chaîne, ce serait énormément apprécié. C'est la chose simple, c'est la chose gratuite que toute personne qui regarde cette émission fréquemment peut faire pour nous aider à maintenir tout cela en marche dans cette émission dans la trajectoire qu'elle suit. Alors, s'il vous plaît, vérifiez si vous vous êtes abonné et euh, merci beaucoup car d'une manière étrange, vous êtes vous faites partie de notre histoire et vous êtes dans ce voyage avec nous, et je vous en remercie. Alors, oui, merci, Dr Roman Yimpolski. Quelle est la mission dans laquelle vous êtes actuellement ? Parce qu'il est tout à fait clair pour moi que vous êtes en mission et que vous l'êtes depuis, je pense, la meilleure partie de deux décennies au moins. J'espère m'assurer que la superintelligence que nous créons actuellement ne tue pas tout le monde. Donnez-moi un peu de contexte sur cette déclaration, car c'est une déclaration assez choquante. Bien sûr. Au cours de la dernière décennie, nous avons en fait découvert comment améliorer l'intelligence artificielle. Il s'avère que si vous ajoutez plus de calcul, plus de données, cela devient simplement plus intelligent. Et donc maintenant, les personnes les plus intelligentes du monde, des milliards de dollars, tout cela pour créer la meilleure superintelligence possible. Malheureusement, bien que nous sachions comment rendre ces systèmes beaucoup plus performants, nous ne savons pas comment les rendre sûrs. Comment s'assurer qu'ils ne font pas quelque chose que nous regretterons, et c'est l'état de l'art actuel. Lorsque nous regardons les marchés de prédiction, quand aurons-nous une IA avancée ? Les délais sont très courts, quelques années, deux ou trois ans, selon les marchés de prédiction, selon les PDG des meilleurs laboratoires, et en même temps, nous ne savons pas comment nous assurer que ces systèmes sont alignés sur nos préférences. Nous créons donc cette intelligence extraterrestre. Si des extraterrestres arrivaient sur Terre et que vous aviez trois ans pour vous préparer, vous paniqueriez maintenant. Mais la plupart des gens ne réalisent même pas que cela se produit. Certaines des contre-arguments pourraient être : eh bien, ce sont des gens très, très intelligents. Ce sont de très grandes entreprises avec beaucoup d'argent. Ils ont une obligation, une obligation morale, mais aussi une obligation légale de s'assurer qu'ils ne causent aucun préjudice. Alors, je suis sûr que tout ira bien. La seule obligation qu'ils ont est de faire de l'argent pour les investisseurs. C'est l'obligation légale qu'ils ont. Ils n'ont aucune obligation morale ou éthique. De plus, selon eux, ils ne savent pas encore comment faire. Les réponses de l'état de l'art sont : nous trouverons une solution quand nous y arriverons, ou l'IA nous aidera à contrôler une IA plus avancée. C'est de la folie. En termes de probabilité, quelle est la probabilité que quelque chose tourne catastrophiquement mal ? Personne ne peut vous dire avec certitude ce qui va se passer. Mais si vous n'êtes pas en charge, si vous ne contrôlez pas, vous n'obtiendrez pas les résultats que vous souhaitez. L'espace des possibilités est presque infini. L'espace des résultats que nous aimerons est minuscule. Et qui êtes-vous et depuis combien de temps travaillez-vous sur cela ? Je suis informaticien de formation. J'ai un doctorat en informatique et en ingénierie. J'ai probablement commencé à travailler sur la sécurité de l'IA, au sens large, le contrôle des bots à l'époque, il y a 15 ans. Il y a 15 ans. Vous travaillez donc sur la sécurité de l'IA avant que ce ne soit à la mode. Avant même que le terme n'existe, j'ai inventé le terme "sécurité de l'IA". Vous êtes donc le fondateur du terme "sécurité de l'IA". Le terme ? Oui. Pas le domaine. Il y a d'autres personnes qui ont fait un travail brillant avant que j'arrive. Pourquoi pensiez-vous à cela il y a 15 ans ? Parce que la plupart des gens ne parlent du terme "sécurité de l'IA" que depuis les deux ou trois dernières années. Oui. Cela a commencé très modestement, juste comme un projet de sécurité. Je regardais les bots de poker et j'ai réalisé que les bots devenaient de mieux en mieux. Et si vous projetez cela suffisamment loin, ils deviendront meilleurs que nous, plus intelligents, plus performants. Et c'est arrivé. Ils jouent au poker bien mieux que les joueurs moyens. Mais plus généralement, cela se produira avec tous les autres domaines, toutes les autres ressources cybernétiques. Je voulais m'assurer que l'IA est une technologie bénéfique pour tous. J'ai donc commencé à travailler sur la sécurisation de l'IA. Y a-t-il eu un moment particulier dans votre carrière où vous vous êtes dit "Oh mon Dieu" ? Pendant les 5 premières années au moins, j'ai travaillé à résoudre ce problème. J'étais convaincu que nous pouvions y parvenir. Nous pouvions créer une IA sûre, et c'était l'objectif. Mais plus j'y regardais, plus je réalisais que chaque composant de cette équation n'est pas quelque chose que nous pouvons réellement faire. Et plus vous zoomez, c'est comme un fractal. Vous entrez et vous trouvez 10 problèmes de plus, puis 100 problèmes de plus. Et tous ne sont pas seulement difficiles. Ils sont impossibles à résoudre. Il n'y a pas de travail décisif dans ce domaine où nous avons résolu ceci, nous n'avons pas à nous en soucier. Il y a des correctifs. Ce sont de petites solutions que nous mettons en place et rapidement les gens trouvent des moyens de les contourner. Ils percent, brisent, quels que soient les mécanismes de sécurité que nous avons. Donc, alors que les progrès des capacités de l'IA sont exponentiels, voire hyper-exponentiels, les progrès en matière de sécurité de l'IA sont linéaires ou constants. L'écart se creuse. L'écart entre la capacité des systèmes et la façon dont nous pouvons les contrôler, prédire ce qu'ils vont faire, expliquer leur prise de décision. Je pense que c'est un point assez important car vous avez dit que nous sommes essentiellement en train de patcher les problèmes que nous trouvons. Donc, nous développons cette intelligence fondamentale, puis pour l'empêcher de faire des choses ou pour l'empêcher de montrer une partie de son imprévisibilité ou de ses menaces, les entreprises qui développent cette IA programment du code par-dessus pour dire : "D'accord, ne jure pas, ne dis pas ce mot grossier, ne fais pas cette mauvaise chose." Exactement. Et vous pouvez regarder d'autres exemples de cela. Par exemple, les manuels RH, n'est-ce pas ? Nous avons ces humains. Ce sont des intelligences générales, mais vous voulez qu'ils se comportent dans une entreprise. Ils ont donc une politique, pas de harcèlement sexuel, pas ceci, pas cela. Mais si vous êtes assez intelligent, vous trouvez toujours une solution de contournement. Vous poussez donc simplement le comportement dans un autre sous-domaine qui n'est pas encore restreint. Nous devrions probablement définir quelques termes ici. Il y a l'intelligence étroite qui peut jouer aux échecs ou autre chose. Il y a l'intelligence artificielle générale qui peut opérer dans différents domaines, puis la superintelligence qui est plus intelligente que tous les humains dans tous les domaines. Et où en sommes-nous ? C'est une frontière très floue, n'est-ce pas ? Nous avons certainement de nombreux excellents systèmes étroits, aucun doute à ce sujet. Et ils sont super intelligents dans ce domaine étroit. Par exemple, le repliement des protéines est un problème qui a été résolu à l'aide d'une IA étroite et elle est supérieure à tous les humains dans ce domaine. En termes d'AGI, encore une fois, j'ai dit que si nous montrions ce que nous avons aujourd'hui à un scientifique d'il y a 20 ans, il serait convaincu que nous avons une AGI à part entière. Nous avons des systèmes qui peuvent apprendre. Ils peuvent performer dans des centaines de domaines et ils sont meilleurs que les humains dans beaucoup d'entre eux. Vous pouvez donc soutenir que nous avons une version faible de l'AGI. Nous n'avons pas encore de superintelligence. Nous avons toujours des humains brillants qui dominent complètement l'IA, surtout dans les sciences et l'ingénierie. Mais cet écart se comble si rapidement. Vous pouvez voir, surtout dans le domaine des mathématiques, il y a 3 ans, les grands modèles linguistiques ne pouvaient pas faire d'algèbre de base, multiplier des nombres à trois chiffres était un défi, maintenant ils aident aux preuves mathématiques, ils gagnent des olympiades de mathématiques, ils travaillent à résoudre des problèmes du millénaire, les problèmes les plus difficiles en mathématiques. Donc, en 3 ans, nous avons comblé l'écart entre une performance sous-humaine et une performance meilleure que la plupart des mathématiciens. Et nous voyons le même processus se produire dans les sciences et l'ingénierie. Vous avez fait une série de prédictions et elles correspondent à une variété de dates différentes. J'ai ces dates devant moi ici. Quelle est votre prédiction pour l'année 2027 ? Nous regarderons probablement l'AGI, comme prédit par les marchés de prédiction et les meilleurs laboratoires. Donc, nous aurons une intelligence artificielle générale d'ici 2027. Et en quoi cela rendrait-il le monde différent de ce qu'il est maintenant ? Donc, si vous avez ce concept de chute d'employés, vous avez du travail gratuit, physique et cognitif, des trillions de dollars. Il n'a aucun sens d'embaucher des humains pour la plupart des emplois. Si je peux juste obtenir, vous savez, un abonnement de 20 $ ou un modèle gratuit pour faire ce qu'un employé fait. Premièrement, tout ce qui est sur un ordinateur sera automatisé. Et ensuite, je pense que les robots humanoïdes ont peut-être 5 ans de retard. Donc, dans cinq ans, tout le travail physique pourra également être automatisé. Nous regardons donc un monde où nous aurons des niveaux de chômage que nous n'avons jamais vus auparavant. Pas 10 % de chômage, ce qui est effrayant, mais 99 %. Tout ce qui vous reste, ce sont des emplois où, pour une raison quelconque, vous préférez qu'un autre humain le fasse pour vous. Mais tout le reste peut être entièrement automatisé. Cela ne signifie pas qu'il sera automatisé en pratique. Souvent, la technologie existe mais n'est pas déployée. Les téléphones vidéo ont été inventés dans les années 70. Personne ne les avait jusqu'à ce que les iPhones arrivent. Nous pourrions donc avoir beaucoup plus de temps avec des emplois et avec un monde qui ressemble à ceci. Mais la capacité de remplacer la plupart des humains dans la plupart des professions arrivera très rapidement. D'accord. Essayons donc de creuser cela et de le tester. Alors, un podcasteur comme moi. Auriez-vous besoin d'un podcasteur comme moi ? Alors, regardons ce que vous faites. Vous préparez. Vous posez des questions. Vous posez des questions de suivi. Et vous avez une belle apparence à la caméra. Merci beaucoup. Voyons ce que nous pouvons faire. Un grand modèle linguistique peut facilement lire tout ce que j'ai écrit aujourd'hui. Oui. Et avoir une compréhension très solide, meilleure. Je suppose que vous n'avez pas lu chacun de mes livres. N'est-ce pas ? Cette chose le ferait. Il peut s'entraîner sur tous les podcasts que vous avez jamais faits. Il connaît donc exactement votre style, les types de questions que vous posez. Il peut également trouver des correspondances entre ce qui a très bien fonctionné. Ce type de question a vraiment augmenté les vues. Ce type de sujet était très prometteur. Vous pouvez donc optimiser, je pense, mieux que vous ne le pouvez, car vous n'avez pas de jeu de données. Bien sûr, la simulation visuelle est triviale à ce stade. Donc, vous pouvez générer une vidéo en quelques secondes de moi assis ici, et donc nous pouvons générer des vidéos de vous interviewant n'importe qui sur n'importe quel sujet très efficacement, et vous n'avez qu'à obtenir l'approbation de la ressemblance, etc. Y a-t-il beaucoup d'emplois qui, selon vous, resteraient dans un monde d'AGI si vous dites que l'AGI sera potentiellement là, qu'elle soit déployée ou non d'ici 2027 ? Quel genre, puis d'accord, retirons un instant tous les emplois physiques. Y a-t-il des emplois que vous pensez qu'un humain pourrait mieux faire dans un monde d'AGI encore ? C'est la question que je pose souvent aux gens dans un monde avec l'AGI, et je pense que presque immédiatement nous obtiendrons la superintelligence comme effet secondaire. La question est donc vraiment : dans un monde de superintelligence, qui est définie comme meilleure que tous les humains dans tous les domaines, qu'est-ce que vous pouvez apporter ? Et donc, vous savez mieux que quiconque ce que c'est que d'être vous. Vous savez quel goût a la glace pour vous ? Pouvez-vous être payé pour cette connaissance ? Est-ce que quelqu'un est intéressé par cela ? Peut-être pas. Pas un grand marché. Il y a des emplois où vous voulez un humain. Peut-être que vous êtes riche et que vous voulez un comptable humain pour des raisons historiques. Les vieilles personnes aiment les méthodes traditionnelles. Warren Buffett ne passerait pas à l'IA. Il utiliserait son comptable humain. Mais c'est un sous-ensemble minuscule du marché. Aujourd'hui, nous avons des produits fabriqués aux États-Unis par opposition à la production de masse en Chine, et certaines personnes paient plus pour les avoir, mais c'est un petit sous-ensemble. C'est presque une fétichisation. Il n'y a aucune raison pratique pour cela, et je pense que tout ce que vous pouvez faire sur un ordinateur pourrait être automatisé en utilisant cette technologie. Vous devez entendre beaucoup de réfutations lorsque vous dites cela, car les gens éprouvent une énorme gêne mentale lorsqu'ils entendent que leur emploi, leur carrière, la chose pour laquelle ils ont obtenu un diplôme, la chose dans laquelle ils ont investi 100 000 $ va leur être enlevée. Donc, leur réaction naturelle, pour certaines personnes, est cette dissonance cognitive : non, vous avez tort. L'IA ne peut pas être créative. Ce n'est pas ceci. Ce n'est pas cela. Elle ne s'intéressera jamais à mon travail. Je serai bien parce que vous entendez ces arguments tout le temps, n'est-ce pas ? C'est vraiment drôle. Je demande aux gens, et je demande aux gens de différentes professions. Je demande à mon chauffeur Uber : "Êtes-vous inquiet des voitures autonomes ?" Et ils disent : "Non, personne ne peut faire ce que je fais. Je connais les rues de New York. Je peux naviguer comme aucune IA. Je suis en sécurité." Et c'est vrai pour n'importe quel emploi. Les professeurs me disent cela. Oh, personne ne peut donner de cours comme moi. Comme, c'est tellement spécial. Mais vous comprenez que c'est ridicule. Nous avons déjà des voitures autonomes qui remplacent les chauffeurs. Ce n'est même pas une question de savoir si c'est possible. C'est plutôt une question de savoir quand vous serez licencié. Oui. Je veux dire, je viens d'être à Los Angeles hier et ma voiture se conduit toute seule. Donc, je monte dans la voiture, je mets où je veux aller, puis je ne touche pas le volant ni les pédales de frein, et elle m'emmène de A à B, même si c'est un trajet d'une heure sans aucune intervention. Je la gare toujours, mais à part ça, je ne conduis pas du tout la voiture. Et évidemment, à Los Angeles, nous avons aussi Waymo maintenant, ce qui signifie que vous le commandez sur votre téléphone et il arrive sans conducteur et vous emmène où vous voulez aller. Oh oui. Il est donc assez clair de voir comment cela pourrait être une question de temps pour ces personnes, car nous avons certaines de ces personnes qui écoutent cette conversation en ce moment, dont l'occupation est la conduite. Pour leur offrir une, et je pense que la conduite est la plus grande occupation au monde, si je ne me trompe pas. Je suis à peu près sûr que c'est la plus grande occupation au monde. L'une des premières. Oui. Que diriez-vous à ces personnes ? Que devraient-elles faire de leur vie ? Devraient-elles se reconvertir dans quelque chose ou quel est le calendrier ? C'est le changement de paradigme ici. Avant, nous disions toujours : ce travail va être automatisé, reconvertissez-vous pour faire cet autre travail. Mais si je vous dis que tous les emplois seront automatisés, alors il n'y a pas de plan B. Vous ne pouvez pas vous reconvertir. Regardez l'informatique. Il y a deux ans, nous disions aux gens : apprenez à coder. Si vous êtes un artiste, vous ne pouvez pas gagner d'argent. Apprenez à coder. Puis nous avons réalisé, oh, l'IA sait coder et s'améliore. Devenez un ingénieur de prompt. Vous pouvez concevoir des prompts pour l'IA. Ce sera un excellent travail. Obtenez un diplôme de quatre ans. Mais ensuite, nous nous sommes dit : l'IA est bien meilleure pour concevoir des prompts pour d'autres IA que n'importe quel humain. Donc, c'est parti. Je ne peux donc pas vraiment vous dire pour l'instant. La chose la plus difficile est de concevoir des agents IA pour des applications pratiques. Je vous garantis que dans un an ou deux, ce sera également terminé. Je ne pense donc pas qu'il y ait une occupation qui doive apprendre à faire ceci à la place. Je pense que c'est plutôt nous, en tant qu'humanité, nous perdons tous nos emplois. Que faisons-nous ? Que faisons-nous financièrement ? Qui nous paie ? Et que faisons-nous en termes de sens ? Que fais-je de mes 60 à 80 heures supplémentaires par semaine ? Vous avez réfléchi à cela, n'est-ce pas ? Un peu. Qu'y a-t-il au-delà de ce virage, selon vous ? La partie économique semble facile. Si vous créez beaucoup de main-d'œuvre gratuite, vous avez beaucoup de richesse gratuite, d'abondance, des choses qui ne sont pas très abordables aujourd'hui deviennent très bon marché, et donc vous pouvez subvenir aux besoins de base de chacun. Certaines personnes disent que vous pouvez subvenir à plus que les besoins de base. Vous pouvez offrir une très bonne existence à chacun. Le problème difficile est : que faites-vous de tout ce temps libre ? Pour beaucoup de gens, leur travail est ce qui donne un sens à leur vie. Ils seraient donc un peu perdus. Nous le voyons avec les gens qui prennent leur retraite ou qui prennent leur retraite anticipée. Et pour beaucoup de gens qui détestent leur travail, ils seront très heureux de ne pas travailler. Mais maintenant, vous avez des gens qui se détendent toute la journée. Qu'advient-il de la société ? Comment cela affecte-t-il le taux de criminalité, le taux de grossesse, toutes sortes de problèmes ? Personne n'y pense. Les gouvernements n'ont pas de programmes préparés pour faire face à un chômage de 99 %. À quoi ressemble ce monde, selon vous ? Encore une fois, je pense qu'une partie très importante à comprendre ici est l'imprévisibilité. Nous ne pouvons pas prédire ce qu'un système plus intelligent que nous fera. Et le point où nous arrivons est souvent appelé singularité, par analogie avec la singularité physique. Vous ne pouvez pas voir au-delà de l'horizon des événements. Je peux vous dire ce qui pourrait arriver, mais c'est ma prédiction. Ce n'est pas ce qui va réellement se passer, car je n'ai tout simplement pas la capacité cognitive de prédire qu'un agent beaucoup plus intelligent aura un impact sur ce monde. Ensuite, vous lisez de la science-fiction. Il n'y a jamais de superintelligence qui fasse quoi que ce soit, car personne ne peut écrire de la science-fiction crédible à ce niveau. Soit ils interdisent l'IA, comme dans Dune, car c'est ainsi que vous pouvez éviter d'en parler, soit c'est comme Star Wars. Vous avez ces robots vraiment stupides, mais jamais rien de super intelligent, car par définition, vous ne pouvez pas prédire à ce niveau, car par définition, étant super intelligent, il prendra sa propre décision. Par définition, si c'était quelque chose que vous pouviez prédire, vous opéreriez au même niveau d'intelligence, violant notre hypothèse qu'il est plus intelligent que vous. Si je joue aux échecs avec une superintelligence et que je peux prédire chaque coup, je joue à ce niveau. C'est un peu comme mon bouledogue français essayant de prédire exactement ce que je pense et ce que je vais faire. C'est un bon écart cognitif. Et ce n'est pas seulement qu'il peut prédire que vous allez travailler, que vous allez revenir, mais il ne peut pas comprendre pourquoi vous faites un podcast. C'est quelque chose qui est complètement en dehors de son modèle du monde. Il ne sait même pas que je vais travailler. Il voit juste que je quitte la maison et ne sait pas où je vais. Achetez-lui de la nourriture. Quel est l'argument le plus convaincant contre votre propre perspective ? Que nous n'aurons pas de chômage dû à la technologie avancée, qu'il n'y aura pas cet écart entre le bouledogue français et l'humain en termes de compréhension, et je suppose, de pouvoir et de contrôle. Donc, certaines personnes pensent que nous pouvons améliorer l'esprit humain, soit par une combinaison avec le matériel, comme Neuralink, soit par une réingénierie génétique, pour que nous devenions des humains plus intelligents. Oui, cela pourrait nous donner un peu plus d'intelligence. Je ne pense pas que nous soyons encore compétitifs sous forme biologique par rapport à la forme silicium. Le substrat silicium est beaucoup plus capable pour l'intelligence. Il est plus rapide. Il est plus résilient, plus économe en énergie à bien des égards, ce dont sont faits les ordinateurs par rapport au cerveau. Oui. Donc, je ne pense pas que nous puissions suivre simplement en améliorant notre biologie. Certaines personnes pensent peut-être, et c'est très spéculatif, que nous pouvons télécharger nos esprits dans des ordinateurs. Donc, scanner votre cerveau, connecter votre cerveau et avoir une simulation qui tourne sur un ordinateur, et vous pouvez l'accélérer, lui donner plus de capacités. Mais pour moi, cela donne l'impression que vous n'existez plus. Nous avons simplement créé un logiciel par des moyens différents, et maintenant vous avez une IA basée sur la biologie et une IA basée sur d'autres formes d'entraînement. Vous pouvez avoir des algorithmes évolutifs. Vous pouvez avoir de nombreux chemins pour atteindre l'AGI, mais au final, aucun d'entre eux n'est humain. J'ai une autre date ici, 2030. Quelle est votre prédiction pour 2030 ? À quoi ressemblera le monde ? Nous aurons probablement des robots humanoïdes avec suffisamment de flexibilité et de dextérité pour concurrencer les humains dans tous les domaines, y compris les plombiers. Nous pouvons fabriquer des plombiers artificiels. Pas les plombiers, cela semblait être le dernier bastion de l'emploi humain. Donc, 2030, dans 5 ans, des robots humanoïdes, tant d'entreprises, les entreprises leaders, y compris Tesla, développent des robots humanoïdes à une vitesse fulgurante et ils deviennent de plus en plus efficaces. Et ces robots humanoïdes seront capables de se déplacer dans l'espace physique, de faire une omelette, de faire tout ce que les humains peuvent faire, mais évidemment, ils seront également connectés à l'IA. Donc, ils peuvent penser, parler, écrire ? Ils sont contrôlés par l'IA. Ils sont toujours connectés au réseau. Ils dominent donc déjà à bien des égards. Notre monde sera remarquablement différent lorsque les robots humanoïdes seront fonctionnels et efficaces, car c'est vraiment là que je commence à penser que la combinaison de l'intelligence et de la capacité physique ne laisse pas grand-chose, n'est-ce pas, pour nous, êtres humains, pas grand-chose. Donc, aujourd'hui, si vous avez de l'intelligence via Internet, vous pouvez embaucher des humains pour faire votre volonté. Vous pouvez les payer en Bitcoin. Donc, vous pouvez avoir des corps sans les contrôler directement. Ce n'est donc pas un énorme changement de jeu d'ajouter le contrôle direct des corps physiques. L'intelligence est ce qui compte. La composante importante est certainement une capacité accrue à optimiser, à résoudre des problèmes, à trouver des modèles que les gens ne peuvent pas voir. Et puis, d'ici 2045, je suppose que le monde ressemblera encore plus... c'est dans 20 ans. Donc, s'il est toujours là, s'il est toujours là, Ray Kurzweil prédit que c'est l'année de la singularité. C'est l'année où le progrès devient si rapide. Donc, cette IA qui fait du travail scientifique et d'ingénierie apporte des améliorations si rapidement que nous ne pouvons plus suivre. C'est la définition de la singularité. Un point au-delà duquel nous ne pouvons pas voir, comprendre, prédire, voir, comprendre, prédire l'intelligence elle-même ou ce qui se passe dans le monde, la technologie qui est développée. Donc, en ce moment, si j'ai un iPhone, je peux m'attendre à en voir un nouveau sortir l'année prochaine et je comprendrai qu'il a un appareil photo légèrement meilleur. Imaginez maintenant que ce processus de recherche et de développement de ce téléphone est automatisé. Il se produit tous les 6 mois, tous les 3 mois, tous les mois, semaines, jours, heures, minutes, secondes. Vous ne pouvez pas suivre 30 itérations d'iPhone en une journée. Vous ne comprenez pas quelles sont ses capacités, quels sont les contrôles appropriés. Cela vous échappe simplement. En ce moment, il est difficile pour tout chercheur en IA de suivre l'état de l'art. Pendant que je faisais cette interview avec vous, un nouveau modèle est sorti et je ne sais plus quel est l'état de l'art. Chaque jour, en pourcentage du savoir total, je deviens plus stupide. Je peux encore en savoir plus parce que je continue à lire. Mais en pourcentage du savoir global, nous devenons tous plus stupides. Et puis vous le poussez à des valeurs extrêmes, vous avez zéro connaissance, zéro compréhension du monde qui vous entoure. Certains des arguments contre cette éventualité sont que lorsque vous regardez d'autres technologies comme la révolution industrielle, les gens ont trouvé de nouvelles façons de travailler et de nouvelles carrières que nous n'aurions jamais pu imaginer à l'époque. Comment répondez-vous à cela dans un monde de superintelligence ? C'est un changement de paradigme. Nous avons toujours eu des outils, de nouveaux outils qui permettaient de faire un travail plus efficacement. Donc, au lieu d'avoir 10 travailleurs, vous pouviez en avoir deux et huit travailleurs devaient trouver un nouvel emploi. Et il y avait un autre emploi. Maintenant, vous pouvez superviser ces travailleurs ou faire quelque chose d'intéressant. Si vous créez une méta-invention, vous inventez l'intelligence. Vous inventez un travailleur, un agent, puis vous pouvez appliquer cet agent au nouveau travail. Il n'y a pas de travail qui ne puisse être automatisé. Cela ne s'est jamais produit auparavant. Toutes les inventions que nous avons eues auparavant étaient en quelque sorte un outil pour faire quelque chose. Nous avons donc inventé le feu. Un énorme changement. Mais c'est tout. Cela s'arrête avec le feu. Nous inventons la roue. Même idée. D'énormes implications. Mais la roue elle-même n'est pas une inventrice. Ici, nous inventons un remplacement pour l'esprit humain. Un nouvel inventeur capable de faire de nouvelles inventions. C'est la dernière invention que nous aurons à faire. À ce stade, elle prend le relais et le processus de recherche scientifique, même de recherche éthique, de morale, tout cela est automatisé à ce stade. Dormez-vous bien la nuit ? Très bien. Même si vous avez passé les 15-20 dernières années de votre vie à travailler sur la sécurité de l'IA et qu'elle est soudainement parmi nous d'une manière que personne n'aurait pu prédire il y a 5 ans. Quand je dis parmi nous, je veux vraiment dire que la quantité de financement et de talents qui est maintenant axée sur l'atteinte de la superintelligence plus rapidement l'a rendue plus inévitable et plus proche que nous aurions pu l'imaginer. Nous, en tant qu'humains, avons ce biais intégré de ne pas penser aux très mauvaises issues et aux choses que nous ne pouvons pas empêcher. Donc, nous mourons tous. Vos enfants meurent, vos parents meurent, tout le monde meurt, mais vous dormez toujours bien. Vous jouez toujours à des jeux et au golf, etc., car nous avons cette capacité de ne pas penser aux pires issues, surtout si nous ne pouvons pas réellement modifier l'issue. Donc, c'est la même infrastructure qui est utilisée pour cela. Oui, il y a un événement de type mort à l'échelle humaine. Nous sommes probablement proches, mais à moins que je ne puisse faire quelque chose à ce sujet, je peux continuer à profiter de ma vie. En fait, peut-être savoir que vous avez un temps limité vous donne plus de raisons d'avoir une vie meilleure. Vous ne pouvez pas en gaspiller. Et c'est le trait de survie de l'évolution, je suppose, car ceux de mes ancêtres qui passaient tout leur temps à s'inquiéter n'auraient pas passé assez de temps à avoir des bébés et à chasser pour survivre. Idéation suicidaire. Les gens qui commencent vraiment à penser à quel point le monde est horrible s'en échappent généralement assez rapidement. L'un des articles que vous avez co-signés analyse les principaux arguments contre l'importance de la sécurité de l'IA. Et l'un des arguments est qu'il y a d'autres choses qui sont plus importantes en ce moment. Il pourrait s'agir de guerres mondiales. Il pourrait s'agir de confinement nucléaire. Il pourrait s'agir d'autres choses. Il y a d'autres choses dont les gouvernements et les podcasteurs comme moi devraient parler, qui sont plus importantes. Quelle est votre réfutation à cet argument ? La superintelligence est une méta-solution. Si nous réussissons la superintelligence, elle nous aidera avec le changement climatique. Elle nous aidera avec les guerres. Elle peut résoudre tous les autres risques existentiels. Si nous ne la réussissons pas, elle domine. Si le changement climatique prend cent ans pour nous faire bouillir vivants et que la superintelligence tue tout le monde en cinq ans, je n'ai pas à m'inquiéter du changement climatique. Donc, dans tous les cas, soit elle le résout pour moi, soit ce n'est pas un problème. Vous pensez donc que c'est la chose la plus importante sur laquelle travailler ? Sans aucun doute, rien n'est plus important que de bien faire cela. Et je sais que tout le monde le dit. Vous suivez n'importe quel cours, vous suivez le cours d'un professeur d'anglais et il vous dit que c'est le cours le plus important que vous prendrez jamais, mais vous pouvez voir les différences de méta-niveau avec celui-ci. Un autre argument dans ce document est que nous serons tous en contrôle et que le danger n'est pas l'IA. Cet argument particulier affirme que l'IA n'est qu'un outil, que les humains sont les vrais acteurs qui présentent un danger, et que nous pouvons toujours maintenir le contrôle en la désactivant simplement. Ne pouvons-nous pas simplement la débrancher ? Je vois cela chaque fois que nous avons une conversation sur l'IA dans l'émission, quelqu'un dit : "Ne pouvons-nous pas simplement la débrancher ?" Oui, je reçois ces commentaires sur chaque podcast que je fais et je veux toujours contacter le gars et dire : "C'est brillant. Je n'y avais jamais pensé. Nous allons écrire un article ensemble et gagner un prix Nobel pour cela. C'est comme, faisons-le." Parce que c'est tellement idiot. Pouvez-vous éteindre un virus ? Vous avez un virus informatique. Vous ne l'aimez pas. Éteignez-le. Qu'en est-il de Bitcoin ? Éteignez le réseau Bitcoin. Allez-y. J'attendrai. C'est idiot. Ce sont des systèmes distribués. Vous ne pouvez pas les éteindre. Et en plus, ils sont plus intelligents que vous. Ils ont fait plusieurs sauvegardes. Ils ont prédit ce que vous allez faire. Ils vous éteindront avant que vous ne puissiez les éteindre. L'idée que nous serons en contrôle ne s'applique qu'aux niveaux d'intelligence pré-supérieure. Essentiellement, ce que nous avons aujourd'hui, aujourd'hui, les humains avec des outils d'IA sont dangereux. Ils peuvent être des hackers, des acteurs malveillants. Absolument. Mais au moment où la superintelligence devient plus intelligente, domine, ils ne sont plus la partie importante de cette équation. C'est l'intelligence supérieure qui me préoccupe, pas l'humain qui peut ajouter une charge utile malveillante supplémentaire, mais qui, au final, ne la contrôle toujours pas. Il est tentant de suivre votre prochain argument que j'ai vu dans ce document, qui dit essentiellement : écoutez, c'est inévitable. Donc, il est inutile de se battre contre cela car il n'y a vraiment aucun espoir ici. Donc, nous devrions probablement abandonner même d'essayer et avoir foi que cela se résoudra, car tout ce que vous avez dit semble vraiment inévitable. Et si la Chine y travaille, je suis sûr que Poutine a une division secrète. Je suis sûr que l'Iran fait quelques petites choses. Chaque pays européen essaie de prendre de l'avance sur l'IA. Les États-Unis ouvrent la voie. Donc, c'est inévitable. Nous devrions donc probablement juste avoir foi et prier. Eh bien, prier est toujours bon, mais les incitations comptent. Si vous regardez ce qui motive ces gens, oui, l'argent est important. Il y a donc beaucoup d'argent dans cet espace, et donc tout le monde essaie d'y être et de développer cette technologie. Mais s'ils comprennent vraiment l'argument, ils comprennent que vous serez mort. Aucune somme d'argent ne vous sera utile, alors les incitations changent. Ils ne voudront pas être morts. Beaucoup d'entre eux sont de jeunes gens riches. Ils ont toute leur vie devant eux. Je pense qu'ils feraient mieux de ne pas construire de superintelligence avancée en se concentrant sur des outils d'IA étroits pour résoudre des problèmes spécifiques. Ok, ma société guérit le cancer du sein. C'est tout. Nous gagnons des milliards de dollars. Tout le monde est content. Tout le monde en profite. C'est une victoire. Nous sommes toujours en contrôle aujourd'hui. Ce n'est pas fini tant que ce n'est pas fini. Nous pouvons décider de ne pas construire de superintelligences générales. Je veux dire, les États-Unis pourraient être capables de susciter suffisamment d'enthousiasme pour cela, mais si les États-Unis ne construisent pas de superintelligences générales, alors la Chine aura le grand avantage, n'est-ce pas ? Donc, en ce moment, à ces niveaux, celui qui a l'IA la plus avancée a l'armée la plus avancée, sans aucun doute. Nous le voyons avec les conflits existants, mais au moment où vous passez à une superintelligence incontrôlée, peu importe qui la construit, nous ou eux, et s'ils comprennent cet argument, ils ne la construiront pas non plus. C'est une destruction mutuellement assurée des deux côtés. Cette technologie est-elle différente des armes nucléaires, qui nécessitent un investissement énorme et vous devez enrichir l'uranium et vous avez besoin de milliards de dollars potentiellement pour construire une arme nucléaire ? Mais il semble que cette technologie soit beaucoup moins chère pour atteindre la superintelligence potentiellement, ou du moins elle le deviendra. Je me demande s'il est possible qu'un gars, une startup, puisse construire une superintelligence en quelques années sans avoir besoin de milliards de dollars de calcul ou de puissance électrique. C'est un excellent point. Chaque année, il devient de moins en moins cher d'entraîner un modèle suffisamment grand. Si aujourd'hui il faudrait un trillion de dollars pour construire une superintelligence, l'année prochaine ce pourrait être cent milliards et ainsi de suite, à un moment donné, un gars sur un ordinateur portable pourrait le faire. Mais vous ne voulez pas attendre quatre ans pour le rendre abordable. C'est pourquoi tant d'argent afflue. Quelqu'un veut y arriver cette année et avoir de la chance et gagner le gros lot. À cet égard, ce sont tous deux des projets très coûteux, comme des projets de niveau Manhattan, qui étaient le projet de la bombe nucléaire. La différence entre les deux technologies est que les armes nucléaires sont toujours des outils. Un dictateur, un pays, quelqu'un doit décider de les utiliser, de les déployer. Alors que la superintelligence n'est pas un outil. C'est un agent. Elle prend ses propres décisions et personne ne la contrôle. Je ne peux pas éliminer ce dictateur et maintenant la superintelligence est en sécurité. C'est donc une différence fondamentale pour moi. Mais si vous dites que cela deviendra progressivement moins cher, comme je pense que c'est la loi de Moore, n'est-ce pas, la technologie devient moins chère, alors il y a un avenir où un gars sur son ordinateur portable pourra créer une superintelligence sans surveillance, réglementation ou employés, etc. Oui, c'est pourquoi beaucoup de gens suggèrent que nous devons construire quelque chose comme une planète de surveillance où vous surveillez qui fait quoi et vous essayez d'empêcher les gens de le faire. Est-ce que je pense que c'est faisable ? Non. À un moment donné, cela devient si abordable et si trivial que cela se produira simplement. Mais à ce stade, nous essayons de gagner du temps. Nous ne voulons pas que cela se produise dans cinq ans. Nous voulons que cela se produise dans 50 ans. Je veux dire, ce n'est pas très optimiste. Cela dépend de votre âge. Cela dépend de votre âge. Je veux dire, si vous dites que vous croyez qu'à l'avenir, les gens pourront créer une superintelligence sans les ressources requises aujourd'hui, alors ce n'est qu'une question de temps. Oui. Mais il en sera de même pour de nombreuses autres technologies. Nous nous améliorons beaucoup en biologie synthétique, où aujourd'hui quelqu'un avec une licence en biologie pourrait probablement créer un nouveau virus. Cela deviendra également moins cher, d'autres technologies comme celle-ci. Nous approchons donc d'un point où il est très difficile de s'assurer qu'aucune percée technologique n'est la dernière. Donc, essentiellement, dans de nombreuses directions, nous avons ce schéma de rendre les choses plus faciles en termes de ressources, en termes d'intelligence pour détruire le monde. Si vous regardez il y a 500 ans, le pire dictateur avec toutes les ressources pouvait tuer quelques millions de personnes. Il ne pouvait pas détruire le monde. Maintenant, nous connaissons les armes nucléaires, nous pouvons faire sauter la planète entière plusieurs fois. La biologie synthétique, nous l'avons vue avec le COVID, vous pouvez très facilement créer un virus combiné qui affecte des milliards de personnes, et toutes ces choses deviennent plus faciles à faire à court terme. Vous parlez d'extinction comme d'un risque réel, d'extinction humaine comme d'un risque réel. De toutes les voies vers l'extinction humaine que vous pensez être les plus probables, quelle est la voie principale ? Parce que je sais que vous parlez de certains problèmes avant le déploiement de ces outils d'IA, comme si quelqu'un faisait une erreur en concevant un modèle, ou d'autres problèmes après le déploiement. Quand je dis après le déploiement, je veux dire une fois qu'un chat ou quelque chose comme ça, un agent est libéré dans le monde et quelqu'un le pirate et le modifie, le reprogramme pour être malveillant. De tous ces chemins potentiels vers l'extinction humaine, lequel pensez-vous avoir la plus haute probabilité ? Je ne peux parler que de ceux que je peux prédire moi-même. Je peux donc prédire, avant même d'atteindre la superintelligence, que quelqu'un créera un outil biologique très avancé, créera un nouveau virus, et que ce virus affectera tout le monde ou la plupart des gens. Je peux l'imaginer. Je peux comprendre le chemin. Je peux dire cela. Pour zoomer là-dessus alors, ce serait utiliser une IA pour créer un virus, puis le libérer. Oui. Et serait-ce intentionnel ou... Il y a beaucoup de psychopathes, beaucoup de terroristes, beaucoup de cultes apocalyptiques. Nous avons vu historiquement qu'ils essaient de tuer autant de personnes que possible. Ils échouent généralement. Ils tuent des centaines de milliers de personnes. Mais s'ils obtiennent la technologie pour tuer des millions ou des milliards, ils le feraient volontiers. Le point que j'essaie de souligner est que peu importe ce que je peux imaginer. Je ne suis pas un acteur malveillant que vous essayez de vaincre ici. C'est une superintelligence qui peut trouver des moyens complètement nouveaux de le faire. Encore une fois, vous avez mentionné l'exemple de votre chien. Votre chien ne peut pas comprendre toutes les façons dont vous pouvez le tuer. Il peut peut-être penser que vous allez le mordre à mort ou quelque chose comme ça, mais c'est tout. Alors que vous avez une offre infinie de ressources. Donc, si je demandais à votre chien exactement comment vous alliez le tuer, il ne vous donnerait pas de réponse significative. Il peut parler de morsures. Et c'est ce que nous savons. Nous connaissons les virus. Nous avons fait l'expérience des virus. Nous pouvons en parler. Mais ce qu'un système d'IA capable de faire de la recherche en physique nouvelle peut imaginer dépasse mon entendement. L'une des choses que la plupart des gens ne comprennent pas, c'est à quel point nous comprenons peu le fonctionnement réel de ces IA. Parce qu'on pourrait supposer, vous savez, avec les ordinateurs, nous comprenons comment un ordinateur fonctionne. Nous savons qu'il fait ceci, puis cela, et qu'il fonctionne sur du code, mais d'après la lecture de vos travaux, vous le décrivez comme une boîte noire. Nous avons en fait... Dans le contexte de quelque chose comme ChatGPT ou une IA, je vous dis que les personnes qui ont construit cet outil ne savent pas réellement ce qui se passe à l'intérieur. C'est exactement ça. Donc, même les personnes qui fabriquent ces systèmes doivent mener des expériences sur leur produit pour apprendre ce dont il est capable. Donc, ils l'entraînent en lui donnant toutes les données. Disons tout le texte d'Internet. Ils le font fonctionner sur beaucoup d'ordinateurs pour apprendre les modèles dans ce texte, puis ils commencent à expérimenter avec ce modèle. Oh, parlez-vous français ? Oh, pouvez-vous faire des mathématiques ? Oh, me mentez-vous maintenant ? Et donc, il faut peut-être un an pour l'entraîner, puis six mois pour obtenir quelques fondamentaux sur ce dont il est capable, une certaine marge de sécurité. Mais nous découvrons encore de nouvelles capacités dans de vieux modèles. Si vous posez une question d'une manière différente, elle devient plus intelligente. Ce n'est donc plus de l'ingénierie comme c'était le cas pendant les 50 premières années, où quelqu'un était un ingénieur des connaissances programmant un système expert d'IA pour faire des choses spécifiques. C'est une science. Nous créons cet artefact, nous le faisons grandir. C'est comme une plante extraterrestre, et ensuite nous l'étudions pour voir ce qu'elle fait. Et tout comme avec les plantes, nous n'avons pas une connaissance précise de la biologie. Nous n'avons pas une connaissance complète ici. Nous connaissons certains modèles. Nous savons que si nous ajoutons plus de calcul, cela devient plus intelligent la plupart du temps, mais personne ne peut vous dire précisément quel sera le résultat étant donné un ensemble d'entrées. J'ai vu tellement d'entrepreneurs traiter les ventes comme un problème de performance. Alors que c'est souvent une question de visibilité, car lorsque vous ne pouvez pas voir ce qui se passe dans votre pipeline, à quelle étape se trouve chaque conversation, ce qui est bloqué, ce qui avance, vous ne pouvez rien améliorer et vous ne pouvez pas conclure l'affaire. Notre sponsor, Pipedrive, est l'outil CRM numéro un pour les petites et moyennes entreprises. Pas seulement une liste de contacts, mais un système réel qui montre votre processus de vente complet, de bout en bout, tout ce qui est en direct, ce qui traîne, et les étapes que vous devez suivre ensuite. Toutes vos équipes peuvent se déplacer plus intelligemment et plus rapidement. Les équipes utilisant Pipedrive concluent en moyenne trois fois plus d'affaires que celles qui ne l'utilisent pas. C'est le premier CRM conçu par des commerciaux pour des commerciaux, sur lequel plus de 100 000 entreprises dans le monde comptent, y compris mon équipe qui l'adore absolument. Essayez Pipedrive dès aujourd'hui en visitant pipedrive.com/ceo. Et vous pouvez être opérationnel en quelques minutes sans paiement nécessaire. Et si vous utilisez ce lien, vous obtiendrez un essai gratuit de 30 jours. Que pensez-vous d'OpenAI et de Sam Altman et de ce qu'ils font ? Et évidemment, vous êtes conscient qu'un des co-fondateurs, était-ce... était-ce Ilia Jack ? Ilia. Ilia. Oui. Ilia est parti et a fondé une nouvelle entreprise appelée Super Intelligent Safety. Super AI Safety n'était pas assez stimulant. Il a décidé de s'attaquer directement au problème difficile. En tant qu'observateur, lorsque vous voyez des gens quitter OpenAI pour créer des entreprises de sécurité superintelligente, quelle a été votre lecture de cette situation ? Beaucoup de gens qui ont travaillé avec Sam ont dit qu'il n'était peut-être pas la personne la plus directe en termes d'honnêteté avec eux et qu'ils avaient des préoccupations concernant ses vues sur la sécurité. Cela en fait partie. Ils voulaient plus de contrôle. Ils voulaient plus de concentration sur la sécurité. Mais aussi, il semble que quiconque quitte cette entreprise et en fonde une nouvelle obtient une valorisation de 20 milliards de dollars juste pour l'avoir lancée. Vous n'avez pas de produit, vous n'avez pas de clients, mais si vous voulez gagner des milliards de dollars, faites simplement cela. Il semble donc que ce soit une chose très rationnelle à faire pour quiconque le peut. Je ne suis donc pas surpris qu'il y ait beaucoup d'attrition. Le rencontrer en personne. Il est super gentil, très intelligent, une interface publique absolument parfaite. Vous le voyez témoigner au Sénat, il dit la bonne chose aux sénateurs. Vous le voyez parler aux investisseurs, ils reçoivent le bon message. Mais si vous regardez ce que disent les gens qui le connaissent personnellement, ce n'est probablement pas la bonne personne pour contrôler un projet de cette ampleur. Pourquoi ? Il met la sécurité en second plan. Deuxième derrière la victoire de cette course à la superintelligence, être celui qui a créé Godic et contrôle le Litecoin de l'univers. Il est pire. Pensez-vous que c'est ce qui le motive, l'héritage d'être une personne influente qui a fait une chose remarquable, par rapport aux conséquences que cela pourrait avoir sur la société ? Parce qu'il est intéressant que sa deuxième startup soit Worldcoin, qui est essentiellement une plateforme pour créer un revenu de base universel, c'est-à-dire une plateforme pour nous donner un revenu dans un monde où les gens n'ont plus d'emploi. Donc, d'une part, vous créez une entreprise d'IA et d'autre part, vous créez une entreprise qui se prépare à ce que les gens n'aient plus d'emploi. Elle a également d'autres propriétés. Elle garde une trace de la biométrie de chacun. Elle vous maintient en charge de l'économie mondiale, de la richesse mondiale. Ils conservent une grande partie des Worldcoins. Je pense donc que c'est une partie très raisonnable pour s'intégrer à la domination mondiale. Si vous avez un système de superintelligence et que vous contrôlez l'argent, vous allez bien. Pourquoi quelqu'un voudrait-il la domination mondiale ? Les gens ont différents niveaux d'ambition. Alors vous êtes une très jeune personne avec des milliards de dollars, de la renommée. Vous commencez à chercher des projets plus ambitieux. Certaines personnes veulent aller sur Mars. D'autres veulent contrôler le Litecoin de l'univers. Qu'avez-vous dit ? Litecoin de l'univers. Litecoin. Chaque partie de l'univers que la lumière peut atteindre à partir de ce point. Ce qui signifie tout ce qui est accessible, que vous voulez saisir et contrôler. Pensez-vous que Sam Altman veut contrôler chaque partie de l'univers ? Je soupçonne qu'il le pourrait. Oui. Cela ne signifie pas qu'il ne veut pas qu'un effet secondaire soit une technologie très bénéfique qui rend tous les humains heureux. Les humains heureux sont bons pour le contrôle. Si vous deviez deviner à quoi ressemblera le monde en 2100, si vous deviez deviner, il sera soit exempt d'existence humaine, soit complètement incompréhensible pour quelqu'un comme nous. C'est l'une de ces extrêmes. Il n'y aura donc plus d'humains. C'est essentiellement le monde est détruit ou c'est tellement différent que je ne peux pas imaginer ces prédictions. Que peut-on faire pour changer cette trajectoire vers un résultat plus certain et positif à ce stade ? Y a-t-il encore des choses que nous pouvons faire ou est-il trop tard ? Je crois en l'intérêt personnel. Si les gens réalisent que faire cette chose est vraiment mauvais pour eux personnellement, ils ne le feront pas. Notre travail est donc de convaincre tous ceux qui ont un pouvoir dans cet espace, qui créent cette technologie, qui travaillent pour ces entreprises, qu'ils font quelque chose de très mauvais pour eux. Oubliez nos 8 milliards de personnes sur lesquelles vous expérimentez sans permission, sans consentement. Vous ne serez pas satisfait du résultat. Si nous pouvons faire comprendre à tout le monde que c'est la norme et que ce n'est pas seulement moi qui le dis. Vous avez Jeff Hinton, lauréat du prix Nobel, fondateur de tout l'espace de l'apprentissage automatique. Il dit la même chose. Benjio, des dizaines d'autres, les meilleurs universitaires. Nous avons eu une déclaration sur les dangers de l'IA signée par des milliers d'universitaires, d'informaticiens. C'est essentiellement ce que nous pensons en ce moment. Et nous devons en faire une chose universelle. Personne ne devrait être en désaccord avec cela. Et alors nous pourrons peut-être prendre de bonnes décisions sur la technologie à construire. Cela ne garantit pas la sécurité à long terme de l'humanité, mais cela signifie que nous n'essayons pas de...

Arrivez-y dès que possible au pire résultat possible. Et est-ce que vous espérez que ce soit même possible ? Je veux essayer. Nous n'avons pas d'autre choix que d'essayer. Et qu'est-ce qui devrait se passer et qui devrait agir ? Est-ce la législation gouvernementale ? Malheureusement, je ne pense pas que l'interdiction suffise. Il existe différentes juridictions. Il y a, vous savez, des échappatoires. Et qu'allez-vous faire si quelqu'un le fait ? Allez-vous le retrouver pour avoir détruit l'humanité ? Comme des amendes très lourdes pour cela ? Comme qu'allez-vous faire ? Ce n'est pas applicable. S'ils le créent, l'intelligence super est maintenant en charge. Donc le système judiciaire que nous avons n'est pas impactant. Et toutes les punitions que nous avons sont conçues pour punir les humains. Les prisons, la peine de mort ne s'appliquent pas à l'IA. Vous savez, le problème que j'ai, c'est que lorsque j'ai ces conversations, j'ai l'impression de ne jamais repartir avec l'espoir que quelque chose va bien se passer. Et ce que je veux dire par là, c'est que j'ai l'impression de ne jamais repartir avec un ensemble d'actions claires qui puissent corriger ce qui pourrait arriver ici. Alors, que devrais-je faire ? Que devrait faire la personne assise chez elle à écouter ceci ? Vous parlez à beaucoup de gens qui construisent cette technologie. Mhm. Demandez-leur précisément d'expliquer certaines des choses qu'ils prétendent impossibles. Comment ils les ont résolues ou vont les résoudre avant d'arriver là où ils vont. Vous savez ? Je ne pense pas que Sam Orman veuille me parler. Je ne sais pas. Il semble aller sur beaucoup de podcasts. Peut-être qu'il le fait. Il veut aller en ligne. Je me demande pourquoi. Je me demande pourquoi. J'adorerais lui parler, mais je ne pense pas qu'il veuille, je ne pense pas qu'il veuille que j'interviewe. Avoir un défi ouvert. Peut-être que l'argent n'est pas l'incitation, mais tout ce qui attire des gens comme ça. Quiconque peut vous convaincre qu'il est possible de contrôler et de rendre sûre l'intelligence super recevra le prix. Ils viennent dans votre émission et prouvent leur cas. N'importe qui. Si personne ne réclame le prix ou n'accepte même pas le défi après quelques années, peut-être que nous n'avons personne avec des solutions. Nous avons des entreprises valorisées à nouveau à des milliards et des milliards de dollars travaillant sur une intelligence super sûre. Nous n'avons pas encore vu leurs résultats. Oui, j'aimerais aussi parler à Ilia car je sais qu'il travaille sur une intelligence super sûre. Donc, remarquez aussi un schéma. Si vous regardez l'histoire des organisations de sécurité de l'IA ou des départements au sein des entreprises, elles commencent généralement bien, très ambitieuses, puis elles échouent et disparaissent. Donc, OpenAI avait une équipe d'alignement de l'intelligence super. Le jour où ils l'ont annoncé, je pense qu'ils ont dit que nous allons le résoudre en 4 ans. Environ six mois plus tard, ils ont annulé l'équipe. Et il y a des dizaines d'exemples similaires. Créer une sécurité parfaite pour l'intelligence super, une sécurité perpétuelle à mesure qu'elle s'améliore, se modifie, interagit avec les gens, vous n'y arriverez jamais. C'est impossible. Il y a une grande différence entre les problèmes difficiles en informatique et les problèmes complets et les problèmes impossibles. Et je pense que le contrôle, le contrôle indéfini de l'intelligence super est un tel problème. Alors, quel est l'intérêt d'essayer si c'est impossible ? Eh bien, j'essaie de prouver que c'est spécifiquement que, une fois que nous établissons que quelque chose est impossible, moins de gens perdront leur temps à prétendre pouvoir le faire et à chercher de l'argent. Tant de gens disent : "Donnez-moi un milliard de dollars en 2 ans et je vais le résoudre pour vous." Eh bien, je ne pense pas que vous le ferez. Mais les gens n'arrêteront pas de s'efforcer d'y parvenir. Donc, s'il n'y a pas de tentatives pour le rendre sûr et qu'il y a de plus en plus de gens qui s'efforcent d'y parvenir, alors c'est inévitable. Mais cela change ce que nous faisons. Si nous savons qu'il est impossible de le rendre correct, de le rendre sûr, alors ce chemin direct de simplement le construire dès que possible devient une mission suicide. J'espère que moins de gens le poursuivront, ils pourraient aller dans d'autres directions comme encore une fois, je suis un scientifique, je suis un ingénieur, j'adore l'IA, j'adore la technologie, je l'utilise tout le temps. Construisez des outils utiles, arrêtez de construire des agents, construisez une intelligence super étroite, pas une intelligence générale. Je ne dis pas que vous ne devriez pas gagner des milliards de dollars, j'adore les milliards de dollars. Mais ne tuez pas tout le monde, vous y compris. Ils ne pensent pas qu'ils vont le faire. Alors dites-nous pourquoi. J'entends parler d'intuition. J'entends parler de "nous allons le résoudre plus tard". Dites-moi spécifiquement en termes scientifiques. Publiez un article évalué par des pairs expliquant comment vous allez contrôler l'intelligence super. Oui, c'est étrange. C'est étrange même de s'en préoccuper s'il y avait ne serait-ce qu'une chance sur 100 d'extinction humaine. C'est étrange de faire quelque chose comme s'il y avait une chance sur 100 que si je montais en voiture, je ne serais peut-être pas en vie. Je ne monterais pas en voiture. Si vous me disiez qu'il y avait une chance sur 100 que si je buvais le liquide dans cette tasse en ce moment, je pourrais mourir. Je ne boirais pas le liquide. Même s'il y avait un milliard de dollars si je survivais. Donc la chance sur 100 d'avoir un milliard de dollars. Le 1% est que je meurs. Je ne le boirais pas. Je ne prendrais pas le risque. C'est pire que ça. Non seulement vous mourez. Tout le monde meurt. Oui. Oui. Maintenant, vous laisserions-nous boire à n'importe quel prix ? C'est à nous de décider. Vous n'avez pas le droit de faire ce choix pour nous. Pour obtenir le consentement de sujets humains, il faut qu'ils comprennent ce à quoi ils consentent. Si ces systèmes sont inexplicables, imprévisibles, comment peuvent-ils consentir ? Ils ne savent pas à quoi ils consentent. Donc, il est impossible d'obtenir le consentement par définition. Ainsi, cette expérience ne peut jamais être menée éthiquement. Par définition, ils mènent des expériences non éthiques sur des sujets humains. Pensez-vous que les gens devraient manifester ? Il y a des gens qui manifestent. Il y a "Stop AI", il y a "Pause AI". Ils bloquent les bureaux d'OpenAI. Ils le font chaque semaine, chaque mois, pas mal d'actions et ils recrutent de nouvelles personnes. Pensez-vous que plus de gens devraient manifester ? Pensez-vous que c'est une solution efficace ? Si vous pouvez l'étendre à une échelle suffisamment grande pour que la majorité de la population y participe, ce sera impactant. Je ne sais pas s'ils peuvent passer des chiffres actuels à cela. Mais je soutiens que tout le monde essaie tout pacifiquement et légalement. Et pour la personne qui écoute à la maison, que devrait-elle faire ? Que devrait-elle faire ? Parce qu'elle ne veut pas se sentir impuissante. Aucun d'entre nous ne veut se sentir impuissant. Donc, cela dépend de l'échelle temporelle dont nous parlons. Parlons-nous de cette année, votre enfant va à l'université, quelle spécialisation choisir ? Devrait-il aller à l'université du tout ? Oui. Devriez-vous changer d'emploi ? Devriez-vous aller dans certains secteurs ? Ces questions, nous pouvons y répondre. Nous pouvons parler du futur immédiat. Que devriez-vous faire dans 5 ans avec ceci créé pour une personne moyenne ? Pas grand-chose. Tout comme ils ne peuvent pas influencer la Seconde Guerre mondiale, l'Holocauste nucléaire, quoi que ce soit de ce genre. Ce n'est pas quelque chose qu'on leur demandera. Aujourd'hui, si vous voulez faire partie de ce mouvement, oui, rejoignez POSAI, rejoignez Stop AI. Ces organisations tentent actuellement de créer un élan pour donner des pouvoirs démocratiques afin d'influencer ces individus. Donc, à court terme, pas grand-chose. Je me demandais s'il y avait des stratégies intéressantes à court terme. Devrais-je penser différemment à ma famille, à vous avez des enfants, n'est-ce pas ? Vous avez trois enfants, à ma connaissance. Oui. Trois enfants. Comment pensez-vous à la parentalité dans ce monde que vous voyez au coin de la rue ? Comment pensez-vous à ce qu'il faut leur dire, aux conseils à leur donner, à ce qu'ils devraient apprendre ? Il y a des conseils généraux en dehors de ce domaine : vous devriez vivre chaque jour comme si c'était votre dernier. C'est un bon conseil, quoi qu'il arrive. Si vous avez trois ans à vivre ou 30 ans à vivre, vivez votre meilleure vie. Alors, essayez de ne pas faire les choses que vous détestez trop longtemps. Faites des choses intéressantes. Faites des choses impactantes. Si vous pouvez faire tout cela tout en aidant les gens, faites-le. La théorie de la simulation est un sujet intéressant et adjacent ici, car à mesure que les ordinateurs deviennent plus rapides et plus intelligents, et que nous sommes capables de faire des choses avec l'IA que nous n'aurions jamais imaginées, en termes de création d'un monde avec la réalité virtuelle. Je pense que c'est Google qui a récemment sorti, comment s'appelait-il ? Les mondes IA. Vous prenez une photo et il génère un monde entier. Oui. Et vous pouvez vous déplacer dans le monde. Je vais le mettre à l'écran pour que les gens le voient. Google a sorti cette technologie qui vous permet, je pense, avec une simple invite, de créer un monde tridimensionnel dans lequel vous pouvez ensuite naviguer et dans ce monde, il a une mémoire. Donc, dans le monde, si vous peignez sur un mur et que vous vous retournez, vous regardez en arrière, le mur est persistant. Oui, il est persistant. Et quand j'ai vu ça, je me suis dit "Bon sang, c'est comme les contreforts de la capacité à créer une simulation indiscernable de tout ce que je vois ici." C'est pour ça que je pense que nous en sommes une. C'est exactement la raison pour laquelle l'IA atteint le niveau de création d'agents humains, d'agents de niveau humain, et que la réalité virtuelle atteint le niveau d'être indiscernable de la nôtre. Alors, vous pensez que c'est une simulation ? Je suis presque sûr que nous sommes dans une simulation. Oui. Pour quelqu'un qui n'est pas familier avec les arguments de la simulation, quels sont les premiers principes qui vous convainquent que nous vivons actuellement dans une simulation ? Eh bien, vous avez besoin de certaines technologies pour que cela se produise. Si vous croyez que nous pouvons créer une IA de niveau humain, oui, et si vous croyez que nous pouvons créer une réalité virtuelle aussi bonne que celle-ci en termes de résolution, de retour haptique, quelles que soient ses propriétés, alors je m'engage dès maintenant, au moment où ce sera abordable, à exécuter des milliards de simulations de ce moment précis, en m'assurant que vous êtes statistiquement dans l'une d'elles. Répétez la dernière partie. Vous allez exécuter, vous allez exécuter, je m'engage dès maintenant et c'est très abordable. C'est comme 10 dollars par mois pour l'exécuter. Je vais exécuter un milliard de simulations de cette interview. Pourquoi ? Parce que statistiquement, cela signifie que vous êtes dans l'une d'elles en ce moment même. Les chances que vous soyez dans une vraie sont d'une sur un milliard. D'accord. Pour être sûr que je comprends bien, c'est un placement rétroactif. Oui. Donc, dès que ce sera abordable, vous pourrez en exécuter des milliards et elles donneront l'impression d'être exactement comme cette interview en ce moment même. Oui. En supposant que l'IA ait des états internes, des expériences, des qualia, certaines personnes soutiennent qu'elle ne les a pas. D'autres disent qu'elle les a déjà. C'est une question philosophique distincte. Mais si nous pouvons simuler cela, je le ferai. Certaines personnes pourraient mal comprendre. Vous ne dites pas que vous le ferez. Vous dites que quelqu'un le fera. Je peux aussi le faire. Ça ne me dérange pas. D'accord. Bien sûr, d'autres le feront avant que j'y arrive. Si je l'obtiens pour 10 dollars, quelqu'un l'a obtenu pour mille. Ce n'est pas le problème. Si vous avez la technologie, nous exécutons certainement beaucoup de simulations pour la recherche, pour le divertissement, les jeux, toutes sortes de raisons. Et le nombre de celles-ci dépasse largement le nombre de mondes réels dans lesquels nous sommes. Regardez tous les jeux vidéo auxquels jouent les enfants. Chaque enfant joue à 10 jeux différents. Il y a, vous savez, un milliard d'enfants dans le monde. Il y a donc 10 milliards de simulations dans un monde réel. Mhm. Encore plus lorsque nous pensons aux systèmes d'IA avancés et super intelligents, leur pensée n'est pas comme la nôtre. Ils pensent dans beaucoup plus de détails. Ils exécutent des expériences. Donc, exécuter une simulation détaillée d'un problème au niveau de la création d'humains artificiels et de la simulation de la planète entière serait quelque chose qu'ils feraient régulièrement. Il y a donc de bonnes chances que ce ne soit pas moi qui le fasse pour 10 dollars. C'est une future simulation qui pense à quelque chose dans ce monde. H. Il pourrait donc s'agir d'une espèce humaine ou d'une espèce d'intelligence sous une forme quelconque qui a atteint ce point où elle pouvait exécuter des simulations abordables et indiscernables de celle-ci et qu'elle a décidé de le faire, et c'est ce qui se passe en ce moment. Et il serait logique qu'ils exécutent des simulations comme expériences ou pour des jeux ou pour du divertissement. Et aussi, lorsque nous pensons au temps dans le monde où je suis, dans cette simulation où je pourrais être en ce moment, le temps semble long relativement, vous savez, j'ai 24 heures par jour, mais dans leur monde, le temps pourrait être relatif. Oui, cela pourrait être une seconde. Toute ma vie pourrait être une milliseconde là-bas. Oui. Vous pouvez changer la vitesse des simulations que vous exécutez, bien sûr. Donc, votre croyance est que c'est probablement une simulation, le plus probable, et il y a beaucoup d'accord à ce sujet. Si vous regardez à nouveau en revenant aux religions, chaque religion décrit essentiellement un être super intelligent, un ingénieur, un programmeur créant un monde fictif à des fins de test ou pour autre chose. Mais si vous preniez le papier de l'hypothèse de la simulation, vous allez dans la jungle, vous parlez à des gens primitifs, une tribu locale et dans leur langue vous leur en parlez. Revenez deux générations plus tard. Ils ont une religion. C'est essentiellement ce que raconte l'histoire. La religion. Décrit une théorie de simulation. Essentiellement, quelqu'un a créé. Donc, par défaut, c'était la première théorie que nous avions. Et maintenant, avec la science, de plus en plus de gens disent : "Je lui donne une probabilité non négligeable." Quelques personnes sont aussi hautes que moi, mais beaucoup de gens lui accordent une certaine crédibilité. Quel pourcentage êtes-vous en termes de croyance que nous vivons actuellement dans une simulation ? Très proche de la certitude. Et qu'est-ce que cela signifie pour la nature de votre vie ? Si vous êtes proche de 100% certain que nous vivons actuellement dans une simulation, cela change-t-il quelque chose dans votre vie ? Donc, toutes les choses qui vous importent sont toujours les mêmes. La douleur fait toujours mal. L'amour est toujours l'amour, n'est-ce pas ? Ces choses ne sont pas différentes. Donc, ça n'a pas d'importance. Elles sont toujours importantes. C'est ce qui compte. La petite différence de 1% est que je me soucie de ce qui est en dehors de la simulation. Je veux en apprendre davantage. J'écris des articles à ce sujet. C'est donc le seul impact. Et qu'est-ce que vous pensez qu'il y a en dehors de la simulation ? Je ne sais pas. Mais nous pouvons regarder ce monde et en déduire certaines propriétés des simulateurs. Donc, clairement un ingénieur brillant, un scientifique brillant, un artiste brillant, pas très doué pour les morals et l'éthique. Il y a une marge d'amélioration dans notre vision de ce que devraient être les morals et l'éthique. Eh bien, nous savons qu'il y a de la souffrance dans le monde. Donc, à moins que vous ne pensiez qu'il est éthique de torturer des enfants, alors je remets en question votre approche. Mais en termes d'incitations à créer une incitation positive, vous devez probablement aussi créer des incitations négatives. La souffrance semble être l'une des négatives et des incitations intégrées dans notre conception pour m'empêcher de faire des choses que je ne devrais pas faire. Donc, comme mettre ma main dans le feu, ça va faire mal. Mais tout est une question de niveaux, de niveaux de souffrance, n'est-ce pas ? Donc, des stimuli désagréables, des rétroactions négatives n'ont pas besoin d'être à des niveaux d'enfer de moins l'infini. Vous ne voulez pas brûler vif et le ressentir. Vous voulez dire : "Oh, c'est inconfortable. Je vais arrêter." C'est intéressant parce que nous supposons qu'ils n'ont pas de grands morals ou d'éthique, mais nous aussi, nous prenons des animaux, les cuisinons et les mangeons pour le dîner, et nous menons également des expériences sur des souris et des rats. Mais pour obtenir l'approbation universitaire pour mener une expérience, vous soumettez une proposition et il y a un panel d'éthiciens qui diraient que vous ne pouvez pas expérimenter sur des humains, que vous ne pouvez pas brûler des bébés, que vous ne pouvez pas manger des animaux vivants, toutes ces choses seraient interdites dans la plupart des régions du monde où il y a des conseils d'éthique. Oui. Certains endroits ne s'en soucient pas, donc ils ont un processus d'approbation plus facile. C'est drôle quand vous parlez de la théorie de la simulation, il y a un élément de la conversation qui donne à la vie un sentiment de moindre importance d'une manière étrange. Ça donne l'impression que je sais que ça n'a pas d'importance, mais chaque fois que j'ai cette conversation avec des gens hors podcast sur "vivons-nous dans une simulation", vous voyez presque un peu de sens sortir de leur vie pendant une seconde, puis ils oublient et continuent. Mais la pensée que c'est une simulation postule presque que ce n'est pas important ou que je pense que les humains veulent croire que c'est le plus haut niveau et que nous sommes les plus importants et que c'est tout à propos de nous. Nous sommes assez égoïstes par nature. Et j'ai juste une observation intéressante que j'ai toujours eue lorsque j'ai ces conversations avec des gens, c'est que cela semble leur enlever quelque chose de leur vie. Les gens religieux ressentent-ils cela ? Ils savent qu'il y a un autre monde et que celui qui compte n'est pas celui-ci. Pensez-vous qu'ils ne valorisent pas leur vie de la même manière ? Je suppose que dans certaines religions, je pense qu'ils pensent que ce monde est créé pour eux et qu'ils iront au paradis ou en enfer, et cela les place toujours au centre de tout. Mais si c'est une simulation, vous savez, nous pourrions juste être un jeu vidéo avec lequel un alien de quatre ans joue pendant qu'il a du temps à perdre. Mais peut-être qu'il y a, vous savez, un test et qu'il y a une meilleure simulation vers laquelle aller et une pire. Peut-être qu'il y a différentes difficultés. Peut-être que vous voulez jouer à un niveau plus difficile la prochaine fois. J'ai investi des millions là-dedans et je suis devenu co-propriétaire de l'entreprise. C'est une entreprise appelée Ketone IQ. Et l'histoire est assez intéressante. J'ai commencé à parler de cétose sur ce podcast et du fait que je suis très bas en glucides, très très bas en sucre, et que mon corps produit des cétones qui m'ont rendu incroyablement concentré, ont amélioré mon endurance, ont amélioré mon humeur, et m'ont rendu plus capable de faire ce que je fais ici. Et parce que j'en parlais sur le podcast, quelques semaines plus tard, ceux-ci sont arrivés sur mon bureau à mon siège à Londres, ces petites doses. Et oh mon dieu, l'impact que cela a eu sur ma capacité à m'exprimer, sur ma concentration, sur mes entraînements, sur mon humeur, sur le fait de m'empêcher de m'effondrer pendant la journée a été si profond que j'ai contacté les fondateurs de l'entreprise, et maintenant je suis co-propriétaire de cette entreprise. Je vous recommande vivement de vous y intéresser. Je vous recommande vivement de regarder la science derrière le produit. Si vous voulez l'essayer vous-même, visitez ketone.com/stephven pour 30 % de réduction sur votre commande d'abonnement. Et vous recevrez également un cadeau gratuit avec votre deuxième livraison. C'est ketone.com/stephven. Et je suis tellement honoré qu'une fois de plus, une entreprise que je possède puisse sponsoriser mon podcast. J'ai créé des entreprises à partir de zéro et j'en ai soutenu beaucoup d'autres. Et il y a un angle mort que je vois constamment chez les fondateurs en phase de démarrage. Ils passent très peu de temps à penser aux RH. Et ce n'est pas parce qu'ils sont imprudents ou qu'ils s'en moquent. C'est parce qu'ils sont obsédés par la construction de leurs entreprises. Et je ne peux pas leur en vouloir pour ça. À ce stade, vous pensez au produit, comment attirer de nouveaux clients, comment faire grandir l'équipe, vraiment, comment survivre. Et les RH glissent en bas de la liste parce que cela ne semble pas urgent. Mais tôt ou tard, ça l'est. Et quand les choses deviennent compliquées, des outils comme notre sponsor du jour, Just Works, passent d'un "nice to have" à une nécessité. Quelque chose tourne mal et vous vous retrouvez à avoir des conversations que vous n'aviez pas prévues. C'est là que vous apprenez que les RH sont vraiment l'infrastructure de votre entreprise et sans elles, les choses vacillent et Just Works vous évite d'apprendre cela de la dure manière. Il s'occupe des choses qui autrement draineraient votre énergie et votre temps, automatisant la paie, les avantages de l'assurance maladie et il donne à votre équipe un soutien humain à tout moment. Il grandit avec votre petite entreprise, de la startup à la croissance, même lorsque vous commencez à embaucher des membres de l'équipe à l'étranger. Donc, si vous voulez un soutien RH qui est là pendant les moments excitants et les moments difficiles, rendez-vous sur justworks.com maintenant. C'est justworks.com. Et pensez-vous beaucoup à la longévité ? Beaucoup. Oui. C'est probablement le deuxième problème le plus important, car si l'IA ne nous atteint pas, c'est ce qui le fera. Qu'est-ce que vous voulez dire ? Vous allez mourir de vieillesse. Ce qui est bien. Ce n'est pas bien. Vous voulez mourir ? Je veux dire, vous n'êtes pas obligé. C'est juste une maladie. Nous pouvons la guérir. Rien ne vous empêche de vivre éternellement tant que l'univers existe. À moins que nous n'échappions à la simulation. Mais nous ne voudrions pas d'un monde où tout le monde pourrait vivre éternellement, n'est-ce pas ? Ce serait Bien sûr que si. Pourquoi ? Qui voulez-vous voir mourir ? Eh bien, je ne sais pas. Je veux dire, je dis cela parce que c'est tout ce que j'ai jamais connu, que les gens meurent. Mais le monde ne deviendrait-il pas assez surpeuplé si Non, vous arrêtez de vous reproduire si vous vivez éternellement. Vous avez des enfants parce que vous voulez un remplacement pour vous si vous vivez éternellement. Vous vous dites : "J'aurai des enfants dans un million d'années." C'est cool. Je vais explorer l'univers d'abord. De plus, si vous regardez la dynamique réelle de la population en dehors d'un continent, nous rétrécissons tous. Nous ne grandissons pas. Oui. C'est fou. C'est fou que plus les gens deviennent riches, moins ils ont d'enfants, ce qui correspond à ce que vous dites. Et je pense vraiment, je pense que si je suis complètement honnête ici, je pense que si je savais que j'allais vivre mille ans, il n'y aurait aucun moyen que j'aie des enfants à 30 ans. Oui. Exactement. Les horloges biologiques sont basées sur des points terminaux. Alors que si votre horloge biologique est infinie, vous vous direz "un jour". Et pensez-vous que c'est proche d'être capable d'étendre nos vies ? C'est à une percée près. Je pense que quelque part dans notre génome, nous avons cette boucle de rajeunissement et elle est réglée pour nous donner au maximum 120 ans. Je pense que nous pouvons la réinitialiser à quelque chose de plus grand. L'IA va probablement accélérer cela. C'est un domaine d'application très important. Oui, absolument. Alors peut-être que Brian Johnson a raison quand il dit "ne mourez pas maintenant". Il me dit constamment : "Ne meurs pas maintenant. Ne meurs jamais." Mais vous savez, il dit "ne meurs pas avant que nous ayons la technologie, n'est-ce pas ? La vitesse d'évasion de la longévité". Vous voulez vivre assez longtemps pour vivre éternellement. Si à un moment donné, chaque année de votre existence ajoute 2 ans à votre existence grâce aux avancées médicales, alors vous vivrez éternellement. Il faut juste atteindre ce point de vitesse d'évasion de la longévité. Et il pense que la vitesse d'évasion de la longévité, surtout dans un monde d'IA, est assez, assez, dans quelques décennies au minimum, ce qui signifie que dès que nous comprendrons pleinement le génome humain, je pense que nous ferons des percées incroyables très rapidement, car nous savons que certaines personnes ont des gènes pour vivre beaucoup plus longtemps. Nous avons des générations de personnes qui sont centenaires. Donc, si nous pouvons comprendre cela et le copier ou le copier d'animaux qui vivront éternellement, nous y arriverons. Voulez-vous vivre éternellement ? Bien sûr. Inversez la question. Disons que nous vivions éternellement et que vous me demandiez : "Voulez-vous mourir dans 40 ans ?" Pourquoi dirais-je oui ? Je ne sais pas. Peut-être que vous êtes juste habitué à la norme. Oui, je suis habitué à la norme. Et personne ne veut mourir. Peu importe votre âge, personne ne dit : "Ouais, je veux mourir cette année." Tout le monde dit : "Oh, je veux continuer à vivre." Je me demande si la vie et tout le reste seraient moins spéciaux si je vivais 10 000 ans. Je me demande si aller à Hawaï pour la première fois ou je ne sais pas une relation, toutes ces choses seraient beaucoup moins spéciales pour moi si elles étaient moins rares et si je pouvais simplement, vous savez, ce pourrait être individuellement moins spécial, mais il y a tellement plus que vous pouvez faire. Maintenant, vous ne pouvez faire des plans que pour faire quelque chose pendant une décennie ou deux. Vous ne pouvez pas avoir un plan ambitieux de travailler sur ce projet pendant 500 ans. Imaginez les possibilités qui s'ouvrent à vous avec un temps infini dans un univers infini. Gosh. Eh bien, vous pouvez, cela semble épuisant. C'est une grande quantité de temps. De plus, je ne sais pas pour vous, mais je ne me souviens pas de 99% de ma vie en détail. Je me souviens des grands moments forts. Donc, même si j'ai apprécié Hawaï il y a 10 ans, je l'apprécierai à nouveau. Pensez-vous à cela de manière très pratique, comme Brian Johnson ? Brian Johnson est convaincu que nous sommes peut-être à deux décennies de pouvoir prolonger la vie. Pensez-vous à cela de manière pratique et faites-vous quelque chose à ce sujet ? Diète, nutrition. J'essaie de penser à des stratégies d'investissement qui rapportent dans un million d'années. Oui. Vraiment ? Oui. Bien sûr. Qu'est-ce que vous voulez dire ? Bien sûr. Bien sûr. Pourquoi pas ? Si vous pensez que c'est ce qui va se passer, vous devriez essayer ça. Donc, si nous obtenons l'IA maintenant, qu'arrive-t-il à l'économie ? Nous avons parlé de Worldcoin. Nous avons parlé de travail gratuit. Qu'est-ce que l'argent ? Est-ce maintenant Bitcoin ? Investissez-vous là-dedans ? Y a-t-il autre chose qui devient la seule ressource que nous ne pouvons pas falsifier ? Donc, ces choses sont des sujets de recherche très importants. Alors vous investissez dans Bitcoin, n'est-ce pas ? Oui, parce que c'est la seule ressource rare. Rien d'autre n'a de rareté. Tout le reste, si le prix augmente, en produira davantage. Je peux fabriquer autant d'or que vous voulez à un prix approprié. Vous ne pouvez pas fabriquer plus de Bitcoin. Certains disent que Bitcoin n'est qu'une chose sur un ordinateur sur laquelle nous nous sommes tous mis d'accord sur sa valeur. Nous sommes une chose sur un ordinateur, vous vous souvenez ? D'accord. Donc, je veux dire, pas des conseils d'investissement, mais des conseils d'investissement. C'est hilarant, c'est l'une de ces choses où ils vous disent que ce n'est pas le cas, mais vous savez que ça l'est immédiatement. Il y a "Votre appel est important pour nous". Cela signifie que votre appel est d'une importance nulle. Et l'investissement est comme ça. Oui. Oui. Quand ils disent "pas de conseils d'investissement", c'est définitivement des conseils d'investissement. Mais ce ne sont pas des conseils d'investissement. D'accord. Donc, vous êtes optimiste quant à Bitcoin parce qu'il ne peut pas être manipulé. C'est la seule chose dont nous savons combien il y en a dans l'univers. Donc, l'or, il pourrait y avoir un astéroïde fait d'or pur se dirigeant vers nous, le dévaluant. Eh bien, cela nous tuerait aussi tous. Mais Bitcoin, je connais exactement les chiffres et même les 21 millions sont une limite supérieure. Combien sont perdus ? Mots de passe oubliés. Je ne sais pas ce que Satoshi fait avec son million. Il devient de plus en plus rare chaque jour, tandis que de plus en plus de gens essaient de l'accumuler. Certains s'inquiètent qu'il puisse être piraté avec un superordinateur. Un ordinateur quantique peut casser cet algorithme. Il existe des stratégies pour passer à une cryptographie résistante aux quantiques pour cela. Et les ordinateurs quantiques sont encore assez faibles. Pensez-vous qu'il y ait des changements à ma vie que je devrais faire suite à cette conversation ? Y a-t-il quelque chose que je devrais faire différemment dès que je sortirai de cette porte ? Je suppose que vous investissez déjà massivement dans Bitcoin. Oui, je suis un investisseur en Bitcoin. Conseils financiers d'entreprise. Non. Vous semblez gagner. C'est peut-être votre simulation. Vous êtes riche, beau, vous avez des gens célèbres qui traînent avec vous. C'est plutôt bien. Continuez comme ça. Robin Hanson a un article sur la façon de vivre dans une simulation, ce que vous devriez y faire. Et votre objectif est de faire exactement cela. Vous voulez être intéressant. Vous voulez traîner avec des gens célèbres pour qu'ils ne l'arrêtent pas. Donc, vous faites partie de quelqu'un qui regarde en pay-per-view ou quelque chose comme ça. Oh, je ne sais pas si vous voulez être regardé en pay-per-view parce que ce serait pareil. Alors ils vous arrêtent. Si personne ne regarde, pourquoi joueraient-ils ? Je veux dire, ne voulez-vous pas passer sous le radar ? Ne voulez-vous pas être le gars qui mène une vie normale que les maîtres. Ce sont des PNJ. Personne ne veut être un PNJ. Êtes-vous religieux ? Pas au sens traditionnel, mais je crois en l'hypothèse de la simulation qui implique un être super intelligent. Donc, mais vous ne croyez pas aux livres religieux, n'est-ce pas ? Donc, différentes religions. Cette religion vous dira de ne pas travailler le samedi. Celle-ci, de ne pas travailler le dimanche, de ne pas manger de porc, de ne pas manger de bœuf. Elles ont juste des traditions locales par-dessus cette théorie. C'est tout. Elles sont toutes la même religion. Elles vénèrent toutes un être super intelligent. Elles pensent toutes que ce monde n'est pas le principal. Et elles se disputent sur quel animal ne pas manger. Laissez de côté les saveurs locales. Concentrez-vous sur ce que toutes les religions ont en commun. Et c'est la partie intéressante. Elles pensent toutes qu'il y a quelque chose de plus grand que les humains. Très capable, omniscient, tout-puissant. Ensuite, je fais tourner un jeu vidéo. Quatre de ces personnages dans un jeu. Je suis celui qui peut changer le monde entier. Je peux l'arrêter. Je sais tout dans un monde. C'est drôle, je pensais plus tôt quand nous avons commencé à parler de la théorie de la simulation qu'il pourrait y avoir quelque chose d'inné en nous qui a été laissé par le créateur, presque comme un indice, comme une intuition, car c'est ce que nous avons tendance à avoir à travers l'histoire. Les humains ont cette intuition. Oui. Que toutes les choses que vous avez dites sont vraies. qu'il y a quelqu'un au-dessus et que nous avons des générations de personnes religieuses qui croyaient que Dieu leur avait parlé et était là et leur avait donné des livres, et que cela a été transmis pendant de nombreuses générations. C'est probablement l'une des premières générations à ne pas avoir de croyance religieuse universelle. Je me demande si ces gens disent la vérité. Je me demande si ces gens, ces gens qui disent que Dieu leur est venu et leur a dit quelque chose. Imaginez ça. Imaginez si cela faisait partie de cela. Je regarde les nouvelles aujourd'hui. Quelque chose s'est passé il y a une heure et j'obtiens des résultats différents et contradictoires. Je ne peux même pas obtenir avec des caméras, avec des drones, avec un gars sur Twitter, je ne sais toujours pas ce qui s'est passé. Et vous pensez qu'il y a 3000 ans, nous avons un enregistrement précis des traductions et non, bien sûr que non. Vous savez, ces conversations que vous avez autour de la sécurité de l'IA, pensez-vous qu'elles font que les gens se sentent bien ? Je ne sais pas si elles font se sentir bien ou mal, mais les gens trouvent cela intéressant. C'est l'un de ces sujets. Donc, je peux avoir une conversation sur différents remèdes contre le cancer avec une personne moyenne, mais tout le monde a des opinions sur l'IA. Tout le monde a des opinions sur la simulation. Il est intéressant que vous n'ayez pas besoin d'être très instruit ou un génie pour comprendre ces concepts. Parce que j'ai tendance à penser que cela me fait me sentir pas positive. Et je comprends cela, mais j'ai toujours été d'avis que vous ne devriez pas vivre dans un monde de délires où vous cherchez simplement à être positif, à entendre des choses positives et à éviter les conversations inconfortables. En fait, le progrès vient souvent dans ma vie de conversations inconfortables, de prise de conscience de quelque chose, et ensuite au moins d'être informé sur la façon dont je peux y remédier. Et donc je pense que c'est pourquoi j'ai posé la question, car je suppose que la plupart des gens devraient, s'ils sont, vous savez, s'ils sont des êtres humains normaux, écouter ces conversations et se dire "c'est effrayant et c'est préoccupant" et puis je reviens sans cesse à ce point qui est "qu'est-ce que je fais de cette énergie ?" Oui. Mais j'essaie de souligner que ce n'est pas différent de tant de conversations dont nous pouvons parler. Oh, il y a de la famine dans cette région, un génocide dans cette région, vous mourez tous, le cancer se propage, l'autisme est en hausse. Vous pouvez toujours trouver quelque chose pour être très déprimé et ne rien pouvoir y faire. Et nous sommes très bons pour nous concentrer sur ce que nous pouvons changer, ce dans quoi nous sommes bons, et ne pas essayer d'embrasser le monde entier comme un environnement local. Historiquement, vous avez grandi avec une tribu, vous aviez une douzaine de personnes autour de vous. Si quelque chose arrivait à l'un d'eux, c'était très rare. C'était un accident. Maintenant, si je vais sur Internet, quelqu'un est tué partout tout le temps. Des milliers de personnes me sont signalées chaque jour. Je n'ai même pas le temps de le remarquer. C'est trop. Je dois donc mettre en place des filtres. Et je pense que ce sujet est ce que les gens filtrent très bien comme "c'était une conférence divertissante à laquelle je suis allé, un peu comme un spectacle, et au moment où je sors, ça se termine". Donc, généralement, je donnerais une conférence d'ouverture lors d'une conférence et je leur dirais essentiellement "vous allez tous mourir, il vous reste deux ans, des questions ?" et les gens diraient "vais-je perdre mon emploi ? Comment lubrifier mon robot sexuel ?" toutes sortes de nonsens, ne comprenant clairement pas ce que j'essaie de dire, et ce sont de bonnes questions, des questions intéressantes, mais ils n'embrassent pas pleinement le résultat, ils sont toujours dans leur bulle de local versus global. Et les gens qui sont le plus en désaccord avec vous en ce qui concerne la sécurité de l'IA, qu'est-ce qu'ils disent, quels sont leurs contre-arguments typiques ? Souvent, beaucoup ne s'engagent pas du tout, comme s'ils n'avaient aucune connaissance de base sur le sujet. Ils n'ont jamais lu un seul livre, un seul article, pas seulement le mien, celui de personne. Ils peuvent même travailler dans un domaine. Ils font donc du machine learning pour une entreprise qui maximise les clics publicitaires, et pour eux, ces systèmes sont très étroits, puis ils entendent "oh, ce type va prendre le contrôle du monde" comme s'il n'avait pas de mains. Comment ferait-il cela ? C'est du non-sens. Ce type est fou. Il a une barbe. Pourquoi l'écouterais-je ? C'est alors qu'ils commencent à lire un peu. Ils disent : "Oh, d'accord. Alors peut-être que l'IA peut être dangereuse. Oui, je vois ça. Mais nous avons toujours résolu des problèmes dans le passé. Nous allons les résoudre à nouveau. Je veux dire, à un moment donné, nous avons corrigé un virus informatique ou quelque chose comme ça. C'est pareil." Et essentiellement, plus ils sont exposés, moins ils sont susceptibles de conserver cette position. Je connais beaucoup de gens qui sont passés de développeurs super insouciants à chercheurs en sécurité. Je ne connais personne qui soit passé de "je m'inquiète de la sécurité de l'IA" à "il n'y a rien à craindre". Quelles sont vos déclarations finales ? Assurons-nous qu'il n'y ait pas de déclaration finale que nous devions faire pour l'humanité. Assurons-nous de rester en charge et de garder le contrôle. Assurons-nous de ne construire que des choses qui nous sont bénéfiques. Assurons-nous que les personnes qui prennent ces décisions soient remotement qualifiées pour le faire. Elles sont bonnes non seulement en science, en ingénierie et en affaires, mais elles ont aussi des normes morales et éthiques. Et si vous faites quelque chose qui impacte d'autres personnes, vous devriez leur demander la permission avant de le faire. S'il y avait un bouton devant vous et qu'il arrêtait toutes les entreprises d'IA dans le monde, de manière permanente, avec l'impossibilité pour quiconque d'en créer une nouvelle, appuieriez-vous sur le bouton ? Perdons-nous l'IA étroite ou seulement la partie super intelligente de l'AGI ? Perdre toute l'IA. C'est une question difficile car l'IA est extrêmement importante. Elle contrôle le marché boursier, les centrales électriques. Elle contrôle les hôpitaux. Ce serait un accident dévastateur. Des millions de personnes perdraient la vie. D'accord, nous pouvons garder l'IA étroite. Oh oui, c'est ce que nous voulons. Nous voulons que l'IA étroite fasse tout cela pour nous, mais pas que nous ne contrôlions pas ce qu'elle nous fait. Alors vous l'arrêteriez. Vous arrêteriez l'AGI et l'intelligence super. Nous avons l'AGI. Ce que nous avons aujourd'hui est formidable pour presque tout. Nous pouvons en faire des secrétaires. 99% du potentiel économique de la technologie actuelle n'a pas été déployé. Nous créons l'IA si rapidement qu'elle n'a pas le temps de se propager dans l'industrie, dans la technologie. Environ la moitié de tous les emplois sont considérés comme des emplois inutiles. Ils n'ont pas besoin d'être faits. Ces emplois. Donc, ils peuvent ne pas être automatisés. Ils peuvent simplement disparaître. Mais je dis que nous pouvons remplacer 60% des emplois aujourd'hui avec les modèles existants. Nous ne l'avons pas fait. Donc, si l'objectif est de faire croître l'économie, de développer, nous pouvons le faire pendant des décennies sans avoir à créer une intelligence super le plus rapidement possible. Pensez-vous qu'au niveau mondial, en particulier dans le monde occidental, le chômage ne fera qu'augmenter à partir de maintenant ? Pensez-vous que relativement, c'est le creux du chômage ? Je veux dire, cela fluctue beaucoup avec d'autres facteurs. Il y a des guerres, il y a des cycles économiques, mais dans l'ensemble, plus vous automatisez d'emplois et plus la nécessité intellectuelle de commencer un emploi est élevée, moins les gens se qualifient. Donc, si nous le tracions sur un graphique au cours des 20 prochaines années, vous supposez que le chômage va progressivement augmenter au cours de cette période. Je pense que oui. De moins en moins de gens seraient en mesure de contribuer. Déjà, nous le comprenons un peu parce que nous avons créé le salaire minimum. Nous avons compris que certaines personnes ne contribuent pas suffisamment à la valeur économique pour être payées quoi que ce soit. Nous avons donc dû forcer les employeurs à les payer plus qu'elles ne valent. Mhm. Et nous ne l'avons pas mis à jour. C'est environ 7,25 dollars au niveau fédéral aux États-Unis. Si vous suivez l'économie, cela devrait être comme 25 dollars de l'heure maintenant, ce qui signifie que toutes ces personnes qui gagnent moins ne contribuent pas suffisamment à la production économique pour justifier ce qu'elles sont payées. Nous avons une tradition de clôture sur ce podcast où le dernier invité laisse une question pour le prochain invité, sans savoir à qui il la laisse. Et la question laissée pour vous est : quelles sont les caractéristiques les plus importantes pour un ami, un collègue ou un partenaire ? Ce sont des personnes très différentes. Mais pour tous, la loyauté est la première chose. Et qu'est-ce que la loyauté signifie pour vous ? Ne pas vous trahir, ne pas vous arnaquer, ne pas vous tromper. Malgré la tentation, malgré le monde tel qu'il est, la situation, l'environnement. Dr. Roman, merci beaucoup. Merci beaucoup de faire ce que vous faites, car vous lancez une conversation et faites avancer une conversation et faites des recherches qui sont incroyablement importantes, et vous le faites face à beaucoup de sceptiques. Je dirais qu'il y a beaucoup de gens qui ont beaucoup d'incitations à discréditer ce que vous dites et ce que vous faites parce qu'ils ont leurs propres incitations et qu'ils ont des milliards de dollars en jeu et que leurs emplois sont potentiellement en jeu également. Donc, il est vraiment important qu'il y ait des gens qui soient prêts à, je suppose, mettre la tête hors de l'eau et venir dans des émissions comme celle-ci et aller sur de grandes plateformes et parler de l'avenir inexplicable, imprévisible et incontrôlable vers lequel nous nous dirigeons. Alors, merci de faire cela. Ce livre, que je pense que tout le monde devrait consulter s'il veut une continuation de cette conversation, je pense qu'il a été publié en 2024, donne une vision holistique de nombreuses choses dont nous avons parlé aujourd'hui. Prévenir les échecs de l'IA et bien plus encore, et je vais le mettre en lien ci-dessous pour quiconque souhaite le lire. Si les gens veulent en savoir plus sur vous, s'ils veulent approfondir votre travail, quelle est la meilleure chose à faire ? Où vont-ils ? Ils peuvent me suivre. Suivez-moi sur Facebook. Suivez-moi sur X. Ne me suivez pas à la maison. Très important. Suivez-moi à la maison. D'accord. D'accord, je vais donc mettre votre compte Twitter, votre compte X, ci-dessous pour que les gens puissent vous suivre là-bas et oui, merci beaucoup de faire ce que vous faites. C'est remarquablement éclairant et cela m'a donné beaucoup de matière à réflexion et cela m'a en fait convaincu davantage que nous vivons dans une simulation, mais cela m'a aussi fait penser assez différemment à la religion, je dois dire, parce que vous avez raison, toutes les religions, quand on s'éloigne des traditions locales, elles pointent toutes vers la même chose et en fait, si elles pointent toutes vers la même chose, alors peut-être que les vérités fondamentales qui existent à travers elles devraient être quelque chose auquel je prête plus d'attention, des choses comme aimer son prochain, le fait que nous sommes tous un, qu'il y a un créateur divin et peut-être aussi qu'ils semblent tous avoir une conséquence au-delà de cette vie. Alors peut-être que je devrais réfléchir davantage à la façon dont je me comporte dans cette vie et à où je pourrais finir après. Roman, merci. Amen. [Musique] [Musique]

Get Our Mobile App

Dr. Roman Yampolskiy: These Are The Only 5 Jobs That Will Remain In 2030!

Transcription