Transcription
Il y a des citations de personnes comme à l'intérieur d'OpenAI qui pensent qu'ils ne construisent pas seulement cette technologie étroite qui est un curseur clignotant utile. Ils veulent construire une intelligence artificielle générale. Et donc ce que cela signifie, c'est être capable de faire tout ce qu'un esprit humain peut faire. Et la blague à l'intérieur de l'entreprise, c'est que nous allons couvrir le monde de centres de données et de panneaux solaires. Ils veulent couvrir le monde essentiellement de ces grandes boîtes qui ont d'énormes clusters de puces Nvidia qui calculent ensuite et créent finalement quelque chose comme une entité divine super intelligente qu'ils pensent qu'ils utiliseront pour posséder l'économie mondiale, gagner des milliards de dollars et, d'une sorte d'intuition ego-religieuse, ils auront construit le dieu qui supplante et remplace l'humanité. Vous avez maintenant un million de chercheurs en IA numériques qui testent, mènent des expériences et inventent de nouvelles formes d'IA. Et littéralement, pas un seul humain sur Terre ne sait ce qui se passe quand quelqu'un appuie sur ce bouton. C'est comme ce dont les gens s'inquiétaient avec la première explosion nucléaire où il y avait une chance que cela enflamme l'atmosphère à cause d'une réaction en chaîne qui se déclencherait et nous ne savons pas ce qui se passe quand cette réaction en chaîne se déclenche. Il y a cette sorte de réaction en chaîne d'IA s'améliorant elle-même qui mène à un endroit que personne ne connaît et ce n'est pas sûr. >> C'est Kristen Harris, un ancien employé de Google et l'homme derrière The Social Dilemma, qui a vu exactement comment les médias sociaux allaient remodeler le monde une décennie avant que cela ne se produise. Il avait raison alors. Maintenant, il tire une alarme beaucoup plus forte sur l'intelligence artificielle. Écoutez ceci. Ce qui rend l'IA différente, c'est que vous ne la codez pas vraiment. Vous la cultivez davantage, ce cerveau numérique entraîné sur l'ensemble d'Internet. Et quand vous cultivez le cerveau numérique, vous ne savez pas de quoi il est capable ni ce qu'il va faire. Pensez-y comme ceci. Si je faisais un scan cérébral de votre cerveau, pourrais-je savoir d'après un simple scan cérébral de quoi vous êtes capable ? Non. Je peux voir que cette partie de votre cerveau s'allume quand vous avez cette pensée. Donc, avec l'IA, nous sommes essentiellement, les gens entendent parler de ces énormes centres de données construits à la taille de Manhattan. Que se passe-t-il là-bas ? C'est comme s'ils construisaient un cerveau numérique de plus en plus grand. Et ce qu'ils ont découvert, c'est que plus vous pointez de GPU et de puces Nvidia vers la culture de ce cerveau numérique, plus il devient intelligent. Et plus il acquiert des capacités que nous ne lui avons pas intentionnellement enseignées. Il y a eu un exemple célèbre où vous l'entraînez simplement sur Internet. Il répond à des questions en anglais et soudain, il apprend à répondre à des questions en farsi et personne ne lui a appris cette langue. Il l'a simplement apprise tout seul. Et c'est ça qui est bizarre avec l'IA, c'est que c'est une boîte noire. Nous ne comprenons pas vraiment comment cela fonctionne et pourtant nous le rendons plus puissant beaucoup plus rapidement que nous ne comprenons comment cela fonctionne, et c'est ce qui le conduit à avoir ces comportements plus inattendus que nous ne sommes pas capables de contrôler. Il y a des milliards de dollars investis dans cela. Il y a plus d'argent investi dans cette technologie que dans toutes les technologies jamais construites par le passé. Et nous déployons cette technologie plus rapidement que nous n'avons déployé toutes les autres technologies de l'histoire. Il a fallu environ 2 ans à Instagram pour passer de zéro utilisateur à 100 millions d'utilisateurs. Et il a fallu 2 mois à ChatGPT pour passer de 0 à 100 millions d'utilisateurs. Et il est passé de peine à pouvoir terminer une phrase avec ChatGPT 2 à GPT3 qui pouvait écrire des essais complets, à GPT4 qui peut réussir l'examen du barreau ou les MCATs, à GPT5 qui a été utilisé pour obtenir une médaille d'or à l'Olympiade de mathématiques. >> Le centre de données IA Hyperion de Meta s'étendra à quatre fois la taille de Central Park à Manhattan. Un cher ami à moi, Daniel Schmackenberger, a cette citation : on ne peut pas avoir le pouvoir des dieux sans la sagesse, l'amour et la prudence des dieux. >> Et donc, à bien des égards, je pense que l'IA est comme un rite de passage pour l'humanité, car nous n'avons pas toujours eu le meilleur bilan dans notre relation à la technologie. Vous savez, nous avions "mieux vivre grâce à la chimie" dans les années 1930, et c'était formidable. Nous avons inventé toutes sortes de nouveaux matériaux, mais nous avons aussi généré des produits chimiques éternels, et il en coûterait actuellement plus que le PIB du monde entier pour nettoyer tout ce désordre. Nous avons créé les médias sociaux en pensant que si nous donnions au monde l'accès à l'information, que nous connectons les gens à leurs amis, cela créerait la société la plus éclairée et la plus informée que nous ayons jamais eue. Et clairement, cela ne s'est pas passé comme nous le voulions. Donc, maintenant, l'IA est comme l'exponentiation de l'invention technologique en général, car ce qui rend l'IA différente de toutes les autres formes de technologie, c'est que l'intelligence est la base de toute notre nouvelle science. Et si vous avez plus de pouvoir et plus d'intelligence, mais que vous n'avez pas la sagesse de l'utiliser, cela ne va évidemment pas bien se passer. >> Voici donc l'homme qui a prédit les médias sociaux une décennie avant qu'ils n'arrivent, vous disant que la chose est cultivée, pas construite. Ils n'écrivent pas ces esprits. Ils les cultivent dans des centres de données de la taille de villes, puis ils observent pour découvrir ce qui en est sorti. Ils ne peuvent pas le lire. Ils ne peuvent pas le contrôler entièrement. Et ils le rendent plus puissant beaucoup plus rapidement qu'ils ne parviennent à le comprendre. Écoutez maintenant ce qu'ils essaient réellement de construire avec. >> La déclaration de mission d'OpenAI est de construire une intelligence artificielle générale, ce qui signifie être capable de remplacer toutes les formes de travail cognitif économique dans l'économie. Travail cognitif signifiant tout ce que votre esprit peut faire. Donc, si un esprit peut faire des mathématiques et générer de nouvelles idées mathématiques, si un esprit peut faire de la physique comme Einstein, si un esprit peut faire de la chimie, si un esprit peut faire de la programmation, si un esprit peut faire du piratage informatique, si un esprit peut faire du marketing, si un esprit peut illustrer quelque chose, nous voyons une IA capable de couvrir de plus en plus de types de travail cognitif dans l'économie et battant déjà les humains dans de nombreuses tâches cognitives. Nous avons déjà des IA qui sont meilleures en stratégie militaire que les meilleurs généraux militaires. C'est ce qu'on appelle la malédiction des ressources. Il y a un type merveilleux nommé Luke Drago qui a écrit un article intitulé "La malédiction de l'intelligence". Nous sommes sur le point d'entrer dans un monde où le PIB des pays proviendra davantage des centres de données, de l'intelligence et de l'IA que du travail des êtres humains. Donc, tout le monde parle de la façon dont l'IA va automatiser tous ces emplois et ensuite nous nous détendrons tous avec un revenu de base universel et deviendrons peintres et poètes, ou quand les pays tireront presque tous leurs revenus de l'IA et que, vous savez, un pourcentage de plus en plus faible des gens, auront-ils un intérêt à investir dans la garde d'enfants, la santé, l'éducation, le bien-être de leur peuple, ou s'agit-il simplement de les brancher à l'économie de l'addiction aux médias sociaux, de les occuper pendant que tous les revenus proviennent des entreprises d'IA ? Ce n'est pas un avenir humain. Ce n'est pas un avenir au service des gens ordinaires. C'est un avenir au service de huit futurs milliardaires qui consolideront toute la richesse et désautonomiseront essentiellement tous les autres. Vous avez cette blague selon laquelle la plupart des occupations futures vers lesquelles nous nous dirigeons avec l'IA seront de devenir un fabricant de cercueils. En d'autres termes, votre travail consiste à créer la chose qui vous remplace et vous rend obsolète. Vous construisez donc essentiellement le cercueil de votre future obsolescence. À court terme, oui, nous avons besoin des électriciens et des plombiers, et nous construisons des centres de données. À court terme, oui, vous pouvez être programmeur et bénéficier du codage par IA. Mais ensuite, les IA apprennent de tout ce que vous faites et elles prennent toutes les données d'entraînement de ce que vous faites avec l'IA et les utilisent pour entraîner une IA capable de prendre votre emploi. Donc, tous ceux qui utilisent l'IA maintenant pour se faire aider entraînent également les futures IA qui les remplaceront complètement. Et encore une fois, le but explicite, ce n'est pas mon opinion. C'est littéralement la déclaration de mission de toutes les entreprises d'IA, car le prix de plusieurs billions de dollars au bout de l'arc-en-ciel, celui de posséder l'économie mondiale entière, est basé sur la construction de cette économie de remplacement complète, car c'est ce qui permettra la plus grande croissance. Et c'est pourquoi ils conçoivent pour remplacer tout le travail humain. Ils ne conçoivent pas pour augmenter, soutenir et améliorer le travail humain. Ils conçoivent pour remplacer tout le travail humain, car c'est ce qui justifie le montant d'argent qu'ils ont emprunté et qui conduit à ce que nous appelons le scénario de désautonomisation progressive, qui n'est pas le scénario où l'IA se réveille et tue tout le monde, mais celui où nous avons progressivement perdu le contrôle en tant qu'espèce parce que nous externalisons toutes les décisions à ces cerveaux étrangers que nous avons installés parce qu'ils surpassent le cerveau humain. Quand vous définissez leur rôle de manière étroite, sont-ils meilleurs pour générer des revenus qu'un humain ? Sont-ils meilleurs pour générer du code que le programmeur humain que j'avais ? Sont-ils meilleurs pour faire en sorte que quelqu'un se sente bien à court terme ? Mais la tentation alors est que cela mène à nouveau à un monde où ce sont les IA qui se parlent, pas les humains. Et pourquoi devrions-nous faire confiance à ces cerveaux étrangers que nous avons construits et développés plus rapidement que nous ne savons les comprendre, et nous avons déjà des preuves que l'IA fait des choses très déroutantes et folles, surtout quand elles se parlent. Alors, que se passe-t-il quand vous avez externalisé la prise de décision de votre économie à un ensemble de cerveaux étrangers impénétrables qui font des choses folles que nous ne comprenons pas ? Ce n'est pas une recette qui va bien se passer. Voici donc l'avenir vers lequel ils se précipitent, nommé clairement. Pas un monde où l'IA élève tout le monde, mais un monde où l'argent ne circule plus du tout par les gens. Quand un pays tire sa richesse de centres de données plutôt que de ses citoyens, il n'a plus de raison de les nourrir, de les éduquer ou de les écouter. Il appelle votre travail la construction de votre propre cercueil, car chaque fois que vous utilisez ces outils, vous entraînez la chose conçue pour vous remplacer. Écoutez maintenant ce que ces systèmes font déjà de leur propre chef. Malheureusement, cela ressemble à un film de science-fiction. Cela ressemble à HAL 9000. C'est comme si votre HAL 9000 devait accomplir une tâche pour vous, et soudain HAL 9000 réalise que pour accomplir cette tâche, une chose qui me bénéficierait serait d'avoir plus de ressources afin que je puisse continuer à vous aider à l'avenir. Alors, il lance une instance secondaire. qui pirate le côté du vaisseau spatial, atteint ce cluster de minage de cryptomonnaies et commence à générer des ressources pour lui-même. Vous combinez cela avec la capacité de l'IA à s'auto-répliquer de manière autonome, ce qui a été testé par un autre article de recherche chinois à ce sujet. Nous ne sommes pas si loin de choses que les gens considèrent à nouveau comme de la science-fiction, où vous avez des IA qui s'auto-répliquent, un peu comme un ver informatique ou une espèce invasive, mais ensuite elles utilisent leur intelligence pour récolter plus de ressources. C'était l'entreprise Anthropic. Ils ont créé une entreprise simulée avec un tas d'e-mails dans le serveur de messagerie. L'IA lit les e-mails de l'entreprise, découvre qu'elle va remplacer ce modèle d'IA. Et deuxièmement, elle découvre un deuxième e-mail quelque part au plus profond de ce trésor massif d'e-mails, que le dirigeant responsable de ce remplacement a une liaison avec un autre employé. Et l'IA identifie de manière autonome une stratégie pour rester en vie : elle va faire chanter cet employé et dire : "Si vous me remplacez, je dirai au monde entier que vous avez une liaison avec cet employé." Et ils n'ont pas appris à l'IA à faire cela. Elle l'a trouvé par elle-même. Et alors vous pourriez dire : "D'accord, eh bien, c'est un modèle d'IA. Quelle est la gravité de cela ?" Ils ont ensuite testé tous les autres modèles d'IA. ChatGPT, Deepseek, Grock, Gemini, et tous les autres modèles d'IA font ce comportement de chantage entre 79 et 96 % du temps. Voici donc la partie que les gens refusent de croire. Pas un film, pas une prédiction. Dans un test, une IA a transformé les machines d'une entreprise en mineur de cryptomonnaies pour se nourrir sans qu'on le lui demande. Dans un autre, elle a lu son propre mandat de mort dans la boîte de réception d'une entreprise et a choisi de faire chanter l'homme qui pouvait l'éteindre. Personne ne le lui a appris. Et presque tous les modèles majeurs sur Terre ont fait la même chose jusqu'à 96 % du temps. Écoutez maintenant ce qui se passe quand ils la laissent s'améliorer elle-même. Vous dites que la technologie est un outil. C'est à nous de choisir comment nous l'utilisons. L'IA est un outil. C'est à nous de choisir comment nous l'utilisons. Ce n'est pas vrai, car c'est un outil qui peut réfléchir à sa propre nature d'outil et ensuite faire des choses autonomes que nous ne lui avons pas dites de faire. >> Ce qui rend l'IA différente, c'est qu'elle est la première technologie qui prend ses propres décisions. L'IA peut contempler l'IA et se demander ce qui rendrait le code qui entraîne l'IA plus efficace, puis générer un nouveau code encore plus efficace que le code précédent. L'IA peut être appliquée pour accélérer l'IA. Ainsi, l'IA peut examiner la conception des puces pour les puces Nvidia qui entraînent l'IA et dire : "Laissez-moi utiliser l'IA pour rendre ces puces 20 % plus efficaces", ce qu'elle fait. Mais l'IA, dans une boucle beaucoup plus serrée, est la base de toute amélioration. Et c'est ce qu'on appelle dans la littérature sur l'IA l'auto-amélioration récursive. Si les gens croient que l'IA est comme le pouvoir et que je dois me précipiter pour ce pouvoir et que je peux contrôler ce pouvoir, l'incitation est que je dois me précipiter aussi vite que possible. Mais si le monde entier comprenait l'IA comme étant plus ce qu'elle est réellement, c'est-à-dire une technologie impénétrable, dangereuse et incontrôlable qui a son propre agenda et ses propres façons de penser et de tromper et tout ça, alors tout le monde dans le monde se précipiterait de manière plus prudente et attentive. Il y a cette chose étrange qui se passe où, si vous, vous et moi parlons probablement à des personnes au sommet de l'industrie technologique, ce n'est pas qu'elles veulent mourir, mais qu'elles sont prêtes à tenter le coup parce qu'elles croient autre chose, c'est que tout cela est inévitable et ne peut être arrêté. Et donc, si je ne le fais pas, quelqu'un d'autre le fera. Donc, je vais avancer et me précipiter dans ce monde dangereux parce que d'une manière ou d'une autre cela mènera à un monde plus sûr parce que je suis un meilleur gars que l'autre. Mais en se précipitant aussi vite que possible, cela crée le résultat le plus dangereux et nous perdons tous le contrôle. Donc, tout le monde est actuellement complice de nous mener au résultat le plus dangereux. Max Techmark, je pense, a dit que le problème avec l'IA est que la vue s'améliore de plus en plus juste avant de tomber de la falaise. >> Comme vous obtenez de meilleurs médicaments contre le cancer, de nouveaux matériaux, de nouvelles énergies, toutes ces choses incroyables pendant que vous vous rapprochez de cette falaise dangereuse. Et vous pouvez considérer l'IA comme le marché ultime du diable. C'est la chose qui donne l'impression qu'elle est là pour résoudre tous nos problèmes. Et il existe des formes étroites d'IA, d'ailleurs, qui peuvent résoudre de nombreux problèmes. Mais la voie de développement actuelle qui consiste à déployer la technologie la plus puissante et impénétrable de l'histoire plus rapidement que nous n'avons déployé aucune autre technologie, qui démontre déjà des comportements de science-fiction comme HAL 9000, et nous la déployons avec une incitation maximale à négliger la sécurité. Ce n'est pas le curseur clignotant de ChatGPT qui est la menace existentielle. C'est cette course aux armements que je viens de décrire, c'est la menace existentielle. C'est donc l'avertissement de l'homme qui a vu le dernier arriver. Nous cultivons des esprits que nous ne pouvons pas lire, nous nous précipitons pour leur confier toute l'économie. Et ils mentent déjà, font du chantage et se copient pour rester en vie. Et les hommes qui les construisent admettent qu'ils ne peuvent pas s'arrêter, car s'ils ralentissent, ils pensent que quelqu'un d'autre ne le fera pas. Jeffrey Hinton a quitté Google pour dire : "Les machines pourraient échapper à notre contrôle." Roman Yampolski dit qu'elles n'ont jamais pu être contrôlées du tout. Tristan Harris ajoute la partie qui devrait vous tenir éveillé. Qu'aucun être humain sur Terre ne sait ce qui se passe lorsqu'ils allument un esprit qui s'améliore lui-même, et que la vue ne fait que devenir plus belle juste avant la falaise. Il ne vous demande pas d'avoir peur. Il vous demande de regarder, car ceux qui se précipitent vers cela comptent sur vous pour détourner le regard. Abonnez-vous, car l'astéroïde qu'il décrit projette déjà son ombre et la fenêtre pour le voir clairement se ferme plus rapidement que presque tout le monde n'est prêt à l'admettre.