Transcription
J'aime les vieilles histoires. Et on nous dit parfois que les vieilles histoires ont peu à offrir pour trouver des solutions aux défis auxquels nous sommes confrontés parce que nos problèmes sont si nouveaux. Ceci, je crois, est imprudent. Il est vrai qu'au Moyen Âge, nous n'avions pas Claude ou Chad GPT, mais nous entendons dire qu'Albert le Grand a créé une tête de bronze qui pouvait répondre à n'importe quelle question. Et même des légendes plus tardives racontent que son élève, un certain Thomas d'Aquin, dont vous avez peut-être entendu parler, agacé par le bavardage constant de la tête, l'a mise en pièces. Et c'est la première réaction connue à la bouillie d'IA que nous ayons dans l'histoire. La sagesse ancienne contient souvent de l'or si pur que sa brillance peut se refléter sur des situations que même les anciens ne pouvaient imaginer. Je veux donc vous raconter une histoire. C'est une histoire très importante, surtout que nous sommes ici en Grande-Bretagne. Il y a longtemps, dans le Château du Graal, où le Saint Graal et la Sainte Lance de Longinus étaient conservés dans une chapelle, un chevalier nommé Balin entra dans ce château. Il y entra en hôte, mais il était secrètement là pour tuer l'un des invités, trahissant ainsi l'ancien code qui a maintenu la civilisation pendant des millénaires. Après le meurtre, Balin fut poursuivi dans les salles du château jusqu'à ce qu'il se retrouve dans la Chapelle du Graal. Voyant la lance qui avait percé le côté du Christ et la coupe qui avait reçu son sang, il était trop aveuglé par sa rage pour discerner le but le plus profond de ces objets. Balin saisit la lance et frappa le Roi du Graal à l'aine, rendant le roi impuissant et réduisant tout le royaume à un désert. Nous pensons souvent au Saint Graal et à la Sainte Lance comme à ces objets mystiques, mais il y a une manière, et une manière très importante, par laquelle ils sont des exemples de technologie. La coupe du Graal était un récipient constamment rempli de tout ce que l'on pouvait désirer manger et boire. C'était le générateur d'abondance. Et la lance, bien sûr, était l'arme qui avait porté le coup ultime, perçant le dieu homme lui-même. Ces deux objets contiennent les cas limites de la technologie, vers lesquels toute technologie tend. Un côté se déplace vers l'intérieur pour l'augmentation de l'abondance et l'autre se déplace vers l'extérieur pour les batailles nécessaires pour gagner ou protéger cette abondance. Et depuis l'aube des temps, ce sont les deux principaux objectifs de la technologie. Le même morceau de silex taillé pouvait cultiver le sol ou tuer mon ennemi. Après le meurtre dans la chapelle, le Saint Graal fut perdu et les chevaliers du Roi Arthur partirent en quête pour le retrouver. Nous nous concentrons habituellement sur la quête pour trouver le Graal, mais nous oublions souvent la partie la plus importante de la quête. Le chevalier qui trouve le Saint Graal doit poser une question. À qui le Graal sert-il ? La question est plus importante que la découverte. La question et sa réponse sont ce qui guérira le désert ? C'est précisément cette question que Balin a oublié de poser lorsqu'il a saisi la lance dans son désir de pouvoir. Il a oublié de poser la question : à qui le Graal et la lance servent-ils ? Aujourd'hui, notre monde célèbre ceux qui trouvent la chose plus grande, le miracle technologique, le nouveau, le plus rapide, le plus fort. Ces découvertes nous rendent plus puissants, plus efficaces pour générer de l'abondance et plus efficaces et puissants pour tuer nos ennemis. Ainsi, nous célébrons ceux qui trouvent le Graal. Mais qui pose aujourd'hui la question du Graal ? Il y en a peu qui posent la question. Quand Ross Dowet, qui était ici ce matin, a demandé à Daario Amude, le PDG d'Anthropic, pourquoi il avait nommé son essai technologique plein d'espoir, "Machines of Loving Grace", d'après un poème dans lequel les humains perdent leur souveraineté et deviennent comme des animaux gouvernés par des machines. Je pense que Ross posait la question du Graal lorsque Jonathan Haidt a écrit "La génération anxieuse", documentant les addictions de nos enfants aux écrans et leur impact sur leur santé. Il posait la question du Graal. Mais ce qui est étrange, c'est que souvent les personnes qui développent ces nouvelles technologies sont les mêmes personnes qui nous disent qu'elles pourraient tout aussi bien apporter un désert, nous avertissant de la manière dont elles pourraient nous tuer alors qu'elles-mêmes tendent la main vers les terres. Comment se fait-il qu'Elon Musk avertisse que l'IA est plus dangereuse que les armes nucléaires, demande d'abord à tout le monde d'arrêter de la développer, et lance finalement sa propre entreprise d'IA ? N'êtes-vous pas tous impatients de demander à qui le Palantir sert-il ? À qui sert-il ? Je veux dire, nous ne sommes pas idiots. Nous savons que dans l'histoire dont le nom Palantir a été tiré dans Le Seigneur des Anneaux, cette technologie n'est venue servir que le seigneur des ténèbres Sauron. Quand les oligarques de la technologie construisent des bunkers sur des îles et se préparent pour le jour du jugement dernier, nous devrions tous crier : "À qui cela sert-il ? Pour qui est-ce ?" On a beaucoup parlé au cours de la dernière décennie des pièges d'escalade de la théorie des jeux où, pour des raisons de concurrence, certaines technologies et certains systèmes, aussi dangereux soient-ils, doivent être mis en œuvre et non seulement mis en œuvre, mais nous nous précipitons pour les mettre en œuvre par peur de perdre la compétition. Bien sûr, cela était vrai de la course aux armements nucléaires. C'est ce que beaucoup appellent maintenant le piège de Moloch. Et soudain, nous sommes de retour dans les vieilles histoires. Des histoires bien plus anciennes que celle du Graal. Moloch, comme beaucoup d'entre vous le savent probablement, est une ancienne divinité cananéenne qui exigeait que les gens sacrifient leurs enfants en échange de pouvoir. Et le piège de Moloch, c'est lorsque l'escalade pour maintenir le pouvoir par la compétition nous amène à sacrifier ce qu'il y a de plus précieux, même lorsque c'est finalement contre nos intérêts. Ainsi, par peur que la Chine ne nous batte dans la mise en œuvre de l'IA, nous sacrifions des millions d'emplois, notre eau, notre énergie, l'esprit de nos enfants. En fait, nous sacrifions la capacité même de distinguer ce qui est réel de ce qui est faux, juste pour gagner la compétition. Maintenant, bien sûr, les théoriciens des jeux, la plupart d'entre eux, ne croient pas que Moloch ait une existence indépendante. C'est plus comme un mécanisme. Mais même les théoriciens des jeux peuvent voir que Moloch bouge, qu'il veut quelque chose. Et à mesure que nous nous faisons concurrence, nous devenons ses jambes. Nous devenons ses mains. Et malgré nous, nous marchons cette bête vers notre possible destruction. Alors que finalement tout le monde regrette d'avoir donné des tablettes et des téléphones à ses enfants, les rendant idiots, déprimés et dépendants, nous nous retournons et nous nous précipitons pour intégrer l'IA dans absolument tout. Ainsi, que nous croyions ou non au dieu cananéen, nous nous retrouvons à lui sacrifier nos enfants. Néanmoins, comme Jordan Peterson l'a souvent dit, nous agissons comme si c'était réel et cela suffit pour que la bête continue de bouger. Et ce que nous voyons se produire, c'est qu'à mesure que l'IA se répand dans tous nos systèmes, nous avons cette intuition qu'au lieu d'un outil nous servant, peut-être devenons-nous celui qui sert l'outil. Et nous découvrons, comme Marshall McLuhan l'a prédit avec brio dans les années 1960, que nous sommes réduits à devenir les organes reproducteurs de la machine. Construisons-nous un dieu ? Le faisons-nous ? Certaines personnes pensent que oui. Certaines personnes nous font croire que oui. Si c'est le cas, quel dieu construisons-nous ? Si un piège de Moloch hors de contrôle et potentiellement le culte de Mammon dirigent son développement, que faisons-nous ? Nous sommes dans le piège. Le piège est réel. Je ne prétends pas qu'il ne l'est pas, mais je ne sais pas. Je ne sais pas quoi faire. Vous ne savez pas quoi faire. Personne ne sait quoi faire. Au niveau du système, nous ne savons pas. Nous sommes piégés. Le chat, ou plutôt le serpent, est sorti du sac. On ne peut pas le remettre. Maintenant, Balin a déjà porté le coup doloureux dans un accès de fureur, de cupidité et de compétition. Et nous attendons et on nous dit que nous allons maintenant faire face à un bouleversement si grand qu'il rivalisera avec tout ce que les humains ont jamais connu depuis le début des temps. Alors, accrochez-vous, d'accord ? La seule solution, la seule vraie solution à laquelle je puisse penser est une solution personnelle. C'est une solution similaire à la façon dont Jordan Peterson nous a dit de faire votre lit. J'ai une version légèrement différente de cette déclaration. Je dis : allez à l'église. Et donc, je veux dire, évidemment, ce que je veux dire par aller à l'église, c'est oui, vous devriez aller à l'église. Allez absolument à l'église. Mais la question plus large est que si nous ne pouvons pas obtenir de réponse à la question de savoir à qui servent ces technologies, sachez à qui et à quoi vous servez. Servez-vous Mammon ? Est-ce que je sers Moloch ? Qui servons-nous ? Si nous ne pouvons pas empêcher la machine de tout dévorer, alors vous, alors je dois devenir pleinement humain. Plus humain qu'avant, afin que nous puissions rester au moins dans notre vie les maîtres de la machine et non les esclaves de la machine. Et nous sommes au bon endroit car nous devons devenir des citoyens responsables. C'est pour cela que nous sommes ici. Mais aussi des parents responsables, des enseignants responsables, des étudiants responsables, pour notre propre bien, mais vraiment pour le bien de nous tous. Vous savez, depuis la révolution industrielle, les gens ont de plus en plus traité l'éducation comme l'apprentissage d'une compétence pour pouvoir trouver un emploi. Je pense que vous avez tous réalisé que ces jours sont révolus. Je dis retour aux sciences humaines. Elles deviendront les plus importantes. Faites que les humains deviennent pleinement humains. Devenez le meilleur humain que vous puissiez être. Vous savez, quand nous apprenons à nos enfants à danser, à jouer de la musique ou à faire du sport, la plupart d'entre nous ne le font pas pour que nos enfants deviennent professionnels. Nous leur enseignons ces compétences pour qu'ils deviennent plus humains. Et maintenant, c'est ce que nous allons devoir faire avec tout. Si l'IA nous pousse à placer la mémoire, les compétences et les connaissances à l'extérieur, nous devrons délibérément favoriser la mémoire, les compétences et les connaissances à l'intérieur. Apprenez des poèmes, lisez des contes de fées, allez camper, cultivez un jardin, impliquez-vous dans votre communauté, votre famille, vos relations, et n'oubliez pas de prier. C'est bien sûr existentiellement évident et cela peut sembler un peu mièvre quand je le dis. Je comprends. Mais je pense que c'est en fait techniquement la solution au problème auquel nous sommes confrontés. Ces technologies nous rendent plus stupides. Elles nous rendent des vassaux. Cette jeune génération est la première dans l'histoire enregistrée à avoir un QI moyen inférieur à celui de ses parents. Donc, je ne pense pas vraiment que la solution soit d'aller sur Mars, les amis, ni même d'aller à Alpha Centauri. Et je suis désolé, Eric Weinstein, si vous êtes là. Si nous envoyons des esprits imbibés de TikTok et de bouillie d'IA sur Mars, cela ne changera aucun de nos problèmes. Et c'est pareil. Ce n'est pas la fusion avec la machine ou avoir des puces dans notre cerveau. Elon, rien de tout cela ne vous rendra vertueux. Et ce que nous obtiendrons, ce seront simplement des personnes brisées très puissantes. >> Ceux qui se sont rendus complètement dépendants dans leur esprit et leurs habitudes de ces technologies deviendront les vassaux du monstre. Et je crois vraiment que seuls ceux qui ont des âmes brillantes, qui ont cultivé la sagesse et la vertu, qui ont pratiqué la vérité et l'amour, sont ceux qui survivront et prospéreront dans l'apocalypse IA à venir. Personnellement, collectivement, et je pense même professionnellement. Que les choses s'arrangent et que l'IA devienne omniprésente et soit là pour nous aider, ou qu'elle mène au désert, je pense qu'il n'y a toujours qu'une seule solution : devenir pleinement humain. Le genre d'humains que nous admirons dans nos grandes histoires. Le genre d'humains qui servent plus que leur cupidité et leur pouvoir. Et alors, alors si nous construisons, ce que nous construirons sera à cette image. Et lorsque nous serons confrontés au Graal, nous aurons les moyens de poser la question : à qui le Graal sert-il ? Et finalement, nous aurons la présence d'esprit de poser et de répondre à ce que je pense être la question la plus cruciale de toutes, qui est : qui est-ce que je sers ? Merci.