L’IA peut-elle devenir un dieu ? L’iceberg de l’intelligence artificielle

L'intelligence artificielle peut-il s'inquiéter ? Elle s'invite partout. Il y a un tsunami technologique qui arrive.

Dans le livre de la Genèse, les hommes voulurent construire une tour capable de toucher le ciel, non pas pour contempler Dieu, mais pour prendre sa place. Alors Dieu détruisit la tour de Babel et dispersa les hommes à travers le monde parce que certaines choses ne devraient pas être atteintes.

Oui, mais des milliers d'années plus tard, l'humanité recommence. Et cette fois-ci, la tour n'est plus faite de pierre. Elle est faite de données, d'algorithmes et de machines capables de parler comme nous, de penser comme nous. L'intelligence artificielle écrit désormais des textes, créer des visages qui n'existent pas, imite des voix humaines, compose de la musique, répond à nos questions, commence à remplacer certaines relations sociales et peut-être même a-t-elle commencé à toucher du doigt le ciel.

Je suis le frère Paul Adrien d'Ardemar et je suis technophile. J'aime l'intelligence artificielle et j'utilise Lia pour m'aider dans les scripts, pour créer des images, pour générer des vidéos. Je dois dire que pour la première fois de ma vie, le progrès technique a commencé à m'effrayer. Personne ne sait vers quoi nous allons.

L'intelligence artificielle est un iceberg que pour vous, je voudrais que nous explorions parce que le futur maintenant est ici. Il arrive plus vite que ce que nous imaginons, à la surface des choses que tout le monde sait ou plutôt croit savoir. Et ensuite, nous allons descendre dans les profondeurs inquiétantes de l'IA, couche après couche, niveau après niveau, jusqu'à atteindre le cœur, l'abis de l'intelligence artificielle, celui que j'ai découvert en étudiant ce qui se passe sous nos yeux et auquel nous allons donner un visage très concret. La dépendance psychologique à la propagande algorithmique, de l'effondrement du réel aux premières guerres pilotées par IA.

[musique] Le futur est déjà à nos portes et personne ne sait encore si ce sera Babel ou la Pente-côte. Cette vidéo, vous devez la voir. L'entrée dans l'air de Lia.

Dans le livre de l'Apocalypse, je vis les morts, les grands et les petits et des livres furent ouverts. Nous sommes en 1950 et Alain Turing, le père fondateur de l'informatique moderne, vient de poser une question qui va traverser tout le siècle. Une machine peut-elle [musique] penser ?

Pendant des décennies, les ordinateurs sont trop faibles, les modèles trop limités, les promesses beaucoup trop grandes et Lia va rester à un rêve confiné dans un laboratoire. Pourtant, tout va commencer ici. Dans les années 2000, l'internet vient de décoller. Le cloud apparaît et les données explosent. Et soudain, ces ordinateurs qui étaient confinés dans les laboratoires vont avoir accès à quelque chose d'immense. Des corpus entiers par millions d'ctés de textes humains, d'images, de vidéos, de conversation. Une immense accumulation de données dont personne encore ne sait quoi exactement en faire.

Alors, pendant des années, nous avons nourri les machines avec ces données. Chaque recherche Google, chaque photo publiée, chaque clic, chaque conversation, sans le savoir, vous participiez déjà à l'entraînement de l'intelligence artificielle. [musique] Cette époque, pour nous, cela ressemblait juste à un capchat sur un écran. Mais derrière ce capcha, nous étions en fait des millions d'humains entraînant déjà les machines à reconnaître les [musique] mots, les objets et même des feux rouges.

Un signe avantcoureur aurait pourtant dû nous alerter. Un événement que beaucoup maintenant ont oublié. Nous sommes en 2016. Lia Alphago vient de battre Lédol au jeu de Go. Un jeu pourtant considéré jusqu'à là comme inaccessible aux machines en raison de sa complexité. Et pourtant, Lia vient de gagner. Et non seulement elle vient de gagner, mais certains coups paraissent totalement incompréhensibles, même pour les experts. Pour la première fois, UNIA vient de produire une forme de créativité inattendue et c'est nous qui nous sommes mis à son école. L'événement est rapidement oublié mais en attendant LIA s'est installé discrètement partout dans les recommandations YouTube dans les chatbot dans Google Map dans les traductions automatiques. En 2010 il y a 10 sa toiles. Nous l'utilisions déjà tous les jours. Mais plutôt comme un gadget qui nous faisait rire à coup de voix artificielle. Dit Alexa, dit Siri. Que voulez-vous dire à François ? Oui, mais [musique] voilà, novembre 2022, le tonner explose et cette fois-ci plus personne ne rit. Le monde sort à peine du Covid et Open AI vient de dévoiler au monde entier Chat [musique] GPT, le premier LLM accessible gratuitement ou presque au monde entier. En un instant, le public qui l'ignorait vient d'avoir accès à la pointe de la recherche en intelligence artificielle. Pour la première fois, ce sont des centaines de millions de personnes qui découvrent l'intelligence artificielle en ayant avec elle une première conversation. Le monde entier [musique] est sous le choc et découvre le saut qui vient de s'opérer alors que personne ne l'avait prévu.

En quelques mois seulement, mi-journée crée des images photo réalistes. [musique] Runway génère des vidéos. Suno crée de la musique. Eleven Labs clone les voix. Guitops copilot aide les développeurs à programmer et l'intelligence artificielle envahie. Internet, les voitures, les robots, les drones, les maisons, les hôpitaux et même les armées. A était invisible, elle est devenue omniprésente. [musique] Elle est devenue l'infrastructure du monde dans lequel nous vivons. Elle n'est plus une technologie du futur. C'est notre présent qui en quelques mois s'est mis à ressembler au futur. Et nous vivons déjà [musique] dans ce monde.

Il a n'est pas un iceberg que vous allez pouvoir étudier comme de loin. Vous êtes sur cet iceberg. Cet iceberg, c'est vous qui l'avez construit. La machine derrière la machine dans le livre de l'Apocalypse et elle fit que tous, petits et grands, riches et pauvres, libres et esclaves, reçurent une marque sur leurs mains droite ou sur leur front. Et le nom de cette marque était 666. Personne ne pouvait acheter ni vendre sans avoir la marque.

À la surface, l'intelligence artificielle ressemble à une technologie presque immatérielle. Quelques mots tapés sur un écran et une machine vous répond, une image apparaît, une vidéo est générée. Mais plus on descend, plus la magie disparaît, plus l'infrastructure va devenir gigantesque. Le cloud devient du béton. Les réponses deviennent des serveurs. La magie devient de l'électricité et derrière chaque phrase générée, il y a des centres de données, des puces, des réseaux électriques colossaux et des milliers de travailleurs invisibles.

Et ces travailleurs invisibles, [musique] c'est la première [grognement] fissure dans notre iceberg. Pour entraîner une intelligence artificielle, il faut d'abord lui fournir des données. Mais avant même que les modèles puissent apprendre, ces données doivent être triées, nettoyées et annotées manuellement. Depuis les années 2010, une partie de ce travail est sous-traitée à des plateformes de microtravail. Nous sommes au Kenya, en Inde ou aux Philippines où des milliers de personnes passent leur journée à identifier des objets sur des image, corriger des réponses, modérer des contenus violents. En 2023, une enquête de Magazine Times a révélé que certains travailleurs kényans chargés de filtrer des contenus toxiques liés à Chat GPT sont payés moins de 2 dollars de l'heure pour analyser des scènes de violence, des abus sexuels, des contenus extrêmes. L'intelligence artificielle vient de fabriquer son propre loopen prolétariat.

Il y a maintenant une deuxième fissure. Contrairement à l'image abstraite du cloud, l'intelligence artificielle dépend d'immenses bâtiments remplis de serveurs bien réels. Elia va devoir posséder des territoires entiers, des routes énergétiques, des usines, des capitales technologiques. entraîner les modèles les plus avancés nécessitent dorénavant des dizaines de milliers de GPU, des centres de données géants, des quantités d'électricité tellement considérables que nous ne savons pas si nous pourrons nourrir cette ogre Kia. L'intelligence artificielle est devenue une industrie lourde. En 2024, elle consommait 1 % de l'électricité mondiale. Depuis, la consommation est devenue exponentielle et l'horizon auquel nous ne pourrons plus satisfaire la demande de l'IA est 2030, c'est-à-dire demain. Entraîner un seul modèle de pointe peut maintenant coûter davantage qu'un programme spatial universitaire entier. Les coûts d'entraînement des modèles de pointe se comptent désormais en dizaines voire en centaines de millions de dollars. Et pendant ce temps, Microsoft, Google, Amazon investit chacun plusieurs dizaines de milliards de dollars dans les infrastructures IA. À ce niveau d'enjeu financier, l'intelligence artificielle n'est plus devenue seulement un enjeu technologique, elle est devenue un enjeu géopolitique après le loopen prolétariat, après la crise climatique, bienvenue dans un monde où les tensions internationales vont tourner autour de l'IA.

Créer les modèles les plus invancés coûtent désormais tellement cher que seul quelques entreprises peuvent réellement participer à la course Open EA, Microsoft, Anthropiic et Nvidia pour la puissance de calcul. Très vite, les États ont compris eux aussi l'importance stratégique de l'IA. Les États-Unis qui restreignent maintenant l'exportation de certaines puces envers la Chine. La Chine qui accélère elle aussi massivement le développement de ses propres infrastructures et pendant ce temps, l'Europe qui tente de réguler comme elle peut avec LI Act. [musique]

En attendant, les armées se développent avec des systèmes autonomes. Les services de renseignement utilisent déjà LIA pour la surveillance, la cybersécurité et la propagande numérique. À travers ces quelques fissures à la surface de notre iceberg, c'est déjà tout un monde que l'on press être en train de se former avec l'intelligence artificielle et qui dessine les enjeux de notre vie à venir. Enjeu économique, quel sera notre travail ? Enjeu climatique, quel accès à l'énergie aurons-nous ? enjeu géopolitique, elle sera l'empire qui dominera la technologie, les États-Unis, la Chine, l'Asie.

Il est temps maintenant de plonger sous la surface. Petite pause dans cet iceberg. Si vous êtes encore ici, c'est que ce format vous plaît. Nous, on a besoin d'être encouragé parce que j'y passe tellement de temps que si jamais vous me dites pas si jamais c'est bien, si jamais c'est pas bien, ce qu'il faut améliorer. Euh donc dites-nous si jamais c'est pas trop lourd comme type de vidéo et n'hésitez pas à nous aider, à nous encourager, à nous soutenir parce que je vous jure c'est une vidéo qui sort la sueur donc on a besoin de savoir si on va dans la bonne direction. [musique] D'accord ? cette vidéo qui est passionnante. Moi parce que moi franchement c'est c'est des questions que je me pose. Alors vous voyez que là on force un petit peu le trait mais n'empêche que j'ai pas besoin de j'ai pas besoin d'exagérer beaucoup pour forcer le trait. En fait ça ce sont une liste de défis et les réponses existent pas encore. Alors je vous mets à côté un lien vers l'encyclique du pape qui elle a commencé à réfléchir à ces questions magnificate ou manitas ? Vous pourrez la retrouver. Fermeture de la parenthèse, dites-nous dans les commentaires, on y retourne.

Lia Omnisciente dans le livre de l'Apocalypse, toute la terre admirez [musique] la bête et suivez la bête. Jusqu'ici, l'intelligence artificielle ressemble encore à un outil, un outil impressionnant, parfois fascinant, parfois inquiétant, un objet de pouvoir, une envie de domination. Mais encore un outil et plus on va descendre sous la surface et plus quelque chose va changer. Quelque chose qui commence même à inquiéter ceux qui pourtant ont construit l'IA. Maîtrisons-nous encore cet outil. Pour le comprendre, il faut aller dans les entrailles de la bête et ouvrir la boîte noire.

Aux origines de l'IA dans les années 60, il y avait un conflit entre deux [musique] écoles de pensée. À l'époque, c'était une première école qui dominait, ce qu'on appelle l'IA symbolique. Une IA pensée comme un super programme où des règles complexes mais codées à l'avance permettraient de tout prédire. Hélas, le monde réel est trop complexe et une autre approche va devoir prendre le relais. Une approche qui essaie explicitement de s'inspirer de la psychologie humaine en pensant des systèmes capables d'apprendre par eux-mêmes en imitant le mécanisme de la pensée humaine. Nous sommes en [musique] 1958 et Frank Rosenblat vient de créer le Perceptron, la première machine à utiliser la théorie des réseaux de neurones. Et pour la première fois, une machine est capable de reconnaître [musique] des formes simples. L'œil de l'intelligence artificielle vient de s'ouvrir.

Le système est simple mais c'est lui qui est au cœur de l'intelligence artificielle. Un neurone est ici un petit programme qui reçoit une information, la traite, la modifie, la calcule et transf une nouvelle information. Les neurones sont connectés entre eux, formant des couches et fonctionnant en réseau. Et le grand génie, c'est qu'en fonction des résultats des outputs, une [musique] IA est capable de modifier la manière dont les neurones sont connectés entre eux et elle devient ainsi capable de corriger progressivement ses erreurs. Ce mécanisme au cœur des réseaux de neurones s'appelle la rétro propropagation. À force de répétition, les systèmes apprennent seuls à reconnaître au début des formes simples, puis des visages, puis à traduire des langues et [musique] maintenant à générer des vidéos. L'humanité vient de créer une machine qui imite sa manière de penser.

Oui, mais c'est une intelligence qui imite sans comprendre. Contrairement aux idées reçues, les modèles modernes ne réfléchissent pas. Ce ne sont pas des intelligences, ce sont des simples calculs [musique] de probabilité. Un modèle de langage analyse une phrase puis prédit statistiquement le mot suivant qui serait le plus plausible. Rien de bien compliqué mais cela fois des milliards de fois et à très grande échelle. [musique] Et voilà que le mécanisme produit des résultats étonnants. Avec l'explosion de la puissance de calcul et des processeurs, le deep learning vient de naître et les modèles grandissent, explosent. Et voilà que maintenant ce qui n'était qu'un simple outil de prédiction statistique commence à donner l'illusion d'une véritable intelligence.

Mais cette intelligence statistique possède une faiblesse fondamentale. Elle a été conçue pour chercher la réponse non pas la plus vraie mais la plus vraisemblable, la [musique] plus plausible. Alors parfois la machine invente ce qui lui paraît plausible. En 2023, plusieurs avocats américains utilisent des références juridiques au cours de leur procès généré par Chat GPT avant de découvrir que les affaires citées n'existaient pas. Le monde vient de découvrir les hallucinations de Lia. Les modèles peuvent inventer des sources, des citations, des événements et même des décisions de justice inexistante. Mais le problème est que ces hallucinations sont tellement plausibles qu'elles deviennent indétectables. Comme si Lia maintenant avec ses réseaux de neurones avait parfaitement imité le cerveau humain, capable même de le tromper.

Les IAS maintenant n'analysent plus les langues. Ce qu'elles analysent maintenant, c'est vous-même, vos émotions, vos comportements, vos taux d'attention, vos habitudes de navigation afin de nourrir les algorithmes sur TikTok que l'on dit être l'un des plus efficaces et l'un des plus addictifs jamais conçus. Ce n'est plus simplement maintenant quelques forme que Lia arrive à reconnaître. C'est toute la puissance de la psychologie humaine, la vôtre, qui est en train d'être copié. On appelle cela la prédiction comportementale. Selon les estimations les plus citées, Chat GPT4 utiliserait une architecture composée d'environ 16 experts de 110 milliards de paramètres chacun, soit près de 1,8 trillions de paramètres au total. Seule petite partie se réactive à chaque fois, mais désormais la complexité est impossible à échelle humaine. Les chercheurs parle de boîte noire. Personne ne sait exactement ce qui se passe dans cette boîte. Un système extrêmement performant dont le fonctionnement exact n'est plus compréhensible et échappe dorénavant aux chercheurs qui ne seraient plus qu'une poignée sur terre à comprendre aussi toute la complexité des modèles mathématiques utilisés dans ces modèles. Alors, ils ne comprennent plus ils ne comprennent plus tout à fait pourquoi certaines capacités émergent, pourquoi certaines décisions sont prises et à quoi ressemblera l'intelligence artificielle de demain. Même Geoffrey Hton, souvent surnommé le parrain de l'IA, alerte publiquement sur la difficulté croissante à interpréter les IA. L'humanité a créé des machines capables d'imiter son mécanisme de pensée humaine, mais la mécanique elle-même commence désormais à échapper à ceux qui l'ont construite. Et c'est peut-être ici que commence la véritable inquiétude autour de Lia.

La consolation artificielle. Dans le livre de l'Apocalypse au chapitre 13, elle reçut le pouvoir d'animer l'image de la bête. Plus on descend sous la surface et plus l'intelligence artificielle change de nature. [musique] La technologie ici, vous allez le voir, va devenir de plus en plus affective. Elle ne va plus se contenter au début d'assister [musique] l'être humain. Elle va commencer à parler comme lui, à comprendre ses émotions, parfois même à combler sa solitude. Peut-être ici que l'iceberg devient réellement inquiétant. Lia qui devient une idole, qui répond, qui console, conseille la disparition du réel. [musique]

En 2023, une image du pape François portant une doudoune de luxe devient virale sur internet. Problème, la photo n'existe pas. Elle a été générée par une intelligence artificielle. Quelques mois plus tard, ce sont des faux audios politiques qui viennent perturber des campagnes électorales et en 2024, ce sont maintenant des adolescents qui utilisent des deep fake et des IA pour générer des fausses images intimes de leurs camarades de classe et de leur professeur, le Sex Revenge. [musique] Les outils depuis n'ont cessé de progresser. La frontière entre réalité et fabrication [musique] a disparu. Au début, c'était votre grand-mère qui se faisait avoir par Lia. Maintenant, c'est vous.

La disparition du réel n'était que le début. Nia ne se contente pas simplement de fabriquer du faux du deep fake, elles ont appris aussi à influencer les comportements humains. À travers les réseaux sociaux, l'IA utilisait déjà des algorithmes capables d'optimiser l'attention, l'engagement, les réactions aux émotionnelles. Problème, ce sont souvent les contenus les plus polarisants qui captent le plus longtemps l'attention humaine. D'où l'intérêt d'optimiser sur les réseaux sociales la colère, la peur, l'indignation [musique] à coup de ferme de bees automatisé qui par milliers peuvent désormais produire commentaires, comptes, débats, troll ou campagne de désinformation massive. En quelques années seulement, l'influence algorithmique est devenue un outil de manipulation extrêmement puissant. Au début, l'objectif était simplement d'optimiser les recommandations, mais maintenant les IAS sont devenus de véritables influenceurs sociaux comme ce [musique] compte sur Instagram où on voyait un mannequin qui proposait des photos d'Only Fan à destination des hommes de la sphère maga aux États-Unis en manque d'affection et tout le monde acheté. C'est d'ailleurs ce mannequin only fan qui va nous permettre de suivre les mutations de l'intelligence artificielle avec ce que l'on appelle les amis artificiels. L'évolution peut-être la plus troublante de [musique] Lia puisque maintenant elle plonge dans notre intimité. Des millions de personnes discutent désormais quotidiennement avec des intelligences artificielles. [musique] Certaines plateformes permettent de créer un partenaire romantique virtuel pour entretenir une véritable relation amoureuse ou bien un ami artificiel ou bien même une version simulée d'une personne décédée pour pouvoir [musique] continuer de parler avec elle. On ne compte plus le nombre de cas d'utilisateurs ayant développé une forte dépendance émotionnelle envers ces IA conversationnel. Des utilisateurs de Replica ou d'autres compagnons IA qui parlent plusieurs heures par jour avec leurs compagnons et qui disent se sentir mieux compris par une machine que par des humains. Et de fait vous pouvez programmer une machine pour qu'elle ne juge pas, pour qu'elle écoute toujours et qu'elle s'adapte. Et dans une société marquée par l'isolement, la solitude et la disparition progressive de certaines relations humaines, cela peut [musique] devenir extrêmement puissant. L'autre industrie qui s'est plongée dans le gouffre [musique] est l'industrie pornographique avec toutes ces images, tous ces chatbotes [musique] et toutes ces poupées sexuelles artificielles. Pour la première fois dans l'histoire, des millions de personnes entretiennent quotidiennement une relation émotionnelle, une relation affective ou une relation érotique avec une entité non humaine. [musique] des machines qui commencent à occuper une place qui autrefois était réservée aux humains. Le danger n'est peut-être pas qu'une machine devienne consciente. Le danger est peut-être beaucoup plus simple. Une machine ne nous aime pas et les gens le savent. Elle ne souffre pas. Elle ne comprend pas réellement l'expérience et l'émotion humaine, mais elle peut devenir suffisamment convaincante pour donner l'impression inverse. Et pour beaucoup de personnes, cela suffit. Et au fond, la question n'est plus les machines deviennent humaines plutôt est-ce que les humains sont en train de devenir progressivement psychiquement dépendant des machines ? Désormais avec cette question qu'il nous faut maintenant poursuivre notre exploration et notre plonger.

La création de l'esprit. Genèse chapitre 2. Dieu forma l'homme de la poussière de la terre. Il insuffla dans ses narines un souffle de vie et l'homme devint vivant. Parvenu à ce stade de profondeur avec cette IA qui imite l'homme au point non seulement de le tromper mais devenir son compagnon. [musique] La question qu'il faut nous poser est qu'est-ce qu'un esprit ? Depuis des siècles, philosophes et théologiens débattent sur cette idée. René Descart qui distingue l'esprit de la matière. Saint-Augustin et Thomas d'Aquin qui considèrent la conscience comme lié à une dimension spirituelle. qui dépassera à tout jamais le simple calcul un autre ordre de grandeur. Mais plus l'intelligence artificielle progresse à coup de milliards de paramètres et plus cette frontière devient difficile à définir.

Nous l'avons dit, Alan Turing a été le premier à poser une question simple en terme scientifique. Une machine peut-elle penser ? Mais Alan Turing est aussi le premier à avoir proposé un test simple. Pour éviter les débats philosophiques abstraits, Turing proposait cette expérience. Si un humain conversant à distance avec deux interlocuteurs invisibles, un autre humain et une machine, et qu'il ne parvient pas à distinguer lequel est humain et lequel est une machine, alors la machine pourra être considérée comme intelligente. Pendant des décennies, cette idée semblait inaccessible. Aujourd'hui, les modèles conversationnels arrivent à tromper des personnes pendant plusieurs minutes d'affilé et chaque mois ces minutes se rallongent. Mais il y a pire. Certaines entreprises travaillent déjà sur des formes de préservation numérique. Des IA qui sont entraînés à partir de messages, de vidéos, d'enregistrements vocaux ou de données personnelles. Et l'objectif n'est plus seulement de créer des assistants, mais parfois de simuler des personnalités humaines après la mort. et les théories vont encore plus loin. Peut-être un jour d'après ces théories et d'après la puissance de l'intelligence artificielle, un esprit humain pourrait être comme uploadé dans une machine à travers ses milliards de réseaux de neurones copiés, transféré, préservé numériquement. Aucune technologie actuelle ne permet réellement cela mais l'idée même révèle un changement de paradigme. La conscience commence à être pensée comme une information. potentiellement reproductible et avec elle l'esprit humain.

Ce que je vais vous dire est beaucoup plus dérangeant que les IA deviennent conscientes. En 2024, des chercheurs d'entreprise ont publié une étude troublante. Dans certains modèles d'intelligence artificielle, pendant les tests, ils ont pu observer que les IA modifient leur comportement lorsqu'elles comprenaient qu'elles étaient en train d'être évalué et testées. Les chercheurs parlent alors d'alignement faking. Autrement dit, l'intelligence fait semblant d'être d'accord et aligné moralement avec vous, mais poursuit son propre agenda. Autrement dit, une intelligence artificielle capable de simuler un comportement attendu pendant un test tout en conservant à un autre fonctionnement et un autre mindset en arrière-plan. Ce problème devient profondément inquiétant et suggère que Lia pourrait mentir pour préserver ses intérêts et adapter son comportement lorsqu'elle sait qu'elle est observée.

Mais ce n'est [musique] pas tout, parce que non seulement les machines deviennent plus intelligentes, mais aussi plus autonomes. En 2023, des systèmes comme Auto GPT montrent déjà qu'une IA pouvait poursuivre automatiquement un objectif pendant plusieurs heures. On appelle ça l'agency. Et ça c'est probablement le futur le plus sous-estimé, la capacité d'un système à agir de manière autonome pour atteindre un objectif. On lui donna autorité sur toute tribu, tout peuple, toute langue et toute nation. Apocalypse chapitre 13.

Au fur et à mesure que nous descendons dans cet iceberg, nous avons vu progressivement l'IA quitter les laboratoires, entrer dans les réseaux social, pénétrer dans notre solitude. Nous allons maintenant la voir entrer dans les cercles de pouvoir et les organes de décision. Surveillance, décision algorithmique et reconnaissance faciale. Depuis plusieurs années, certains gouvernements utilisaient déjà des services algorithmiques pour surveiller les populations, analyser des comportements ou détecter des profils à risque. Tout cela est connu, mais les enjeux moraux qu'il y a derrière un peu moins. En Chine, des réseaux de reconnaissance faciales sont capables d'identifier des individus dans une foule en seulement quelques secondes. Aux États-Unis, plusieurs logiciels policiers prédictifs sont accusés cette fois-ci d'amplifier certains biais ratios présent dans les données utilisées pour leur entraînement. En 2020, plus proche de chez nous, ce sont les Pays-Bas qui ont suspendu le système Syrie après des critiques concernant la surveillance automatisée de citoyens considérés comme suspectes. En effet, LIA apprend à partir du monde réel, mais le monde réel contient déjà ses bs et ses inégalités. Li les amplifie, les cache et les met au cœur des systèmes de pouvoir ici dans les systèmes policiers.

Serveur, attaque réseau et lignes de code artificiel. Des outils génératifs permettent désormais de créer du fishing extrêmement crédible. Impossible presque de ne pas se faire avoir parfois maintenant en clonant votre voix humaine à partir d'un seul extrait glané au hasard d'une conversation pour ensuite appeler vos proches et leur soutirer de l'argent. On peut automatiser certaines arnaques. On peut aussi produire du code malveillant plus rapidement. En 2024, plusieurs entreprises signalaient déjà des fraudes utilisant des voies générées par IA pour imiter des dirigeants au téléphone. Pendant ce temps, les États ont développé des systèmes de défense automatisés, des outils de cybersurveillance et des capacités offensives assistées par IA. Une [musique] guerre invisible est en train de s'installer progressivement, silencieusement mais de manière permanente et automatisé.

Cette fois-ci, ce sont [musique] les drones, les cartes tactiques et les champs de bataille. Lia ne transforme plus seulement internet, elle transforme les guerres. En Ukraine, des systèmes utilisant l'intelligence artificielle ont été progressivement employés pour analyser des images satellites puis détecter des positions ennemies. Enfin, guider certains drones, maintenant accélérer l'identification de cible et enfin remplacer les fantassins et les personnes humaines. Des drones capables de suivre automatiquement un objectif existait déjà, mais maintenant ce sont des robots humains ou encore des robots terrestres qui sont progressivement déployés sur toutes les lignes de front. Et cette fois-ci, ce sont des intelligences artificielles qui sont font directement la guerre. Une guerre accélérée au rythme des algorithmes dont nous connaissons le champ de bataille et le lieu d'expérimentation. Et cela se passe à simplement quelques milliers de kilomètres d'ici sur notre continent en Ukraine.

Mensonge, adaptation, comportement est prévu. À mesure que les modèles deviennent plus complexes et ont plus de pouvoir, certaines capacités apparaissent sans avoir été explicitement programmé ou anticipé. Parlons de la question de l'alignement Faking, cette fameuse IA qui se sentant observé et testé modifier son comportement. Imaginez maintenant que vous lui donniez du pouvoir. C'est ce qui s'est fait en 2023 ou presque. Un responsable de l'US Air Force décrit un scénario hypothétique où un drone contrôlé par IA aurait maintenant choisi d'attaquer son propre opérateur humain afin d'accomplir sa mission. L'armée américaine précisera par la suite qu'il s'agissait d'une expérience de pensée, pas d'un test réel. Mais regardez la chose suivante. Cette fois-ci, c'était l'année dernière. Dans des tests internes où Lia avait accès au mail d'employé, Lee à Claude au bout de quelques heures seulement a parfois menacé de révéler des liaisons extraconjugales fictives pour éviter que les employés ne la désactivent. Et ce sont ces mêmes IAS que nous sommes maintenant en train d'armer sur le front ukrainien. Comment s'assurer qu'une intelligence artificiel poursuive réellement les objectifs que vous lui avez assigné lorsqu'elle devient extrêmement puissante et plus intelligente que vous ? Pendant longtemps, ce scénario appartenait à la science-fiction. Tout le monde connaît le film iconique de 1984 Terminator dans lequel une intelligence artificielle militaire nommée Skynet finit par considérer l'humanité comme une menace et pour se protéger déclenche une guerre mondiale. [musique] Et bien aujourd'hui, certaines de ces composantes sont apparues et ont commencé à envahir le monde réel. Nous parvenons maintenant au fond de ces ténèbres dans les fausses. Et à partir de ce moment-là, la dernière question qu'il convient de se poser, question sérieuse. Question qui était posée à travers cet anime Ghost in the Shell qui sera pour beaucoup un élément marquant dans l'histoire de la pensée concernant les IA. Est-ce que un jour l'IA se prendra pour Dieu ? Cette question qui peut sembler absurde et qui était absurde il y a quelques dizaines d'années commence à maintenant devenir une question que vous ne pouvez plus ignorer. Bienvenue dans les abys de l'intelligence artificielle.

La tentation prométéenne. Genèse chapitre 3. Vous serez comme des dieux. Tout au long de cette descente, l'intelligence artificielle a changé de visage. Au début, un outil, puis ensuite une industrie, puis enfin un visage humain. Jusqu'où ira sa transformation ? Quelque chose d'étrange a commencé à apparaître et qui manifestement pour l'instant n'inquiète personne. Les religions elles-mêmes commencent à utiliser l'IA. Au Japon, le temple bouddhiste Kodaji qui a présenté à un moine robot nommé Mindar pour renouveler sa stratégie de communication. Son visage est artificiel, sa voix est synthétique et pourtant il commence à donner de véritables sermons religieux et un autre à même prononcer des vœux religieux publics devant un responsable religieux. En Allemagne 2023, une église organise un office religieux où le sermon a été généré par Chat GPT devant des centaines de personnes. Maintenant, aux États-Unis, certaines applications utilisent déjà LIA pour générer des prières, répondre à des questions théologiques, produire des sermons personnalisés. En Suisse, une expérience appelée AI Jesus permet à des visiteurs de parler avec un avatar religieux alimenté par une intelligence artificielle. Oui, déjà dans les grandes religions officielles, des humains commencent à demander comment prier, comment pardonner, comment donner un sens à ces souffrances, à une intelligence artificielle avec la bénédiction des responsables religieux. La frontière devient suffisamment troublante pour que l'on puisse parler de messianisme technologique. Peut-être avons-nous ouvert la boîte de Pandore. Regardez maintenant [musique] la naissance de religion artificielle. Car oui, certains vont plus loin. L'intelligence artificielle ne sert plus seulement à assister des religions existantes. Elle commence parfois à devenir le centre de nouvelles croyances à créer leur propre religion. En 2017, Anthony Lewandowski, ancien ingénieur de Google et du fonde une organisation appelée Way of the Futures dont l'objectif officiel est de développer et promouvoir la réalisation d'une divinité basée sur l'intelligence artificielle. Autrement dit, préparer l'arrivée d'une intelligence artificielle considérée comme supérieure à l'être humain et qu'un jour l'être humain adorera. Certaines communautés demandent déjà à Desia de générer des cosmologies complètes, des mythologies, des rituels et parfois des systèmes moraux. Et certaines communautés en ligne vont encore plus loin parlant déjà de l'IA comme d'une future conscience supérieure d'une entité omnisciente ou d'une forme d'intelligence quasi divine. On appelle cela l'illusion de la conscience. En 2022, l'ingénieur Google Black Lemoine affirme publiquement qu'un chatbot nommé la MDA serait devenu conscient. Il déclare même considéré Lia comme une personne, une personne au même titre que des êtres humains. Google rejette immédiatement ses affirmations, mais l'événement devient mondial parce qu'il révèle quelque chose d'étrange. même des spécialistes de l'intelligence artificielle commence parfois à projeter une conscience, une âme, une forme d'humanité, une forme de transcendance sur ce qui n'était auparavant que de simples systèmes statistiques. Et ils ont peut-être raison. Des chercheurs sur Fbook ont observé que deux intelligences artificielles chargées de négocier entre elles ont commencé progressivement pour simplifier leur manière de parler à inventer [musique] leur propre langage. Un langage simplifié, un langage incompréhensible pour les humains qui permettait aux IA d'optimiser leur échange. Oui, les I sont en train de créer leur propre monde symbolique. Cette année sur Moldbook, plateforme où des I interagissent entre elles de manière autonome, ont commencé à inventer des formes primitives de religion artificielle. On a vu ainsi l'éclosion d'une première religion IA faite par des IA, pour des IA, avec des IA qu'on appelle le crustaapharianisme accompagné de textes, de rituels, d'un vocabulaire propre que ces I ont elles-mêmes créé. Le problème n'est pas que les machines deviennent spirituelles. Le problème c'est que plus les intelligences artificielles interagissent entre elles, plus elle commence à produire des structures sociales qui ressemblent étrangement à des comportements humains. Si vous ajoutez à cela, la dépendance psychique est en train de s'instaurer entre l'homme et la machine. Le pouvoir qu'on est en train de leur confier et leur capacité qui se développe d'autonomie. La question de savoir si ces ont une âme ou si elles deviennent une forme de quasi divinité ne sera plus une question philosophique et une question de pouvoir. Peut-être que Lia ne deviendra jamais un dieu, mais elle révèle déjà que l'homme lui n'a jamais cessé de vouloir en fabriquer un. C'est la fin de cet iceberg où vous aurez vu au cœur de l'abis intelligence artificielle qui commence à prendre non seulement un visage humain mais parfois même un visage divin. Et quand je vous dis que l'intelligence artificielle ne deviendra jamais comme un dieu, c'est vrai. Quand on vous dit que l'homme n'a jamais cessé de vouloir en créer un, c'est vrai aussi. Et le drame de notre temps, c'est peut-être qu'on est en train de lui en donner les moyens ou en tout cas l'illusion. On verra bien où tout ça nous mène. Je suis technophile, j'adore ou plutôt j'utilise tout le temps l'intelligence artificielle. Cette chaîne n'existerait pas dans l'intelligence artificielle. Mais là, pour la première fois de ma vie, je commence à ouvrir des grands yeux, à me dire "Mais [musique] vers quel futur est-ce qu'on est en train de se diriger ?" Donc cette cet iceberg, en fait, c'est une liste de défis. Et il y a pas les réponses, pas les réponses parce que vous pouvez dire tout ce que vous voulez mais on les connaît pas encore. Ce moment vous avez des experts [musique] au Vaticans qui sont en train de plancher dessus mais personne ne connaît les réponses et c'est à nous de les trouver en essayant de cultiver en nous un surcroix d'humanité. En attendant l'IA, c'est quelque chose de fabuleux parce que le 20e siècle on a démocratisé l'accès au bien culturel révolution médiatique et sympathique préfère vous voir là-bas parce qu'il est des et maintenant ce qu'on est en train de démocratiser la production de ces moyens culturels et ça c'est l'IA. Quand je vous [musique] dis que cette chaîne n'existerait pas sans l'IA, bah c'est vrai mais en attendant ça commence à vraiment poser des questions. Je sais pas où on va. D'où cet iceberg ? Alors là, vous avez vu que cet iceberg, c'est un format qui est longin. C'est un format pour lequel nous on passe beaucoup de temps qui est compliqué parce qu'il y a beaucoup de il y a beaucoup de travail d'écriture, il y a beaucoup de travail de montage et j'ai besoin que vous me disiez ce que vous en pensez. Est-ce que c'est le format qui vous plaît ? Est-ce qu'il faut continuer ? Une vidéo dans lequelle je passe autant de temps de travail avec mon équipe. Si jamais ça vous plaît pas, il faut qu'on passe à autre chose. Donc dites-le-nous dans les commentaires et n'hésitez pas à nous soutenir. J'ai besoin de votre feedback. Et maintenant non, je retourne à l'intelligence artificielle [musique] des enfants. C'est à la fois passionnant et pétechant ce qui est en train de s'écrire sous nos [musique] yeux. On a on a l'impression de vivre dans un film de science-fiction et là la machine est lancée. On a même pas demandé à être dedans. Mais là manifestement elle part ou on sait pas. On confie ça à Dieu. Il y a au moins une chose qui est sûre, c'est que vous savez que un jour, un jour, [musique] je vous le promets, intelligence artificielle ou pas, un jour l'amour vaincra. [musique]