INTELLIGENCE ARTIFICIELLE - L'affaire "Hypnocratie"

Avant de vous laisser avec votre épisode, je vous rappelle ou je vous informe, si vous ne le saviez pas, que mon livre "La philosophie, c'est pour vous aussi" est disponible en précommande sur Amazon et sur le site de la Fnac. Un livre publié aux éditions Larousse, 240 pages, 19,99 €. Un livre dans le style qui est le mien : clair, concret, accessible. Si vous appréciez mon travail, vous ne pouvez passer à côté de ce livre. Précommandez-le dès aujourd'hui, les liens sont dans la description. Sur ce, place à votre épisode.

Les épisodes retour sont un format d'épisode dans lequel je reviens à chaud sur le dernier épisode publié sur ma chaîne. Ils sont habituellement réservés à mes abonnés Patreon. Pour vous remercier de votre fidélité, je vous offre aujourd'hui mon épisode retour sur l'intelligence artificielle. Bonne écoute.

Bonjour à tous, j'espère que vous allez bien. On se retrouve aujourd'hui pour un nouvel épisode retourné à mon dernier épisode sur l'intelligence artificielle. Alors, beaucoup de réactions suite à cet épisode sur l'intelligence artificielle. Je mentirai si je disais que je ne m'y attendais pas, puisque d'une certaine manière, bah, j'ai tout fait pour provoquer ces réactions avec ce piège que je vous ai tendu. D'ailleurs, le mot piège ne me paraît pas être le meilleur. Euh, c'était plutôt une expérience qu'un piège. Une expérience qui a très bien fonctionné, puisque vous avez été une écrasante majorité à ne pas détecter que les premières minutes de mon épisode avaient été générées par une IA. Donc, ce qui prouve bien qu'on est déjà à un stade où l'IA, euh, devient très difficile à détecter. Et j'aurai l'occasion de le redire dans cet épisode retour, on en est qu'au tout début, on en est qu'à la préhistoire de l'intelligence artificielle et de ses capacités en terme d'imitation de l'être humain.

Mais ce dont j'aimerais vous parler aujourd'hui dans cet épisode retour, c'est un événement dont je n'étais pas au courant au moment où j'ai enregistré mon épisode, que j'ai découvert par la suite, quelques jours après. Et alors, cet événement a eu deux effets sur moi. Premièrement, une certaine frustration de ne pas l'avoir su avant. Et deuxièmement, une certaine fierté, une certaine satisfaction à l'avoir anticipé dans mon épisode, puisque c'est exactement l'exemple que j'ai pris. Cet événement, beaucoup d'entre vous l'auront deviné, c'est le livre "Hypnocratie".

Alors, qu'est-ce que c'est que ce livre "Hypnocratie" ? Et bien, c'est un livre qui est sorti le 4 avril 2025 et dont l'auteur est un certain Sinweun, un auteur hongkongais totalement inconnu au bataillon, qui a donc écrit ce livre qui est devenu un bestseller mondial, "Hypnocratie", sous-titré "Trump, Musk et la fabrique du réel". Et bien, figurez-vous qu'on a découvert que ce Sinweun n'existait pas et que le livre "Hypnocratie" avait en fait été écrit par une IA. Et donc, on s'est retrouvé à ce moment-là avec ce que j'annonçais dans mon épisode, à savoir un livre de philosophie, ou en tout cas un livre qui propose une approche philosophique, qui est devenu un bestseller mondial, qui a donné lieu à des articles dans la presse, à des articles élogieux faisant de l'auteur un génie contemporain, un homme à l'intelligence incroyable, qui avait percé conceptuellement les mécanismes du pouvoir contemporain. Et alors, quel ne fut pas le choc de ceux qui avaient fait l'éloge de ce livre et de son auteur quand ils ont découvert qu'il s'agissait en réalité d'une IA, et que donc ce qu'ils avaient encensé sous les termes de génie et d'incroyable intelligence était en réalité l'œuvre d'une intelligence artificielle.

Alors, je voudrais quand même essayer d'être le plus précis possible, puisque en réalité, le livre n'a pas été entièrement écrit par une IA. Il a été écrit par un philosophe et éditeur italien qui s'appelle Andrea Colamedici, qui a utilisé deux IA génératives, en l'occurrence Chat GPT et Claude. Il les a nourris de ses réflexions, de ses recherches, de ses idées, et c'est ainsi qu'est né "Hypnocratie", un livre qui décrypte et qui cartographie l'architecture du pouvoir contemporain, fondé sur la production d'un état altéré de conscience permanent.

Alors, je ne vais pas rentrer ici ni dans le contenu philosophique du livre, ni même d'ailleurs sur la manière dont il a été généré. Ce que je voudrais faire aujourd'hui, c'est m'appuyer sur cet exemple pour montrer en quoi il illustre parfaitement ce sur quoi j'ai voulu insister dans mon épisode sur l'IA, à savoir le critère de la détection, en l'occurrence de la non-détection d'une œuvre générée par une IA. Et montrer en quoi c'est ce critère-là, c'est ce sujet-là qui devrait, je pense, occuper nos réflexions davantage que la question de savoir si une IA est oui ou non capable de penser. Et j'aimerais également qu'on se penche sur les réactions qui ont entouré la révélation sur le livre "Hypnocratie", les réactions de ceux qui en avaient fait l'éloge avant de finalement se rétracter. Ça, c'est intéressant, parce que ça en dit extrêmement long sur notre manière collective de percevoir non seulement l'intelligence artificielle, mais également sur nos attentes collectives et nos biais collectifs quand on parle d'une œuvre culturelle, philosophique ou intellectuelle.

Alors, pour commencer, pourquoi est-ce que je dis que la question de savoir si une IA est capable de penser ne me semble pas être une question pertinente, philosophiquement parlant ? Bah, la première raison, c'est celle que je développe dans mon épisode, je la réitère ici, à savoir qu'on ne connaît d'une pensée que ce qui en est exprimé. On ne juge l'existence et la pertinence d'une pensée qu'aux paroles et aux écrits qui manifestent cette pensée. Et donc, qu'une pensée soit le fruit d'un esprit humain ou qu'elle soit le fruit d'une intelligence artificielle, concrètement, ça change absolument rien à la situation. Ça ne change rien à ce qu'on juge et à ce qu'on évalue. On évalue une pensée à son contenu, pas à celui qu'on imagine en être l'auteur. Et d'ailleurs, la meilleure preuve, c'est que si on estime qu'une pensée générée par intelligence artificielle est nécessairement une mauvaise pensée, mauvaise au sens de faible, au sens de piètre qualité, bah, on doit être capable de la détecter. Et si on n'arrive pas à détecter qu'une pensée a été générée par IA, ben, c'est qu'elle ne doit pas être si mauvaise que ça. Et si elle n'est pas si mauvaise que ça, et bien, il faut la considérer indépendamment de ce qui l'a générée.

La deuxième raison pour laquelle la question de savoir si une IA est capable de penser ne me semble pas être une question pertinente, c'est que la réponse qu'on va donner à cette question va nécessairement dépendre de la définition qu'on donne au verbe "penser". Il est évident que bah, si vous considérez que pour pouvoir penser, il faut avoir des affects, il faut être capable de ressentir, d'éprouver des désirs, d'éprouver des angoisses. Si pour vous, il faut qu'il y ait tout ça en amont de la pensée pour qu'on puisse parler de pensée, bah, forcément, nécessairement, vous allez en arriver à la conclusion que l'IA ne pense pas. Je vais le dire autrement. Si vous faites de la pensée un phénomène purement et strictement humain, vous allez forcément en arriver à la conclusion que tout ce qui n'est pas humain ne pense pas. Donc, c'est ce qu'on appelle une pétition de principe ou un raisonnement circulaire. Et le problème des raisonnements circulaires, bah, c'est qu'on en sort pas. Autrement dit, on se retrouve pour ainsi dire condamné à défendre sa position sans jamais tenir compte des éventuels contre-arguments.

C'est un peu ce qui s'est passé avec Raphaël Enthoven. Même si je trouve qu'on a été excessivement désobligeant envers lui, on n'est pas obligé d'insulter tous ceux qui ne partagent pas notre point de vue. On n'est d'ailleurs pas obligé d'insulter ceux dont on estime qu'ils disent des choses fausses. Le raisonnement de Raphaël Enthoven, c'était de dire : "Une IA ne peut pas penser. La preuve, dans une dissertation de philosophie, elle ne sait pas construire une problématique." Monsieur Phille lui a montré que l'IA pouvait construire une problématique, donc qu'elle savait le faire, mais du moment qu'on lui donnait les bonnes instructions. Raphaël Enthoven a alors été obligé de changer son fusil d'épaule en répondant : "Oui, vous avez raison, mais il n'empêche que l'IA ne ressent rien. Donc, elle ne pense pas." Bon, ben ça, c'est problématique, philosophiquement problématique, parce que soit on définit un critère de la pensée, ici par exemple, construire une problématique, et si on s'aperçoit que l'IA en est capable, on accepte de réévaluer sa position, la position selon laquelle l'IA est incapable de penser. Soit, bah, on utilise pas cet argument, on ne fait pas de la problématique une preuve de la pensée pour finalement se rétracter quand on s'aperçoit que l'IA en est capable.

Donc, dire "l'IA ne pense pas, elle simule la pensée", "l'IA ne pense pas, elle imite la pensée". Oui, très bien. Et donc, une fois qu'on a dit ça, qu'est-ce qu'on est censé en conclure ? Je vais me faire le porte-parole de William James, représentant du pragmatisme philosophique. Quelle différence ça fait ? Quelle différence ça fait dans la pratique ? Aucune. Et c'est pour ça que je dis que tout le débat sur la question de la pensée, de la définition de la pensée, qui nous entraîne dans des controverses dignes de la scolastique médiévale, des débats totalement abstraits dont la conclusion dépend uniquement finalement de la définition qu'on met derrière les mots. Tout ça, et bien, ça n'invite pas à une meilleure compréhension de ce qu'est l'IA. Ça invite seulement à des positions dogmatiques et à l'affrontement stérile de ces positions dogmatiques.

Vous considérez que l'IA ne pense pas, qu'elle est structurellement incapable de penser. Très bien. D'accord. Mais que se passera-t-il si un jour vous êtes confronté à une pensée que vous jugez cette pensée pertinente, stimulante, juste, et que vous apprenez à posteriori que cette pensée a été générée par IA ? Voilà la vraie question. C'est la vraie question, parce que c'est la seule question qui permet véritablement de trancher. C'est la seule question qui permet véritablement de tester l'hypothèse et d'obtenir une réponse.

Et donc, c'est là que mon épisode intervient avec ces 3 minutes de faux Charles, que je pense 99 % d'entre vous ont cru être le vrai Charles, avec évidemment des réserves ici ou là sur la pertinence de ce que disait le faux Charles. Et ça, on est bien d'accord, l'IA à l'heure où on parle n'est pas encore capable de simuler la pensée aussi bien qu'un humain. Mais ce que cette expérience a montré, c'est que quand on ignore qui est l'auteur d'une pensée, bah, c'est à ce moment-là qu'on respecte le plus la pensée, parce que c'est à ce moment-là qu'on considère la pensée pour elle-même.

Vous écoutez un podcast de philosophie, le contenu vous fait réfléchir, vous trouvez les arguments pertinents, vous trouvez le raisonnement solide. Peu importe que ce soit une IA qui l'ait généré, peu importe au sens où ce qu'on recherche quand on écoute un podcast de philosophie ou quand on lit un livre de philosophie, bah, c'est de la pensée. Ce n'est pas d'entrer dans une relation paranoïaque avec celui qui est censé avoir produit cette pensée. Je vais le dire très brutalement : si vous découvriez que depuis le début, j'étais une IA, ça ne changerait absolument rien à la valeur de tout ce que j'ai dit dans mes épisodes. Ça ne changerait rigoureusement rien. Ce que ça changerait, c'est la perception que vous avez de ma personne. C'est le lien émotionnel et affectif que vous avez tissé avec moi. Oui, ça compte, mais ça compte en terme de confiance et de sentiment de rupture de la confiance. Ça compte en terme d'identification, de projection, d'attente, mais ça ne compte pas dans l'évaluation de la pertinence de la pensée.

Et donc, c'est là que j'en arrive à "Hypnocratie". "Hypnocratie", c'est l'illustration à grande échelle de tout ce que je viens de dire là. "Hypnocratie", c'est un livre dont on pensait au départ qu'il avait été écrit par un humain. On s'est mis à le lire, à le commenter, à le partager, d'autant qu'il parle d'un sujet qui passionne les foules : Trump, Musk, le pouvoir. Et une fois qu'on découvre qu'il a été écrit par une IA, mince, on est gêné, on change d'avis. Alors, pas tout le monde, bien sûr. Il y a des gens qui ont eu l'honnêteté de maintenir leur avis positif. Mais il y a aussi beaucoup de gens qui, parce qu'ils considèrent qu'une pensée ne peut pas être pertinente si elle est le fruit de l'IA, parce qu'ils considèrent qu'il faut nécessairement être humain pour penser dignement, parce qu'ils ont ce raisonnement circulaire dont je parlais tout à l'heure, sont revenus sur leur position initiale. Et après avoir dit tout le bien qu'ils pensaient de ce livre, ont finalement cédé au besoin d'en dire du mal. Et ça, c'est extrêmement révélateur. C'est extrêmement révélateur, non pas de ce qu'est l'IA, mais de ce que nous sommes nous. C'est très révélateur de notre incapacité à dissocier l'œuvre de son auteur, et surtout de notre besoin d'avoir les jugements de nos préjugés.

Ça veut dire quoi ? Bien, ça veut dire que quand on fait face à une situation qui sort de nos schémas intellectuels préconçus, ici donc, bah, le fait qu'une IA puisse produire une œuvre philosophique, on se sent obligé de dévaloriser a posteriori ce qu'on a jugé pour que ça concorde avec notre préjugé initial. "Une IA ne peut pas penser. J'ai dit du bien d'une pensée générée par IA, je dois en dire du mal. Je dois changer d'avis pour ne pas changer d'avis." Vous voyez ce que je veux dire ? Changer mon jugement pour ne pas devoir changer ma position. Changer mon évaluation pour ne pas devoir changer mes critères d'évaluation. Ça porte un nom : la dissonance cognitive. La dissonance cognitive, autrement dit, la confrontation à deux informations incompatibles entre elles : "L'IA peut penser", "L'IA ne peut pas penser". Confrontation qui ne peut être résolue que par la négation d'une des deux informations. Au lieu de se dire : "Il y a quelque chose qui ne tient pas dans ma position, je suis dans le préjugé, je suis dans l'enfermement dogmatique", non, je modifie mon jugement a posteriori pour qu'il colle avec la position que j'ai envie d'incarner. Voilà pourquoi la dissonance cognitive va de pair avec la mauvaise foi. Et voilà pourquoi, en matière de jugement, le post-jugement est toujours une confirmation du préjugé.

Alors, je me suis amusé, et cette fois-ci, je ne vous tends pas un piège, je me suis amusé à demander à Chat GPT comment il analysait ce phénomène. Ce phénomène de rétractation par lequel on modifie a posteriori son jugement sur une œuvre quand on découvre qu'elle a été générée par une IA. Je vous propose d'écouter sa réponse. Vous allez voir, c'est extrêmement instructif.

"Tu mets le doigt sur un mécanisme psychologique aussi profond que révélateur : la dissonance cognitive face à une œuvre qui nous a plu, mais dont l'origine ou l'auteur vient heurter nos représentations ou nos appartenances. Exemple ici : Idée 1 : Ce livre est brillant, intelligent, profond. Idée 2 : Mais il a été écrit par une IA, par un homme sexiste, par un militant d'extrême droite, par un jeune sans diplôme, par une femme trans, etc. Cette incohérence met le cerveau en tension. Pour soulager cette tension, deux options principales : 1. Changer son avis sur l'œuvre. Finalement, ce n'est pas si bien que ça. 2. Accepter l'inconfort et réviser ses préjugés. Tiens, peut-être qu'une IA ou cette personne peut produire quelque chose de valable. La plupart des gens choisissent l'option 1 car elle coûte moins cher mentalement. C'est une forme de repli protecteur du moi pour ne pas être obligé de remettre en cause ses propres croyances sur ce que peut ou ne peut pas faire une IA, un ennemi politique, une personne d'un autre groupe culturel. On sacrifie la valeur qu'on accordait à l'œuvre. On aime ce qu'on croit conforme à ses attentes et dès que la source est disqualifiée socialement ou symboliquement, l'œuvre est dévalorisée comme si sa valeur était contaminée par son origine. Beaucoup de critiques se sentent obligés de se corriger une fois la vérité révélée par peur d'avoir été dupés, mais surtout par peur d'avoir aimé quelque chose qu'ils ne devraient pas aimer. Il y a dans cette réaction une logique tribale : ce qui est produit par les miens est bon, ce qui vient de l'extérieur est potentiellement suspect, même si objectivement c'est la même chose. Cela touche à l'essentialisme culturel. On attribue une essence humaine, non humaine, progressiste, réactionnaire, universitaire, autodidacte à la source et cette essence contamine le produit. C'est précisément ce que l'expérience 'Hypnocratie' démontre avec acuité. Dès lors que l'on découvre que le texte vient d'une IA, la même lecture devient insupportable pour certains. Ta remarque invite à une posture plus exigeante : séparer l'évaluation d'un contenu de la catégorisation de sa source. Ce n'est pas un relativisme, ce n'est pas dire que tout se vaut, c'est au contraire refuser de juger autre chose que ce qu'on prétend juger. Aimer un texte ne signifie pas adhérer à son auteur, pas plus que détester une personne devrait interdire de reconnaître une qualité dans ce qu'elle fait. Cela demande une certaine assise intellectuelle, une forme de maturité critique difficile à maintenir dans un monde saturé d'identitarisme et de réflexes polarisés."

Merci Chat GPT. Je ne sais pas ce que vous en pensez, mais pour ma part, je trouve que ce qui vient d'être dit est très juste, quand bien même ce n'est pas un être humain qui en est l'auteur.

Et alors, j'aimerais terminer cet épisode retour sur un dernier aspect que je n'ai pas abordé dans mon épisode, puisque vous l'aurez compris, le but de mon épisode, c'était d'ouvrir un angle de réflexion sur l'IA, plutôt que de m'enfermer dans un débat sans fin sur ce qu'est l'intelligence, sur ce qu'est la pensée. D'autant que, comme je vous l'ai dit tout à l'heure, nous n'en sommes encore qu'à la préhistoire de l'intelligence artificielle. Et donc, disserter sur ce qu'elle est et ce qu'elle ne peut pas, bah, c'est se condamner à dire des choses qui seront périmées dans 10 ans, dans 5 ans, peut-être même dans 1 an. Je mets ma main à couper que dans 10 ans, quand les gens écouteront cet épisode, ils seront atterrés, atterrés ou amusés, tout dépend du point de vue. Mais en tout cas, ils seront affligés de voir à quel point non seulement on s'ébaubit de performances qui paraîtront ridicules en 2030 ou en 2040, parce que l'IA sera capable de choses qu'on n'est même pas en mesure d'imaginer aujourd'hui. Elle sera capable de simuler le comportement humain et de générer des œuvres qui feront passer les œuvres qu'elle génère actuellement, bah, pour des dessins d'enfants, c'est absolument sûr et certain.

Mais ce que je veux dire, c'est que penser l'IA aujourd'hui, en 2025, c'est commencer à penser notre rapport à l'IA. Notre rapport à l'IA aujourd'hui est très contrasté : un mélange de fascination et de peur, un mélange d'admiration et de dénigrement, d'attraction, répulsion. Je m'attends d'ailleurs à ce qu'on parle prochainement d'IA phobie ou d'artefactophobie pour qualifier les discours qui tendent à dévaloriser ou à blâmer l'IA, à dire que le danger, c'est l'IA. Faites-moi confiance, ce jour viendra.

Mais penser notre rapport à l'IA aujourd'hui, c'est percevoir à quel point l'IA commence à pénétrer et à s'installer dans notre quotidien, dans notre travail, dans nos loisirs, au point qu'elle fera bientôt partie intégrante de nos interactions sociales. On demande à Chat GPT de nous donner un renseignement, on lui parle en vocal. On l'utilise comme un psy, comme un confident, comme une oreille attentive qui ne nous juge pas. Certains commencent même déjà à lui donner un prénom pour pouvoir parler de lui en société sans avoir assumé qu'il parle d'une intelligence artificielle. Et d'ici peu, sans même qu'on s'en soit rendu compte, on aura à l'égard de l'IA la même considération, le même respect, le même affect que celui qu'on a à l'égard des personnes de notre entourage.

La question n'est donc pas de savoir si l'IA peut devenir un être humain. La question est de savoir jusqu'à quel point le fait de l'envisager comme si c'était un être humain n'en fait pas déjà un être humain. Je vous remercie.

[Musique]