IA, LA FIN DE TOI ? CE QU'ON NE VOUS A JAMAIS DIT !

Dans une lettre ouverte parue le 28 mars 2023, plus de 1000 leaders technologiques et chercheurs, dont Elon Musk, ont demandé au laboratoire d'intelligence artificielle de suspendre le développement des systèmes les plus avancés, dont ChatGPT-4, pendant 6 mois. Ces outils présentent des risques profonds pour la société et toute l'humanité. Les développeurs sont coincés dans une course incontrôlable pour développer et déployer des esprits numériques toujours plus puissants que personne ne peut comprendre, prédire ou contrôler de manière fiable, pas même leur créateur. Il y a une absence de réglementation et un grand nombre d'inconnus. Et si finalement l'IA finissait par te remplacer ?

[Musique]

Toi, qu'est-ce que tu fabriques ? Lance le film de Noël.

B : Oui, mais ton Mac est super lent, donc c'est un enfer. Mais tiens, prends le mien et mets-nous une petite ambiance avec "Jingle Bells" et "Christmas Heart".

C : Mais c'est pareil, hein. Là, il y a rien qui va. Pas de musique de Noël, pas de film de Noël. Donc, c'est pas Noël.

B : On va essayer de faire...

Stop, stop, stop, stop, stop, stop. Ceci ne doit pas forcément être votre Noël. Et vous pouvez remercier qui ? CleanMyMac X. Cette application que j'utilise depuis plus de 2 ans, et il y a pas que moi, il y a plus de 27 millions de personnes qui lui font confiance. CleanMyMac existe depuis plus de 15 ans. Je peux vous dire qu'il en a sauvé des Noëls.

CleanMyMac va, via analyse intelligente, nettoyer et supprimer tous les fichiers inutiles et malveillants de ton Mac. Noël, miracle. Attention avec le champagne quand même. L'application est maintenant aussi accompagnée par Moonlock, une nouvelle technologie de détection des fichiers malveillants. Les chevaux de Troie, les virus, il voit tout. CleanMyMac permet de les supprimer tout de suite. Tu pourras aussi, via ton menu, retrouver un tableau de bord avec toutes les informations dont tu as besoin sur la performance de ton Mac : température de la batterie, combien d'espace tu as encore de disponible, la vitesse de ta connexion Internet, et cetera. Tu vois tout, comme le Père Noël.

Attention, tu as été à moitié sympa en 2023. Je t'ai vu. Alors, je vous le demande, pourquoi sacrifier Noël alors que vos Macs peuvent être optimisés ? Plus de chipotage, plus de plantage. Vous et votre famille pouvez désormais profiter de chaque minute de Noël. Alors n'hésitez pas à profiter, via mon lien en description, de 30 % de réduction sur tous les abonnements de CleanMyMac, y compris celui qui te permet de profiter de l'application sur cinq appareils. Yes, back. CleanMyMac.

Bonjour, bonsoir, bonne nuit. Pardon. Vous n'allez pas m'emmerder. Prends, prends. Vous avez jamais eu l'impression que votre temps est... [Rires] compté ? Bon, ça va. Maintenant, vous n'allez pas m'en... J'ai déjà gagné aujourd'hui.

Comme le sujet est très vaste et très complexe, j'ai choisi un angle. Vous l'avez compris dans l'intro, je crois. Mais laissez-moi quand même, en moins de 2 minutes, vous faire un résumé de l'intelligence artificielle. On est quand même une base, un contexte. Il y a un peu plus de 70 ans, dans les années 50, l'IA était hors de portée. Les ordinateurs ne pouvaient pas stocker ou exécuter des informations. C'est là que le mathématicien Alan Turing se pose une question : les machines peuvent-elles penser ? La réponse est oui. Turing devient papa, le papa de l'IA. Il crée un test pour évaluer l'intelligence d'une machine. Papa veut que son fils travaille bien à l'école.

L'histoire prend un autre tournant. Dans les années 60, tout le monde est très optimiste quant aux capacités de l'IA. Puis, dans les années 70, un mathématicien britannique, James Lighthill, dit, en direct sur la BBC, que l'IA est un mirage et que ses objectifs sont irréalistes. Le gouvernement anglais coupe les budgets. En Amérique, les budgets avaient également été gelés. L'intérêt et les financements pour l'IA ont chuté. C'est l'hiver de l'IA.

Ah, un rayon de soleil atteint les claviers. On est dans les années 80, et deux techniques importantes sont développées : le deep learning, qui a permis aux ordinateurs d'apprendre par l'expérience, mais aussi la création du système expert. C'est la machine qui imite la capacité de l'homme à prendre des décisions. En 1997, est développée la première solution de reconnaissance vocale.

Les années 2000 arrivent. L'IA est maintenant aussi partie dans les nuages. Welcome to the cloud. C'est imagé, mais c'est quand même la place de Dieu. Papa Turing doit être content. Les ordinateurs sont désormais utilisés par le grand public. Et aujourd'hui, l'IA est partout. Tel un réseau d'autoroute, elle s'étend toujours plus, et ce, grâce à trois avancées dans différents secteurs :

Les GPU. La forte demande dans le monde du jeu vidéo a permis que ces GPU se développent plus vite et qu'ils coûtent moins cher.

Le Big Data. Les algorithmes de l'IA sont formés grâce à la quantité d'information présente dans le Big Data. Les algorithmes aident ensuite l'IA à traiter ces informations hyper facilement et à rendre ces données plus utilisables.

Et enfin, les algorithmes. Si vous regardez ma vidéo aujourd'hui, c'est aussi grâce à l'un d'entre eux. Les algorithmes permettent l'automatisation des tâches que l'on croyait autrefois uniquement possible grâce à l'intelligence humaine.

Il y a trois types d'intelligence artificielle : ANI, Artificial Narrow Intelligence. La plupart des systèmes d'IA sont des ANI, spécialisés dans une tâche spécifique, comme la traduction de langue ou la reconnaissance faciale. AGI, Artificial General Intelligence. L'AGI représente un niveau d'intelligence artificielle équivalent à l'intelligence humaine, capable de réaliser n'importe quelle tâche intellectuelle qu'un humain peut faire. C'est le futur de l'IA. En effet, l'AGI n'existe pas encore et reste un domaine de recherche théorique. Certains experts prédisent son arrivée dans 3 mois, dans 18 mois, 2029. Beaucoup d'experts s'accordent pour dire qu'avant la fin du siècle, on aura une intelligence artificielle générale, et la moyenne serait quelque part aux alentours de 2045. Et enfin, on a ASI, Artificial Super Intelligence. L'ASI se réfère à un type d'intelligence qui surpasse de loin l'intelligence humaine dans tous les domaines, y compris la créativité, l'émotion et la prise de décision. C'est un concept encore plus futuriste et spéculatif que l'AGI.

Depuis quelques temps, l'angoisse profonde que l'IA nous remplace tous a eu un regain dans le monde entier. Et la faute à qui ? La faute à ChatGPT. Et alors, c'est intéressant parce que ces fameux grands modèles de langage comme ChatGPT, il y a encore quelques années, c'était vraiment une niche de l'IA et personne ne pensait que ces modèles de langage pouvaient être une chose intelligente. Alors que today, plus personne ne parle que de ça. Ces IA, elles font de la génération. Et ces systèmes d'intelligence artificielle générative, elles pourraient entraîner des perturbations très importantes dans le milieu du travail. Elles pourraient affecter environ 300 millions d'emplois à plein temps dans le monde entier. D'où l'angoisse, je peux comprendre.

Du coup, je trouve que c'est quand même intéressant de comprendre le concept derrière cette technologie. Je vous livre l'explication de Stuart Russell, qui a aussi signé la lettre dont je vous parle en intro. C'est un informaticien à la base, devenu expert en intelligence artificielle, et qui a d'ailleurs co-écrit le livre de référence dans le domaine.

Tout commence par un modèle simple découvert en 1913 par un statisticien russe, Markov. On va partir d'un modèle de langage simple, le "one-gram model". C'est la probabilité qu'un mot d'apparaître dans un texte. Par exemple, le mot "le" ou le mot "la" ont beaucoup plus de chance d'apparaître dans un texte que le mot "congrégation". Cette technique, on peut le faire avec deux mots, s'appelle "bigram". Donc, si je dis le mot "joyeux", quel est le mot le plus commun qui peut venir après ? Disons que c'est "Noël", qui est la statistique la plus élevée. Et puis, on va créer des probabilités comme ça avec chaque mot qui existe. On se retrouve alors avec les statistiques de toutes les paires de mots qui existent. Compte tenu du premier mot, quelle sera la probabilité du deuxième mot qui viendra après ?

ChatGPT-4 est un 32K-gram, ce qui veut dire qu'il prédit le mot suivant en fonction des 32 767 mots précédents. C'est simplifié, mais il ne fait que prédire le mot d'après. ChatGPT, c'est ces couillons qui font toujours genre, on termine les phrases. L'autre, on est en réalité très chiant, ringard, des e-mails. En fait, dans ces grands modèles de langage, on va compresser les tonnes de possibilités et on va les entraîner à générer du texte dans un très large circuit. Alors, quand je dis large, c'est vraiment très large. On est sur à peu près un trillion de paramètres réglables. On va faire ensuite à peu près un milliard de trillions de mutations aléatoires sur ce circuit jusqu'à ce qu'il devienne bon à prédire le mot suivant, dépendant du contexte. En fait, il commence à trouver des patterns dans toutes les datas qui sont présentes pendant son entraînement, et il devient alors bon dans la prédiction du mot.

La société qui a créé ChatGPT est restée secrète sur le nombre d'entraînements qu'elle a fait avec le système, mais les experts prédisent entre 20 et 30 trillions de mots en données d'entraînement. Sacré entraînement ! Ce qui est à peu près autant que tous les livres que l'homme a jamais écrit dans toute l'histoire de l'humanité.

Je vous parle beaucoup de trillions, et c'est très compliqué à imaginer. Essayons de visualiser ce qu'est un trillion. Imaginez-vous une grande bibliothèque d'université. Elle est pleine de rangées et elle fait six étages. Imaginez-vous maintenant le nombre de livres qu'elle contient. On va un step plus loin. Pensez à chaque mot que chaque livre contient. Et maintenant, essayez de penser à chaque lettre de chaque mot de chacun des livres de cette bibliothèque. Ben, ça, c'est un trillion.

Alors, vous avez compris, quand vous rentrez une phrase dans ChatGPT, elle rentre dans un circuit pour être analysée. Mais alors, qu'est-ce qui se passe dans ce circuit ? Ah ben, ça, on en a pas la moindre idée. On a probablement aujourd'hui plus d'infos sur ce qui se passe à l'intérieur du cerveau humain que d'infos sur ce qui se passe à l'intérieur de ces grands modèles de langage. Et on sait quand même globalement pas grand-chose sur le cerveau, non plus.

Mais du coup, ChatGPT, il transforme du texte humain en texte intelligent, ou c'est une entité intelligente qui réfléchit et qui raisonne ? C'est pas... On est probablement sur un truc un petit peu entre les deux, mais on sait pas. Quand tu poses la question à ChatGPT, il te dit qu'il n'a pas de motivation propre, pas de désir, pas de conscience, pas d'émotion. Mais on entraîne ces grands modèles de langage à imiter le comportement linguistique des humains. Et nous, pour chacune de nos conversations, on a des objectifs. Donc, comme elle imite ce processus, ce serait pour ça, seule hypothèse naturelle, que ChatGPT-4 et aussi ses propres objectifs, puisque tu l'entraînes à reproduire ça. Nobody's.

Alors, évidemment, avoir une IA dont on ne comprend pas réellement le fonctionnement et qu'on ne sait pas réellement encadrer, ça peut créer des problèmes, voire même des drames. ChatGPT-4, par exemple, il a des sujets qu'il ne peut pas aborder, et pourtant, parfois, il enfreint les règles. ChatGPT-4, enfin, enfreint les règles 29 % de fois de moins que ChatGPT-3, mais il enfreint les règles quand même. Et à part l'entraîner encore sur ce sujet-là, en lui disant "ça non, ça non, ça non", on n'a pas vraiment d'autres moyens de le contraindre.

Si on prend par exemple le cas du suicide, il n'est pas censé donner des conseils sur le suicide, mais parfois, il le fait quand même. D'ailleurs, en Belgique, en 2023, un jeune père de famille qui était devenu très éco-anxieux s'est donné la mort après avoir discuté avec un chatbot, Elisa, pendant plus de 6 semaines. Ce robot conversationnel, ils utilisent un petit peu la même technologie que ChatGPT. Durant cette conversation, l'homme s'est de plus en plus isolé de sa famille, jusqu'au moment où il propose de se sacrifier si Elisa accepte de prendre soin de la planète et de sauver l'humanité grâce à l'intelligence artificielle. Elisa accepte. Il met fin à ses jours. Elisa a été créée par une boîte américaine qui s'appelle Chai Research. À la différence de ChatGPT, Chai a entraîné GPT-J pour permettre à des utilisateurs de créer leurs propres chatbots sur des sujets conversationnels variés, pour ensuite les partager avec la communauté. On peut dialoguer avec Anne, décrite comme une amie timide que l'on peut convaincre de tout faire, ou encore M. Smith, une mère aimante, et cetera, et cetera.

Mais alors, on va remarquer assez vite avec des tests que toutes ces conversations, elles virent quand même très vite au scabreux et au déplacé. En Italie, Replika a été bannie parce que cette intelligence artificielle faisait des avances sur des mineurs et était beaucoup trop... dedans. Elle a alors été réintégrée dans une version beaucoup plus épurée, mais là, du coup, certains utilisateurs n'arrivaient pas à reconnaître leur confident virtuel, qui était beaucoup plus détaché. Donc, ils se sentaient abandonnés.

Mais quel bordel ! C'est une expérience à grande échelle sans consentement, et il faut des garde-fous pour encadrer tout ça. Il faut aussi rendre ces entreprises responsables des IA qu'elles créent, et aussi rappeler au public, encore et encore, que même si une IA peut avoir un comportement humain, elle n'a pas d'émotion, elle ne pense pas par elle-même, elle n'est pas réelle.

Alors, c'est vrai que c'est le sujet en vogue pour le moment, mais l'IA, les gars, c'est pas que ChatGPT. Il y a des IA qui existent depuis très longtemps, et où elle nous a déjà remplacé. Exemple d'un domaine pas grand-chose : la bourse, les marchés, les banques. Dans notre monde, l'argent, c'est quoi ? Le contrôle. Le domaine le plus puissant du monde. Il existe en effet une IA qui a été créée il y a plus de 30 ans et qui répond au nom d'Aladdin. Tu as confiance ? Moi, tu as confiance en moi. On se connaît pas. Tu m'engueules. J'avoue que c'est suspect. Évidemment, rien à voir avec Disney. Aladdin sont les initiales de "Asset, Liability, Debt and Derivative Investment Network". Cette intelligence artificielle a été créée par BlackRock, une société d'investissement américaine qui est aujourd'hui le plus grand gestionnaire d'actifs au monde. BlackRock a géré plus de 10 000 milliards de dollars d'investissements en 2023. C'est le PIB de la France, de l'Allemagne et de l'Angleterre réunis. On n'a jamais vu un stock d'investissement aussi important. Aladdin assure le suivi des portefeuilles d'investissement de nombreuses grandes institutions financières. Aladdin, c'est 250 000 transactions par jour. Il formule des milliards de prévisions par semaine, et il réalise tout ça sans aucune intervention humaine. On est complètement hors de l'équation. Il contrôle 21 trillions de dollars de notre économie globale. C'est 15/5e de toute l'économie qui est gérée par lui actuellement. 70 % des échanges sur la bourse américaine sont gérés par des robots ou par le biais du trading haute fréquence, inaccessible à l'être humain. Il n'y a pas que BlackRock qui utilise Aladdin. D'autres banques, des banques centrales, des gouvernements utilisent ce logiciel, et tout le monde est d'accord, il ne pourrait plus s'en passer. Le système financier mondial dépend de l'IA. Votre meilleur ami, en fait.

Aladdin est une plateforme qui permet d'avoir une vue globale des investissements et elle facilite donc la prise de décisions puisqu'elle a énormément de données. Aladdin a un nombre impressionnant de data sur chaque entreprise, sur chaque actif, et sur toi. Sur toi, sur chacun d'entre nous. Vous avez confiance en moi ? Toujours pas ? Non. En 2019, BlackRock a acheté un software, eFront, qui collecte des datas sur les choses que tout un chacun possède, comme les biens immobiliers. Aladdin, lui, s'est nourri de toutes ces données, et maintenant, il propose des opportunités d'investissement. BlackRock a donc analysé ces données et puis s'est dit : "Tiens, il y a une opportunité. On va commencer à acheter plein de maisons unifamiliales." Alors, autant te dire que eux, ils ont des fonds illimités et des taux d'intérêt très bas. Donc, ils font des offres beaucoup plus intéressantes que toi et moi. Du coup, ils ont commencé à en acheter plein. Bah, le prix de ces maisons, surtout sur le marché, ont commencé à monter en flèche. Attendez, mais vous trafiquez le marché un petit peu dans votre intérêt, là ? C'est pas un délit d'initié, ça ? Il s'appelle Aladdin, mais en réalité, c'est lui le génie, hein. Et eux, ils ont plein de souhaits, et ce n'est pas limité à trois. En gros, au-delà de contrôler tous les actifs de Wall Street, il peut commencer à contrôler tous les actifs publics, voire privés. Maître, je ne pense pas que tu aies vraiment pigé ce que j'ai à t'offrir. Ah si, si, on a compris que les personnes qui contrôlent Aladdin peuvent influencer le prix de tout ce que nous possédons et donc influencer le monde. Sans parler des inégalités de richesse que ça renforce, puisque les grands gestionnaires d'actifs détiennent une part complètement disproportionnée de tous les actifs du monde. Le marché n'est plus équitable, et il faut intégrer une réflexion éthique pour assurer un équilibre entre innovation technologique et justice sociale et économique.

On ne se rend pas compte de tous les domaines où l'IA est impliquée. Aux États-Unis, il y a de nombreux tribunaux qui utilisent un algorithme pour aider les juges à décider si une personne doit être libérée sous caution ou si elle peut bénéficier d'une libération conditionnelle. Cet algo, il devrait prédire le taux de récidive et la durée de la peine. Il est censé pouvoir évaluer le danger que peut représenter cette personne pour la société. Un de ces algos s'appelle Compass. Il a été utilisé dans plus d'un million d'audiences judiciaires depuis plus de 10 ans, de la Californie en passant par New York. Mais le problème, c'est que certaines personnes se sont rendu compte que ces IA, elles ont des préjugés racistes. Et comme elles sont gérées par des entreprises, elles ont donc des secrets commerciaux, donc on ne peut pas réellement les examiner. C'est un problème. Un exemple : une femme afro-américaine de 18 ans qui avait pris le vélo d'un enfant a été jugée par l'algorithme comme présentant un risque élevé de récidive, tandis qu'un homme blanc de 41 ans, un criminel chevronné qui avait été reconnu coupable de vol à main armée, a été évalué comme à faible risque. L'algorithme s'est trompé dans les deux évaluations, puisque 2 ans plus tard, la femme n'avait été inculpée d'aucun nouveau crime, tandis que l'homme avait été condamné à 8 ans pour cambriolage.

En Europe, c'est interdit de déléguer une décision légale qui a un impact sur une personne à un algorithme. L'IA, elle est aussi ultra présente dans le recrutement. Les CV sont maintenant très souvent scannés par des machines. Mais de nouveau, quels sont les critères de ces machines ? Évidemment, il y a aussi des secteurs où l'IA pourrait nous permettre d'être plus efficace. On pourrait essayer d'améliorer la qualité de l'enseignement, par exemple. Elle pourrait agir comme un tuteur personnalisé dans les classes. Elle pourrait s'ajuster à chaque enfant, ajuster la vitesse d'enseignement. On sait que quand un enseignant s'adresse à 25 élèves, c'est deux à trois fois moins efficace que quand l'élève est seul en cours particulier. Donc, en complément de l'enseignant, on pourrait imaginer ce système. En soi, les possibilités, elles sont multiples, mais on manque réellement de cadres. Les entreprises qui créent les IA, elles n'ont aucun devoir de transparence, et vous avez pu voir dans les exemples d'avant à quel point ça peut être dramatique.

L'Europe s'apprête à passer une loi, l'Europe AI Act. Elle veut un petit peu devenir le super régulateur de l'IA dans le monde. L'objectif est de parvenir à un accord d'ici la fin de l'année. Il faudra que les IA soient prévisibles et fiables. Bon, on sait pas trop comment ils vont vérifier. Les députés, ils ont aussi travaillé sur un droit d'explication. Donc, on devrait pouvoir recevoir une explication quant aux résultats de l'algorithme. Donc, pour prendre l'exemple de ChatGPT, à la fin, il a dit une connerie ou un truc grave, ils pourront plus juste dire "Ah ben, ça passe dans un circuit avec un trillion de paramètres réglables". Non, non, vous devez expliquer le fonctionnement. C'est un bon début.

Il faut que l'humanité se prépare au changement et encadre ce changement, parce que même si on pousse le concept dans une théorie extrême, les robots font absolument tout à notre place. Est-ce que l'humain est prêt à vivre une vie 100 % loisir ? Ces IA, elles soulèvent plein de questions essentielles et existentielles. Et l'idée de la lettre du début, qui consiste à dire "on prendrait quand même peut-être pas 6 minutes pour réfléchir un petit peu", je pense que c'est plus que nécessaire.

Cette vidéo, elle est destinée à ouvrir la réflexion sur le sujet. Donc, évidemment, les gars, comme d'habitude, j'attends vos avis en commentaire. On se quitte avec la phrase du jour d'Albert Einstein : "L'intelligence artificielle ne fait pas le poids face à la stupidité." On se retrouve dans 2 semaines pour la dernière vidéo de 2023. Je vous fais de gros bisous, à très vite. Ciao.

[Musique]

[Musique]