Come funziona (davvero) L'INTELLIGENZA ARTIFICIALE? - guida completa

ChatGPT, Gemini, Deep Seck, robot che fanno cose, siamo praticamente circondati, circondati dall'intelligenza artificiale. È dappertutto e se ne parla sempre di più, e più se ne parla, meno persone ne capiscono. Intelligenza artificiale è infatti un'etichetta che ormai va di moda a appiccicare un po' ovunque, ma non tutto quello che vediamo là fuori è davvero intelligenza artificiale. Sì, ma questa intelligenza artificiale cos'è davvero? Come funziona? E perché se ne parla o molto male o molto bene? Dovrebbe davvero spaventarci come pensano alcuni? Proviamo a fare chiarezza su questo argomento, questo nuovo mondo tecnologico all'interno di questo video.

[Musica]

Ciao a tutti ragazzi e bentornati in questo nuovo video. Io sono Victor, sono il vostro ingegnere aerospaziale e oggi parliamo di un argomento un po' diverso dal solito. Questo è infatti il primo video di una serie che ho intenzione di portare riguardo all'intelligenza artificiale.

Prima di cominciare però ragazzi, vi ricordo che se siete interessati a entrare nel settore spaziale o a conoscere meglio questo ambito, potete iscrivervi alla newsletter del mio progetto Exodus. Trovate anche la pagina su Instagram, ma comunque cliccando il link che vedete qua, che vi lascio ovviamente anche in descrizione, potrete lasciare il vostro nome e la vostra mail e ricevere due newsletter al mese, quindi due mail mensili con tutti gli aggiornamenti su quello che sta succedendo nel mondo spazio, opportunità di carriera varie ed eventuali. E naturalmente non dimenticatevi anche del mio libro. Come vivremo nello spazio. Ormai lo sapete, potete trovarlo in tutte le librerie e negli store online.

In alcuni video precedenti vi ho proposto l'idea di cominciare a portare dei contenuti sull'intelligenza artificiale e molti di voi hanno approvato e quindi eccoci qui. Come dicevo, questo è il primo video di una serie che porteranno un nuovo argomento sul canale da ora in poi, dove si continuerà comunque a parlare di spazio, astronomia, astrofisica, di complotti, falsi miti, ma anche di nuove tecnologie, in particolare di intelligenza artificiale e di come potrebbe plasmare il nostro futuro, soprattutto perché ho l'impressione che di questo argomento si parli ancora troppo poco e ci sia parecchia confusione.

Partiamo dalla storia. Se ne parla moltissimo negli ultimi anni, ma l'idea di macchine intelligenti non è per niente recente. Le radici dell'AI risalgono infatti alla metà del XX secolo. Nel 1950 il matematico Alan Turing propose un test, il famoso imitation game da cui hanno tratto anche un film, oggi noto come test di Turing, un test che serve a valutare se una macchina può pensare in modo indistinguibile da un umano. Se non si riesce a distinguere l'umano dalla macchina, allora la macchina ha passato il test. Pochi anni dopo, nel 1956, il termine Artificial Intelligence viene coniato durante la storica conferenza di Dartmouth, considerata l'atto di nascita ufficiale del campo dell'AI.

In quei primi anni gli studiosi, come per esempio John McCarthy o Marvin Minsky, erano estremamente ottimisti sulle potenzialità delle macchine, tra virgolette pensanti. Tuttavia, nei decenni successivi la storia dell'AI ha attraversato alti e bassi con picchi di interesse che sono un po' andati e venuti. Furono gli anni '60 a vedere i primi programmi in grado di risolvere problemi logici e addirittura conversare, come per esempio ELIZA, il primo chatbot universale, una sorta di Siri preistorica, diciamo così. Tuttavia, le aspettative erano spesso eccessive rispetto alla realtà. Per darvi un'idea, nel 1970 Minsky ipotizzò addirittura il raggiungimento di un'intelligenza artificiale generale nel giro di pochi anni. Queste promesse ovviamente non furono mantenute e portarono alla prima battuta d'arresto dello sviluppo dell'AI negli anni '70. L'entusiasmo cala e i finanziamenti alla ricerca crollano.

Il tema però torna rapidamente in auge negli anni '80 per poi ricadere nuovamente alla fine del decennio. Anche questa volta un problema di aspettative troppo eccessive, troppo ottimistiche, in particolare sulle nuove reti neurali. In parallelo, comunque, continuano i progressi significativi dell'informatica. Nel 1997 il supercomputer IBM Deep Blue sconfisse il campione mondiale di scacchi Garry Kasparov, dimostrando ufficialmente che le macchine potevano superare l'uomo in dei compiti, per quanto specifici e circoscritti. Nel 2011, quindi un po' più recentemente, un altro sistema IBM chiamato Watson batté i campioni umani in un quiz televisivo chiamato Jeopardy!, dimostrando che le macchine stavano diventando sempre più brave anche a riconoscere delle parole e a prendere decisioni migliori in generale.

Arriviamo ai giorni nostri dove siamo in una nuova era dell'AI che francamente non sembra volersi fermare, quindi non ci aspettiamo delle battute d'arresto. Tutto questo è alimentato dall'enorme crescita di dati e dalla potenza di calcolo e soprattutto dai nuovi algoritmi. Se dovessimo identificare un punto di svolta potremmo trovarlo nel 2012 con i successi del deep learning nel riconoscimento di immagini e nel 2016 quando AlphaGo, un programma sviluppato da Google DeepMind, sconfisse il campione mondiale di Go, un gioco tradizionale cinese molto più complesso degli scacchi. E da allora si è assistito a un vero e proprio boom. Modelli linguistici di grandi dimensioni, i famosi large language models come il GPT di OpenAI oppure quelli di Gemini. Realtà come queste sono cresciute in maniera esponenziale. Nel 2024 OpenAI ha presentato, tra l'altro, GPT-4, anche se non abbiamo un'idea precisa su quanti parametri possieda, si vocifera che siano più di 175.000 miliardi, capace di generare testi sorprendentemente coerenti in risposta a semplici prompt in linguaggio naturale umano, e di cui tutti noi oggi beneficiamo attraverso il software di ChatGPT.

Ma come funziona davvero un'intelligenza artificiale e soprattutto come fa ad imparare le cose che sa? Per capire esattamente come funziona una AI dobbiamo prima capire come funzionano le cosiddette reti neurali. Lo affronteremo molto brevemente perché è un argomento complesso, ma molto presto ci farò anche un video dedicato. Quindi se avete domande mi raccomando fatemele sempre nei commenti.

Le reti neurali sono modelli computazionali ispirati in modo semplificato alle reti di neuroni biologici, quindi cercano di emulare il funzionamento di un cervello. Infatti una rete neurale è composta da neuroni artificiali chiamati nodi che sono organizzati in strati. C'è uno strato di input che riceve i dati in ingresso, uno o più strati nascosti in mezzo che elaborano le informazioni e uno strato di output che ci fornisce il risultato finale. I neuroni di ciascuno strato sono connessi ai neuroni dello strato successivo tramite dei pesi sinaptici associati ai collegamenti. Ma cosa significa esattamente? Beh, che ogni collegamento ha un peso numerico che moltiplica il segnale trasmesso amplificandolo o attenuandolo, così da filtrare le informazioni. Questo è un modo per esaltare i contributi importanti e sopprimere quelli superflui o meno importanti.

Il funzionamento di una rete neurale avviene quindi propagando i segnali di ingresso attraverso la rete strato dopo strato. Ogni neurone somma i segnali in ingresso ricevuti e che sono stati moltiplicati per i famosi pesi, quindi per l'importanza di ogni fattore. A questo punto questi dati vengono dati in pasto ad una funzione di attivazione che dipende dal problema che vogliamo affrontare. Questa funzione ha una soglia di attivazione. Se il calcolo finale supera questa soglia, il neurone si attiva e trasmette il segnale ai neuroni del livello successivo. Questo meccanismo si diffonde dal primo strato fino all'ultimo, permettendo alla rete di trasformare gli input grezzi, diciamo così, nel risultato voluto.

Aumentando il numero di strati nascosti si ottengono le cosiddette reti neurali profonde, le deep neural networks, che sono alla base del deep learning moderno. Più le reti sono profonde e più riescono a riconoscere pattern complessi nei dati che ricevono e a svolgere quindi compiti sempre più avanzati. La rete neurale che vi ho appena descritto è una classica rete neurale feed forward, quindi che dà in pasto allo strato successivo le informazioni dello strato precedente. È una delle tantissime architetture, ce ne sono molte altre. Ho utilizzato questo esempio solo per farvi capire il funzionamento di base, ma nel video di approfondimento ovviamente andremo un pochino più nel dettaglio perché, come dicevo, le cose sono un po' più complesse.

C'è però una caratteristica chiave di tutte le reti neurali che è quella di apprendere dai dati. Durante la fase di addestramento la rete viene fornita di molti esempi e aggiorna gradualmente i propri pesi in modo da minimizzare l'errore tra le risposte previste e quelle desiderate. In pratica le reti neurali imparano la soluzione dai dati stessi, generalizzando dei casi di addestramento per fornire risposte accurate su dati nuovi. In pratica si genera degli esempi da sola, tra virgolette, per imparare e migliorare.

Ma come impara in questa fase veramente un'intelligenza artificiale? Sì, perché ChatGPT, per lui, sembra avere davvero tutte le risposte, è quasi miracoloso, sebbene evidente che commetta ancora parecchi errori. Ecco qua c'è un grande malinteso che avviene spesso ed è quello di pensare che per programmare un'intelligenza artificiale si debbano fornire manualmente tutte le regole di comportamento, ma in realtà non è così, perché le intelligenze artificiali possono, come dicevamo, imparare dai dati. In pratica, invece di scrivere un elenco di regole fisse, i ricercatori forniscono all'AI grandissime quantità di dati e un obiettivo, ad esempio, indovinare una risposta giusta o vincere la partita a scacchi, lasciando che sia l'algoritmo a scoprire le regole nascoste nei dati. In effetti, un set di dati non ha regole, è semplicemente un set di dati. Fu Arthur Samuel a dimostrare questo concetto tramite un programma che giocava a dama e che, giocando migliaia di partite e apprendendo dagli errori, finì per giocare meglio del suo programmatore umano.

E qui nasce il concetto di machine learning, ovvero l'apprendimento automatico delle macchine. In termini semplici, oggi funziona molto come se fosse uno studente, un allievo che fra pratica ed evolve imparando dai suoi errori, correggendo il tiro ogni volta. La prima cosa da fare, quindi, in questo caso, qual è? Fornire all'AI dell'esperienza. In questo caso la nostra esperienza è una grande mole di dati che possediamo e, ovviamente, come dicevamo, un compito che può essere più o meno specifico. Grazie a questo il sistema gradualmente migliora le proprie prestazioni man mano che vede più esempi, proprio come fa un essere umano che si esercita in qualsiasi cosa.

Esistono diversi modi in cui un'intelligenza artificiale può apprendere dai dati, ma ci sono in generale tre modi fondamentali: l'apprendimento supervisionato, quello non supervisionato e l'apprendimento per rinforzo.

Nell'apprendimento supervisionato, l'AI riceve molti esempi già etichettati correttamente, per esempio, immagini di animali con l'etichetta gatto o cane, oppure descrizioni di casi medici con la diagnosi già corretta. Fondamentalmente gli viene fornito un input con già la risposta esatta integrata e l'algoritmo aggiusta i propri parametri cercando di riprodurre quelle risposte. Quindi lei impara nel tempo ad associare domande e risposte. Questo approccio ha avuto un enorme successo in compiti come appunto il riconoscimento delle immagini. Per esempio, dando in pasto a una rete neurale milioni di foto di gatti etichettate come gatto, essa aggiusta i suoi pesi interni finché non riesce a riconoscere un gatto in una foto che non ha mai visto prima, ovviamente cercando di farlo con l'accuratezza più alta possibile.

Nell'apprendimento non supervisionato, al contrario, non vengono fornite etichette né risposte giuste. L'algoritmo riceve solo dei dati grezzi e deve scoprire da solo dei pattern e delle strutture. È come dare a qualcuno un mazzo di carte mescolato e chiedergli di dividere queste carte come vuole. Probabilmente troverà dei modi naturali per raggrupparle, per esempio per seme, per valore, per colore, ma potrebbe anche trovare dei pattern che a noi sono sfuggiti e a cui non abbiamo pensato, soprattutto quando parliamo di grandi moli di dati. Allo stesso modo un'AI non supervisionata può, ad esempio, analizzare le abitudini di milioni di utenti di un servizio di streaming come Spotify e identificare dei gruppi, dei cluster di utenti con gusti simili, senza che nessuno però abbia etichettato quei gruppi in anticipo. Per esempio, l'algoritmo può individuare la regolarità, quindi canzoni spesso ascoltate insieme dalle stesse persone e le usa per creare delle categorie, rivelando quindi degli schemi nascosti nel set di dati, nascosti nel senso che non sono esplicitati in partenza. Questo tipo di apprendimento è molto utile per scoprire delle strutture sottostanti, ad esempio segmentare clienti in gruppi omogenei o per ridurre la dimensionalità dei dati, quindi ridurre la complessità di tutto il set. Quando ci sono grandi set di dati, l'intelligenza artificiale può fare questo lavoro in maniera molto più efficiente e veloce rispetto a un essere umano.

Infine, c'è quello che secondo me è l'apprendimento più interessante, che è l'apprendimento per rinforzo o reinforcement learning, che è ispirato esattamente al modo in cui anche gli esseri umani apprendono, ossia tramite ricompense e punizioni. In questo scenario l'AI interagisce con un ambiente e può compiere delle azioni. Per ogni azione riceve un feedback sotto forma di ricompensa, quindi un punteggio numerico che può essere positivo o negativo. L'obiettivo è ovviamente accumulare quanta più ricompensa possibile nel lungo termine. Un esempio classico è quello dei videogiochi. Si può lasciare un'intelligenza artificiale a giocare migliaia di partite a un gioco partendo da mosse casuali e ogni volta che vince ottiene un premio. Ogni volta che fa una mossa giusta ottiene un premio. Ogni volta che perde o commette un errore riceve delle penalità. Pian piano, attraverso tentativi ed errori, impara delle strategie che massimizzano i suoi punti. Questo è il metodo che ha portato a risultati come quello che citavamo prima, quello di AlphaGo, che inizialmente era addestrato con partite umane, quindi era supervisionato, ma poi ha giocato milioni di partite contro se stesso in un processo di rinforzo, riuscendo a scoprire delle mosse vincenti mai viste prima nemmeno dai professionisti. E badate bene che Go è un gioco che esiste da 2500 anni, quindi questo è molto interessante. L'apprendimento per rinforzo può essere utilizzato in questo modo, ma anche per addestrare, per esempio, dei robot che ricevono quindi ricompense per aver compiuto correttamente un compito o per problemi come la guida autonoma, dove la macchina deve decidere come muoversi ricevendo delle ricompense, ad esempio, per ogni metro percorso senza incidenti. In tutti questi casi il filo conduttore è che non diciamo all'AI esattamente come risolvere il problema, ma le forniamo gli strumenti per imparare da sé.

Ma l'AI quindi è davvero intelligente come sembra? Ora, nonostante noi usiamo la parola intelligenza artificiale, è lecito chiedersi: "Ma queste macchine sono davvero intelligenti o simulano soltanto l'intelligenza?" In altre parole, un modello come GPT-4 comprende davvero quello che sta dicendo o sta solo svolgendo un buon esercizio informatico di riconoscimento degli schemi? Per spiegare questo concetto si può usare un paragone, l'intelligenza artificiale come un pappagallo. La linguista Emily Bender, ad esempio, ha definito i grandi modelli linguistici, famosi large language models, per l'appunto, dei pappagalli stocastici, evidenziando che essi mettono insieme delle forme linguistiche in base ai pattern, in modo simile alle tendenze imitative di un pappagallo, senza però comprendere realmente ciò che viene detto. In pratica il modello analizza miliardi di frasi dal suo addestramento e quando deve rispondere a una domanda prova a prevedere la sequenza di parole più probabile che abbia senso. Sequenze di lettere e parole e cosa è probabile che venga dopo, ma non impara il significato intrinseco di quelle parole. Dunque, quando interagiamo con ChatGPT o chi per lui, stiamo dialogando con un sistema che genera frasi coerenti basandosi sulla statistica del linguaggio, non con una mente cosciente che sa di cosa sta parlando. Per esempio, la frase "Sto andando al supermercato a comprare", molto probabilmente dopo la parola comprare ci sarà un articolo. "Sto andando a comprare la", "Sto andando a comprare il", "Sto andando a comprare un un po'". Ecco, statisticamente ChatGPT riesce a riconoscere qual è la parola più probabile una dopo l'altra e quindi a mettere insieme delle frasi coerenti, anche se non sempre ci riesce. Sappiamo infatti che ChatGPT può, come si dice in gergo, allucinare. Non ci addentreremo ovviamente su questa cosa, ma se volete un video su come funziona ChatGPT e in generale i large language models, fatemelo sapere nei commenti e ci faremo un video dedicato.

Facciamo anche un altro esempio concreto. Se chiediamo a ChatGPT di risolvere il classico indovinello del fiume, quello con il lupo, la capra e i cavoli da traghettare senza che il lupo mangi la capra, spesso ci può fornire la soluzione corretta e quindi potrebbe sembrare che ragioni come noi per trovare la risposta, ma in realtà non è così. La rete, infatti, sta riconoscendo la domanda e ricorda, fra i miliardi di esempi visti in rete, discussioni simili, riutilizzando risposte a quelle discussioni. In altri termini, non sta usando un ragionamento logico, ma si sta affidando al pattern matching, al riconoscimento dei pattern, degli schemi. Infatti, se volete fare un esperimento divertente, potete modificare leggermente i parametri del problema con magari delle parole insolite o numeri diversi e vedrete che l'AI spesso cade in errore perché perde l'aggancio a un pattern noto. Questo ci indica che non ha realmente capito la logica del problema, ma ha solo costruito una risposta plausibile dalle sue esperienze passate.

Comunque sia, le intelligenze artificiali sono molto diverse fra di loro in base alle capacità che possiedono e in generale potremmo dividerle in tre categorie.

La prima è l'intelligenza artificiale debole, detta anche intelligenza artificiale ristretta. Parliamo di intelligenze artificiali che svolgono compiti specifici e sono di solito prive di capacità di apprendimento autonomo e di autoconsapevolezza. Naturalmente questa è la forma di intelligenza artificiale più diffusa oggi. Sono infatti AI specializzate in uno specifico ambito limitato, ma non possono generalizzare le loro abilità a domini diversi. Per esempio, gli assistenti virtuali moderni come Siri o Alexa, sistemi di raccomandazione che suggeriscono i prodotti o contenuti e i software di riconoscimento facciale utilizzati per identificare volti nelle immagini fanno parte di questa categoria.

Secondo, l'intelligenza artificiale generale, spesso chiamata anche AI forte, che rappresenta una tipologia di intelligenza artificiale al momento solo teorica, perché dovrebbe possedere delle capacità cognitive paragonabili a quelle umane. Un'intelligenza artificiale generale sarebbe in grado di apprendere, ragionare, comprendere e adattarsi in qualsiasi contesto o dominio, mostrando una flessibilità e un'intelligenza, appunto, generale molto simile a quella di un essere umano, di una persona. E alcuni pensano che già in questo stadio potrebbe prendere una forma di consapevolezza, quindi essere consapevole di sé stessa. Ad oggi, come dicevamo, l'intelligenza artificiale generale non esiste ancora e probabilmente richiede ancora delle scoperte tecnologiche per poter essere realizzata.

Andiamo però alla numero tre, quella più affascinante, la super intelligenza artificiale, chiamata anche ASI, indica una AI ipotetica di livello addirittura superiore a quello umano, cioè un'intelligenza non solo generale, ma anche nettamente più avanzata di quella di qualsiasi persona. La super intelligenza, di fatto, sarebbe capace di superare l'uomo praticamente in ogni campo, dalla creatività fino all'intuizione e alla ricerca scientifica, dalla risoluzione di problemi complessi, addirittura fino alle capacità di interazione sociale. Questa è la famosa intelligenza artificiale di cui si parla in maniera un po' apocalittica, che si vede nei film e che dovrebbe un giorno sostituire l'umanità. Ovviamente ad oggi non esiste nulla di simile e tutte le intelligenze artificiali a nostra disposizione ricadono nel primo esempio, quindi nelle intelligenze artificiali deboli, ChatGPT compreso.

Quindi per ora nulla di cui preoccuparsi, o meglio, non del tutto, perlomeno, perché in effetti anche i moderni algoritmi possiedono delle caratteristiche che possono essere un po' spaventose. Una di queste caratteristiche legata all'intelligenza artificiale è il fatto che spesso le intelligenze artificiali sono delle scatole nere. Per capire cosa significa questo concetto, facciamo un esempio pratico. Immaginiamo una persona chiusa in una stanza che non conosce affatto la lingua cinese. Nemmeno noi conosciamo la lingua cinese, ma dobbiamo interloquire magari con una terza persona. Ecco, la persona all'interno della stanza ha a disposizione un manuale di istruzioni scritto in una lingua che capisce su come rispondere ai messaggi in cinese. Quindi noi inseriremo magari dei foglietti di carta sotto la porta con degli ideogrammi cinesi e il libro ci dice di restituire altri specifici ideogrammi come risposta. Ogni volta che qualcuno da fuori infiltra un messaggio sotto la porta, la persona dentro la stanza segue meccanicamente le istruzioni del libro e scrive la risposta da far uscire. Per chi è fuori le risposte sembrano perfettamente sensate in cinese e sembra di dialogare con qualcuno che il cinese lo conosce, ma ovviamente la persona dentro non capisce nulla, sta solo manipolando simboli in base a regole sintattiche, senza attribuire ai simboli un significato preciso, un significato semantico, esattamente come ChatGPT che non capisce veramente cosa significano le parole, ma si basa sulla statistica e sui pattern. Tra l'altro, nelle moderne reti neurali la questione si complica ancora di più perché i manuali di istruzione non li diamo noi, non sono scritti esplicitamente da esseri umani come nel caso della stanza cinese, ma sono appresi dalla macchina stessa. Inoltre l'interno di un'intelligenza artificiale avanzata possiede spesso miliardi di parametri e il processo decisionale, le connessioni che vengono create sono complesse, lunghe e articolate. Nell'esempio della stanza cinese arriviamo a capire cosa significa scatola nera, che non solo la persona dentro alla stanza non conosce il cinese, non ne capisce il significato, ma sta solamente seguendo delle regole. Ma noi stessi che inseriamo il messaggio non abbiamo la minima idea di quello che avvenga all'interno della stanza, ma riceviamo solamente l'output finale. E a meno che noi non sappiamo il cinese e non riusciamo a capire se la risposta è corretta o meno, non sappiamo se quello che abbiamo ricevuto ha senso e quindi non possiamo fidarci, giusto? Eppure di ChatGPT ci fidiamo quasi ciecamente, ma questo è un altro problema.

Tutto questo per dire che la complessità delle reti neurali fa sì che persino i creatori delle intelligenze artificiali facciano fatica a spiegare perché una rete neurale abbia preso una certa decisione piuttosto che un'altra. I suoi ragionamenti interni sono distribuiti in migliaia di neuroni artificiali interconnessi in modo purtroppo non trasparente. Dico purtroppo perché questo è un enorme problema. Immaginiamo che le intelligenze artificiali debbano prendere delle decisioni magari sulla nostra salute, come il farmaco da farci prendere, oppure se siamo colpevoli o meno all'interno di un processo, o anche se la nostra banca deve concederci il prestito che abbiamo richiesto oppure no. Non sappiamo quali fattori sono stati presi in considerazione, non sappiamo se la risposta è davvero corretta, non sappiamo se è etica e quindi è imperativo sapere come la decisione è stata raggiunta proprio per ragioni evidenti, etiche e morali.

Inoltre, l'approccio da scatola nera può nascondere diversi bias, diversi errori o addirittura delle vulnerabilità vere e proprie nei modelli che potrebbero non essere perfetti. Insomma, il sistema potrebbe basare le proprie decisioni su delle correlazioni spurie che non esistono, oppure su dei dati distorti senza che ciò sia immediatamente evidente. Questo provoca il rischio di output ovviamente sbagliati o addirittura discriminatori.

Un caso emblematico è quello di COMPAS. Nel 2016 un team di giornalisti investigativi di ProPublica si mise a indagare su uno strumento molto usato nei tribunali americani, un software chiamato COMPAS, il cui compito era quello di calcolare il rischio di ogni imputato in tribunale di essere recidivo, quindi quanto fosse probabile che avrebbe commesso nuovamente dei reati. In pratica i giudici americani in alcuni stati ricevevano una scheda di rischio generata da questo algoritmo. Se il punteggio era alto, l'imputato veniva considerato pericoloso e poteva ricevere una cauzione più alta, una condanna più lunga o magari negazione della libertà vigilata perché molto più a rischio di recidiva. Ma il team di ProPublica scoprì qualcosa di quasi inquietante, mi viene da dire, analizzando oltre 10.000 casi in Florida in particolare notarono che il sistema sovrastimava il rischio di recidiva degli imputati neri e sottostimava quello degli imputati bianchi. In pratica agli imputati neri venivano assegnati dei punteggi più alti, ma alla fine non commettevano reati dopo il processo, mentre molti imputati bianchi ricevevano punteggi bassi e poi commettevano nuovamente dei crimini, quindi, insomma, l'algoritmo sbagliava e questo, ok, può succedere, ma era comunque molto strano perché il software non usava la razza direttamente come variabile, cioè la variabile razza non esisteva nell'algoritmo. Tuttavia, usava dei dati altamente correlati alla razza, tipo il quartiere di residenza, il numero di precedenti, la storia familiare, l'età, il tipo di crimine. In pratica l'algoritmo ha letteralmente imparato a essere razzista da solo perché i dati lo erano, o meglio, i dati nascondevano dei bias discriminatori e il problema nasce proprio nel fatto che COMPAS era una vera e propria scatola nera e quindi ci ha voluto del tempo e questa indagine per comprendere che ci fosse un problema nell'output, perché non era sempre chiaro come le decisioni venissero prese.

E voi direte, come fa l'intelligenza artificiale a riconoscere un'etnia senza però che il parametro etnia venga inserito in primo luogo? Anche qui pensiamo ad un esempio pratico. Immaginiamo di dover fare un colloquio di lavoro, ma di non voler essere influenzati dal genere della persona. Insomma, non vogliamo sapere se la nostra persona è uomo o donna e quindi faremo un colloquio in una stanza dove c'è un separé. Noi entreremo da un lato della stanza e il candidato dall'altra, quindi non ci vedremo mai fisicamente e interagiremo attraverso un computer in maniera tale da non sentire la voce l'uno dell'altro. Ma è tutto inutile perché quale può essere un modo per riconoscere il genere di una persona in questa situazione senza vederla o sentirla parlare? Beh, per esempio le scarpe. Se siamo a un colloquio di lavoro in un'azienda, è molto probabile che le donne si vestano eleganti e che quindi indossino, per esempio, delle scarpe col tacco che faranno un suono evidentemente distinguibile. Quindi noi sapremo automaticamente chi c'è dall'altra parte non appena la persona entra nella stanza. Ovviamente questo non è sempre detto perché non tutte le donne indossano tacchi, ma comunque è un esempio per farvi capire come anche senza avere la variabile direttamente nelle nostre mani, possiamo arrivare ad una conclusione. E quindi diventa anche difficile capire come facciamo a rimuovere questi bias, perché per evitare discriminazioni di etnia o di genere non basta rimuovere il genere e l'etnia dalle variabili, ma la situazione è molto molto più complessa. Questo è un altro tema che sicuramente approfondiremo.

Concludendo, l'intelligenza artificiale è un mondo molto affascinante, ma anche molto complesso, nonché potenzialmente pericoloso per la nostra società se non dovesse essere usata correttamente. Come abbiamo capito, c'è tanto da sviscerare su questo argomento, sia dal punto di vista tecnico, ma anche dal punto di vista etico e sociale. Quindi fatemi sapere nei commenti che cosa vorreste approfondire la prossima volta. Detto questo ragazzi, spero che questo video vi sia piaciuto e che vi abbia aiutato a capirci un pochino di più di questo nuovo mondo tecnologico. Ovviamente non dimenticate di lasciare un bel like a questo video e di iscrivervi al canale se ancora non l'avete fatto. Detto questo, io vi saluto. Qua è Victor, passo e chiudo e noi ci vediamo la prossima volta con un altro video.

Что?

[Musica]