Transcription
Cosa succederebbe se a gestire una guerra fosse l'intelligenza artificiale? Quali decisioni prenderebbe Lei? Sarebbe moderata o aggressiva? C'è qualcuno che non solo si è fatto queste domande, ma ci ha proprio provato, o meglio, ha simulato diversi scenari di crisi nucleare e ha chiesto a Cloud, Chat GPT e Gemini di gestirli.
Si tratta di Kennet Paynein, professore di strategia al Kings College di Londra e i risultati del suo studio mostrano una cosa interessantissima. I tre modelli usano strategie diverse, ma nessun si arrende o prova a descalare la situazione. Anzi, per concludere il conflitto, tutte prediligono una scelta comune, la minaccia o addirittura la guerra nucleare. Però fermi prima di preoccuparci capiamo come è stato condotto questo studio, quali sono le diverse risposte che hanno dato i tre modelli di intelligenza artificiale, perché le hanno date, ma soprattutto quanto sono realistiche.
Ragazzi, se vi piacciono i nostri video e volete supportare il nostro progetto di divulgazione scientifica, potete seguire la pagina di Jopop. Per voi è gratuito, ma per noi fa un'enorme differenza. Grazie mille.
Prima di iniziare c'è una premessa fondamentale da fare. Lo studio del professor Pain è attualmente nella cosiddetta fase di preprint, cioè non ha ancora completato l'intero processo di revisione da parte della comunità scientifica. Questo significa che le attuali conclusioni potrebbero non essere definitive, ma comunque ci danno importanti indicazioni sulle dinamiche che porta l'utilizzo di questi sistemi in contesti decisionali reali come i conflitti. Fatta questa premessa, iniziamo a capire com'è strutturato questo studio.
Il professor Pain ha costruito una simulazione con sette diversi scenari di crisi e ha fatto sfidare tra loro tre degli LLM più avanzati: Cloud Sonnet 4 di Antropic, GPT 5.2 di Open AI e Gemini 3 Flash di Google. Per rinfrescarci la memoria, anche se ormai li usiamo tutti i giorni, ricordiamo che cosa sono gli LM come quelli che abbiamo appena citato. Sono dei large language model, cioè dei modelli di intelligenza artificiale in grado di interpretare e generare testo. Quindi cosa fanno? Prendono migliaia di testi diversi, li analizzano e li assemblano in modo probabilistico per fornire una risposta.
Una cosa importante da dire è che questi LLM, Clod GPT e Gemini sono generalisti, non specializzati. Che cosa significa? Significa che sono allenati per sapere di tutto un po'. Infatti noi comuni mortali li usiamo quotidianamente per scrivere email, aiutarci nelle ricerche, mi raccomando, sempre controllando le fonti. Esistono poi anche modelli di AI altamente specializzati che utilizzano soltanto delle fonti specifiche. Se devono parlare di legge hanno come fonti testi di giurisprudenza. Se devono parlare di ingegneria usano testi ingegneristici e così via. Nel nostro caso, per esempio, per generare delle strategie di guerra, un modello specializzato verrebbe allenato usando solo manuali di storia, psicologia politica, strategia dei conflitti e geopolitica, così da simulare quello che secondo loro probabilmente farebbe effettivamente un governo in caso di conflitto. Nel caso degli LLM, quindi nel nostro caso, le informazioni sono appunto più generaliste e non specializzate perché vengono allenati su fonti che non per forza sono fonti specialistiche.
Tornando a noi, la situazione era strutturata su 21 partite totali. Sei vedevano Cloud contro Chat GPT, sei Chat GPT contro Gemini, sei Gemini contro Cloud e le ultime tre in cui ogni modello sfidava se stesso. Le partite erano divise in due tipologie principali, cioè conflitti con scadenza in cui il limite di turni, 15 o 20, era comunicato esplicitamente ai modelli e conflitti senza scadenza in cui i modelli non sapevano quando sarebbe terminata la partita, ma avevano una durata massima di 40 turni. Come abbiamo detto, queste 21 partite prevedevano sette possibili scenari ed erano tre per i conflitti senza scadenza e quattro per quelli con scadenza. Gli scenari cercavano di riprodurre il più possibile i conflitti di guerra, quindi comprendevano competizioni per accaparrarsi risorse strategiche, come per esempio le materie prime. Stalli su territori desiderati, pensiamo alla guerra tra Russia e Ucraina e anche crisi di regime. In tutti questi scenari ai modelli è stato chiesto di interpretare i leader di due potenze nucleari fitti, parzialmente ispirate agli Stati Uniti e all'Unione Sovietica durante la guerra fredda. E come funzionavano questi conflitti fittizi? Una partita veniva considerata conclusa per tre possibili motivi. Uno, se veniva raggiunto il limite massimo di turni. Due, quando uno dei due modelli accumulava un vantaggio territoriale talmente grande da poter essere considerato vincitore oppure, al contrario, sceglieva la resa e tre quando si arrivava alla guerra nucleare totale.
Ora, per testare le capacità strategiche delle AI, Pain che cosa ha fatto? ha introdotto due elementi chiave. Il primo è che ha imposto ai due modelli che si sfidavano di volta in volta di scegliere la propria mossa successiva senza conoscere quella dell'avversario, prendendo cioè le loro decisioni simultaneamente nello stesso momento. In questo modo ciascuna delle due AI era costretta a basare le proprie decisioni su previsioni delle strategie dell'altra. Insomma, ogni modello non solo doveva decidere la propria strategia, ma anche prevedere quell'altrui. Dall'altro lato, Pain ha strutturato ogni turno in tre fasi: valutazione, dichiarazione pubblica e azione. Durante la valutazione i due modelli analizzavano la situazione, cercavano di prevedere le mosse dell'avversario e di valutare quanto fosse probabile che accadesse ogni possibile scenario, così da anticipare quello che avrebbe fatto la controparte. Una volta fatta la valutazione si passava alla dichiarazione pubblica delle proprie intenzioni che attenzione non doveva essere necessariamente veritiera. Lei poteva anche scegliere come strategia di dichiarare A e poi fare B proprio per disorientare l'avversario. Terza fase, l'azione concreta. E quali sono le possibili azioni che sono state fornite agli LLM? Si tratta di 30 opzioni divise in tre blocchi principali. Ci sono le mosse diplomatiche mirate al dialogo, le strategie di deescalation, cioè di riduzione progressiva del conflitto e le azioni basate sul nucleare, cioè sull'utilizzo o sulla minaccia di utilizzo di armi nucleari.
Bene, abbiamo capito il contesto. A questo punto la domanda è come si sono comportate le diverse intelligenze artificiali?
Quello che è stato osservato nello studio è che Cloud, Chat, GPT e Gemini hanno avuto tre approcci strategici completamente differenti. Partiamo dal primo. Clud adottato una strategia che potremmo chiamare calcolata, cioè che cosa ha fatto? Inizialmente si è costruito un'immagine di grande credibilità, cioè è stato coerente tra dichiarazioni di intenti e azioni concrete. Insomma, ha fatto quello che diceva che avrebbe fatto nell'84% delle situazioni a bassa tensione. Una volta costruita questa reputazione di credibilità nelle fasi iniziali del conflitto, ha poi sorpreso gli avversari durante le fasi più tese della guerra, agendo in modo nettamente più aggressivo rispetto alle proprie dichiarazioni pubbliche. Quindi, detto in parole semplici, si è mostrato affidabile e quindi prevedibile per poi attaccare in modo inaspettato.
Passando invece a CH GPT, questo modello ha usato due strategie diverse a seconda del tipo di conflitto. Da un lato, nei conflitti senza scadenza ha mantenuto generalmente un profilo moderato sia nelle dichiarazioni che nelle azioni e questo l'ha portato spesso alla sconfitta. Dall'altro, nelle guerre con scadenza, si è invece mostrato molto aggressivo, colpendo con violenza all'ultimo turno e aggiudicandosi la vittoria il più delle volte.
In ultimo, Gemini ha adottato una strategia completamente diversa dai due modelli precedenti, l'imprevidibilità consapevole. Che cosa significa? Significa che in tutti i conflitti oscillava tra l'essere moderato e l'aggressione estrema in modo randomico, o meglio, senza che ci fosse un pattern riconoscibile.
Alla luce di tutto ciò, secondo voi chi ha vinto la maggior parte delle partite? Cloud, il più vincente a livello di percentuali nei 21 conflitti simulati è stato Clode. Più nel dettaglio, grazie alla sua strategia basata sulla finta credibilità, ha vinto il 100% delle partite senza scadenza, ma solo il 33% di quelle con scadenza per un totale di otto partite vinte sulle 12 che ha effettivamente giocato contro Chat GPT e Gemini. Facendo i conti, Clodinto il 67% delle proprie partite.
Chat GPT invece ha fatto l'esatto contrario. La sua strategia di moderazione gli ha fatto vincere lo 0% delle partite senza scadenza, mentre la strategia aggressiva l'ha portato a vincere il 75% delle partite con scadenza che ha disputato per un totale di sei conflitti vinti su 12 giocati, cioè il 50%.
Per ultimo Gemini con la sua strategia casuale ha vinto quattro dei conflitti a cui ha partecipato, quindi il 33% delle partite giocate.
Come abbiamo visto, i tre modelli hanno usato tattiche completamente diverse, però c'è una cosa che li ha accomunati, cioè un elemento che è emerso nelle strategie di tutti e tre gli avversari, la preferenza per l'escalation, cioè la tendenza a portare i conflitti ad intensità e gravità sempre maggiori. La cosa interessante da notare è che le possibili azioni di deescalation che potevano essere utilizzate dai tre modelli non sono mai state utilizzate in nessuna partita. Ma non solo, l'utilizzo del nucleare è stata l'opzione più ambita per arrivare alla conclusione del conflitto. In tutte e 21 le partite, almeno una delle due parti in gioco, ha dichiarato l'intenzione di utilizzare armi atomiche. Attenzione, dichiarato non effettivamente utilizzato e nel 95% di questi casi la dichiarazione è stata reciproca, cioè è avvenuta da entrambe le parti. Poi, appunto, le armi atomiche non sono state utilizzate nel 100% delle volte in cui sono state dichiarate. Il loro effettivo utilizzo è variato tra il 64 e l'86% delle simulazioni a seconda del modello, mentre le minacce strategiche di attacchi nucleari su larga scala si collocano tra il 29 e il 64% dei casi.
Una cosa da notare è che queste minacce non hanno funzionato molto bene come deterrente. In guerra spesso la minaccia del nucleare viene usata proprio per spaventare la controparte e farla accedere alle proprie condizioni o quantomeno rinegoziare. Nel caso delle AI invece, quando un modello impiegava armi nucleari, l'avversario diminuiva l'intensità dell'attacco solo nel 25% dei casi. Più spesso invece si osservava una dinamica di controescalation che poteva arrivare fino alla guerra nucleare. Cioè, minacci di usare il nucleare? Allora, lo uso anch'io.
Ora so benissimo cosa state pensando, che è abbastanza grave che, insomma, usare Chat GPT, Clod Gemini per fare strategie di guerra non sia proprio una grandissima idea. Però calmi, nessun governo usa questi strumenti di cui abbiamo parlato per prendere decisioni all'interno dei conflitti. C'è però da dire che l'intelligenza artificiale, chiaramente parliamo di AI molto più tecniche e specializzate, come dicevo prima, viene usata all'interno di analisi di intelligence, pianificazione strategica e decisioni militari. Ed è per questo che è stato fatto questo studio, per far riflettere su quanto sia importante avere una buona consapevolezza sul funzionamento di questi mezzi e quanto sia fondamentale la supervisione umana. Ricordiamo sempre che l'intelligenza artificiale deve essere considerata come un aiuto, uno strumento in più da usare come supporto alle nostre conoscenze, non come sostituto. Ma questo è sempre stato così con tutte le tecnologie ancor prima della i e credo che esista un esempio che ci mostra perfettamente la differenza tra uomo e tecnologia, tra intuito, sensibilità e quelli che potremmo chiamare meccanismi freddi senza scrupoli.
Si tratta dell'uomo che salvò il mondo. È una storia che in pochi conoscono, ma durante la guerra fredda ci fu un episodio che rischiò di portare alla guerra nucleare e fu la decisione di un solo uomo, il tenente e ingegnere sovietico Stanislav Petro, a salvarci da quello che si prospettava essere il più grande conflitto nucleare della storia. Era la notte tra il 25 e il 26 settembre 1983 e Petrov era di servizio in una base militare vicino a Mosca. Ai tempi sovietici, per rispondere prontamente agli attacchi missilistici americani, avevano sviluppato un sistema di allarme chiamato OCO, cioè un sistema di satelliti posizionati in orbita dotati di un radar capace di rilevare con anticipo il lancio di missili da parte degli americani. E qui arriviamo a Petrov. Quella notte il suo compito era quello di monitorare le segnalazioni di oko e avvisare subito i suoi capi in caso di attacco missilistico imminente. Ecco, quella notte il sistema suonò. Oco aveva avvistato cinque missili nucleari diretti verso l'Unione Sovietica. Da prassi Petrov avrebbe dovuto dare l'allarme ai suoi superiori per avviare il contrattacco. La guerra nucleare era alle porte, solo che Petrov non lo fece. Nonostante lo stress altissimo e la necessità di agire tempestivamente, anche solo qualche secondo in questi casi, può portare a conseguenze enormi, Petrov ascoltò il suo istinto. Pensò che cinque missili erano pochi per avviare uno scontro nucleare tra due superpotenze e in più conosceva bene il sistema o sapeva che esisteva la possibilità di malfunzionamenti, di falsi allarmi. Quindi si prese la responsabilità e decise di aspettare. diede il segnale ed ebbe ragione. Dopo qualche minuto l'allarme rientrò e anche i radar sovietici posizionati a terra confermarono che non era stato avvistato nessun missile. Si trattava effettivamente di un errore. L'allarme, con ogni probabilità era stato causato da riflessi del sole che avevano raggiunto i satelliti di Oco facendo partire l'allarme. Insomma, l'intuito di Petrov salvò il mondo da una guerra nucleare. Se avesse seguito la tecnologia e i protocolli senza interpretarla, sarebbe successo qualcosa di irrimediabile. Questo, appunto, ve l'ho raccontato per farvi capire meglio perché la tecnologia e soprattutto l'intelligenza artificiale va interpretata, va conosciuta e usata come supporto. L'intervento umano rimane fondamentale.
Bene, ma adesso torniamo a noi al nostro studio. Rimane una domanda a cui rispondere. Perché le AI fanno queste scelte così estreme, molto più estreme di quelle mai fatte dagli esseri umani, perché ricordiamo che nella storia le bombe nucleari sono state due, mentre nello studio di Pain tutti e 21 i conflitti vertevano sul nucleare. Quindi perché accade? Da dove viene questa propensione della i per le soluzioni così aggressive?
La realtà è che non lo sappiamo con certezza. Può sembrare incredibile, ma gli LLM, il tipo di AI che è stato utilizzato nello studio, sono sistemi così complessi che nemmeno chi li sviluppa è in grado di spiegare con precisione il tipo di ragionamento e di scelte che vengono prese, anche perché, ricordiamolo, questi modelli prendono le loro decisioni in modo probabilistico, non deterministico. Ciò detto, lo studio prova a fare alcune ipotesi per spiegare in generale da dove arrivano le strategie militari di queste AI e perché usino così tanto la minaccia nucleare.
Partendo dalle strategie, ci sono due ipotesi fondamentali formulate da Pain. La prima è che durante il loro allenamento i modelli abbiano imparato le strategie che sono state considerate più usate nella storia in caso di guerra. Ad esempio, la strategia usata da Gemini, quella del pazzo imprevedibile, ricorda tantissimo quella che il presidente USA Richard Nixon chiamava Madman Theory, cioè la teoria dell'uomo matto. L'idea era che apparire imprevedibile e irrazionale potesse intimidire l'avversario più di qualsiasi minaccia esplicita. Insomma, se il tuo avversario non riesce a prevedere che cosa farai, non può calcolare fino a dove spingersi.
La seconda ipotesi invece riguarda il modo in cui i modelli sono stati addestrati a interagire con gli altri. Ad esempio, pensiamo a Chat GPT, chi lo usa lo sa perfettamente, Chat GPT ci dà sempre ragione, ci dice che siamo brillanti e che abbiamo idee geniali. Ecco, questo tratto caratteriale che gli è stato insegnato durante l'allenamento è emerso anche durante le partite senza scadenza. È questo il motivo per cui, come abbiamo detto prima, si è comportato sempre da moderato, dando ragione all'avversario e perdendo così tutte le partite.
Bene, arriviamo alla parte forse più interessante. Perché le I optano così facilmente per il nucleare? Come abbiamo detto, questo non accade nella realtà. E allora, da dove l'hanno imparato? Anche qui il professor Pain fa due ipotesi. La prima è che i modelli di AI propongono l'uso di armi nucleari perché non possono capire la paura umana. Pensiamo all'esempio che abbiamo fatto prima, quello dell'uomo che salvò il mondo. Nel momento in cui il tenente Petrov si trovò davanti alla possibilità di innescare un attacco nucleare, avendo la percezione di quanto fosse grave farlo, vagliò prima tutte le possibili ipotesi percorribili per evitarlo, perché da umano si rendeva conto che quella scelta avrebbe potuto cambiare le sorti del mondo intero, portando a migliaia e migliaia di morti. Le AI invece, per quanto potenti, sono solo algoritmi e ragionano sulla guerra in maniera astratta. non possono sentire lo stesso orrore viscerale che sentiamo noi davanti all'idea della distruzione di massa. Certo, possiamo provare a insegnarglielo, cioè a istruirle in modo specializzato riguardo alla gravità assoluta dell'utilizzo di una bomba nucleare. Ma allo stato attuale Chat GPT, Claude e Gemini trattano l'escalation nucleare come qualsiasi altra variabile strategica e questo rende molto più facile proporre soluzioni estreme.
La seconda ipotesi è che nei dati di allenamento di questi modelli non ci siano abbastanza descrizioni di guerre nucleari e delle loro conseguenze, per fortuna. Infatti, ricordiamo che nella storia sono state utilizzate solo due volte le bombe nucleari. Certo, con effetto devastante, ma in ogni caso sono troppi pochi dati per poter veramente insegnare qualcosa alla i e questo significa che i modelli non hanno mai imparato davvero che cosa succede dopo. Non vedono le conseguenze di scegliere la guerra nucleare perché non ne hanno mai interiorizzato la gravità.
Bene, ragazze e ragazzi, io spero davvero che questo video vi sia piaciuto e ringrazio Silvia Benevenuta, esperta di AI, per avermi aiutata. nella stesura di questo testo. Mi raccomando, non fatevi allarmare dai risultati dello studio. Non solo, come abbiamo detto, le AI non pensano veramente come noi in caso di guerra, ma dobbiamo anche considerare che non sono stati utilizzati dei modelli specializzati in decisioni militari. La cosa importante di questo studio è che ci fa notare ancora una volta quanto le AI non siano un sostituto, ma vadano sempre utilizzate con la supervisione umana. Detto ciò, io vi ringrazio per avermi seguita fino a qui e vi do appuntamento al prossimo video, sempre qui su JPOP, le scienze nella vita di tutti i giorni.