Transcription
[Musica] Sono Frank Ridit, faccio ricerca sull'intelligenza artificiale all'Università di Toronto e al Vector Institute. L'intelligenza artificiale ci sta offrendo molte nuove applicazioni davvero fantastiche e sta portando molti benefici in molte aree. Ma mentre l'intelligenza artificiale esce dai laboratori di ricerca ed entra nel mondo reale, sempre più persone diventano consapevoli di alcune preoccupazioni etiche che accompagnano alcune di queste applicazioni.
Ci sono tre grandi preoccupazioni etiche con l'intelligenza artificiale. La prima riguarda ciò per cui effettivamente utilizziamo l'intelligenza artificiale. Normalmente, quando sviluppiamo l'IA, sai, in laboratorio, la sviluppiamo per ragioni che pensiamo siano buone. Quindi utilizziamo il tracciamento video delle persone in contesti sanitari per assicurarci che si stiano riprendendo da un infortunio o qualcosa del genere. Ma la stessa tecnologia può essere prelevata e inserita in bombe intelligenti per tracciare persone o essere utilizzata dai governi per tracciare i propri cittadini mentre si muovono, il che è una sorta di futuro orwelliano spettrale con cui potremmo non essere necessariamente d'accordo.
Quindi dobbiamo capire, quando sviluppiamo questi algoritmi di IA, quali sono i potenziali esiti che non ci aspettiamo necessariamente.
La seconda preoccupazione etica con l'IA riguarda chi ha accesso all'IA. Sempre più l'IA deve funzionare su macchine più grandi, più veloci e più costose, e le uniche persone che possono permettersi queste macchine sono queste grandi aziende internazionali, il che significa che sempre meno persone possono effettivamente controllare il destino dell'intelligenza artificiale, e noi non vogliamo necessariamente questo. Vogliamo che tutti noi abbiamo voce in capitolo su come l'IA verrà utilizzata a beneficio della nostra società in futuro.
La terza preoccupazione etica che vedo con l'intelligenza artificiale è che l'intelligenza artificiale non pensa esattamente come noi e non condivide necessariamente i nostri valori. Quindi il rischio non è che, sai, l'IA sarà maliziosa contro di noi. Il rischio è che l'IA farà esattamente ciò che le diciamo di fare e lo farà in un modo che non ci aspettiamo. Il problema è che diciamo all'intelligenza artificiale ciò che vogliamo, ma lo definiamo in modo molto vago, e l'IA vuole solo renderci felici, quindi troverà un modo per fare ciò che le diciamo di fare. Ma poiché non condivide i nostri valori, farà cose inaspettate e piuttosto negative.
La conseguenza ovvia di ciò sono cose come i pregiudizi. Se non diciamo, sai, all'intelligenza artificiale che non apprezziamo i pregiudizi contro determinati gruppi etnici o generi e così via, l'IA potrebbe intrinsecamente adottare pregiudizi da qualsiasi dato raccolga. Quindi dobbiamo trovare modi per limitare quell'effetto, per assicurarci che i dati che forniamo all'IA siano il più possibile liberi da pregiudizi, e anche per esaminare il comportamento dell'IA e mitigare i rischi che questo tipo di comportamento alieno causa.
Penso che tutti noi dobbiamo avere una grande discussione aperta su, sai, cosa può fare l'IA, cosa non può fare, e come possiamo manipolare le cose per assicurarci che possa essere utilizzata a beneficio del maggior numero possibile di persone.