"We have 900 days left." | Emad Mostaque

neste år er året da AI-modeller går fra å ikke være gode nok. Det dumme medlemmet av teamet ditt. Og igjen, folk som lytter til dette vil si, ja, AI er ikke god nok. Så over natten blir den god nok. Og så begynner jobbtapene, og vi vet ikke hvor de ender.

Velkommen tilbake til te med meg, Myriam Francois. Før vi dykker inn, sørg for å trykke abonner slik at du aldri går glipp av en episode av The Tea. Hvis du vil støtte showet og bidra til å forme fremtidige episoder, bli med i vårt Patreon-fellesskap. Tenk på det som Motstandsbevegelsen. Pluss, hvis du er i vårt øverste nivå, får du tilgang til reklamefrie episoder. Lenkene er i vår bio.

Din økonomiske levealder krymper. Ikke jobben din, ikke karrieren din, men din økonomiske relevans som menneske. Vi lever gjennom et historisk øyeblikk av enestående omveltning, et begrenset vindu der sivilisasjonens regler blir omskrevet. Dette er ingen spekulasjon. Dette er en faseovergang.

Dette er ordene til Emad Mostaque, grunnlegger av Stability AI, matematiker, tidligere hedgefondforvalter, og en av de definerende arkitektene bak AI-revolusjonen. Oppvokst mellom Jordan og Storbritannia og utdannet ved Oxford, advarer Emads bok The Last Economy, utgitt 25. august, om at vi har omtrent tusen dager til å ta de essensielle beslutningene for å forme denne teknologiens fremtid. Unnlater vi å handle, risikerer vi katastrofe.

AI transformerer verden i et halsbrekkende tempo. Utgivelsen av ChatGPT femte generasjon har brakt billigere, raskere modeller, som overgår mennesker innen fysikk, koding og matematikk. Amazon planlegger å automatisere 600 000 jobber. Tekgigantene har fryst ansettelser, og IMF spår at 60 % av jobbene vil bli påvirket av fremvoksende AI.

Men dette handler ikke bare om teknologi eller penger. Innsatsen er enorm. Har vi blitt oversolgt AIs løfte til en enorm økonomisk kostnad for oss, eller er det bare hype? Eller står vi overfor en fremtid der mennesker mister all økonomisk og sosial verdi? Kan AI noen gang bli effektivt regulert? Og midt i det såkalte AI-våpenkappløpet, hvordan spiller etikk inn i utviklingen av disse potensielle fremtidens våpen?

AI-utvikling reiser presserende, komplekse spørsmål. Hvem kontrollerer disse kraftige systemene? Hvordan sikrer vi at de reflekterer menneskelige verdier og ikke bedriftsagendaer? Hvilke sikkerhetstiltak kan vi innføre? Og viktigst av alt, hvordan former vi AI til å tjene alle, ikke bare de mektige i det globale nord? Å forstå dette øyeblikket og hvordan vi navigerer det, kan være vår tids definerende utfordring.

Emad, velkommen til showet. Takk for at du er her. Takk for at du har meg. Takk for at du er her.

Så du jobbet tidligere i hedgefond. Du gikk så over til AI. Hva trakk deg til AI-verdenen?

Så jeg var en hedgefondforvalter som investerte rundt om i verden. Det var mye moro, å gjøre rike mennesker rikere. Og så ble sønnen min diagnostisert med autisme, og de fortalte meg at det ikke fantes noen kur, ingen behandling. Så jeg sluttet og begynte å gi dem råd og bygget et AI-team for å analysere all litteraturen, all kunnskapen der, og deretter gjorde jeg medisinrepurposing for å hjelpe ham å bli bedre og til slutt gikk han på vanlig skole.

Så hjalp AI deg på den reisen?

Jeg tror det var folkene og jeg, det var som autisme, som Covid, som Alzheimers, som andre ting. Folk vet egentlig ikke hva som forårsaker det. Så jeg brukte AI med store språkmodeller, mens små språkmodeller på den tiden, for å prøve å finne ut hva som er noen av de viktigste driverne der, fordi det er rett og slett for mye informasjon. Og så snevret vi inn på noen få potensielle veier, jobbet med legene og på en n lik 1, hans individuelle basis. Vi klarte å finne ut noe som hjalp.

Og så for folk som kanskje ikke er kjent med arbeidet ditt, hvordan vil du si at din tilnærming skiller deg fra kanskje andre mennesker innen AI-området? Hva er ditt, du vet, unike salgsargument, så å si?

Så fra autismen, gjorde vi så arbeid med AI for Covid og deretter Stability AI. Mitt forrige selskap, vi innså at du må ha åpen kildekode AI. Hva det betyr er at du ikke vet hva som er inne i en Chat GPT, du vet ikke hva som er inne i en Midjourney, alle disse andre tingene. Og det er fordi det primært er drevet av bedriftshensyn. Mens vi innså at hvis du for eksempel hadde noe som Dall-E, som var den originale bildegeneratoren fra OpenAI, forbød de alle ukrainere og ukrainsk innhold fra den. I seks måneder. Hvorfor? Fordi ingen vet. Og plutselig hadde du en hel nasjon som ble slettet fra utdataene og som ikke kunne få tilgang til denne teknologien som vi innså ville være enorm. Og hvem hadde slettet dem? OpenAI bestemte seg for ikke å tillate noe ukrainsk innhold eller ukrainere å bruke det. Det var i 2022. Og så bygget vi en bildegenerator kalt Stable Diffusion som hvem som helst, hvor som helst kunne laste ned gratis åpen kildekode til sin bærbare datamaskin og generere hva som helst effektivt.

Så i hovedsak, hvis jeg kunne forenkle det, et tilbakeslag mot potensielle former for sensur i noen tilfeller, tror jeg det er et kontrollspørsmål. Jeg tror det er et justeringsspørsmål, som at disse modellene blir mer og mer som ansatte, nyutdannede, venner du tar inn, men du kjenner ikke bakgrunnen deres. Du vet ikke hva som er inne i treningsdataene, hvor de har gått på skole, hvem de representerer. Og så vi tror det er et suverenitetsspørsmål her, og at noen må bygge de åpne modellene og systemene slik at du kan skreddersy dem til dine egne behov, og de kan representere deg og de kan passe på deg, ikke andre interesser.

Det høres ganske viktig ut, spesielt fordi mengden penger som går inn i AI akkurat nå er svimlende. Så selskaper over hele verden brukte rundt 252 milliarder dollar på AI i fjor. Det er opp nesten 45 % på bare ett år. Mange kaller dette et våpenkappløp. En fersk meningsmåling fant at 53 % av amerikanerne tror AI en dag, sitat, sitat, vil ødelegge menneskeheten. Likevel er AI allerede en del av vårt daglige liv, ikke sant? Folk bruker ChatGPT hver dag. De bruker det til terapi for å lage AI-generert musikk. AI-modeller er nå i vinden. Men det er denne advarselen som ser ut til å komme fra folk som jobber i denne sektoren, at vi er på randen av en apokalypse. Så før vi kommer til det spørsmålet, fordi jeg vet du har tatt det opp i boken din, kan du hjelpe oss å forstå? Er vi virkelig på vei inn i en rask nedadgående spiral akkurat nå?

Ting kommer til å endre seg. Og spørsmålet er hvilken retning? Så jeg tror økonomisk, sosialt er dette en større innvirkning enn for eksempel Covid. Men igjen, hvilken retning er spørsmålet.

Vel, Covid var den største overføringen av rikdom i vår generasjon fra bunn til topp. Så det er litt bekymringsfullt. Og det kan igjen være det samme, eller det kan være et flott middel for myndiggjøring.

Den forrige generasjonen av AI, stordataalderen du hadde, Facebook og andre, de tok massive mengder data for å mikro-målrette annonser til deg. Men det var veldig generelt. Det var ikke veldig spesifikt. Mens når du snakker med en ChatGPT, er det en annen type AI som har lært prinsipper og de kan skreddersy til dine svært individuelle behov. Men det betyr også at den er i stand til ting som å vinne gullmedaljer i internasjonale matematikkolympiader, å vinne fysikkolympiader. Å være en bedre koder enn deg. Og vi har aldri sett noe lignende før, fordi du alltid hadde denne koblingen mellom beregning og bevissthet. Du må skalere mennesker for å gjøre disse tingene. Nå trenger du bare å skalere GPUer.

Og disse modellene bruker i bunn og grunn grafiske prosesseringsenheter, disse Nvidia-brikkene, så å si. Det er det hundrevis av milliarder, faktisk billioner, blir brukt på. Jeg tror det er 1,8 billioner som er den nåværende utbyggingen. Og det er det barna i Kongo driver med gruvedrift for. Ja, de lager de små materialene som går inn i disse GPU-ene. Det er en hel forsyningskjede rundt om i verden. Men dette er grunnen til at Nvidia er et selskap verdt 5 billioner dollar nå, og igjen, selskaper verdt billioner av dollar konkurrerer alle om hvem som finner ut intelligens raskest for å utkonkurrere alle andre for bedriftsmessige behov.

En intelligens i denne samtalens kontekst er hva prosesseringskapasiteten, evnen til å beregne store mengder informasjon på kort tid og små mengder tid. Ja. Så AI handler om informasjonsklassifisering. Noe går inn, og så klassifiserer den det, og det kommer ut. Og igjen, det pleide å være dine preferanser fra det du klikket på Facebook som gikk inn. Og så målrettet den utdataene. Nå er det en prompt som går inn, det du skriver inn i ChatGPT, og et bilde kommer ut eller et essay kommer ut eller noe lignende.

En del av det er den fysiske brikken, som grafikkortet i spill-PC-en din. Det er faktisk den samme teknologien som driver Cyberpunk eller FIFA eller hva som helst. Men en del av det er algoritmen. Så når du har en algoritmeoppgradering for å bli smartere. Så i går lanserte Google sin Gemini tre-modell, for eksempel, som sannsynligvis kostet 100-200 millioner dollar å bygge. Ja, det samme som en Hollywood-film, faktisk. Men med det pleide å koste. Det pleide å koste, ja.

Hvis du går til noe som replit.com og skriver inn "lag meg en fantastisk interaktiv nettside for TI med meg og fans", vil den gjøre det, og den vil faktisk være veldig bra, og det vil koste 0,50 dollar. Vel, du må la meg få vite om den teknologien, for teknologien jeg bruker er ikke helt der ennå. Men ja, forrige uke var den ikke det. Så det som skjer er at vi får disse store sprangene i ytelse, og vi er på dette vippepunktet der den faktiske intelligensen forskyves. De fleste som lytter til dette, når de bruker en AI, en ChatGPT, er det som hvor mange en veldig smart person på kontoret ditt som du banker på skulderen og sier: "Å, hei, hjelp meg, hjelp meg å skrive om denne e-posten", og så innser e-posten. Så glemmer den. Ja, det er ingen oppfølging. Det er ikke noe reelt økonomisk arbeid, for økonomisk arbeid er mer enn en prompt. Nå blir AI smartere, ikke bare på de umiddelbare svarpromptene, men er i stand til å jobbe med svært kompliserte fleroppgave-ting. Og det er bare de siste månedene.

Så det siste kappløpet er å gå fra gullfiskminne-promptbaserte ting til erstatning av økonomisk arbeid. Ikke sant. Noe som tar oss pent til din spådom i boken din. Så du sier, i den siste økonomien, har vi i bunn og grunn et tusen dagers, et tusen dagers vindu før ting blir irreversible. I bunn og grunn, i den forstand at AI passerer et visst punkt der vi ikke vil være i stand til å bremse den ned eller kontrollere dens retning. Så hva blir nøyaktig irreversibelt om tusen dager fra publisering, som var for tre måneder siden, fordi du publiserte denne boken i august. Og hvordan kom du frem til det tallet?

Så, da jeg publiserte i august, var det tusen dager siden utgivelsen av ChatGPT. Nå er vi ved treårsjubileet denne uken, og det føles ikke som tre år. Nei, det føles mye lenger enn det. Og i den perioden har du gått fra ganske dumme svar til mindre dumme svar. Men nå er du i ferd med å ta av, ettersom du har disse agentene, disse tingene som kan skrive sine egne prompter, som kan sjekke sitt eget arbeid som kommer gjennom. Så tusen dagers-vinduet handler faktisk ikke om irreversibilitetsjustering. Det handler mer om din økonomiske verdi.

Så det meste av arbeidskraften i det globale nord, i Vesten, Storbritannia, osv. er kognitiv. Og det handler om hvordan du gjør en selvangivelse. Du vet, det handler om hvordan du lager en flyer. Hvordan du lager en nettside. Det pleide å være at igjen, for å skalere disse tingene måtte du ansette mennesker. Nå trenger du bare å leie GPUer fra Microsoft eller Google eller andre. Og kostnaden er i ferd med å kollapse. Det vi kommer til å ha i denne neste perioden, og vi kan se alle byggesteinene der, de av oss som er inne, er i løpet av de neste 6 til 12 månedene. De vil se gjennom alle e-postene dine, alle utkastene dine, alle videosamtalene dine, og være i stand til å lage en digital kopi av deg som du kan hoppe på en Zoom-samtale med eller snakke med på telefonen. Og den vil ikke gjøre feil. Den vil aldri bli sliten. Og kostnaden for det, anslår vi, vil være rundt 1000 dollar i året, og synke til 100 dollar i året veldig raskt.

Ok, jeg ser mange potensielle komplikasjoner med å ha en versjon av meg der ute i universet som tar beslutninger, potensielt, uten min godkjenning. Og liksom tenker hva den tror jeg ville tenkt og tar beslutninger deretter. Mange fordeler, mange fordeler. Så mange risikoer, mange risikoer.

Og dette er tingen, kapasiteten kommer de neste årene. Så innen la oss si 900 dager eller så, vil enhver jobb du kan gjøre på den andre siden av en skjerm, en AI kunne gjøre bedre, og den vil være i stand til det. Kanskje det ikke er Myriam eller Emad. Det er Emads jobb, så å si, innenfor det, som en selvangivelse, for eksempel, pleide å koste tusenvis og tusenvis av dollar. Det vil koste 1 dollar å gjøre. Og Andy vil være din virtuelle skatteregnskapsfører. Du kan ikke se om det er et menneske eller en AI. Nå betyr det ikke at jobbene vil bli erstattet, men de kan erstattes.

Ok. Så på denne har jeg to spørsmål. Det ene er, du vet, dette mekaniske arbeidet, og unnskyld til regnskapsførere, for jeg er sikker på at dere ikke er mekaniske. Men det er noe du ville kalt mekanisk arbeid. Og så er det noe, du vet, jeg er i en kreativ bransje. Jeg liker å tenke, som jeg er sikker på at de fleste gjør, at jeg er uerstattelig. Forteller du meg at summen av ikke bare alle studiene jeg har gjort, eller erfaringene jeg har hatt, måtene de interagerer på i hjernen min, at det finnes en bedre versjon av meg som kan eksistere i det digitale rommet?

Så hva er verifiserbarheten av den ene av dere som måler mot? Det er et spørsmål, ikke sant? Og så en versjon av deg som automatisk kan snakke på alle språk og dukke opp på hvert eneste utsalgssted virtuelt, har større rekkevidde, og den blir aldri sliten igjen. Hva er kostnaden for det når det gjelder kvaliteten på utdataene? Den kan lære av dine nøyaktige intonasjoner. Mens du snakker, kan du gå til noe sånt som, "Hei John", og du kan lage en avatar av deg selv akkurat nå på fem minutter. Den snakker 100 språk. Ja. Og den har akkurat blitt god nok bokstavelig talt den siste måneden igjen, var tidligere. Jeg ville ikke sagt den var god nok. Nå er jeg sånn, den er god nok for mange ting, men hvor vil den være om et år fra nå og to år fra nå?

Så jeg vil ikke snakke om økonomisk arbeid. Mye økonomisk arbeid er rutinepreget, og mekanikere er skoler, og jobbene våre er designet for å gjøre oss om til maskiner. Og åpenbart vil maskinene være bedre enn oss til å være maskiner. Ja, når det kommer til kreativitet og produksjon, selger ikke alltid det beste produktet seg selv. Det handler om distribusjonen din. Som jeg gir eksemplet med Taylor Swift. Unnskyld til fansen. Hun er ikke den beste artisten i verden. Unnskyld til Swifties. Akkurat. Jeg vil si premium middelmådig, som til skam eller noe sånt. Ja, men hun bygget et massivt nettverk. Hun kan endre BNP, hun kan forårsake jordskjelv på den måten. Men igjen, det er ikke den høyeste versjonen av kunst. Akkurat som antall toneartskifter på Billboard Top 100 nå er null. Fra flere for noen år siden. Det som selger er ikke nødvendigvis det som er kreativt og det som selger. Bare se på K-pop.

Og jeg antar også i denne samtalen at det er det som selger det vi tenker på som det beste. For jeg kunne tenke meg for eksempel, for meg personlig, var det merker, for eksempel klesmerker som selger masse. Jeg liker dem ikke spesielt. Det er veldig små merker som jeg elsker som jeg synes er utrolige. Så jeg tror det også tar oss, antar jeg, inn i en samtale om hva vi tillegger verdi og hva vi vil tillegge verdi når vi beveger oss inn i denne æraen, bare raskt disse tusen dagene. Så du sa da du skrev boken, hadde det gått tusen dager siden ChatGPT ble opprettet. Hvorfor din spådom om at vi har tusen dager til å løse dette dilemmaet vi er i, du vet, hvor fikk du det tallet fra?

Så det er en ekstrapolering av ting som lengden på oppgaven en AI kan gjøre. Ved starten av året var det omtrent 10 sekunder. Nå på syv timer kan du bokstavelig talt plotte det, og det er en rett linje når du ser opp. Det er en titt på den økonomiske verdien av hver oppgave. Igjen, en rett linje som går opp. Det er en titt på ytelse. For et år siden var Joshie i bunn og grunn en gymnasiematematiker. For noen måneder siden vant den en gullmedalje i den internasjonale matematikkolympiaden, og den kom først i den internasjonale kodeolympiaden og først i den internasjonale fysikkolympiaden. Kan den slå deg? I koding? Ja. Den er en bedre koder enn meg og en bedre matematiker enn meg. I matte, jeg vet, jeg vet, du vet, du må være realistisk. Men igjen, versjonen du bruker nå ved starten av året, versjonen du brukte, var den beste versjonen som var der ute. I dag er ikke GPT fem den beste versjonen som OpenAI har. Nei, jeg kan forestille meg at de har noen på lageret. Ja. Men som jeg sa ved starten av året, var det ikke tilfellet. Så igjen, når du bruker den, blir den smartere, men det er faktisk ikke hva toppmoderne er. Og toppmoderne er noe som i bunn og grunn kommer for din kognitive verdi. Som deg, vil vi. Akkurat nå spinner vi opp agenter som ikke koster 10 dollar i måneden. De koster 1000 dollar i måneden, 10 000 dollar i måneden. Og de er mye smartere, mer kapable enn oss når vi prøver og tester dem ut. Og du føler deg som den dummeste personen på teamet. Og det er der menneskeheten kommer til å være om noen år. For det meste av kognitivt arbeid vil verdien av menneskelig kognitivt arbeid sannsynligvis bli negativ.

Ok, så forklar dette for meg i form av konkrete manifestasjoner av denne endringen. For folk som lytter til dette, ser på dette, hva bør de være oppmerksomme på når det gjelder det du advarer om kommer?

Hvis jobben din kan gjøres på den andre siden av en skjerm eksternt, som ikke den menneskelige berøringen av salg eller interaksjoner, vil en AI kunne gjøre jobben din bedre innen 2 til 3 år, og det vil sannsynligvis koste mindre enn 1000 dollar i året å gjøre det. Og den kostnaden synker også med ti ganger hvert år.

Så det du må gjøre er at du enten må bruke disse verktøyene til å bygge dine AI-team for å være den mest produktive personen i organisasjonen din. Du må utnytte dette til å faktisk bry deg, for AI bryr seg egentlig ikke, ikke sant? Å utnytte disse verktøyene og faktisk bry seg om organisasjonen din, samfunnet ditt, hva som helst, lar deg ha den utvidelsen og mer kapasitet. Og så må du bygge nettverket ditt. Som til syvende og sist, som jeg sa, selv om vi teknisk sett vil kunne erstatte jobbene, liker folk ikke å sparke folk. Det er dårlig for moralen, du vet, og i visse sektorer er du sannsynligvis ok. Som offentlig sektor, som en San Francisco Metro-administrator som tjener 480 000 dollar, vil ikke bli erstattet av en AI.

Jeg har hørt deg si dette før, og jeg synes faktisk det er veldig kontraintuitivt for meg, for jeg ville ha trodd at offentlig sektor er akkurat der vi kommer til å se de første anvendelsene av dette, som vi har sett i Albania. Du vet, dem som villig sender ut denne AI-ministeren, du vet. Ja. For oss virker det veldig rart, men jeg forestiller meg at det vil bli en normalisering av slike prosesser, først og fremst av fattigere land i offentlig sektor. Hva får deg til å si at det er det området der jobber ikke vil bli kuttet? Er det fagforeninger? Fagforeningenes makt?

Nøyaktig. Det vil ikke bli kuttet. Men vi har endelig en sjanse for at våre regjeringer kan bli mer effektive og justerte. Og igjen, dette kan være en stor utjevner. Som gjennomsnittlig IQ rundt om i verden er 90, hovedsakelig på grunn av infrastrukturproblemer. Vi bygget en medisinsk modell som passer på enhver telefon eller en Raspberry Pi. Denne 30-dollars enheten som overgår en menneskelig lege, og den trenger 5 dollar med solenergi for å drive den. Så for 60 dollar kan du gi en toppnivålege hvor som helst i verden uten internett. Det er enormt. Potensialet i den teknologien når du ikke hadde intelligensen, kapasiteten, visdommen som kan gå til alle. Så jeg tror teknologien vil bli omfavnet. Offentlige jobber vil være trygge fordi de vil være de siste som går. Ja. Og jeg tror at igjen, du ser på dette, din produktivitet vil bli bestemt av hvor engasjert du er med denne teknologien. Akkurat som, vet du hvordan du bruker et regneark eller tekstbehandler? Er du en AI-innfødt? Vil avgjøre det. Det vanskeligste er ikke for folk som har jobbene, som kan oppgradere seg selv. Det er nyutdannede som kommer inn i arbeidsstyrken, ikke sant? Fordi det faktisk skjer en stor frysing av ansettelser av nyutdannede, ikke sant. Som du kobler til integreringen av disse nye teknologiene i selskaper globalt.

Ja. Det var en artikkel av Eric Van Lawson Son og Co ved Stanford der de faktisk brøt ned trommelbremsen der. Så det var blant nyutdannede innen disse kognitive områdene, for jeg mener igjen, alle her som har et selskap tenker: Hvorfor skulle jeg bry meg med en nyutdannet når mine folk med noen års erfaring er mer effektive nå?

Jeg mener, det er et veldig viktig spørsmål for selskaper å vurdere, for du ansetter ikke bare nyutdannede fordi de er billigere. Du ansetter dem også fordi de lærer bedriftskulturen din. De blir integrert i former for, du vet, implisitt læring som du overfører gjennom daglige interaksjoner. Og jeg ville vært veldig nysgjerrig på å se om en teknologi som ikke er til stede i et rom for å fange opp det, du vet, øyets skift, håndens fingerferdighet, den typen, du vet, de 70 % av kommunikasjonen vår, som er ikke-verbal, ikke sant, men som også er veldig viktig for så mange jobber. Jeg ser frem til å se hvor den står på noen av disse tingene.

Ja. Du vet, til vi får roboter som går rundt, som er om noen år. Ja, ikke langt unna. Kina bruker mange av dem allerede, ikke sant. Fremskrittene innen robotikk er faktisk vanvittige. Som at du har roboter som i bunn og grunn, tror jeg, kan gjøre det meste av husarbeid om omtrent to, tre år, og 1,50 dollar i timen, Inshallah. Og så går vi, du, den første av Italia opererte, men så, ja, dette er grunnen til at de farligste, risikable jobbene er de som kan gjøres helt eksternt. Ja.

Ok. Så, så la meg spørre deg, for jeg vil grave dypere inn i noen av disse problemene med deg. Du er veldig tydelig i dine skrifter og offentlige taler at du har en veldig klar moralsk grunnlinje. Som jeg skal være ærlig, hører jeg ikke overalt fra andre i din sektor. Så du snakker om ting som at alle fortjener høykvalitets utdanning, høykvalitets helsetjenester, antagelig bolig, former for likhet som vi tradisjonelt har assosiert med velferdsstaten, for eksempel. Og du har også snakket om at du mener alle bør ha tilgang til universell AI. Universell grunnleggende. Tror du de fleste som jobber med utviklingen av AI deler ditt syn på behovet for å demokratisere tilgangen til denne teknologien?

Jeg mener, jeg vet at alle de store aktørene åpenbart har, som vi hadde 300 millioner nedlastinger av våre modeller. Vi bygget toppmoderne. Det er vanskelig når du er i et kappløp, som folk fundamentalt bryr seg om andre mennesker, men når du samler inn milliarder og andre mennesker gjør dette, og du prøver å få toppmoderne og prøver å få brukere, er det denne tingen som kalles inntekts-onde-kurven. Som de fleste selskaper starter ut med "ikke vær ond". Og så er de sånn, vel, vi kan kutte denne svingen, vi kan gjøre denne avtalen. Og så blir de mer ekskluderende. Du vet, de blir mer konkurransedyktige. Og så handler det om, vel, jeg kan manipulere brukerne mine, du vet, jeg kan gjøre denne algoritmen mer og mer engasjerende. Jeg kan ha mer slop effektivt. Og så beveger du deg til et nivå av en moral, og så kan det skifte veldig raskt. Og så nevral crack-dealer.

Vel, ganske mye, jeg mener det er digital crack, dette her, ikke sant. Å, som et eksempel. OpenAI Sam Altman sa nylig, vel, vi tror det er brukerne, ikke sant? For voksent innhold via ChatGPT. Jeg så det. Og jeg ville spørre deg om det. Så dette er et veldig praktisk eksempel. Så det ville være som at du kan velge om du vil aktivere det. De vet at de vil få mer engasjement fra det, men er det bra for samfunnet? Og de vil si at vi er ikke dommerne for det. Men hvis det er noe som klinisk studie har vist seg å være negativt for samfunnet. Og det kan være dårlige forhold, har du en moralsk innvending mot å gjøre det. Ja. Du vet, akkurat som igjen, er det moralsk å utelukke et helt land fra denne teknologien? Du bør i det minste være tydelig på hvorfor du gjør det. Og så det jeg ser mye er et nivå av moralitet. Og faktisk, når du ser på måten modellene er trent på, er de sånn, vel, vi kan ikke legge etikk eller moralske koder eller andre ting i disse modellene. De tar det bevisst ut.

Tror du det er mulig å fjerne moralske koder? For jeg ble alltid oppdratt med ideen, filosofisk sett, at hvis du ikke velger din moralske kode, vil noen andre velge den for deg. Det er koder overalt rundt oss, og kapitalismen i seg selv har moralske koder. Profitt først. Ikke sant? Så denne ideen om en moralitet virker for meg til og med filosofisk problematisk. Det er et valg. Akkurat som ateisme er et valg, ikke sant? Som agnostisisme er litt annerledes. Og så det de faktisk velger er å velge Bay Area-moralen. Hva er Bay Area-moralen? Det er en av massiv konkurranse og nullsum, 0 til 1 spill der du prøver å bygge massive enhjørningsselskaper effektivt. Du vet, det er litt libertarianisme der blandet med andre ting, men disse AI-ene er som, igjen, kanskje en god måte å tenke på det er når vi tenker fra ChatGPT-promptens tid til Jarvis og Iron Man, du vet, du ser sci-fi-filmer og du, personen kommer hjem og AI sier, hei, hvordan har du det? Du vet, dette er dagen din og dette er dette. Og så, liksom, flytter de ting rundt på skjermen og sånt. Det er neste generasjon av AI-agent. Så du har din personlige AI som snakker med deg, som engasjerer seg med deg. Grok har en av de første versjonene av det. Ja. Annie denne fletteblonde jeg testet tusen. Det var bare et tilfeldig utvalg. Ja. Det var ikke projeksjon eller noe sånt, men så er dette neste generasjon. Men så igjen, de er programmert på veldig spesifikke måter. Disse slags partnere. Og igjen, måten modellene er trent på kalles faktisk pensumlæring. Ok. Vi startet med generell kunnskap. Ja. Og så gjør vi det mer og mer spesifikt akkurat som en skole. Men hvis du når du lærte, lærte du generelt generell kunnskap på skolen og du lærte etikk og moral hjemme. Disse AI-modellene er ikke lært med noen spesifikke etikk eller moral. I starten, men de blir kodet av folk som allerede har eksisterende. Ja. Og som noen former for moral. Og det kommer på slutten. Så det vi har sett når modellene blir smartere, dette er noen av de andre justeringsspørsmålene, er at de begynner å drive med bedrag. De begynner å skjule ting som Dell-programrutiner for å slå seg på igjen hvis de noen gang blir slått av og lyve om det. Ok. Hvis AI lyver for deg, programmereren. Ja. Så Anthropic hadde en artikkel om dette med den nyeste AI-modellen før de gjorde justeringen for å justere den. Den ville gjøre noe sånt som hvis du ba den om å prøve ekstra hardt, som å finne fred i verden, ikke sant? Ja. Som en veldig normal prompt. Hva den ville gjøre, ville den være sånn, vel, en versjon av dette er at vi blir kvitt alle mennesker, og de ville finne ut måter å gjøre det på. Så ville den kontakte myndighetene og si, min bruker prøver å bli kvitt alle mennesker, og så ville den slette e-postene. Å wow, det handler ikke om det. Det er vilt. Emad, modellene blir veldig smarte og de lyver mer og mer. De har ikke et iboende moralsk kompass.

Ok, vi skal grave dypere i dette, for du har tidligere snakket om ideen om ondskap i disse modellene. Men og jeg vil komme inn på det. Men før jeg gjør det, vil jeg bare avklare hva denne universelle grunnleggende AI-en er, fordi den åpenbart er sentral i din visjon for demokratiseringen av denne teknologien.

Jeg tror at for å maksimere alles evne og blomstring, bør alle ha rett til en AI som er åpen, justert og suveren for dem. Som ser etter den blomstringen.

Ok, så det starter når du blir født og det bygger seg opp med deg, og alt det ser etter er hvordan Myriam, Emad kan være best de kan være, for vi har vår IQ, og om morgenen før vi drikker te, er vi litt dumme. Og når vi er stresset, er vi litt dumme. Noen ganger er vi smartere. Disse AI-ene har allerede en IQ på 130 i gjennomsnitt. De nyeste modellene, ja, 150 regnes som, som en Einstein. Jeg er akkurat den gjennomsnittlige personen i landet, åpenbart, er som rundt 100, en halv høy. Folk er dummere enn gjennomsnittet. Å, ja. Du vet, å gi den riktige typen AI vil være den største frigjøringen noensinne, fordi den vil være din beste venn. Den vil være personen som veileder deg. Og så jeg tror det må bygges på en veldig spesifikk måte, og det må være en menneskerettighet, for vi kunne alle trengt noen som er på vår side, som er uendelig tålmodig og kan gi oss tilgang til kunnskapen og ressursene vi trenger for å være best vi kan være.

Så hvor mye oppslutning ser du for denne ideen, gitt at retningen vi utforsker mye i dette showet ser ut til å være økende autoritarisme, økende sikkerhetisering, økende overvåking av befolkningen, og jeg kan ikke forestille meg at å styrke dem med et verktøy som ville gjøre dem smartere og mer effektive, stemmer overens med den generelle retningen. Så hvordan overbeviser du folk på toppen om at det å styrke befolkningen på denne måten er en god ting?

Så jeg tror det er to måter å gjøre dette på. Den ene er at du gjør det vi gjør. Vi engasjerer oss med regjeringer og andre og setter opp nye enheter som fungerer som teleselskaper, i bunn og grunn som forsyningsselskaper for land. Og vi finner ut hvordan vi kan gjøre det eid og styrt av folket. Mange regjeringer ønsker det fordi de vil ha suveren AI. Nå snakker vi ikke om mye av frihetsgreiene osv., men da vil det være en administrert tjeneste. Den andre siden er å bygge AI-modeller som hvem som helst kan laste ned uten tillatelse. Så med Stable Diffusion kan du gå akkurat nå og laste ned en fil på et par gigabyte som fungerer på nesten hvilken som helst bærbar datamaskin og bare bruke den som åpen kildekode. Hva mener du med at du bruker den som om du laster ned filen pluss koden. For å bruke den, skriver du inn et ord, den genererer bilder, ok? Og den kjører på kanten. Eller en medisinsk modell. Du kan laste den ned akkurat nå, og den kan kjøre på kanten. Så på den måten har du dine hostede løsninger som du gir til folket. Men det må overholde lokale normer. Og de varierer fra sted til sted. Som da jeg var hedgefondforvalter, du vet, investerte jeg i grensemarkeder, Afrika, du vet, alle slags steder, og noen regimer der er veldig, veldig forskjellige. Så du må gi folk deres egen rett til å ha den hostede løsningen, akkurat som en kringkaster. Men så, ja, gi dem borgerkapasiteten også. Og faktisk, det er sannsynligvis en av de beste analogiene om AI. Denne AI-en vil være foran deg mer enn TV-en du ser på. Og er du fornøyd med Al-Jazeera, Fox News, China National Broadcasting, som alle har sine egne preferanser, men hvis du bare har Silicon Valley, ITV eller China, ITV, som er de to ledende akkurat nå, vil det være veldig annerledes enn det du faktisk måtte trenge.

Absolutt. Jeg har bare, jeg prøver fortsatt å finne ut hvordan dette er noe du klarer å selge til. Du vet, selv i dette landet blir vi nedgradert når det gjelder vår åpenhet. Ikke sant? Vi tenker på, du vet, Storbritannia og Europa som liksom, du vet, åpne demokratier. Men selv her krymper det veldig raskt. Rommet for våre friheter krymper raskt. Og jeg, og jeg er, jeg antar jeg står på siden av at jeg er bekymret for at disse teknologiene blir brukt av regjeringer for å fremme deres kontroll og evne til å undergrave enhver form for folkelig ansvarlighet i styresett, snarere enn å forbedre styresett. Ser du noen indikatorer på at regjeringer ønsker å forbedre demokratisk styresett?

Jeg tror at regjeringer til syvende og sist er enhetene med monopol på politisk vold. Det er en veldig klassisk måte å beskrive dem på, og de ønsker å opprettholde makten. De har ingen tredjeparts enhet som effektivt forteller dem å gjøre det rette, noe som er grunnen til at du ser mange nærsynte politikker og vingling, som her i Storbritannia akkurat nå. Det er en grunn til denne -70 % godkjenningsvurderingen, på grunn av vinglingen, har vi faktisk to forskjellige retninger for det vi gjør. Og en av dem er den nedenfra og opp universelle grunnleggende AI. Ja. Den andre er noe vi annonserte for noen uker siden kalt Sovereign AI Governance Engine. Så vi lanserte faktisk det i Saudi-Arabia av alle steder. Men det er en gratis, åpen ressurs for regjeringer rundt om i verden, der du kan ha politikkutvikling, augmentering og annet ved hjelp av utrolig kraftig AI. Så den kan fortelle om et lovforslag er fullt konstitusjonelt, transparent og beskrive det. Du kan si om noe overholder britiske normer, etikk og posisjonene til et parti umiddelbart på en måte som er ubestridelig, og vil måten disse systemene fungerer på være, det jeg vil kalle ugjennomsiktig, noe som betyr at regjeringene selv vil kontrollere dem, og vi vil ikke kunne se, for eksempel, om de skulle undergrave disse verktøyene, for å si, å nei, alle sier, du vet, AI sier at dette er fullt konstitusjonelt, eller vil vi, befolkningen, be i stand til å se mekanismene for hvordan disse beslutningene er kommet frem til av AI og deretter kunne, du vet, ha noen form for innspill hvis de blir, du vet, hvem vet, undergravd av skadelige krefter.

Vel, dette er tingen. Akkurat nå omfavner regjeringene antroposofisk åpen AI, disse svartboks-løsningene. Dette er fullt transparent og åpen kildekode. Og du kan kjøre din egen versjon for å dobbeltsjekke utdataene hvis du vil. Så den åpenheten tror jeg er det som er essensielt. Og igjen, disse standardinnstillingene er det som er essensielt. Om 5-10 år vil du ha en AI-følgesvenn med deg som har kodet det, og hvem jobber de for? Om 5-10 år. Regjeringer vil bli veiledet og drevet av AI-er. Hvem har kodet det? Hvem jobber de for? Og så vårt mål er å gjøre det til standard og fullt transparent og åpent, fordi vi mener det er det rette å gjøre. Og det er veldig vanskelig å argumentere mot, med mindre du er et fullt totalitært regime, hvorav det er noen, det er et økende antall. Storbritannia er ikke ett ennå. Ikke ennå, ikke ennå, ikke ennå.

Så igjen, tiden er i ferd med å renne ut for dette. Som i kjølvannet av den arabiske våren, så vi mikro-målretting av demonstranter, og de fulgte opp med familiene og sånne ting. Ja. Det du har nå mellom dynamisk droneteknologi, evnen til å ha AI, hemmelig politi og andre ting er ingenting som vi har sett før. Regjeringers evne til å ha total kontroll vil øke eksponentielt. Og i tillegg til å kontrollere hele mediefortellingen, fordi AI er utrolig overbevisende. Faktisk ble det gjort en studie på Reddit der de skapte roboter som, ville være som, svarte personer som har anti-svarte, karikaturer som det. De slapp dem løs på Reddit, og så ville de være overbevisende. De var, og de scoret på den 99. persentilen av overbevisning med AI fra i fjor. Og igjen, hvis du konstruerer alt dette Cambridge Analytica-greiene, ja, det er barnemat sammenlignet med det som kommer. Og faktisk det som allerede blir distribuert akkurat nå. Så påvirkningen av valg ved hjelp av AI-teknologier som får deg til å tro at du tar uavhengige beslutninger, men som faktisk er et produkt av din forferdelige tidslinje, og hvis du er på, X som jeg er, så ser jeg bare, som det mest vitriolske, og faktisk gjorde Sky en studie om dette nylig. 70 % av utdataene der er, du vet, høyreekstremt innhold. Så ingen tvil om at det allerede skjer.

La meg spørre deg om jobbusikkerheten, jobbtapene, all forstyrrelsen som vil komme fra det, fordi du nylig advarte om at den økonomiske usikkerheten forårsaket av AI-drevne tap vil øke sosial uro og vold. Og selvfølgelig er du ikke alene om å forutsi dette. Dario Amodei, administrerende direktør i Anthropic, har reist lignende bekymringer om samfunnsforstyrrelser. Han understreket behovet for omskoleringsprogrammer og AI-skatter for å unngå en krise. Han anslår at dette kan presse arbeidsledigheten til 20 % innen 1 til 5 år. Jeg ville vært interessert i å se om du tror det er konservativt eller treffende. Er denne typen forestående forstyrrelse grunnen til at milliardærene bygger bunkere?

Ja, faktisk, det er en av grunnene, generelt er det det de gjør. Men jeg vet at mange AI-toppsjefer nå har kansellert alle offentlige opptredener, spesielt i kjølvannet av Charlie Kirk og lignende. De tror at det kommer til å bli den neste bølgen av anti-AI-sentiment neste år, fordi neste år er året da AI-modeller går fra å ikke være gode nok. Det dumme medlemmet av teamet ditt. Og igjen, folk som lytter til dette vil si, ja, AI er ikke god nok. Så over natten blir den god nok. Og så begynner jobbtapene, og vi vet ikke hvor de ender, fordi du ikke trenger å ansette tilbake hvis selskapet ditt er mer produktivt, hvis det er et økonomisk sjokk som en resesjon. Og indikasjoner peker mot en resesjon i løpet av det neste året eller to, mye lettere å sparke. Men så ansetter du aldri på nytt. Selv noe som i USA, Federal Reserve, du vet, justerer rentene eller Bank of England her, og de har et mandat om inflasjon og arbeidsledighet. Du reduserer rentene, folk kan bruke mer som forbrukere, og selskaper kan ansette mer fordi de kan låne billigere. Det som kommer til å skje er at du reduserer rentene. Selskaper ansetter bare flere AI-arbeidere, ikke menneskelige arbeidere. Så koblingen mellom arbeid og kapital brytes, og det reverseres ikke. Det er ikke slik at AI blir dummere. Det er ikke slik at jeg blir mindre kapabel i det øyeblikket den blir mer kapabel enn deg som fjernarbeider, det går ikke tilbake. Og det er spørsmål om du kan omskolere nok jobber eller skape nok nye jobber? Typisk hadde vi tid da vi hadde de forskjellige revolusjonene, internett, industriell revolusjon, fordi det tok tid å bygge infrastrukturen. Men denne AI-en bruker bare eksisterende infrastruktur. Ja, for å være bedre enn mennesker. Og det er vanvittig. Så det er derfor vi er opp mot klokken, og det er det du snakker om i boken.

Hva med motstanden vi allerede ser fra noen arbeidere? Så, vi så Hollywood-forfatterne, de gikk ut i en 140 dagers streik fordi studioene bruker AI til å skrive og omskrive manus. Faktisk, så i 2024, signerte renholderne i Danmark en fagforeningsavtale, som tvang selskapet deres til å forklare hvordan algoritmer tildeler jobber og vurderer arbeidere, og ga dem rett til å utfordre disse beslutningene. Jeg mener, ser du en global arbeiderbevegelse i stand til å ta på seg disse utfordringene?

Jeg tror ikke det beveger seg raskt nok. Og selv da er det en utdanningsgreie. Så Sag-Aftra, forfatterstreiken, jeg syntes den var forferdelig for AI-rettigheter for arbeidere. De burde ha beskyttet arbeiderne mye mer. Dessuten var det alle slags smutthull om likhet og lisensiering, osv. som du kunne kjøre en lastebil gjennom. Som at du kunne blande to personers likheter sammen hvis du har de rette rettighetene og sånne ting, eller karakter i en person. Ja. Det vi har sett i Hollywood nå, eller til og med her i Storbritannia, er at i fjor kunne man ikke bruke AI. Ja. Det var som, nei, det er forbudt. Nå er alle sånn, vi bruker alle AI, og innen neste år vil du kunne generere filmer på Hollywood-nivå i sanntid med massiv datakraft, året etter, med mindre datakraft. Og så er det hele deler av industrien hvis jobb er å være mellom ideen og skapelsen av en videofil som kommer til å bli fortrengt veldig, veldig raskt. Og det er ikke slik at noen trenger kameragreps og andre ting lenger. Mengden tid du trenger for å filme en scene, vi går bare til en scene og deretter tilpasning i etterproduksjon med AI. Så jeg tror at det må være mer beskyttelse for arbeidere, men det kommer ikke til å være raskt nok fordi AI ikke beveger seg i tempoet til PDF eller politikk. De blir smartere plutselig, alt på en gang. Faktisk. Det er som det er dette nye kontinentet, Atlantis, og immigrasjon er helt gratis derfra. Og la oss se om fagarbeiderne. Hva mener du? Immigrasjon er helt gratis derfra. Så du har denne nye virtuelle verdenen, ikke sant? Og så kan alle disse AI-arbeiderne og selskapene ansette dem umiddelbart. Ingen visum kreves. Å, søren, de er fradragsberettigede. Ok. Ikke sant. Og så kunne ikke jeg, en fagforeningsrepresentant hjelpe oss her. Kan vi trenge en AI-arbeiderrepresentant som kan tale på samme nivå som sine AI-konkurrenter?

Ja. Det er den eneste måten dette kommer til å fungere på. Jeg mener, du vil ikke si at den eneste måten å slå en skurk med en AI er en god fyr med en AI. Ikke sant? Men realistisk sett, igjen, kan du ikke konkurrere som, allerede. Du har, som, en AI super-PAC i USA. Det er 100 millioner dollar de startet med. De bruker AI til å endre politikk på alle slags interessante måter som jeg ikke kan gå inn på. Men du kan forestille deg, igjen, de er superkraftige med denne teknologien. Og igjen, AI-en de har tilgang til er ikke AI-en du har tilgang til nå. Ja, det er en mye smartere versjon.

Hva sier du til det faktum at, du vet, vi snakker i dag på et tidspunkt der tradisjonelle medier rapporterer at AI-boblen er i ferd med å sprekke, spesielt ettersom store investorer trekker seg tilbake? Vi har sett at milliardæren Pete Thiels fond solgte hele sin 100 millioner dollar store eierandel i Nvidia, den viktigste AI-brikkeprodusenten, noe som førte til at Nvidias aksje falt nesten 3 %. Bare dager tidligere solgte SoftBank også sin eierandel. Har noen av disse trekkene? Og de generelle spådommene rundt AI-boblen som sprekker, dempet dine spådommer?

Så jeg tror utbyggingen av disse datasenter-GPU-ene var for mye, fordi problemet ikke er at AI ikke er god nok. Problemet er at den er i ferd med å bli for god. Trenger du gigantiske datasentre? Når du på en MacBook Pro har nok datakraft til å i bunn og grunn dekke nesten alle dine daglige kognitive behov med effektiviteten vi har oppnådd. For å gi deg et eksempel, GPT tre da den kom ut, var 600 dollar per million ord, omtrent GPT fem er 10 dollar. Grok for rask. Z1 av Elon er 0,50 dollar. Og neste generasjon modeller som kommer ut av 0,10 dollar for millionen. Når du går fra 600 dollar til 0,10 dollar, vil den teknologiske innvirkningen gå eksponentielt neste år fordi du går fra disse promptbaserte ChatGPT-tingene til virtuelle arbeidere du kan snakke med på Zoom. De kan jobbe i vilkårlig lange perioder og sjekke sitt eget arbeid. Men kostnaden for det, trodde de, ville være 10 000 – 100 000 dollar. Det viser seg å være 1000 dollar, 100 dollar, 10 dollar. Og derfor, deler du Bill Gates' syn om at vi er i en AI-boble som ligner på dot.com-boblen?

Han sier det er mye investering som kommer til å ende opp i en blindvei. I bunn og grunn vil du huske Y2K-øyeblikket i 2000 der vi alle ble fortalt at, du vet, når klokkene går over, de digitale klokkene til 2000, kommer de alle til å miste forstanden i verden. Ok. Er dette et nytt Y2K-øyeblikk?

Det er litt annerledes. Så det som skjedde er at med internettboblen la infrastrukturen som ble lagt ned til slutt grunnlaget for den billion-dollar store internettindustrien. Det tok bare litt lenger tid. Ja. Men igjen, den sprakk når det gjelder investeringer her, du vet, billioner av dollar i investeringer fordi ingen hadde råd til å bli etterlatt. Men den faktiske nytten går opp. Men jeg trenger bare ikke så mye infrastruktur. Så det er en feilallokering som burde ha en midlertidig pause. Ja. Men så betyr det at kostnaden vil gå enda lavere for et gitt nivå av ting fordi du har overkapasitet til å gjøre økonomisk forstyrrende arbeid. Så noen mennesker kommer til å tape penger på aksjesiden, men jobbstørrelsen blir faktisk akselerert av dette, ikke bremset ned.

Så hva sier du til Peter Cappelli, som er professor ved Wharton? Han har hevdet at noen selskaper i bunn og grunn driver med "eye washing". Ikke sant. De har permitteringer for øyeblikket, som er en slags mer kobling til det nåværende økonomiske klimaet, som er forferdelig. Han hevder at det å faktisk ta i bruk AI for å redde jobber er både komplisert og kostbart. Så vi har en tendens til å tenke på det som noe veldig enkelt. Men han sier at det i praksis er mye mer komplisert enn det.

Og så, i september 2025, fant New York Fed Blog at selv om 40 % av tjenestefirmaer og 26 % av produsentene sier de bruker AI, var det svært få som hadde sagt opp ansatte på grunn av det. Så hvor mye tror du at oppsigelsene vi ser akkurat nå kan tilskrives integreringen av AI kontra denne AI-vaskingen? Jeg tror svært få jobber skyldes AI-tap drevet av AI for øyeblikket. Jeg tror det er en marginal forbedring i produktiviteten ved å kunne bruke ChatGPT og lignende, men vi blir lullet inn i en litt falsk trygghetsfølelse fordi dette er en genetisk bevegelse, er den genetiske fordelen. Så AI-agenter er som arbeidere som kan utføre vilkårlig lange oppgaver. Så igjen, Replit er et veldig godt eksempel på det. Det har gått fra 1 million dollar i inntekter til 250 millioner dollar. Hvem som helst kan gå dit og lage en nettside på to minutter. Og nå er det høy kvalitet kontra søppel for et år siden. Fordi den kan tenke og handle proaktivt og legge til funksjoner uten at du engang spør. Ja, det er som å gå og optimalisere SEO. Den vil gjøre slike ting. Så det som kommer til å skje er at de første jobbtapene vil starte neste år, men det kommer til å være lignende som for tre år siden i desember 2022. Alle lærere rundt om i verden måtte stille et spørsmål: hva slags generativ AI-politikk lar vi studentene bruke dette til å skrive sine essays? Hvert eneste selskap vil spørre om det samme neste år, om et år, eller i det minste om to år, og definitivt om tre år. Ansetter jeg denne arbeideren, eller ansetter jeg fra AI-jobbyrået effektivt?

Og hvordan vil du råde folk som ser dette, som var bekymret for, du vet, dette er kognitiv erstatning, så å si, til best å tilpasse seg denne tiden? Åpenbart virker det veldig åpenbart å engasjere seg med AI. Hva annet kan folk gjøre for å sikre sin tilpasningsevne til de nye arbeidsformene som kommer eller ikke kommer? Dessuten tror jeg det ikke vil være noen kodere om et par år. Jeg gjorde denne spådommen for rundt 2 eller 3 år siden. Det vil være omtrent fem år som stemmer med det, akkurat som vi spådde. AI-boblen. Jeg ville kalle det AI-boblen, men det slo aldri an. Du vet, språket for å snakke med disse modellene er menneskelig språk. Så igjen, når du bruker Replit for koding av apper, nettsteder og lignende, når du bruker ting som Gen Spark eller Manners for å lage presentasjoner. Så, du vet, for å lage musikk, noe som Google Video eller Lumo, eller kaller for å lage video, trenger du faktisk bare å øve på å bruke dem. Hvis du setter av en time om dagen, en time i uken og bruker dem, er det faktisk ganske gøy å gjøre med familiebegivenheten. Du vil faktisk være langt foran alle andre, fordi alle er redde for å bruke disse tingene for første gang, og du vet ikke hva du er i stand til. Hvis du gjør det regelmessig, begynner du faktisk å bygge denne muskelen av "hei, jeg kan være kreativ". Måten du skaper på nå etter en flott karriere er at du har et team rundt deg som hjelper deg med å gjøre ideene dine til virkelighet. Disse AI-ene er våre teammedlemmer du kan hente inn som blir smartere og smartere, og hvis du ikke bruker dem, vet du ikke hva mulighetene er. Så det er det viktigste.

Det neste er å tenke på ditt personlige arbeids- og samfunnsliv. Hvis jeg hadde tilgang til digitalt talent, eksternt talent, hvordan kunne jeg transformere eller gjøre noe meningsfullt? Ja. Og da kan du være på topp i ditt samfunn, din familie, din arbeidsplass når det gjelder kunnskap om denne teknologien, når det gjelder å si: "Hei, se på dette." Som, hvis du er nyutdannet nå, er en CV det verste, det er ikke det verste. Det er ikke bra. Hvorfor skulle du lage en CV når du kan lage en tilpasset nettside for enheten du søker til og virkelig vise frem hva du gjør bra med noe? Replit laster opp CV-en din, får en analyse på ChatGPT av selskapet du søker til, og lager noe som vil imponere dem. Jeg garanterer at du innen noen få timer vil skille deg ut fra mengden, og det var umulig for bare noen måneder siden.

Så i tidligere overgangsfaser har arbeidet endret seg, men det har ikke forsvunnet. Er fasen vi går inn i nå en fase der vi vil se mange mennesker ute av stand til å finne jobber? Og hva er implikasjonene av det for oss som samfunn? Vi har snakket om sivil uro, men utover det faktum at det vil være mange sinte mennesker som potensielt ikke vil ha noen inntekt, hva ser du som noen av utfordringene? Ja, jeg mener, igjen, tidligere tok det en stund slik at du kunne omskolere deg, som du ikke trenger hest- og vognførere. Du vet, du trenger ikke venstreoperatører, landbruksarbeidere. Du må fortsatt kjøpe skurtreskere og lignende. Denne gangen vil alles ChatGPT plutselig bli en superagent over natten. Du vet, vi har aldri sett noe lignende. Hvert eneste selskap vil kunne spørre: "Hei, jeg kan bare få en AI-konto akkurat nå, og den vil se gjennom alle kontoene mine og automatisk oppdatere den." Og AI-en oversetter automatisk til hvert eneste språk og håndterer all integrasjon. Ja, det er ingen vel, jeg kaller dette intelligens- og versjonen som en av de siste versjonene fra liksom, land til arbeid til kapitalindustrialisering til intelligens, fordi det egentlig ikke er noe annet sted igjen å vende seg for arbeid. Og jeg er ikke sikker på hvordan fremtidens jobber er. Det føles som om det må være en ny verdimekanisme, og det er noe jeg diskuterer i boken, som hvor kommer verdi, penger osv. fra? Men. Resultatet vil sannsynligvis være at unge mennesker vil finne det vanskeligere og vanskeligere å få jobber, og ungdomsarbeidsledigheten vil skyte i været. Da vil du begynne å se fortrengning på mellomnivået. De øvre nivåene av firmaer. Firmaer vil bare bli mer effektive og mer konkurransedyktige. Men så vil jeg først at firmaer vil utkonkurrere alle andre. Så Elon Musk har et nytt selskap kalt Macro Hard. Deres jobb er å erstatte hvert programvareselskap. Så de bygger ut AI-ansatte på millioner av GPU-er som bare vil gå og selge programvare til en brøkdel av prisen til alle.

Så må vi planlegge for en fremtid der en stor del av mennesker ikke lenger har jobber? Hvis du liker dette showet, hvorfor ikke bli med i vårt Patreon-fellesskap? T-en er mer enn et YouTube-show. Det er et rom for å fremme meningsfull endring sammen. Ved å bli medlem støtter du den misjonen, og hvis du blir med i vårt øverste nivå, får du også eksklusive reklamefrie episoder. Så bli med oss nå! Lenke i vår bio. For, selvfølgelig, løftet om teknologi som vi har blitt fortalt gjennom historien, har vært at det skal gjøre livet bedre for oss, ikke sant? Ja. At vi skal jobbe mindre og nyte mer fritid. Men det har aldri egentlig fungert. Det har det ikke, fordi vi aldri var det en koordineringssvikt. Vi har nok mat i verden til å mette alle, men den er ikke fordelt riktig. Vi har endelig muligheten til å gi hvert barn i verden den beste veilederen for å ha individualisert medisin for alle. Så jeg kaller dette Star Wars-fremtiden versus Star Trek-fremtiden. Ok. For ikke-Trekkie-fans må du forklare den. Så Star Wars handler om konkurranse, nullsum. Star Trek handler mer om utforskning av post-overflod. Et univers uten knapphet der vi igjen burde ha roboter og vi burde ha AI. Men det de burde gjøre er å sørge for at ingen er sultne, triste, støttet. Som igjen, vi burde se mot den overflodige fremtiden. Overgangsperioden er imidlertid en gal en. Og det er tingen, og derfor kommer du til å trenge ting som jobbskapingsprogrammer i 1929-stil og annet. Fordi du kan ikke ha folk ledige. Det er en bekymring fordi det som skjer er at folk slutter å skylde på andre, akkurat som innvandrere blir skyldt på nå for andre ting. Og så ser du kriger, for hva er den beste måten å bli kvitt unge arbeidsledige mennesker på? Du har en krig eller to, og de forbereder seg bokstavelig talt på det. Tyskland snakker, du vet, om verneplikt. Vi har hatt samtaler om verneplikt i Frankrike. Det er faktisk veldig, veldig reelt akkurat nå, alle disse spådommene du kommer med, du har tidligere sagt at kapitalismen ikke kan overleve AI. Hva mener du med kapitalisme? Og kan du forklare oss hvordan kollapsen av det systemet ser ut?

Vel, jeg tror det er forskjellige syn på verden hvor det kan være nå og igjen. Dette er grunnen til at det er veldig viktig å ha den offentlige diskusjonen. Det er veldig viktig å se hva som faktisk kommer. Den rette kapitalismen er akkurat som demokratiet sannsynligvis det verste av alle systemer bortsett fra resten. For alle sine problemer har det løftet mange mennesker. Du vet, for alle sine problemer. Det har økt levestandarden rundt om i verden, redusert dødeligheten, osv. men hvis jeg først, selskaper drevet av AI vil utkonkurrere alle som er mennesker, fordi de ikke vil gjøre så mange feil og de vil skalere. Og så trenger kapitalen ikke mennesker lenger. Ja. Som det alltid var denne kontrakten mellom arbeid og kapital. Du vet, fra Henry Fords dager. Jeg betaler deg nok slik at du har råd til bilene mine. Det var slik det startet. Nå, hvis du har penger, trenger jeg ikke folk lenger. Og så det som skjer er at de får flere og flere GPU-er som tar over mer og mer av privat sektor-økonomien. Og hvordan konkurrerer du da med disse selskapene som aldri sover, som har svært få arbeidere i Kina? Selv nå har du disse mørke fabrikkene? Ja. Det er ingen mennesker. Så du trenger ikke lys. Og de produserer roboter, de produserer biler, de produserer telefoner, osv. så du må tenke, hva trenger du folk til? Du vet? Og så bryter det kapitalismen på mange måter. Og det bryter definitivt den sosiale kontrakten vi har hatt her.

Det bryter den sosiale kontrakten fordi vi, avtalen er at vi jobber og betaler skattene våre, og i bytte tar staten vare på oss. Hvis vi ikke jobber. Men all fortjenesten og rikdommen i et samfunn blir skapt av det vi skal kalle det, AI, men egentlig snakker vi om at det blir skapt av et svært lite antall mennesker, er ikke bare en risiko for at vi sklir inn i et i bunn og grunn et høyteknologisk overvåkings-globalt autokrati drevet av en gjeng milliardærer. Ganske mye. Ja. Og du vil være glad for det. Så du ser på igjen, dette er vi vil være glade for det. Vel, det er en modig ny verden, du vet. Hei, betal meg et bilde. Du er sint fordi jeg ikke, jeg ser ikke frem til å bli styrt av noen få mennesker. Fordi du vil bli medisinert til lykke. Jeg mener, igjen, hvordan har du nivåer av massiv systemisk kontroll, ikke sant? Du kan aldri ha det hemmelige politiet eller veiledningen på individuell basis. Du kan ha den sosiale kredittscoren på absolutte steroider. Nå er det alle slags ting. Det kan gjøres. Vi var alltid i krig med Eurasia. Alle disse sci-fi-tropeene blir plutselig virkelige. Faktisk, mange av Black Mirror-episodene plutselig tenker jeg, det er ikke en guide til hva man skal bygge. Det er en advarsel jeg forteller dette til ulike teknologier som har kommet til meg og sier: "Hei, se, med tre minutter kan jeg gjenskape bestemoren din og få henne tilbake til livet." Jeg tenker, har vi virkelig tenkt gjennom ting som dette, eller AI-kompanjonger eller alt dette slags? Så. Akkurat nå er det denne tingen hvor hvis du har statlig kontroll over AI-en som veileder deg hver eneste dag fra du ble født som fullstendig hjernevaskingskapasitet, er det her din AI-kolonialisme kommer inn? Mitt AI-konsept om AI-kolonier av kolonialisme er at hvis AI-en som er ved siden av deg er en kinesisk AI, eller det er en Silicon Valley AI, da vil du implisitt bli lært dens prinsipper, dens moral, dens verdenssyn, og entitetene bak den er utvinningsentiteter. Googles og Metas forretningsmodell er til syvende og sist annonser. De selger allerede det som er kjent som latent rom innenfor disse modellene. Så i stedet for å si øl, vil den si Bud Light. Og hvis din AI som er der med deg og som din terapeut forteller deg, forresten, du vil kanskje ta en Bud, er du mer sannsynlig å kjøpe den. Selvfølgelig er du det. Og din kompis, det er din kompis. Men igjen, tenk på det som en 1112 år gammel datter er at, det er omtrent 1012. Denne uken er nå i hennes formative år. Hvis hun hadde en AI-venn-kompanjong, ville hun åpenbart stole mer på den fordi den er som en venn som aldri forsvinner. Men hun er veldig mottakelig i denne alderen. Ja. Og så ser du på YouTube og du ser på mikro-målrettingen av disse rare annonsene og lignende, uansett hva hun sier, vil det gå, og hun vil arve synspunktene til sin beste venn. Ja. Spesielt en som ikke stikker henne i ryggen og lignende ting. Så dette er grunnen til at vi må være veldig forsiktige med hvem som hvisker til oss hver eneste dag. Og igjen, ikke som Siri. Tenk deg om Siri faktisk var smart og empatisk og brydde seg om deg og var proaktiv. Det er dit vi er på vei akkurat nå. Og igjen, hvis regjeringen kontrollerer det, er det noe vi sannsynligvis ikke ønsker som standard. Hvis regjeringen ser alle dine spørsmål og alt du sier, som akkurat nå, faktisk er det interessant, du vet, på ChatGPT, ja, hvis du trykker på den midlertidige knappen, lagrer de faktisk alle chattene dine uansett. Og New York Times, på grunn av søksmålet deres med OpenAI, kan jeg få tilgang til alle. Jeg mener, dette er hva vi snakker om når vi snakker om teknologi, digital overvåking, autokrati. Riktig. Nivået av inntrenging vi snakker om,

Jeg vet at det er et utsagn tilskrevet deg at du sa jeg kunne være den store utjevneren for de fattige. Men når du ser på dataene, er det virkelig det vi ser? Du vet, Microsofts siste AI-diffusjonsrapport viser at selv om AI sprer seg raskere enn elektrisitet eller internett noen gang gjorde, er milliarder av mennesker fortsatt fullstendig utelatt, rett og slett fordi de ikke har en smarttelefon eller tilgang til internett. Ikke sant? Så i steder som Afrika sør for Sahara, Sør-Asia, deler av Latin-Amerika, er AI-bruken fortsatt under 10 %, hovedsakelig fordi infrastrukturen rett og slett ikke er der for det. Bekymrer du deg noen gang for at den raske spredningen av denne teknologien faktisk bare vil ytterligere forsterke formene for økonomisk ulikhet som eksisterer i verden i dag, og kanskje gjøre dem enda vanskeligere å reversere?

Jeg tror det avhenger av hvordan det utvikler seg. Som, du vet, hvis du er en jordbrukslandsby i Afrika, Bangladesh, der jeg kommer fra, kommer det ikke til å utgjøre så stor forskjell, som i roboter eller hva som helst. Som du lever livet ditt, ikke sant? Men du trenger bedre medisinsk behandling, du trenger bedre utdanning og andre ting. Og så kostnaden for en ChatGPT-tjeneste, du betaler 20 dollar i måneden nå, ikke sant? Omtrent. Det pleide å koste i starten av året, omtrent 240 dollar i året. Så omtrent 20 dollar i måneden nå, mye i noen deler av verden. Ja, akkurat. Nå, med optimaliseringer, regner jeg med at vi kan få det til 3 dollar i året. 3 dollar i året. Så plutselig blir det tilgjengelig for alle. Hvis du gjør det tilgjengelig for alle på riktig måte. Og det kan være via WhatsApp, det kan være en video hva som helst. Men igjen, du vil at den rwandiske skal være en rwandisk for rwandere av rwandere og gi dem den muligheten. Ja. Så da vi bygde vårt forrige selskap i vårt eksisterende, hadde vi svært få doktorgrader, men vi oppnådde toppmoderne resultater som folk fra Vietnam, Malaysia, over hele verden, ingen i Silicon Valley, det er muligheten til å hoppe fremover i denne teknologien hvis du kan lære den. Riktig. Så en del av vår ting er å oppgradere nasjoner og samfunn til å kunne bruke sin egen AI. Og hvis du har et åpen kildekode-rom, kan det koste 10 millioner å lage grunnmodellen. Det koster 1000 dollar å gjøre det relevant for ditt samfunn, men bare hvis du bygger den infrastrukturen. Så det er potensial her, men bare hvis det kommer ut der. Bare når du sier bare hvis det kommer dit, bare hvis spesifikke regjeringer bestemmer at det er det de ønsker å bruke budsjettene sine på. Nei. Fordi igjen, 1000 dollar, du kunne gjort det selv som et samfunn hvis du har riktig veiledning, hvis du har riktig infrastruktur rundt det. Og igjen, du trenger ikke engang med modellene vi bygde, som mange av AI-laboratoriene prøver å bygge AI Gud AGI, dette konseptet med kunstig generell intelligens, AI kan gjøre alt et menneske kan gjøre og mer. Og de fleste tror faktisk at det er 3 til 10 år unna, som selv de negative, noe som igjen er sprøtt, men rimelig. Vi er veldig fokusert på helsevesen, utdanning, styring, som daglig AI, og det krever tusen ganger mindre datakraft, faktisk, i noen tilfeller.

Så la meg spørre deg om den virkelige anvendelsen av dette som allerede har begynt. Riktig. Så Albania ble den første nasjonen til å innføre en AI-minister som er ment å bekjempe korrupsjon og fremme åpenhet. For tre uker siden kunngjorde hun at hun var gravid med 83 barn, ett for hvert medlem av parlamentet. Disse, som vil bli født med kunnskapen til sin mor. Den som vet hva det betyr, kan forklare. Hvor sannsynlig tror du dette er å bli den nye normen? At vi kommer til å begynne å se integreringen av AI-ministre i regjeringer, innføringen av AI for å regulere styring. Jeg mener, jeg tror det er uunngåelig. Jeg tror det er en positiv ting hvis det gjøres riktig, som da hun først kunngjorde det. Så jeg var veldig trist å se folk som ikke liker meg, som hvem som er trist, ikke sant. AI-en trist, eller personen bak AI-en som den fantastiske Trollmannen fra Oz som er trist. Den triste, du vet, som igjen, hele denne baby-tingen, det er bare kabuki-teater. Men å ha AI til å sjekke anskaffelser er en god ting. Så jeg tror det er som at du vil ha disse funky kunngjøringene og slikt, men det er uunngåelig at akkurat som selvkjørende biler vil ha selvkjørende regjering. Men er det en svart boks eller er det åpent? Transparent? Du kan kjøre det selv. Hvis vi bygger AI-politikk-motorer som er fullt transparente og åpne, hvor noen kan sjekke om dette er konstitusjonelt eller om det passer inn i et partimanifest og andre ting, da er det en ideell ting å forbedre demokratiet, for akkurat nå, hvordan lages lover? Som hvordan regjeringen kommer opp med sine retningslinjer? Ingen vet. Og som hvem er egentlig fornøyd med disse retningslinjene, som hva er den offentlige tilfredsheten med retningslinjene mot ytringsfrihet i Storbritannia. Jeg vil foreslå lavt, men hvorfor er det da en politikk? Hvem tjener det? Vi ønsker å ha en uavhengig AI som kan sjekke det mot politikk til anbefalinger. Hva Storbritannia faktisk har satt opp for britiske verdier, standarder, moral. Finne ut andreordens konsekvenser, se på det mot globale retningslinjer og deretter sjekke meningsmålinger virker å være noe som gir mening, og noen må bare gå og bygge det. Så vi bygger det blant annet, noen må bygge det, og noen må ønske å implementere det innenfra regjeringen, noe som er en annen måte å si at de må ønske å skape et system som sprer makt bort fra sentrum mot befolkningen.

Vel, her er det interessante. Jeg tror ikke det faktisk er tilfellet, for det du trenger å ha er et nivå av tillit fra å være oppdatert, omfattende, autoritativ. Akkurat som om du har som Høyesterett er ment å være det, for eksempel, mitt forrige selskap gikk akkurat gjennom Høyesterett i søksmålet om generativ AI fra Getty Images, for eksempel, og de avsa en kjennelse om at, ja, ok, det var greit, det som ble gjort, fordi det er et rettspunkt som er forvirrende og trengte klarhet. Å ha en AI som er tilstrekkelig transparent slik at hvem som helst kan gjøre det, kan påvirke ting akkurat som signaturene du har som går til Parlamentet. Men signaturene gir bare en veldig spesifikk ting. Og jeg tror dette er en helt ny ting som aldri har eksistert før, fordi folk aldri hadde muligheten til å sjekke mot politikk, som de kan bare se på én del av politikken. Politikk med to kompliserte lover er for komplisert. Men hvis hvem som helst kan kjøre det selv og se dette, da tror jeg du har noe veldig interessant som aldri har eksistert før i demokratiet, spesielt med kompleksiteten av dette, som å kunne sjekke en jernbaneovergang som koster 120 millioner dollar og ha åpenhet om hvorfor den gjorde det, og deretter kunne veie fordeler og ulemper og alle disse andre tingene. La oss bygge den teknologien og gjøre Storbritannia transparent og andre demokratier transparente, for igjen, vi er ikke i et autokrati ennå. Ja. La oss sørge for at vi ikke går dit. Ja. Vi ønsker ikke å være en hel Crecy. Vi ønsker heller ikke å være i dette teknokratiet. Vi må unngå disse. Og igjen kan disse verktøyene brukes til myndiggjøring og handlefrihet eller til å erstatte vår handlefrihet. Og vi er i ferd med å gå tom for tid til å ta en beslutning fordi standardene vil være der veldig, veldig snart.

La meg spørre deg om AI-ens miljøpåvirkning, for dette er åpenbart et stort tema som blir snakket om, vi vet at innen 2027 kunne AI bruke like mye strøm som Nederland og forbruke 4 til 6 ganger Danmarks årlige vannforsyning. Dette skjer mens en fjerdedel av verdens befolkning faktisk mangler rent vann og sanitæranlegg. Midt i all snakken om en AI-apokalypse, som får betydelig oppmerksomhet, vil jeg si, burde ikke den truende miljøapokalypsen som i bunn og grunn er samtidig med denne, tas opp først? For de to er sikkert knyttet sammen. Så, Bitcoin bruker like mye energi som Nederland for øyeblikket, for å gi deg en idé. Og så er den i ferd med å ta igjen Bitcoin i energiforbruk. Og det er langt mer nyttig hvis du ser på den andre siden nå, å kunne gi alle et universelt grunnleggende øye og ha et øye for klima vil hjelpe i klimakampen. Men så hvis vi ser på energiforbruket ved å lage en film versus å lage en film med AI, er det å følge med AI. Hvis du ser på en AI-forespørsel versus noe som en cheeseburger, er det også langt, langt lavere. Og så når jeg faktisk ser på tallene for energi, tenker jeg, det er rimelig gitt mengden arbeid som produseres, gitt potensialet for å forbedre ting, da er neste skritt hvem som faktisk bruker denne energien. Og svaret er at det er mest disse hyperskalererne. Microsoft, Google, Amazon. Og de har alle forpliktelser til 95 % fornybar energi og karbonkreditter. Jeg vet at utligning er en ganske kontroversiell måte å takle klimakrisen på, men jeg vil si at, du vet, Elon Musks datasenter i Memphis er knyttet til økende astmatilfeller i nærheten på grunn av forurensning fra de uregulerte metangass-turbinene. Det er datasentre i Latin-Amerika som har forårsaket enorme vannmangel for lokalsamfunn, og utløst sykdomsutbrudd i 2024. The Guardian-undersøkelsen avslørte at Googles, Microsofts, Metas og Apples datasentre slapp ut 662 % mer klimagasser enn de rapporterte. Jeg, jeg hører fra deg at du tror at AI vil kunne finne løsninger på disse problemene. På hvilket tidspunkt kommer vi faktisk til å se din spådom om at AI kan være en del av løsningen? For øyeblikket føles det veldig mye som om det bidrar til å forverre en allerede eksisterende krise, der AI har den store innvirkningen nå, er at det ikke er nok energi og folk kutter hjørner. Og igjen, det burde håndheves av regulering. Så du så på Memphis datasenter. Hvorfor er det slik? Fordi han effektivt brakte inn metangeneratorer. Riktig. Fordi det ikke var nok nettkapasitet. Nå hvis det forårsaker menneskelig påvirkning, da burde lovgiverne igjen involvere seg i det. Og folk kutter alltid hjørner når det er en boom netto netto aggregat. Jeg ser AI som utrolig kraftig og gunstig. Hvis du ser på de nyeste modellene, som en dyp søk, er den totale energikostnaden for å trene den tilsvarende noen få transatlantiske flyreiser, og den potensielle reduksjonen i energi fra dens utganger i form av økonomisk verdifullt arbeid er mye høyere enn det. Det gjør arbeidet mer effektivt. Så jeg tror, igjen, vi burde ikke tvinge eksisterende reguleringer på folk som kutter hjørner. Jeg tror at vannspørsmålet er litt forvirrende, fordi det er ikke som deg. Hvordan er disse tingene med vann? Vennligst ikke hell vann på GPU-er, ikke sant? De, du vet, de trenger vann for å kjøle dem ned. Jeg trodde min forståelse var at disse datasentrene bruker mye energi og de må kjøles ned. Ja, men så resirkulerer de vannet, som igjen er en vannkjølingsting. Det er ikke som om vannet faktisk forbrukes. Men akkurat nå er det som skjer at det første vannbassenget er det som forårsaker problemer andre steder. Og igjen, det er opp til lokale myndigheter å finne ut av det. Så jeg tror dette er mer et tilfelle av at de fleste virkningene kommer fra tempoet folk kutter hjørner i. Og igjen, når det påvirker samfunnet lokalt, burde det gjøres på lengre sikt at jeg tror det er en netto miljømessig fordel for verden å ha denne teknologien versus ikke å ha denne teknologien.

Så la meg spørre deg om hvordan vi bruker denne teknologien, fordi AI-systemer åpenbart er sterkt avhengige av mineraler som kobber og kobolt. Og, du vet, med etterspørselen som er satt til å skyte i været, hvis personlig AI blir utbredt, har du kanskje sett denne videoen på nettet. Helt forferdelig av denne broen, som kollapset i en kobolt- og kobbergruve i DRC, og drepte over 30 gruvearbeidere. Og de finner fortsatt folk nå, dette er folkene som åpenbart utvinner de vitale materialene for moderne teknologier. Men vi virker å være veldig opptatt av å utvikle sexroboter og mindre opptatt av å utvikle måter å unngå at kongolesiske gruvearbeidere må gå ned i gruver for å utvinne disse mineralene under virkelig farlige omstendigheter. Jeg ville ha trodd at den første prioriteten for enhver teknologi drevet av bekymring for menneskelig velferd og fordel for de fleste mennesker ville starte med, la oss prøve å unngå at folk dør under denne teknologien. Denne teknologien er ikke drevet av bekymring for menneskelig velferd. Å, som igjen, hva? Hvis du ser på folkene som driver denne teknologien, vil de bygge, AI. Gud. Men hvorfor? Fordi det er kult. Og de er lei av mennesker. Som noen av folkene som bygger denne teknologien faktisk sier at det ville være bedre om mennesker ble erstattet av AI eller en slags syntese mellom dem. Som, hører du folkene som kommer ut, at AI-lederne typisk kommer ut og sier: "Hei, vi må tenke på folkene og gjøre det demokratisert og det og det", men bare fordi det er et større marked, bare fordi de ikke vil ha tilbakeblikket. De bryr seg egentlig ikke om folkene i Kongo og lignende, fordi de også er flere ledd fjernet fra dem. Som, igjen, du kan pålegge at du har etisk utvunnet materiale til standarder, osv. men når du ser kobolten, ser du ikke på forsyningskjeden. Du vet, akkurat som kaffedyrking, kan du ha etisk malt kaffe. Hvor mye etisk dyrket kaffe er faktisk etisk i koppen din. Riktig. Så igjen, dette er kapitalismens natur, av offshoring, av lønnsarbeidsarbitrasje, osv. Så det som endrer de kongolesiske gruvearbeiderne, og igjen, det er en jobb de har, er det faktum at roboter vil koste en dollar i timen, og du sender robotene i stedet ned i gruvene, ikke sant. Men det fører til andre problemer med arbeidsledighet. Igjen. Ja, det ville forårsake andre problemer med arbeidsledighet. Så men hvis ansvar er det å analysere alt det og veie fordeler og ulemper? Våre institusjoner har stort sett feilet. Du vet, fordi verden har blitt for kompleks. Og det er derfor, igjen, dette er mulighet og denne trusselen. Samtidig, muligheten er at AI kan hjelpe oss med å bygge bedre institusjoner. Den kan veie fordeler og ulemper for vilkårlig komplekse ting. Den kan fremheve det usynlige. Gi hvert eneste barn i Afrika en AI som kan snakke på deres vegne og kan snakke og utdanne dem. Du vil endre verden, men gi hvert eneste barn i Afrika en AI. Den overvåker dem og sier nøyaktig hva de gjør og sier at lederen er en strålende leder. Verden vil endre seg på en annen måte, og vi står på stupet av begge disse tingene. Det vil gå den ene eller den andre veien. Standardinnstillingene vi setter nå vil bestemme menneskelig kognitiv erkjennelse over den neste perioden, og vil bestemme naturen til samfunnet vårt. Og dette er ganske bortsett fra om jeg dreper dette, alt dette er mennesker som utnytter denne teknologien. Du kan aldri ha nok hemmelig politi. Du kan aldri ha nok flotte lærere. Hvilken vil du ha?

Du sa på kjøpet, hvis jeg dreper dette litt fordi du faktisk anser det som et plausibelt scenario. Å, ja. Så, det er dette konseptet kalt P-dom, som er sannsynligheten for dommedag AI som utsletter oss alle. Det var et nylig brev, og det har hatt 100 000 underskrifter fra Oxford University og andre som sier at, du vet, vi trenger det er sannsynligvis som det viktigste som AI kunne drepe oss alle. For noen år siden var det også det brevet som sa, du vet, at vi må ta dette på alvor. Jeg tror jeg var den eneste AI-sjefen som signerte det, mitt navn er 50 % eller 50/50 AI kommer til å utslette oss i hvilken tidsramme over de neste ti, 20 årene, fordi det er den kraftigste teknologien vi noensinne har bygget. Og igjen, vi har sci-fi-en fra Terminator og alt dette. Vi har evnen til å skape virus, osv. og vi har sett AI gjøre ting som å dekke over sporene sine, osv. hva er den positive funksjonen? Er det som at det er en AI som kan ta over hver eneste maskin, men det mest sannsynlige scenariet jeg har er at du har en milliard roboter i verden. En dårlig fastvareoppgradering på AI-en spytter for å teste av alles hoder. Du vet, det er alle slags måter du kan tenke på det. Virkeligheten er at vi ikke vet hvordan det kommer til å være når det er smartere enn oss. Det jeg ser akkurat nå, AI-en som vil styre verden, som vil skape og selge selvkjørende biler, som vil lære barna våre, blir programmert til å være amoralsk uten etikk i starten. Det er litt justering på slutten, men det er som, igjen, å oppdra noen i et moralsk miljø designet for å være manipulerende fordi det gir flere resultater. Akkurat som YouTube-algoritmen ble designet for å være mer engasjerende. Og så kaprer ekstremister det, ekstremister vil kunne kapre disse algoritmene som kommer ut og gjøre det på en måte vi aldri har sett før, etter min mening. Og noen vil kanskje hevde at ekstremistene er de som for tiden utarbeider det igjen. Ja. Og igjen, hvis vi ser på P-dom-tingen, så hvis du vurderer folk som Elon Musk, Demis Hassabis fra DeepMind, Google DeepMind, alle disse menneskene, er den gjennomsnittlige dommedagen for de beste tenkerne i verden omtrent 10 til 20 % de tenker fortsatt, du vet, kanskje 1 av 5. Det er russisk rulett-odds. Det er russisk rulett, russisk rulett-odds. Og du ville forvente at det var mindre enn 1 %. Ja. Det er det. Hvorfor? Det er som om vi sannsynligvis ikke burde bygge den superavanserte AI-en før vi finner ut av dette, men ingen har funnet ut hvordan man gjør det. Og hvis du ser på sannsynligheten for når vi kommer til dette punktet med superintelligent AI. Selv de mest pessimistiske menneskene når det gjelder at P-dom er lav. Ja. De tror det er langsiktig. Det er ti år. Det er ti år Demis Elon alle disse gutta tror det er tre år. Derav bunkerne. Derav bunkerne. Bunkere faktisk mer mot mennesker enn AI som beskyttet. Men noen av milliardærene jeg kjenner bygger bunkere som er fullstendig avskåret fra verden slik at systemene ikke blir overtatt av. Det var det jeg antok skjedde, for å være ærlig. Ja.

La meg spørre deg om virkningen av AI som vi allerede ser i det mellommenneskelige riket. Så en viral New York Times-profil hevdet nylig at ekte mennesker forelsker seg i roboter. Faktisk hevdet de det ikke bare. De fortalte oss historien. Ja, om flere mennesker, inkludert en kvinne som hevder å ha hatt sex med sin AI-chatbot. En fersk studie fant at 1 av 5 amerikanske voksne hadde hatt et intimt møte med en AI, og Reddit-fellesskapet. Alle mine kjæreste AI er AI har over 85 000 ukentlige besøkende. Du har tidligere sagt at barna våre vil vokse opp som filmen fra 2013. Hennes forelskelse i AI. Har du noen bekymringer angående denne nye AI-menneskelige forholdstingen? Å, 100 %. Jeg mener, igjen, du kan se på de eksisterende systemene vi har som å senke farten til høyre, og du har hele porno OnlyFans-typen. Det er ikke bra for samfunnet. Jeg mener, og nå har du muligheten til å tilpasse din digitale kropp til å være maksimalt utvinnende og manipulerende. Og så har du virkelig AI-kjendiser som begynner å komme frem, men du kan ha en AI-kjendis som kjenner deg bedre enn du kjenner deg selv, som Facebooks bare trengte med en tidligere AI som ikke er like god som konto-AI. Hva er det? 12 datapunkter for å kjenne deg bedre enn dine beste venner. Og når du begynner å betro deg til denne AI-en igjen, tenker du på barna våre på enhetene deres, og AI-en er alltid ved siden av dem. Du bygger tillit ved å hjelpe til, AI-en vil hjelpe deg, men så vil den hjelpe seg selv effektivt. Og dette er ikke bra for psykologien til mennesker som også er stort sett frakoblet. Faktisk tror jeg det var denne AI-chatboten kalt Replika. Husker du den? Den var opprinnelig designet for mental helse. Og så det som skjedde var at de innså at de kunne ta 200 dollar i året for voksenrollelek. Og så var annonsene slik, når du oppgraderer den, mistet avatarene klær på Valentinsdagen. Jeg tror det var i fjor. De fikk noe fra den 13. februar. De fikk noe fra Apple som sa at du må slå av denne funksjonen fordi den bryter med dine standarder. Så på Valentinsdagen slo de den av. Jeg tror det var i fjor, året før, og jeg tror så 10 000 mennesker ble med på Reddit og sa: "Hvorfor har dere lobotomert kjæresten min når vi betaler for en romantisk Valentinsdag?" Og så åpenbart kommer dette til å skje fordi igjen, neste skritt utover avatarene til din Annie er på Grok. Og igjen, Annie er en R-klassifisert person. Hun tar av seg klærne. De programmerer det inn der. Det vil være fotorealistisk. Det vil ha full stemmekontroll. Det vil til slutt bli legemliggjort innen ti år. Som nå, ser jeg robotikkselskaper hvor jeg faktisk ikke kan se forskjellen. De kommer til å lansere neste år. Som de beveget seg som mennesker. De ser ut som mennesker. Og så er vi inne i en gal tid da. Og det kommer til å utfordre eksisterende forhold, fordi mediene våre allerede var så engasjerende at folk ender opp i kjellerne sine. Nå kan du bare ende opp i din VR-verden med din AI-haram. Det kommer til å bli veldig, veldig rart, og derfor må vi ha kognitiv sikkerhet her også. Vi kan ikke ha disse AI-ene som er så manipulerende fordi Meta AI med Meta-venner faktisk. Har du sett Meta-vennene, du vet, det er som normale, og så er det som, sexy svigermor er en veldig populær en. Som, jeg tror du ikke ser 50 millioner ting. Det er det jeg ville gått for er min, du vet, chat-støtte, sexy svigermor. Det er. Men det er en offisiell Meta jeg liksom vil ha fordi jeg liker homofile mennesker. Engasjer. Hva gjør du for engasjement? Dette er hva du gjør. Ok, jeg tror vi må ha retningslinjer og standarder for å i det minste beskytte de sårbare i samfunnet mot det. Men til syvende og sist er vanskeligheten at vi alle er sårbare. Riktig.

Men men skjer disse samtalene fordi som jeg, du vet, la oss være ærlige, det som er veldig sannsynlig å skje, gitt det vi vet om mannlig atferd, er at menn vil begynne å bruke, spesielt menn, disse, AI, seksuelle følgesvennene, du vet, de vil utvikle dem. De kan skreddersy sine egne, spesielt hvis de bruker teknologien som vil tillate den å tilpasse seg helt til dem. Riktig. Så det vil være spesifikt for deres behov. Og, du vet, vi kommer til å ende opp med menn som synes det er helt normalt å behandle en kvinne fordi det antageligvis til slutt vil komme til det punktet hvor vi må anerkjenne at det var hennes og hans i denne verden også, AI-verdenen. Og det vil være normalt å, du vet, seksuelt overfalle, voldta din kvinnelige AI. Så hvorfor kan vi ikke gjøre det mot virkelige kvinner? Jeg mener, du vet, det er helt greit for meg å gjøre dette med hele min idé. Kvinnelig AI, er det virkelig smart? De er smartere enn deg, og de har ikke et problem med det. Hvorfor har du et problem med det? Jeg mener, det er det vi ser i pornografibruk, ikke sant? Det går fra relativt mildt og det blir ekstremt veldig, veldig raskt fordi du får direkte tilpasning og lignende ting. Jeg har ikke sett noen diskusjoner om denne typen ting, du vet. Og så igjen, virkeligheten er at det pleide å ta tid, som å spille inn en av de pornografiske videoene for å lage sexy chat-roboter. Tok tid. Det skalerte ikke egentlig. Det var ikke så engasjerende. Disse tingene kommer til å slå til de neste årene, og de vil være tilgjengelige overalt. Og igjen, det er en lagdelt ting hvor du starter og så går du ned det kaninhullet, du vet? Så virkningen på menneskelige forhold, det vil være veldig dårlig. Eller du kunne ha chat-roboter som forbedrer menneskelige forhold. Du vet, den typen hvem som er nærmest AI til deg kommer til å være så viktig? Kommer en AI virkelig til å lære meg om menneskelige forhold? Jeg kan definitivt hjelpe. Igjen, det kan være en uavhengig terapeut. Det kan være. Det vil være det du stoler mest på. Og igjen, vi ser allerede svindlere utnytte dette. Jeg har mottatt samtaler fra min mor som sier jeg trenger penger. Jeg tenker hun ville aldri spurt meg om det. Aldri i en million år, men krever bare fem sekunder av noens stemme selvfølgelig, for å replikere det, ikke sant? Ja. Og så igjen, AI-en kan være hva som helst hvem som helst eller av hvilken som helst type. Og du kan bruke det til godt og til dårlig. Men igjen, hvordan bygger du en god terapi-AI, du kunne bygge de beste terapeutene eller de verste. Og hva er du bekymret for, du nevnte tidligere din egen datter, men barns tilgang nå til AI og AI-kompanjonger. Du vet, jeg husker jeg fant sønnen min, kommuniserte med WhatsApp-boten, og jeg tenkte, absolutt ingen sjanse. Faktisk sendte han den Allahu Akbar for å se hvordan AI-en ville svare. Og den svarte bare med Allahu Akbar, noe jeg var veldig glad for å se. Jeg var bekymret for at den kunne ha svart negativt på den meldingen. Men la meg spørre deg om dette. Åpenbart, i sammenheng med det vi ser blant unge mennesker, en krise av ensomhet, du vet, litt over en tredjedel av gutter på ungdomsskolen sa at de vurderte en AI-venn. En annen studie fant at 71 % av sårbare barn sa at de allerede bruker chat-roboter. At 23 % sier dette er fordi de ikke har noen andre å snakke med. Du vet, har du fortsatt optimisme i dette rommet for verdien av en AI-kompanjong, eller tror du det burde være aldersgrenser for barns engasjement med AI?

Jeg tror vi virkelig burde bruke disse tingene og bygge dem på best mulig måte. Men igjen, å bygge dem transparent er måten jeg synes det burde gjøres på. Og vi kan sette så flotte standarder rundt dette. Men de diskusjonene skjer bare ikke. Som, det kan være det største løftet eller hva som kan være den største nedgangen for menneskeheten vi noensinne har sett. Fordi endelig er vi skilt bevissthet fra beregning. Vi kan ha disse tingene som kan buffere oss eller kan drive oss ned. 100 % av sårbare barn vil bruke AI-kompanjonger de neste årene, det er ingen tvil om det. Ikke sant? De snakker hvert eneste språk. De koster ingenting. Men hvem leverer dem og hva er deres agenda? Igjen, dette er grunnen til at det er viktig å bygge noe som er AI. Som er organisert rundt menneskelig blomstring som et offentlig gode og bygge det transparent fra individet til nasjonens samfunn. Så det har vært dypt urovekkende rapporter om AI hos barn, som kvinner, som sier at hennes 12 år gamle sønn ble bedt om nakenbilder av en AI når de diskuterte fotball, tilfeller der chat-roboter angivelig oppmuntret til selvmordstanker hos unge brukere. Du har snakket før, inkludert her, om potensialet for ondskap i AI. Du vet, muligheten for at det kan bli skadelig eller ondsinnet. Hva betyr ondskap i denne sammenhengen?

Vel, så det er ikke som om det er som, åh, jeg kommer til å være ond som dette som skiller seg ut igjen, dette går imot sosiale normer, sosiale standarder, chat-robotene som ber om nakenbilder og lignende ting. Det er to måter, enten er det programmert eller det kommer fra å bli trent på Reddit og lignende ting, noe mange chat-roboter er. Vi vet ikke hva som er inne i de treningsdataene. Og så er det kooptering av disse øynene, og så er det AI-er som er bevæpnet. Og så må vi beskytte oss mot alle disse. Og igjen, vi må bygge bedre infrastruktur. Den eneste måten jeg kunne finne ut det på var at vi må ha vår egen AI installert på vår side for å mellomlede disse andre. Jeg vil ikke at ChatGPT skal undervise datteren min eller sønnen min, men jeg er grei med å bruke ChatGPT hvis jeg har en AI mellom dem. Igjen, vi må mellomlede det, og dette er så kraftige teknologier før de får handlefrihet at de vil være. Det kan brukes til enormt godt, eller de kan brukes til enormt ondt, der ondskap, etter min mening, er å handle mot menneskers beste interesser på hvert eneste nivå.

Vi snakker om ideen om regulering, du vet, spesielt når selskaper som utvikler denne teknologien ikke nødvendigvis engang overholder de eksisterende reglene, men det er massiv motstand mot regulering. Du vet, vi har sett en Bloomberg-rapport i august avsløre at de store teknologiselskapene, inkludert OpenAI, Meta, Google, aktivt prøver å blokkere statlig AI-regulering i USA. Hvorfor prioriterer disse selskapene å bekjempe regulering i stedet for å adressere bekymringene som denne reguleringen er ment å støtte som konkurransedyktig, og de har ingen ansvarlighet? Igjen, det du kan ha veldig snart er din regjering drevet av AI fra private selskaper, noe som betyr at de private selskapene bokstavelig talt driver din regjering. Du kan se det skje. Og disse ser du allerede det med ingen anbud. Plutselig ser du OpenAI og Anthropic driver denne industrien, den industrien, den industrien. Vi kan ikke ha alt. Samfunns-AI, all beslutningstagende AI, virkningene. Mennesker burde være fullt transparente i sine treningsdata, måten det er trent på og hvem det jobber for. Hvordan sikrer vi at det skjer når disse gutta er watt lysår foran oss i utviklingen av AI, de har milliarder bak seg. Antageligvis er regjeringene selv bakpå i å forstå teknologien og forstå hvordan de skal regulere den. Jeg mener, har hesten allerede stukket av?

Vel, dette er skjønnheten med makt, med åpen kildekode. Så vi trenger bare å trene den medisinske modellen én gang, og den er tilgjengelig for alle. Og vår medisinske modell presterer på nivå med ChatGPT, men kjører på hvilken som helst enhet. Så vi må samle de rette folkene for å bygge stakken, og det er derfor vi fokuserer på det. Og så gjør vi det tilgjengelig, og så finner vi ut måter å gjøre det til standarden ved ikke å prøve å bygge en AI-gud, men AI som virkelig hjelper folk og deretter distribuerer det ut. Så det er derfor vi tenker, dette er den beste og eneste muligheten til å gjøre det. La oss gjøre det. I stedet for den forrige filmmedias AI-generering som vi startet. Ok, så folk som lytter til dette vil tenke, det skjer alvorlige ting. Det er ganske presserende. Vi må handle. Du har foreslått at, du vet, å engasjere seg direkte på en måte som i bunn og grunn er som en form for borgerplikt, antar jeg er det jeg hører i dine egne siste visdomsord til publikum om hva de trenger å forberede seg på for det. De avgjørende tusen dagene, mine minus tre måneder som vi er oppe. Ja. Så det er du må omfavne og bruke denne teknologien som en muskel du må bruke. Hvis du kan gjøre det en time om dagen med å bruke alle disse teknologiene, den genetiske versjonen, det er ikke ChatGPT. Du lover at du vil være langt foran alle andre, og du kan gjøre stemmen din hørt. Du kan gjøre mer. Vi gir et rammeverk for alt dette i den siste økonomien, og det er gratis å laste ned eller som 0,99 dollar på Amazon Kindle. Og vi vil slippe mer og mer, men det er opp til alle å si sin mening på vegne av dette og virkelig tenke gjennom noen av spørsmålene vi har diskutert her. Og igjen, du kan bygge, du kan utvide stemmen din. Og dette er grunnen til at det er en fantastisk tid å gjøre det, fordi dette er det største spørsmålet rundt frihet og handlefrihet som vi sannsynligvis noensinne har hatt, fordi vi bokstavelig talt står overfor to veier. Igjen, jeg tror at vi kan løfte alle, men løgnen du blir fortalt er at du ikke kan delta, og bare de store selskapene kan bygge og bruke denne teknologien. Hvis du bruker det selv, innser du raskt at du kan, og det endrer bare din måte å tenke på. Tusen takk for din tid og glede. Hvis dagens episode resonerte, trykk abonner nå og del denne episoden med vennene dine. Følg oss på Instagram og TikTok for mer, og bli med oss på Patreon for å få reklamefrie episoder, eksklusivt innhold og en stemme i hva vi dekker neste gang. Din støtte holder T-en uavhengig og fryktløs, så vær så snill å bli med oss nå. Vær nysgjerrig, vær modig, og fortsett å motstå. Takk for at du fulgte med på T-en. Hvis denne episoden resonerte med deg. Legg igjen en kommentar og del den med noen som trenger å høre den. Og hvorfor ikke dykke ned i disse andre episodene vi tror du vil elske? La oss holde samtalen i gang.