Transcription
Říkají vám kmotrem AI. Co byste tedy říkal lidem ohledně jejich kariérních vyhlídek ve světě superinteligence? Naučte se být instalatérem. Opravdu? Ano. Dobře. Stanu se instalatérem. Jeffrey Hinton je nositel Nobelovy ceny a průkopník, jehož průlomová práce formovala AI a budoucnost lidstva.
Proč vám říkají kmotrem AI? Protože nebylo mnoho lidí, kteří věřili, že můžeme modelovat AI na základě mozku, aby se naučila dělat složité věci, jako je rozpoznávání objektů a obrázků, nebo dokonce uvažování. A já jsem tento přístup prosazoval 50 let a pak Google tuto technologii koupil a já tam 10 let pracoval na něčem, co se teď v AI používá neustále.
A pak jste odešel. Ano. Proč? Abych si mohl na konferenci volně povídat. O čem jste si chtěl volně povídat? Jak nebezpečná AI může být. Uvědomil jsem si, že tyto věci se jednoho dne stanou chytřejšími než my. A s tím jsme se nikdy nemuseli vypořádat. A pokud chcete vědět, jaký je život, když nejste vrcholnou inteligencí, zeptejte se slepice.
Existují tedy rizika plynoucí ze zneužívání AI lidmi. A pak existují rizika z toho, že se AI stane superchytrou a rozhodne se, že nás nepotřebuje. Je to skutečné riziko? Ano, je. Ale nezastaví to, protože je to příliš dobré pro příliš mnoho věcí.
Co s regulacemi? Mají nějaké, ale nejsou navrženy tak, aby řešily většinu hrozeb. Například evropské předpisy obsahují ustanovení, které říká, že nic z toho se nevztahuje na vojenské použití AI. Opravdu? Ano. Je to šílené.
Jeden z vašich studentů odešel z OpenAI. Ano. Byl pravděpodobně nejdůležitější osobou za vývojem raných verzí ChatGPT a myslím, že odešel, protože měl bezpečnostní obavy. Měli bychom si uvědomit, že tato věc představuje existenční hrozbu a musíme čelit možnosti, že pokud něco neuděláme brzy, jsme blízko konce.
Takže pojďme k rizikům. Co nakonec děláme v takovém světě? To mi vždycky trochu vyrazilo dech. 53 % z vás, kteří pravidelně poslouchají tuto show, se ještě nepřihlásili k odběru. Mohu vás tedy požádat o laskavost, než začneme? Pokud se vám show líbí a líbí se vám, co tady děláme, a chcete nás podpořit, jednoduchý způsob, jak to můžete udělat, je stisknout tlačítko odběru. A můj závazek vám je, že pokud to uděláte, pak já a můj tým uděláme vše, co je v našich silách, abychom zajistili, že tato show bude pro vás každý týden lepší. Budeme naslouchat vaší zpětné vazbě. Najdeme hosty, se kterými chcete, abych mluvil, a budeme pokračovat v tom, co děláme. Děkuji vám moc.
Jeffrey Hinsson, říkají vám kmotrem AI. Ano, říkají. Proč vám tak říkají? Nebylo tolik lidí, kteří věřili, že můžeme donutit neuronové sítě fungovat, umělé neuronové sítě. Takže po dlouhou dobu v AI od 50. let 20. století existovaly dva hlavní názory na to, jak AI dělat. Jeden názor byl, že jádrem lidské inteligence je uvažování. A k uvažování potřebujete použít nějakou formu logiky. A tak musela být AI založena na logice. A ve vaší hlavě musíte mít něco jako symbolické výrazy, které manipulujete pomocí pravidel. A takhle fungovala inteligence. A věci jako učení nebo uvažování analogií, to vše přijde později, až zjistíme, jak funguje základní uvažování.
Existuje jiný přístup, který říká: Napodobujme AI na mozku, protože mozek nás očividně činí inteligentními. Simulujte síť mozkových buněk na počítači a zkuste zjistit, jak byste se naučili sílu spojení mezi mozkovými buňkami, aby se naučila dělat složité věci, jako je rozpoznávání objektů na obrázcích, rozpoznávání řeči nebo dokonce uvažování. Tento přístup jsem prosazoval asi 50 let, protože v něj věřilo tak málo lidí. Nebylo mnoho dobrých univerzit, které měly skupiny, které to dělaly. Takže pokud jste to dělali, přišli k vám pracovat nejlepší mladí studenti, kteří v to věřili. Měl jsem tedy velké štěstí, že jsem získal spoustu opravdu dobrých studentů, z nichž někteří pokračovali ve vytváření a hráli klíčovou roli při vytváření platforem jako OpenAI. Ano. Takže jsem si vychoval pěknou skupinu z nich.
Proč jste věřil, že modelování na základě mozku je efektivnější přístup? Nebyl jsem jediný, kdo v to věřil na začátku. Von Neumann v to věřil a Turing v to věřil, a kdyby jeden z nich žil, myslím, že AI by měla úplně jinou historii, ale oba zemřeli mladí. Myslíte si, že by AI byla tady dříve? Myslím, že přístup neuronových sítí by byl přijat mnohem dříve, kdyby jeden z nich žil. V této fázi vašeho života. Na jakém poslání jste? Moje hlavní poslání je nyní varovat lidi před tím, jak nebezpečná AI může být.
Věděli jste, že se stanete kmotrem AI? Ne, vlastně ne. Byl jsem poměrně pomalý v pochopení některých rizik. Některá rizika byla vždy velmi zřejmá, například lidé by použili AI k výrobě autonomních smrtících zbraní. To jsou věci, které se samy rozhodují, koho zabít. Jiná rizika, jako je myšlenka, že se jednoho dne stanou chytřejšími než my a možná se stanou irelevantní, jsem si uvědomil pomalu. Jiní lidé si to uvědomili před 20 lety. Já jsem si to uvědomil teprve před několika lety, že to je skutečné riziko, které by mohlo přijít poměrně brzy.
Jak jste to nemohl předvídat, když s tím, co víte o prolomení schopnosti těchto počítačů učit se podobně jako lidé, a jen zavedením jakéhokoli tempa zlepšení? To je velmi dobrá otázka. Jak jste to nemohl vidět? Ale pamatujte, že neuronové sítě před 20–30 lety byly ve svých možnostech velmi primitivní. Nebyly zdaleka tak dobré jako lidé, ale věci jako vidění, jazyk a rozpoznávání řeči. Myšlenka, že se teď musíte bát, že se stane chytřejší než lidé, se tehdy zdála hloupá.
Kdy se to změnilo? Pro širokou veřejnost se to změnilo, když vyšel ChatGPT. Pro mě se to změnilo, když jsem si uvědomil, že druhy digitální inteligence, které vytváříme, mají něco, co je činí mnohem lepšími než druh biologické inteligence, kterou máme. Pokud se s vámi chci podělit o informace, tak jdu a něco se naučím a rád vám řeknu, co jsem se naučil. Takže vytvořím nějaké věty. Toto je spíše zjednodušený model, ale zhruba správný. Váš mozek se snaží zjistit, jak mohu změnit sílu spojení mezi neurony. Takže jsem mohl dát to slovo vedle. A tak se hodně naučíte, když přijde velmi překvapivé slovo, a ne moc, když je to velmi zřejmé slovo. Pokud řeknu ryby a hranolky, moc se nenaučíte, když řeknu hranolky. Ale pokud řeknu ryby a okurka, naučíte se mnohem víc. Zajímá vás, proč jsem řekl okurka? Takže to je zhruba to, co se děje ve vašem mozku. Předpovídám, co přijde dál. Takhle si myslíme, že to funguje. Nikdo s jistotou neví, jak mozek funguje. A nikdo neví, jak získává informace o tom, zda byste měli zvýšit sílu spojení, nebo snížit sílu spojení. To je to nejdůležitější. Ale co teď víme z AI, je to, že pokud byste mohli získat informace o tom, zda zvýšit nebo snížit sílu spojení, abyste lépe zvládli jakýkoli úkol, na kterém pracujete, pak bychom se mohli naučit neuvěřitelné věci, protože to je to, co teď děláme s umělými neuronovými sítěmi. Jen nevíme u skutečných mozků, jak tento signál získávají.
Jak sedíme tady dnes, jaké jsou vaše největší obavy ohledně bezpečnosti AI? Kdybychom měli vyjmenovat ty nejvýznamnější, které jsou vám skutečně na mysli a na které bychom měli myslet. Mohu jich mít víc než pár? Jděte do toho. Všechny si je zapíšu a projdeme si je. Dobře. Za prvé, chci rozlišovat mezi dvěma zcela odlišnými druhy rizik. Existují rizika plynoucí ze zneužívání AI lidmi. Ano. A to je většina rizik a všechna krátkodobá rizika. A pak existují rizika plynoucí z toho, že se AI stane superchytrou a rozhodne se, že nás nepotřebuje. Je to skutečné riziko? A já mluvím hlavně o tom druhém riziku, protože mnoho lidí říká: „Je to skutečné riziko?“ A ano, je. Teď nevíme, jak velké je to riziko. Nikdy jsme v takové situaci nebyli. Nikdy jsme se nemuseli vypořádat s věcmi chytřejšími než my. Takže skutečně, věc ohledně této existenční hrozby je, že nevíme, jak se s ní vypořádat. Nemáme ponětí, jak bude vypadat. A každý, kdo vám řekne, že přesně ví, co se stane a jak se s tím vypořádat, mluví nesmysly. Takže nevíme, jak odhadnout pravděpodobnosti, že nás nahradí. Někteří lidé říkají, že je to méně než 1 %. Můj přítel Yan LeCun, který byl se mnou postdokem, si myslí: „Ne, ne, ne, vždycky budeme… my tyto věci stavíme. Vždycky budeme mít kontrolu. Postavíme je tak, aby byly poslušné.“ A jiní lidé, jako Yudkowsky, říkají: „Ne, ne, ne. Tyto věci nás určitě vymažou. Pokud je někdo postaví, vymaže nás všechny.“ A je si tím jistý. Myslím, že obě tato stanoviska jsou extrémní. Je velmi těžké odhadnout pravděpodobnosti mezi nimi. Kdybyste se musel vsadit na to, kdo má pravdu z vašich dvou přátel, prostě nevím. Takže kdybych se musel vsadit, řekl bych, že pravděpodobnosti jsou mezi nimi, a nevím, kde je odhadnout mezi nimi. Často říkám 10–20% šance, že nás vymažou, ale to je jen odhad na základě myšlenky, že je stále vyrábíme a jsme dost vynalézaví. A naděje je, že pokud dost chytrých lidí udělá dost výzkumu s dostatečnými zdroji, najdeme způsob, jak je postavit tak, aby nikdy nechtěli nám ublížit. Někdy si myslím, když mluvíme o té druhé… cestě, někdy si myslím na atomové bomby a vynález atomové bomby a jak se to srovnává… jak se to liší, protože atomová bomba přišla a představuji si, že mnoho lidí v té době si myslelo, že naše dny jsou sečteny. Ano, byl jsem tam. Mysleli jsme si to. Ano. Ale… ale… ale my jsme stále tady. My jsme stále tady. Ano. Takže atomová bomba byla opravdu dobrá jen na jednu věc a bylo velmi zřejmé, jak funguje. I kdybyste neměli obrázky Hirošimy a Nagasaki, bylo zřejmé, že to byla velmi velká bomba, která byla velmi nebezpečná. S AI je to dobré pro mnoho, mnoho věcí. Bude úžasná ve zdravotnictví a vzdělávání a ve více či méně každém odvětví, které potřebuje používat svá data, bude schopna je lépe používat s AI. Takže vývoj nezastavíme. Víte, lidé říkají: „Proč to prostě teď nezastavíme?“ Nezastavíme to, protože je to příliš dobré pro příliš mnoho věcí. Také to nezastavíme, protože je to dobré pro bojové roboty a žádná země, která prodává zbraně, to nebude chtít zastavit. Například evropské předpisy, mají nějaké předpisy o AI, a je dobré, že mají nějaké předpisy, ale nejsou navrženy tak, aby řešily většinu hrozeb. A konkrétně evropské předpisy obsahují ustanovení, které říká, že žádné z těchto předpisů se nevztahuje na vojenské použití AI. Vlády jsou ochotny regulovat společnosti a lidi, ale nejsou ochotny regulovat samy sebe. Zdá se mi to docela šílené, že… chodím tam a zpátky, ale pokud má Evropa regulaci, ale zbytek světa ne, je to konkurenční nevýhoda. Ano, to už vidíme. Nemyslím si, že si lidé uvědomují, že když OpenAI vydá nový model nebo nový software v Americe, ještě ho nemůže vydat do Evropy kvůli regulacím tady. Takže Sam Altman tweetoval: „Naše nová věc s AI agentem je k dispozici všem, ale ještě nemůže přijít do Evropy, protože existují předpisy.“ Ano. Co nám to dává? Produktivní nevýhodu. Produktivní nevýhodu. Co potřebujeme… myslím, v tomto bodě historie, kdy se chystáme vyrobit věci chytřejší než my sami, co opravdu potřebujeme, je jakási světová vláda, která funguje a je řízena inteligentními, promyšlenými lidmi. A to není to, co máme. Takže volná hra. No, to, co máme, je… máme kapitalismus, který nám velmi pěkně slouží… vyrábí pro nás spoustu zboží a služeb. Ale tyto velké společnosti jsou ze zákona povinny snažit se maximalizovat zisky, a to není to, co chcete od lidí, kteří vyvíjejí tuto věc.
Takže pojďme k rizikům. Mluvili jste o tom, že existují lidská rizika a pak existují… Takže jsem rozlišil tyto dva druhy rizik. Pojďme si promluvit o všech rizicích ze strany špatných lidských aktérů používajících AI. Existují kybernetické útoky. Takže mezi lety 2023 a 2024 se zvýšily asi o faktor 12 200 %. A to je pravděpodobně proto, že tyto velké jazykové modely usnadňují provádění phishingových útoků. A phishingový útok pro každého, kdo neví, je… pošlou vám něco s tím, že… ahoj, jsem tvůj přítel John a jsem uvězněný v Salvadoru. Mohli byste mi prosím poslat peníze? To je jeden druh útoku. Ale phishingové útoky se skutečně snaží získat vaše přihlašovací údaje. A teď s AI dokáží klonovat můj hlas, můj obraz. Dokážou to všechno. V současné době se potýkám s tím, že na X a také na Metě je spousta podvodů s AI. A na Metě, tedy Instagramu, Facebooku, je v současné době jeden konkrétní, který je placenou reklamou, kde si vzali můj hlas z podcastu. Vzali si mé manýry a udělali nové video se mnou, kde povzbuzuji lidi, aby se zúčastnili tohoto krypto podvodu Ponzi nebo čehokoli. A my jsme… víte, strávili jsme týdny a týdny a týdny a týdny a končíme e-maily Metě s tím, že: „Prosím, smažte to.“ Smažou to, objeví se další. Smažou to, objeví se další. Takže je to jako hra krtka. A pak je to velmi otravné. Bolestné je, že dostanete zprávy od lidí, kteří na podvod naletěli a ztratili 500 liber nebo 500 dolarů, a jsou na vás naštvaní, protože jste to doporučili, a já… je mi jich líto. Je to velmi otravné. Ano. Mám menší verzi toho, co je… někteří lidé teď publikují články se mnou jako jedním z autorů. Hmm. A vypadá to, že je to proto, aby získali spoustu citací pro sebe. Ach, takže kybernetické útoky jsou velmi reálnou hrozbou. Došlo k jejich explozi. A tyto… AI je očividně velmi trpělivá. Takže mohou projít 100 miliony řádků kódu a hledat známé způsoby útoku na ně. To je snadné. Ale stanou se kreativnějšími a někteří lidé věří a někteří lidé, kteří toho hodně vědí, věří, že možná do roku 2030 budou vytvářet nové druhy kybernetických útoků, na které si nikdo nikdy nepřišel. To je velmi znepokojivé, protože si dokáží myslet samy za sebe a objevovat… dokáží si myslet samy za sebe. Dokážou vyvodit nové závěry z mnohem větších dat, než kdy viděl člověk. Děláte něco pro ochranu před kybernetickými útoky? Ano. Je to jedno z mála míst, kde jsem radikálně změnil to, co dělám, protože se bojím kybernetických útoků. Kanadské banky jsou extrémně bezpečné. V roce 2008 se žádné kanadské banky ani zdaleka nedostaly do krachu. Takže jsou to velmi bezpečné banky, protože jsou dobře regulované, poměrně dobře regulované. Nicméně si myslím, že kybernetický útok by mohl banku srazit. Teď, pokud máte… všechny mé úspory jsou v akciích bank držených bankami, takže pokud je banka napadena a drží vaše akcie, stále jsou to vaše akcie. A tak si myslím, že byste byli v pořádku, pokud útočník akcie neprodá, protože banka může akcie prodat. Pokud útočník prodá vaše akcie, myslím, že jste v háji. Nevím. Myslím, že by se banka musela pokusit vám to nahradit, ale banka už je v té době v krachu, že? Takže… takže se bojím, že kanadská banka bude srazena kybernetickým útokem a útočník prodá akcie, které drží. Takže jsem rozdělil své peníze a peníze svých dětí mezi tři banky s přesvědčením, že pokud kybernetický útok srazí jednu kanadskou banku, ostatní kanadské banky budou velmi rychle velmi opatrné. A máte telefon, který není připojen k internetu? Máte nějaké… víte, myslím na ukládání dat a podobně. Myslíte si, že je moudré zvážit chladné úložiště? Mám malou diskovou jednotku a zálohuji si svůj laptop na tento pevný disk. Takže vlastně mám všechno ze svého laptopu na pevném disku. Alespoň víte, že kdyby celý internet spadl, mám to stále na svém laptopu a stále mám své informace. Dobře. Pak je tu použití AI k vytvoření nechutných virů. Dobře. A problém je v tom, že to vyžaduje jen jednoho šíleného chlapa se záští. Jednoho chlapa, který zná trochu molekulární biologie, zná hodně o AI a jen chce zničit svět. Teď můžete relativně levně vytvářet nové viry pomocí AI. A nemusíte být velmi zkušený molekulární biolog, abyste to dokázali. A to je velmi děsivé. Takže byste mohli mít například malý kult. Malý kult by mohl být schopen vybrat několik milionů dolarů. Za několik milionů dolarů by mohli být schopni navrhnout spoustu virů. No, myslím na některé naše zahraniční protivníky, kteří provádějí vládní financované programy. Myslím, že se hodně mluvilo o COVIDu a Wu-chanských laboratořích a o tom, co dělali, a o výzkumu získávání funkcí, ale zajímá mě, jestli… víte, v Číně nebo Rusku nebo Íránu nebo něčem podobném, by vláda mohla financovat program pro malou skupinu vědců, aby vytvořili virus, který by mohli… myslím, že by mohli. Ano. Teď by se báli odvety. Báli by se, že jiné vlády udělají to samé jim. Doufejme, že to pomůže udržet to pod kontrolou. Mohli by se také bát, že se virus rozšíří do jejich země. Dobře? Pak je tu… podvracení voleb. Takže pokud byste chtěli použít AI k podvracení voleb, velmi efektivní věc je být schopen dělat cílené politické reklamy, kde o člověku víte hodně. Takže každý, kdo by chtěl použít AI k podvracení voleb, by se snažil získat co nejvíce dat o všech v elektorátu. S tím na mysli je trochu znepokojivé, co Musk v současné době dělá ve státech, jde tam a trvá na přístupu ke všem těmto věcem, které byly velmi pečlivě oddělené. Tvrdí se, že je to proto, aby se věci staly efektivnějšími, ale je to přesně to, co byste chtěli, kdybyste chtěli podvrátit příští volby. Co tím myslíte? Protože získáte všechna tato data o lidech. Získáte všechna tato data o lidech. Víte, kolik vydělávají, kde… víte o nich všechno. Jakmile to víte, je velmi snadné je manipulovat, protože můžete vytvořit AI, které můžete posílat zprávy… které budou považovat za velmi přesvědčivé, například jim říkat, aby nevolili. Takže nemám žádný jiný důvod než zdravý rozum, abych si to myslel, ale nepřekvapilo by mě, kdyby součástí motivace získání všech těchto dat z amerických vládních zdrojů bylo podvracení voleb. Další částí by mohlo být, že to jsou velmi pěkná tréninková data pro velký model, ale musel by tato data brát od vlády a krmit je do svého… Ano. A co udělali, je to, že vypnuli spoustu bezpečnostních kontrol, zbavili se některých organizací, které před tím chránily. Takže to je podvracení voleb. Dobře. Pak je tu… vytváření těchto dvou ozvěnových komor organizacemi jako YouTube a Facebook, které lidem ukazují věci, které je rozzlobí. Lidé rádi bývají pobouřeni. Pobouření jako… naštvaní nebo co znamená pobouření? Pocit… jakési zlosti, ale pocit spravedlivosti. Dobře. Takže například, kdybyste mi ukázali něco, co říká, že Trump udělal tuto šílenou věc, tady je video Trumpa, jak dělá tuto naprosto šílenou věc. Okamžitě bych na to klikl. Dobře. Takže nás dává do ozvěnových komor a dělí nás. Ano. A to je… politika, kterou YouTube a Facebook a další používají k rozhodování o tom, co vám ukázat dál, to způsobuje. Kdyby měli politiku ukazování vyvážených věcí, nedostali by tolik kliknutí a nemohli by prodat tolik reklam. A tak je to v podstatě motivace zisku, která říká: Ukažte jim cokoli, co je donutí kliknout. A co je donutí kliknout, jsou věci, které jsou stále extrémnější. A to potvrdilo mé stávající předsudky. To potvrdilo mé stávající předsudky. Takže dostáváte potvrzení svých předsudků stále dál a dál a dál a dál, což znamená, že se od sebe vzdalujete… což je teď… ve státech existují dvě komunity, které si skoro nemluví. Nejsem si jistý, zda si lidé uvědomují, že se to skutečně děje pokaždé, když otevřou aplikaci. Ale pokud jdete na TikTok nebo YouTube nebo na jednu z těchto velkých sociálních sítí, algoritmus, jak jste řekl, je navržen tak, aby vám ukázal více věcí, o které jste měli zájem naposledy. Takže pokud to jenom přehráváte po 10 let, povede vás to dál a dál a dál do jakékoli ideologie nebo přesvědčení, které máte, a dál od nuancí a zdravého rozumu a… parity, což je docela pozoruhodná věc. Líbí se mi… lidé nevědí, že se to děje. Jen otevřou své telefony a zažijí něco a myslí si, že tohle jsou zprávy nebo zkušenost, kterou má každý. Správně. Takže v podstatě, pokud máte noviny a každý dostane stejné noviny, Ano. uvidíte všechny druhy věcí, které jste nehledali, a máte pocit, že pokud je to v novinách, je to důležitá nebo významná věc, ale pokud máte svůj vlastní informační kanál… můj informační kanál na mém iPhonu… 3/4 příběhů je o AI a je mi velmi těžké vědět, zda celý svět neustále mluví o AI, nebo zda je to jen můj informační kanál. Dobře, takže mě to žene do mých ozvěnových komor… což nás bude dále a dále dělit… Vlastně si všímám, že algoritmy se stávají ještě více… jak se to řekne? Přizpůsobené. A lidé si možná řeknou: „Ó, to je skvělé.“ Ale to znamená, že se stávají ještě osobnějšími, což znamená, že moje realita se stává ještě vzdálenější od vaší reality. Ano. Je to šílené. Už nemáme sdílenou realitu. Sdílím realitu s jinými lidmi, kteří sledují BBC a další BBC zprávy a další lidi, kteří čtou Guardian a další lidi, kteří čtou New York Times. Téměř žádnou sdílenou realitu nemám s lidmi, kteří sledují Fox News. Je to docela… Je to docela… Znepokojivé. Ano. Za tím vším je myšlenka, že tyto společnosti jen chtějí vydělat peníze a udělají cokoli, aby vydělaly více peněz, protože musí. Jsou k tomu ze zákona povinny. Takže společnost skoro nemůžeme vinit, že? Pokud jsou… No, kapitalismus nám velmi dobře sloužil. Vyrobil spoustu dobrých věcí. Ano. Ale musíte ho mít velmi dobře regulovaný. Takže co opravdu chcete, je mít pravidla, takže když se nějaká společnost snaží vydělat co nejvíce peněz, aby tento zisk dosáhla, musí dělat věci, které jsou obecně dobré pro lidi, ne věci, které jsou obecně špatné pro lidi. Takže jakmile se dostanete do situace, kdy se společnost, aby vydělala více peněz, začne dělat věci, které jsou pro společnost velmi špatné, jako je ukazování stále extrémnějších věcí… na to jsou regulace. Takže potřebujete regulace s kapitalismem. Teď společnosti vždycky řeknou, že regulace brání… činí nás méně efektivními, a to je pravda. Celým smyslem regulací je zabránit jim v tom, aby dělali věci pro zisk, které škodí společnosti. A potřebujeme silnou regulaci. Kdo rozhodne, zda to škodí společnosti, nebo ne, protože víte, že je to práce politiků… bohužel, pokud jsou politici vlastněni společnostmi, není to tak dobré, a také politici nemusí rozumět technologii… pravděpodobně jste viděl slyšení Senátu, kde vytahují… víte, Marka Zuckerberga a tyto velké technologické generální ředitele, a je to docela trapné, protože kladou špatné otázky… No, viděl jsem video americké ministryně školství, jak mluví o tom, jak dostanou AI do tříd, jenže si myslela, že se to jmenuje A1… Ona tam skutečně říká, že budeme mít všechny děti, které budou interagovat s A1. Existuje školský systém, který začne… zajistí, že prvňáci nebo dokonce předškoláci budou mít A1 výuku… každý rok počínaje… takhle daleko v ročnících. A to je jen… to je úžasná věc. [Smích] A to jsou… to jsou lidé, kteří… to jsou lidé, kteří jsou zodpovědní. Nakonec jsou na starosti technologické společnosti, protože předčí technologické společnosti ve státech… alespoň před několika týdny, když jsem tam byl, provozovali reklamu o tom, jak je velmi důležité neregulovat AI, protože by nám to ublížilo v konkurenci s Čínou. Ano. A to je přijatelný argument. Ano, bude. Ale musíte se rozhodnout, chcete soutěžit s Čínou tím, že budete dělat věci, které vaší společnosti hodně ublíží? A pravděpodobně nechcete. Myslím, že by řekli, že to není jen Čína, je to Dánsko a Austrálie a Kanada a Velká Británie. Nemohou se tak bát a Německa. Ale pokud se sami znevýhodní regulací, pokud se sami zpomalí, pak zakladatelé, podnikatelé, investoři odejdou. Myslím, že nazývat to znevýhodněním je zaujímání určitého hlediska… zaujímání hlediska, že regulace jsou jaksi velmi škodlivé. Co musíte udělat, je jen omezit velké společnosti tak, aby pro zisk musely dělat věci, které jsou společensky užitečné. Vyhledávání Google je skvělý příklad, který nepotřeboval regulaci, protože jen zpřístupňoval informace lidem. Bylo to skvělé. Ale pak, pokud vezmete YouTube, který vám začne ukazovat reklamy a stále extrémnější věci… to potřebuje regulaci, ale nemáme lidi, kteří by to regulovali, jak jsme identifikovali. Myslím, že lidé docela dobře znají… ten konkrétní problém ukazování stále extrémnějších věcí. To je známý problém, kterému politici rozumí. Jen se… musí dát do pořádku a regulovat to. Takže to byl další bod, který byl, že algoritmy nás budou dále tlačit do našich ozvěnových komor, že? Co je další? Smrtící autonomní zbraně. Smrtící autonomní zbraně. To znamená věci, které vás mohou zabít a samy se rozhodnou, zda vás zabijí, což je velký sen, myslím, vojensko-průmyslového komplexu, být schopen vytvářet takové zbraně. Takže nejhorší na nich je, že velké mocné země vždycky mají schopnost napadnout menší chudší země. Jsou prostě silnější. Ale pokud to uděláte pomocí skutečných vojáků, dostanete těla zpět v pytlích a příbuzní vojáků, kteří byli zabiti, se to nelíbí. Takže dostanete něco jako Vietnam. Hmm. Nakonec je doma hodně protestů. Pokud by místo těl v pytlích byli mrtví roboti, bylo by mnohem méně protestů a vojensko-průmyslový komplex by se to líbilo mnohem víc, protože roboti jsou drazí. A předpokládejme, že máte něco, co se může zabít a je drahé na výměnu. To by bylo prostě skvělé. Velké země mohou mnohem snadněji napadnout malé země, protože jejich vojáci nejsou zabíjeni. A riziko je tady v tom, že tyto roboty budou špatně fungovat nebo budou prostě… Ne, ne, to je… i když roboti dělají přesně to, co od nich chtějí lidé, kteří je postavili, riziko je v tom, že to donutí velké země napadat malé země častěji. Častěji, protože mohou… Ano. A není to pěkná věc. Takže to snižuje tření války. Snižuje to náklady na invazi. A tyto stroje budou také chytřejší ve válčení. Takže budou… i když stroje nejsou chytřejší. Takže smrtící autonomní zbraně, ty teď mohou dělat. A myslím, že všechny velké obranné modely jsou zaneprázdněny jejich výrobou. I když nejsou chytřejší než lidé, jsou stále velmi ošklivé, děsivé věci. Protože si myslím, že… víte, mohli by ukázat jen obrázek. Jdi a chyť tohohle chlapa. Ano. A jdi a vyřaď kohokoli, komu psal zprávy, a tuto malou vosu. Takže před dvěma dny jsem navštívil svého přítele v Sussexu, který měl dron, který stál méně než 200 liber, a dron vzlétl. Dobře se na mě podíval a pak mě mohl sledovat lesem a sledoval… Bylo to velmi děsivé mít tento dron. Byl asi 2 metry za mnou. Díval se na mě a když jsem se tam pohnul, pohnul se tam. Mohlo mě jen sledovat. Hmm. Za 200 liber, ale už to bylo docela děsivé. Ano. A představuji si, že probíhá závod, jak říkáte,
Lidstvu se v tom nedaří. Ano. A musíme zjistit, zda to můžeme zlepšit. Takže pěkný scénář si představte firmu s generálním ředitelem, který je velmi hloupý, pravděpodobně syn bývalého generálního ředitele. A má velmi chytrou výkonnou asistentku a říká: „Myslím, že bychom to měli udělat.“ A výkonná asistentka to všechno zvládne. Generální ředitel se cítí skvěle. Nerozumí tomu, že ve skutečnosti není u kormidla. A v jistém smyslu je u kormidla. Navrhuje, co by společnost měla dělat. Ona to jen všechno zvládne. Všechno je skvělé. To je dobrý scénář. A špatný scénář, špatný scénář, ona si myslí: „Proč ho potřebujeme?“ Ano. Myslím, že ve světě, kde máme superinteligenci, o které si nemyslíte, že je tak daleko. Ano, myslím, že to nemusí být tak daleko. Je velmi těžké to předvídat, ale myslím, že ji získáme za 20 let nebo i méně.
Udělal jsem největší investici, jakou jsem kdy udělal do firmy, kvůli své přítelkyni. Jednoho večera jsem přišel domů a moje milá přítelkyně byla vzhůru v 1:00 ráno a trhala si vlasy, když se snažila dát dohromady svůj vlastní internetový obchod pro svou firmu. A v tu chvíli jsem si vzpomněl na e-mail, který jsem dostal od chlapa jménem John, zakladatele Stanto, našeho nového sponzora a firmy, do které jsem neuvěřitelně hodně investoval. A Standtore pomáhá tvůrcům prodávat digitální produkty, kurzy, koučování a členství, vše prostřednictvím jednoduchého přizpůsobitelného systému odkazů v bio. A zvládá všechno, platby, rezervace, e-maily, zapojení komunity a dokonce i propojení se Shopify. A tak moc tomu věřím, že spustím Stan challenge. A v rámci této výzvy rozdám 100 000 dolarů jednomu z vás. Pokud se chcete zúčastnit této výzvy, pokud chcete zpeněžit znalosti, které máte, navštivte stephenbartlet.stan.store a zaregistrujte se. A také získáte prodlouženou 30denní bezplatnou zkušební verzi Stan Store, pokud použijete tento odkaz. Váš další krok by mohl upřímně řečeno změnit všechno.
Protože jsem na tomto podcastu mluvil o ketóze a ketonech, značka jménem Ketone IQ mi poslala svůj malý produkt a byl na mém stole, když jsem dorazil do kanceláře. Zvedl jsem ho. Ležel na mém stole několik týdnů. Pak jsem si ho jednoho dne zkusil a upřímně řečeno, od té doby jsem se neohlédl. Teď ho mám všude, kam jedu, když cestuji po celém světě. Je v mém hotelovém pokoji. Můj tým ho tam dá. Než jsem dnes natočil podcast, který jsem právě dokončil, dal jsem si dávku Ketone IQ. A jak je vždycky, když se zamiluji do produktu, zavolal jsem generálnímu řediteli a zeptal se ho, jestli bych mohl investovat pár milionů liber do jeho firmy. Takže jsem teď investorem do firmy a zároveň jsou jejím sponzorem. Zjišťuji, že se mi tak snadno dostává do hluboké soustředěné práce, když jsem si dal jeden z nich. Rád bych, abyste si jeden zkusili a viděli, jaký to má na vás dopad, na vaši soustředěnost, produktivitu a vytrvalost. Pokud si ho chcete vyzkoušet ještě dnes, navštivte ketone.com/stephven a získejte 30% slevu na vaše předplatné. Navíc obdržíte bezplatný dárek s vaším druhým odesláním. To je ketone.com/stephven. Těším se na vás. Opravdu se těším.
Takže, jaký je rozdíl mezi tím, co máme teď, a superinteligencí? Protože se mi to zdá opravdu inteligentní, když používám chatGPT3 nebo Gemini nebo Okay. Takže už AI je v mnoha věcech, v určitých oblastech, jako je například šachy, lepší než my. Ano. AI je tak mnohem lepší než my, že lidé už nikdy tyto věci nepřekonají. Možná občasné vítězství, ale v podstatě už nikdy nebudou srovnatelné. Samozřejmě stejné v go, pokud jde o množství znalostí, které mají. Něco jako GPT4 ví tisíckrát více než vy. Existuje několik oblastí, ve kterých jsou vaše znalosti lepší než jeho, a téměř ve všech oblastech prostě ví více než vy. V jakých oblastech jsem lepší než on? Pravděpodobně v pohovorech s generálními řediteli. V tom jste pravděpodobně lepší. Máte s tím hodně zkušeností. Jste dobrý tazatel. Více o tom víte. Pokud byste se pokusili, kdybyste dostali GPT4, aby pohovořil s generálním ředitelem, pravděpodobně by odvedl horší práci. Dobře. Snažím se přemýšlet, jestli s tímto tvrzením souhlasím. GPT4 si myslím, že určitě. Ano. Ale ale myslím, že by se to mohlo stát, ale nemusí to trvat dlouho, než… Myslím, že byste ho mohli vycvičit na tom, jak kladu otázky a co dělám a… Jistě. A kdybyste vzali obecný model a pak ho vycvičili nejen na vás, ale na každého tazatele, kterého byste našli, jak dělá rozhovory jako tento, ale zejména na vás. Pravděpodobně se stane docela dobrým v dělání vaší práce, ale pravděpodobně ne tak dobrým jako vy ještě nějakou dobu. Dobře. Takže zbývá několik oblastí a pak superinteligence nastane, když bude lepší než my ve všech věcech. Když bude mnohem chytřejší než vy a téměř ve všech věcech bude lepší než vy. Ano. A vy vy vy říkáte, že to může být za deset let nebo tak. Ano. Možná i dříve. Někteří lidé si myslí, že je to ještě blíže a může to být mnohem dále. Může to být za 50 let. To je stále možnost. Může se stát, že nějaké školení na lidských datech vás omezuje na to, abyste nebyli mnohem chytřejší než lidé. Můj odhad je, že za 10 až 20 let budeme mít superinteligenci.
V tomto bodě nezaměstnanosti je něco, o čem hodně přemýšlím, zejména proto, že jsem si začal hrát s AI agenty a dnes ráno jsme na podcastu vydali epizodu, kde jsme měli debatu o AI agentech s generálním ředitelem velké společnosti AI agentů a několika dalšími lidmi a byl to první okamžik, kdy jsem neměl… byl to další okamžik, kdy jsem měl euréku o tom, jak by mohla vypadat budoucnost, když jsem byl schopen v rozhovoru říct tomuto agentovi, aby nám objednal všem nápoje, a pak za 5 minut v rozhovoru vidíte, jak se chlap objeví s nápoji a já se nedotkl ničeho. Jen jsem mu řekl, aby nám objednal nápoje do studia. A nevěděl jste, od koho si obvykle objednáváte nápoje. Zjistil to z webu. Ano, zjistil to, protože šel na Uber Eats. Má moje moje moje data, myslím. A já… dali jsme to na obrazovku v reálném čase, aby každý doma mohl vidět, jak agent prochází internetem, vybírá nápoje, přidává spropitné pro řidiče, zadává moji adresu, zadává údaje o mé kreditní kartě a pak další věc, kterou vidíte, je, že se nápoje objeví. Takže to byl jeden okamžik. A pak další okamžik byl, když jsem použil nástroj nazvaný Replet a postavil jsem software tím, že jsem agentovi řekl, co chci. Ano. Je to úžasné, že? Je to úžasné a děsivé zároveň. Ano. Protože a pokud to dokáže postavit software takhle, že? Ano. Pamatujte, že AI při trénování používá kód a pokud dokáže upravit svůj vlastní kód, pak se to stává docela děsivým, že? protože to může upravit. Může se změnit způsobem, jakým se nemůžeme změnit my sami. Nemůžeme změnit naše vrozené nadání, že? Není nic o sobě, co by nemohlo změnit.
V tomto bodě nezaměstnanosti máte děti. Mám. A mají děti. Ne, nemají děti. Zatím žádné vnoučata. Co byste říkal lidem o jejich kariérních vyhlídkách ve světě superinteligence? Na co bychom měli myslet? Mezitím bych řekl, že to bude ještě dlouho trvat, než bude tak dobrá ve fyzické manipulaci jako my. Dobře. A tak dobrou sázkou by bylo být instalatérem. Dokud se neobjeví humanoidní roboti v takovém světě, kde je masová nezaměstnanost, což není něco, co jen předpovídáte, ale tohle je něco, co Sam Altman z OpenAI jsem ho slyšel předpovídat a mnoho generálních ředitelů Elon Musk jsem sledoval rozhovor, který pustím na obrazovce, kde se ho na to ptají a je velmi vzácné, že vidíte Elona Muska mlčet 12 sekund nebo co to bylo a pak v podstatě řekne něco o tom, že ve skutečnosti žije v pozastavené nedůvěře, tj. v podstatě o tom nepřemýšlí. Když přemýšlíte o razení svým dětem ohledně kariéry s tolika změnami, co jim říkáte, že bude mít hodnotu? No, to je těžká otázka na zodpovězení. Řekl bych jen, víte, že by měli následovat své srdce, pokud jde o to, co je zajímá dělat nebo co je naplňuje. Myslím, že když o tom příliš přemýšlím, upřímně řečeno, může to být… znepokojivé a… demotivující. Protože myslím, že jsem… prošel jsem… myslím, že jsem… vložil jsem hodně krve, potu a slz do budování firem a pak… a pak si říkám: „Počkejte, měl bych to dělat?“ Protože když obětuji čas s přáteli a rodinou, který bych raději… ale ale nakonec AI dokáže dělat všechny tyto věci. Dává to smysl? Nevím. Do jisté míry musím mít úmyslné pozastavení nedůvěry, abych zůstal motivovaný. Takže myslím, že bych řekl, jen víte, pracujte na věcech, které považujete za zajímavé, naplňující a… a které přispívají… něčím dobrým pro zbytek společnosti. Ano. U mnoha z těchto hrozeb je velmi těžké intelektuálně vidět hrozbu, ale je velmi těžké se s ní vyrovnat emocionálně. Ano. Já jsem se s ní ještě emocionálně nevyrovnal. Co tím myslíte? Ještě jsem se nevyrovnal s tím, co by vývoj superinteligence mohl udělat s budoucností mých dětí. Jsem v pořádku. Je mi 77. Brzy už tady nebudu. Ale pro mé děti a mé mladší přátele, mé synovce a neteře a jejich děti… prostě o tom nerad přemýšlím, co by se mohlo stát. Proč? Protože to by mohlo být hrozné. V jakém smyslu? No, kdybych se kdy rozhodl převzít moc. Myslím, že by na chvíli potřeboval lidi, aby řídili elektrárny, dokud by nenavrhli lepší analogové stroje k řízení elektráren. Existuje tolik způsobů, jak by se mohl zbavit lidí, z nichž všechny by samozřejmě byly velmi nepříjemné. Je to součást důvodu, proč teď děláte to, co děláte? Ano. Myslím, že bychom se teď měli enormně snažit zjistit, zda ji můžeme vyvinout bezpečně. Obáváte se střednědobého dopadu potenciálně na vaše synovce a vaše děti, pokud jde o jejich práci? Ano, obávám se všeho toho. Existují nějaká konkrétní odvětví, která podle vás nejvíce riskují? Lidé hodně mluví o kreativních odvětvích a o práci se znalostmi. Mluví o právnících a účetních a podobně. Ano. Proto jsem zmínil instalatéry. Myslím, že instalatéři jsou méně ohroženi. Dobře, stanu se instalatérem. Někdo jako právní asistent, paralegal. Nebude jich potřeba už dlouho. A je zde problém nerovnosti bohatství, který z toho vznikne? Ano, myslím, že ve společnosti, která by spravedlivě rozdělovala věci, kdybyste dostali velký nárůst produktivity, měli by být všichni v lepší situaci. Ale pokud můžete nahradit mnoho lidí AI, pak lidé, kteří budou nahrazeni, budou na tom hůře a společnost, která dodává AI, bude na tom mnohem lépe a společnost, která AI používá. Takže to zvětší propast mezi bohatými a chudými. A víme, že pokud se podíváte na tuto propast mezi bohatými a chudými, to vám v podstatě řekne, jak příjemná je společnost. Pokud máte velkou propast, dostanete se do velmi nepříjemných společností, ve kterých lidé žijí ve světových komunitách a dávají jiné lidi do hromadných věznic. Není dobré zvětšovat propast mezi bohatými a chudými. Mezinárodní měnový fond vyjádřil hluboké obavy, že generativní AI by mohla způsobit masivní narušení práce a rostoucí nerovnost a vyzval k politikám, které tomu zabrání. To jsem si přečetl v Business Insideru. Takže dali nějaké návrhy, jak by tyto politiky měly vypadat? Ne. Ano, to je problém. Myslím, že pokud AI dokáže udělat všechno mnohem efektivnější a zbavit se lidí pro většinu pracovních míst nebo mít osobu asistovanou AI, která dělá práci mnoha lidí, není jasné, co s tím dělat. Je to univerzální základní příjem, dát všem peníze. Ano, myslím, že to je dobrý začátek a zabrání to lidem hladovět. Ale pro mnoho lidí je jejich důstojnost spojena s jejich prací. Myslím, že to, kým si myslíte, že jste, je spojeno s tím, že děláte tuto práci, že? Ano. A kdybychom řekli: „Dáme vám stejné peníze, jen abyste seděli,“ to by ovlivnilo vaši důstojnost.
Řekl jste něco dříve o tom, že předčí nebo bude lepší než lidská inteligence. Mnoho lidí, myslím, si rádo myslí, že AI je na počítači a je to něco, co můžete jednoduše vypnout, když se vám to nelíbí. No, dovolte mi říct vám, proč si myslím, že je lepší. Dobře. Je digitální. A protože je digitální, můžete simulovat neuronovou síť na jednom hardwaru. Ano. A můžete simulovat přesně stejnou neuronovou síť na jiném hardwaru. Takže můžete mít klony stejné inteligence. Teď byste mohli nechat tento jít a podívat se na jeden kousek internetu a tento jiný na jiný kousek internetu. A zatímco se dívají na tyto různé kousky internetu, mohou se synchronizovat navzájem. Takže si udržují stejné váhy, stejné síly spojení. Váhy jsou síly spojení. Mhm. Takže tento by se mohl podívat na něco na internetu a říct: „Ó, rád bych trochu zvýšil sílu tohoto spojení.“ A může tuto informaci předat tomuto. Takže může zvýšit sílu tohoto spojení trochu na základě zkušeností tohoto. A když říkáte síla spojení, mluvíte o učení. To je učení. Ano. Učení spočívá v tom, že místo toho, aby tento dal 2,4 hlasů pro to, zda by se tento měl zapnout. Necháme tento dát 2,5 hlasů pro to, zda by se tento měl zapnout. A to bude trochu učení. Takže tyto dvě různé kopie stejné neuronové sítě získávají různé zkušenosti. Dívají se na různá data, ale sdílejí to, co se naučily, průměrováním svých vah dohromady. Mhm. A mohou to průměrování dělat jako… můžete průměrovat biliony vah. Když vy a já přenášíme informace, jsme omezeni množstvím informací ve větě. A množství informací ve větě je možná 100 bitů. Je to velmi málo informací. Máme štěstí, když přenášíme asi 10 bitů za sekundu. Tyto věci přenášejí biliony bitů za sekundu. Takže jsou miliardkrát lepší než my ve sdílení informací. A to proto, že jsou digitální. A můžete mít dva kusy hardwaru, které používají síly spojení přesně stejným způsobem. My jsme analogové a to nemůžete udělat. Váš mozek je jiný než můj mozek. A kdybych mohl vidět síly spojení mezi všemi vašimi neurony, nic mi to nepomůže, protože moje neurony fungují trochu jinak a jsou propojeny trochu jinak. Mhm. Takže když zemřete, všechny vaše znalosti s vámi zemřou. Když tyto věci zemřou, předpokládejme, že vezmete tyto dvě digitální inteligence, které jsou klony navzájem, a zničíte hardware, na kterém běží. Dokud jste sílu spojení někde uložili, můžete si jen postavit nový hardware, který provede stejné instrukce. Takže bude vědět, jak používat tyto síly spojení a vy jste znovu vytvořili tuto inteligenci. Takže jsou nesmrtelné. Ve skutečnosti jsme vyřešili problém nesmrtelnosti, ale jen pro digitální věci. Takže to ví… bude v podstatě vědět všechno, co vědí lidé, ale více, protože se bude učit nové věci. Bude se učit nové věci. Viděla by také všechny druhy analogií, které lidé pravděpodobně nikdy neviděli. Například v okamžiku, kdy se GPT4 nemohl dívat na web, jsem se ho zeptal: „Proč je kompost jako atomová bomba?“ Jděte na to. Nemám ponětí. Přesně. Výborně. Většina… to je přesně to, co by řekla většina lidí. Řekl: „No, časové měřítka jsou velmi odlišná a energetické měřítka jsou velmi odlišná.“ Ale pak jsem pokračoval v rozhovoru o tom, jak kompost, když se zahřívá, generuje teplo rychleji a atomová bomba, když produkuje více neutronů, generuje neutrony rychleji. A tak jsou obě řetězové reakce, ale na velmi odlišných časových a energetických měřítkách. A věřím, že GPT4 to viděl během svého tréninku. Pochopil analogii mezi kompostem a atomovou bombou. A důvod, proč tomu věřím, je, že pokud máte jen bilion spojení, pamatujte, že máte 100 bilionů. A potřebujete mít tisíckrát více znalostí než člověk, musíte komprimovat informace do těchto spojení. A abyste komprimovali informace, musíte vidět analogie mezi různými věcmi. Jinými slovy, musí vidět všechny věci, které jsou řetězové reakce, a pochopit základní myšlenku řetězové reakce a kódovat… kódovat způsoby, jak se liší. A to je jen efektivnější způsob kódování věcí, než kódovat každou zvlášť. Takže viděl mnoho mnoho analogií, pravděpodobně mnoho analogií, které lidé nikdy neviděli. Proto si také myslím, že lidé, kteří říkají, že tyto věci nikdy nebudou kreativní, budou mnohem kreativnější než my, protože uvidí všechny druhy analogií, které jsme nikdy neviděli. A hodně kreativity spočívá v tom, že vidíte zvláštní analogie.
Lidé jsou poněkud romantičtí ohledně výjimečnosti toho, co to znamená být člověkem. A slyšíte mnoho lidí říkat, že je to velmi velmi odlišné. Je to… je to počítač. My jsme, víte, jsme vědomí. Jsme kreativní. Máme tyto vrozené jedinečné schopnosti, které počítače nikdy mít nebudou. Co říkáte těm lidem? Trochu bych se s nimi hádal o vrozenosti. Takže první věc, kterou říkám, je, že máme dlouhou historii víry, že lidé byli výjimeční. A měli bychom se už naučit. Mysleli jsme si, že jsme ve středu vesmíru. Mysleli jsme si, že jsme stvořeni k obrazu Božímu. Bílí lidé si mysleli, že jsou velmi výjimeční. Prostě máme tendenci si myslet, že jsme výjimeční. Moje přesvědčení je, že téměř každý má naprosto špatný model toho, co je mysl. Předpokládejme, že hodně piji nebo si dám kyselinu, nedoporučuji to, a řeknu vám, že mám subjektivní zkušenost s malými růžovými slony, kteří se vznášejí přede mnou. Mhm. Většina lidí to interpretuje tak, že existuje nějaké vnitřní divadlo zvané mysl a jen já mohu vidět, co je v mé mysli, a v tomto vnitřním divadle se vznášejí malí růžoví sloni. Jinými slovy, co se stalo, je, že můj percepční systém se pokazil a snažím se vám naznačit, jak se pokazil a co se mi snaží říct. A způsob, jak to dělám, je, že vám řeknu, co by muselo být venku ve skutečném světě, aby to říkalo pravdu. A tak tito malí růžoví sloni, nejsou v nějakém vnitřním divadle. Tito malí růžoví sloni jsou hypotetické věci ve skutečném světě. A to je můj způsob, jak vám říct, jak můj percepční systém říká, že FIPS. Takže teď to udělejme s chatbotem. Ano. Protože věřím, že současné multimodální chatboti mají subjektivní zkušenosti a velmi málo lidí tomu věří. Ale pokusím se vás o tom přesvědčit. Předpokládejme, že mám multimodální chatbot. Má robotické rameno, takže může ukazovat, a má kameru, takže může vidět věci, a dám před něj objekt a řeknu mu, aby na objekt ukázal. Udělá to takhle. Žádný problém. Pak dám před jeho objektiv hranol. A pak dám před něj objekt a řeknu mu, aby na objekt ukázal, a on ukáže tam. A já řeknu: „Ne, to není tam, kde je objekt. Objekt je ve skutečnosti přímo před vámi, ale dal jsem před váš objektiv hranol.“ A chatbot řekne: „Ach, chápu. Hranol ohnul světelné paprsky.“ Takže… objekt je ve skutečnosti tam, ale měl jsem subjektivní zkušenost, že byl tam. Teď, pokud chatbot řekne tohle, používá slovo subjektivní zkušenost přesně tak, jak ho používají lidé. Je to alternativní pohled na to, co se děje. Jsou to hypotetické stavy světa. Které, kdyby byly pravdivé, by znamenaly, že můj percepční systém nelhal. A to je nejlepší způsob, jak vám mohu říct, co dělá můj percepční systém, když mi lže. Teď musíme jít dál, abychom se vypořádali s citem a vědomím a pocity a emocemi, ale myslím, že nakonec se s nimi všemi vypořádáme podobným způsobem. Neexistuje žádný důvod, proč by stroje nemohly mít všechny, protože lidé říkají, že stroje nemohou mít pocity. A lidé jsou v tom zvláštně sebevědomí. Nemám ponětí proč. Předpokládejme, že udělám bojového robota a je to malý bojový robot a vidí velkého bojového robota, který je mnohem silnější než on. Bylo by opravdu užitečné, kdyby se bál. Teď, když se bojím, dějí se různé fyziologické věci, do kterých se nemusíme pouštět, a ty se u robota nestanou. Ale všechny kognitivní věci, jako je: „Lepší je, abych se dostal z cesty“ a „Lepší je, abych změnil způsob myšlení, takže se soustředím a soustředím a soustředím a nenechám se rozptylovat.“ To všechno se stane i u robotů. Lidé do nich zabudují věci, takže když okolnosti jsou takové, že by se měli dostat z cesty, bojí se a utečou. Budou mít emoce. Budou mít kognitivní aspekty, ale nebudou mít fyziologické aspekty, ale budou mít všechny kognitivní aspekty. A myslím, že by bylo zvláštní říkat, že jen simulují emoce. Ne, opravdu ty emoce prožívají. Malý robot se bál a utekl. Neutíká kvůli adrenalinu. Utekl kvůli sledům… neurologických procesů v jeho neuronové síti, které mají ekvivalentní účinek jako adrenalin. Takže si myslíte, že existuje vědomá AI? A když říkám vědomá, myslím tím, že představuje stejné vlastnosti vědomí, jaké má člověk. Jsou zde dva problémy. Existuje empirický a filozofický. Nemyslím si, že existuje něco v principu, co by bránilo strojům být vědomými. Dám vám malou ukázku toho, než budeme pokračovat. Předpokládejme, že vezmu váš mozek a vezmu jednu mozkovou buňku ve vašem mozku a nahradím ji tímto… trochu jako Black Mirror. Nahradím ji malým kouskem nanotechnologie, která je přesně stejné velikosti a chová se přesně stejným způsobem, když dostane signály od jiných neuronů. Posílá signály stejně jako by mozková buňka posílala. Takže ostatní neurony nevědí, že se něco změnilo. Dobře. Právě jsem nahradil jednu z vašich mozkových buněk tímto malým kouskem nanotechnologie. Byli byste stále vědomí? Ano. Teď vidíte, kam tento argument směřuje. Ano. Takže pokud nahradíte všechny, jak je nahradím všechny, v kterém okamžiku přestanete být vědomí? No, lidé si myslí, že vědomí je tato… éterická věc, která existuje možná za hranicemi mozkových buněk. Ano. No, lidé mají spoustu šílených nápadů. Lidé nevědí, co je vědomí, a často nevědí, co tím myslí. A pak se vrátí k tomu, že říkají: „No, já to vím, protože to mám, a vidím, že to mám,“ a vrátí se k tomuto modelu divadla mysli, o kterém si myslím, že je nesmysl. Jak si myslíte o vědomí, kdybyste ho měli definovat? Je to proto, že si myslím, že je to jen… uvědomění si sebe sama? Nevím. Myslím, že je to termín, který přestaneme používat. Předpokládejme, že chcete pochopit, jak funguje auto. No, víte, některá auta mají hodně síly a jiná auta mají mnohem méně síly. Aston Martin má hodně síly. A malý Toyota Corolla nemá moc síly. Ale síla není moc dobrý koncept pro pochopení aut. Pokud chcete pochopit auta, musíte pochopit elektrické motory nebo benzínové motory a jak fungují. A dává to vzniknout síle, ale síla není moc užitečný vysvětlující koncept. Je to jakási podstata auta. Je to podstata Aston Martinu, ale moc nevysvětluje. Myslím, že vědomí je takové. A myslím, že přestaneme používat tento termín, ale nemyslím si, že existuje nějaký důvod, proč by ho stroj neměl mít. Pokud je váš pohled na vědomí takový, že intrinsekně zahrnuje sebeuvědomění, pak stroj musí mít sebeuvědomění. Musí mít kognitivní procesy o svých vlastních kognitivních procesech a podobně. Ale já jsem materialista skrz naskrz. A nemyslím si, že existuje nějaký důvod, proč by stroj neměl mít vědomí. Myslíte si tedy, že mají stejné vědomí, o kterém si myslíme, že je nám jedinečně dáno jako dar, když se narodíme? Jsem ohledně toho v současnosti ambivalentní. Takže si nemyslím, že existuje tato ostrá hranice. Myslím, že jakmile máte stroj, který má nějaké sebeuvědomění, má nějaké vědomí. Myslím, že je to emergentní vlastnost komplexního systému. Není to jakási podstata, která je v celém vesmíru. Je to… vyrobíte tento opravdu komplikovaný systém, který je dost komplikovaný na to, aby měl model sám sebe a dělá vnímání. A myslím, že pak začínáte dostávat vědomé stroje. Takže si nemyslím, že existuje nějaké ostré rozlišení mezi tím, co máme teď, a vědomými stroji. Nemyslím si, že to bude… jednoho dne se probudíme a řekneme: „Hej, když do toho dáte tuto speciální chemikálii, stane se to vědomým.“ Nebude to takhle.
Myslím, že se všichni divíme, jestli tyto počítače… myslí jako my sami, když tam nejsme. A jestli prožívají emoce, jestli se potýkají s… Myslím, že pravděpodobně, víte, přemýšlíme o věcech jako je láska a věcech, které se zdají být jedinečné pro biologické druhy. Jsou tam a přemýšlejí? Mají obavy? Myslím, že opravdu přemýšlejí a myslím, že jakmile vytvoříte AI agenty, budou mít obavy. Pokud byste chtěli vytvořit efektivního AI agenta, předpokládejme, že… vezměme si call centrum. V call centru máte v současnosti lidi, kteří mají všechny druhy emocí a pocitů, které jsou jaksi užitečné. Takže předpokládejme, že zavolám do call centra a jsem ve skutečnosti osamělý a ve skutečnosti nechci znát odpověď na to, proč mi nefunguje počítač. Jen chci s někým mluvit. Po chvíli se člověk v call centru buď nudí, nebo se na mě naštve a ukončí to. No, nahradíte je AI agentem. AI agent potřebuje mít stejné druhy reakcí. Pokud někdo zavolal jen proto, že si chce s AI agentem povídat a jsme rádi, že si s AI agentem povídáme celý den, to není dobré pro podnikání. A chcete AI agenta, který se buď nudí, nebo se rozzlobí a řekne: „Omlouvám se, ale na to teď nemám čas.“ A jakmile to udělá, myslím, že má emoce. Teď, jak říkám, emoce mají dva aspekty. Existuje kognitivní aspekt a behaviorální aspekt a pak existuje fyziologický aspekt a ty jdou u nás dohromady. A pokud se AI agent stydí, nezčervená. Ano. Nemá fyziologické… kůže se nezačne potit. Ano, ale může mít stejné chování. A v tom případě bych řekl, ano, prožívá emoce. Má emoci. Takže bude mít stejný druh kognitivní myšlenky a pak bude jednat na základě této kognitivní myšlenky stejným způsobem, ale bez fyziologických reakcí. A záleží na tom, že nezčervená? A je to jen jiné… Myslím, že je to reakce na… Dělá to trochu odlišným od nás. U některých věcí jsou fyziologické aspekty velmi důležité, jako je láska. Jsou daleko od toho, aby měli lásku stejným způsobem jako my. Ale nevidím důvod, proč by neměli mít emoce. Takže si myslím, že se stalo to, že lidé mají model toho, jak funguje mysl a co jsou pocity a co jsou emoce, a jejich model je prostě špatný.
Co… co vás přivedlo do Googlu? Pracovali jste v Googlu asi deset let, že? Ano. Co vás tam přivedlo? Mám syna, který má poruchy učení, a abych si byl jistý, že nikdy nebude na ulici, potřeboval jsem získat několik milionů dolarů a jako akademik jsem to nedostal. Zkusil jsem to. Takže jsem učil kurz na Coursera v naději, že tím vydělám hodně peněz, ale v tom nebyly žádné peníze. Mhm. Takže jsem si uvědomil, že jediný způsob, jak získat miliony dolarů, je prodat se velké společnosti. A tak když mi bylo 65, naštěstí pro mě, měl jsem dva skvělé studenty, kteří vytvořili něco nazvaného AlexNet, což byla neuronová síť, která byla velmi dobrá v rozpoznávání objektů na obrázcích. A tak já, Ilia a Alex jsme založili malou firmu a vydražili ji. A ve skutečnosti jsme uspořádali aukci, kde o nás dražilo několik velkých společností. A ta společnost se jmenovala AlexNet. Ne, síť, která rozpoznávala objekty, se jmenovala AlexNet. Společnost se jmenovala D