Transcription
Chris Anderson: Sam, üdvözöllek a TED-en. Nagyon köszönöm, hogy eljöttél.
Sam Altman: Köszönöm. Megtiszteltetés.
CA: A céged szinte minden héten őrült, elképesztő új modelleket ad ki. Kipróbáltam néhányat. Szeretném megmutatni, mivel játszottam. Tehát a Sora, ez a kép- és videógenerátor. Ezt kérdeztem Sorától: Milyen lesz, amikor itt a TED-en megdöbbentő felfedezéseket osztasz meg? Látni akarod, hogyan képzelte el, tudod? (Nevetés) Nem rossz, igaz? Hogy értékelnéd? Minden kézen öt ujj.
SA: Nagyon hasonlít ahhoz, amit viselek, tudod, jó.
CA: Soha nem láttalak ennyire élénken.
SA: Nem, nem vagyok ennyire élénk személyiség.
CA: Tehát talán egy B+. De ez egy dolog őszintén lenyűgözött. Amikor arra kértem, hogy alkosson egy diagramot, amely megmutatja a különbséget az intelligencia és a tudatosság között. Hogyan csinálnád ezt? Ezt csinálta. Ez annyira egyszerű, de hihetetlen. Milyen folyamat engedélyezné – ez nyilvánvalóan nem csak képgenerálás. Az Ön teljes modelljének alapvető intelligenciájához kapcsolódik.
SA: Igen, az új képgeneráló modell a GPT-4o része, tehát benne van az összes intelligencia. És azt hiszem, ez az egyik oka annak, hogy képes ilyen dolgokra, amelyeket az emberek nagyon szeretnek.
CA: Ha én menedzsmenttanácsadó lennék, és ezzel a cuccal játszanék, azt gondolnám: ó, mi lesz a jövőmmel?
SA: Azt hiszem, kétféleképpen lehet ezt megközelíteni. Mondhatod: ó, ember, mindent megcsinál, amit én csinálok. Mi lesz velem? Vagy mondhatod: mint minden más technológiai forradalom a történelemben, oké, most itt van ez az új eszköz. Sokkal többet tudok csinálni. Mit fogok tudni csinálni? Igaz, hogy megnő az elvárás, hogy mit fogunk kapni valakitől egy adott munkakörben, de a képességek drámaian megnőnek, hogy azt hiszem, könnyű lesz felnőni ehhez az alkalomhoz.
CA: Ez engem is lenyűgözött. Arra kértem, hogy képzelje el Charlie Brownt, amint magát AI-ként gondolja. Ezt alkotta meg. Igazán mélynek találtam. Mit gondolsz? (Nevetés) A szövegírás minősége néhány új modellnél, nem csak itt, hanem részletesen, valóban új szintre lép.
SA: Ez egy hihetetlen meta válasz, de igazán nem lehet tudni, hogy ezt gondolja-e, vagy csak sokszor látta az edzési adatkészletben. És persze, ha nem tudod megkülönböztetni, mennyire érdekel?
CA: Tehát ez nagyon érdekes. Nem tudjuk. Nincs azért... első pillantásra ez szellemi tulajdon lopásnak tűnik. Mintha nem lenne megállapodásotok a „Peanuts” örököseivel? (Taps) Bármennyit tapsolhattok erről, élvezzétek. (Nevetés és morajlás) Azt fogom mondani, hogy az emberiség kreatív szelleme hihetetlenül fontos dolog, és olyan eszközöket akarunk építeni, amelyek ezt felemelik, amelyek lehetővé teszik, hogy új emberek jobb művészetet, jobb tartalmat hozzanak létre, jobb regényeket írjanak, amelyeket mindannyian élvezünk. Mélyen hiszem, hogy az emberek ennek a középpontjában állnak majd. Azt is hiszem, hogy valószínűleg ki kell találnunk valamilyen új modellt a kreatív output gazdasága körül. Azt hiszem, az emberek már régóta mások kreativitására építenek. Az emberek már régóta merítenek ihletet. De ahogy a kreativitáshoz való hozzáférés hihetetlenül demokratizálódik, és az emberek folyamatosan mások ötleteire építenek, azt hiszem, hihetetlen új üzleti modellek léteznek, amelyeket mi és mások izgatottan várunk. Pontosan, hogy fog kinézni, nem vagyok biztos. Nyilvánvalóan vannak egyértelmű dolgok, mint például, hogy nem másolhatod le valaki más munkáját. De mennyi ihletet meríthetsz? Ha azt mondod: művészetet akarok generálni hét ember stílusában, akik közül mindannyian beleegyeztek ebbe, hogyan osztod fel, mennyi pénz megy mindegyikhez? Ezek nagy kérdések. De minden alkalommal a történelem során jobb és erősebb technológiát adtunk a alkotók kezébe. Azt hiszem, kollektíven jobb kreatív outputot kapunk, és az emberek csak csodálatosabb dolgokat csinálnak.
CA: Még nagyobb kérdés, amikor nem járultak hozzá. A nyitó előadásunkon Carole Cadwalladr megmutatta, tudod, „ChatGPT, tarts előadást Carole Cadwalladr stílusában”, és bizony, egy előadást tartott, ami nem volt olyan jó, mint az általa tartott előadás, de elég lenyűgöző volt. És azt mondta: „Oké, nagyszerű, de én ehhez nem járultam hozzá.” Hogyan fogjuk ezt navigálni? Nincs mód arra, hogy csak azok az emberek járuljanak hozzá, akik beleegyeztek? Vagy nem kellene-e egy olyan modellnek lennie, amely valahogy kimondja, hogy minden egyes megnevezett személynek egy promptban, akinek a munkáját felhasználják, kapnia kell valamit ezért?
SA: Tehát most, ha használod a képgeneráló eszközünket, és azt mondod: szeretnék valamit egy élő művész stílusában, azt nem fogja megcsinálni. De ha azt mondod: szeretném egy adott hangulat, vagy egy stúdió, vagy egy művészeti mozgalom stílusában, vagy bármi másban, akkor megteszi. És nyilvánvalóan, ha egy dalt állítasz elő, ami egy dal másolata, azt nem fogja megcsinálni. A kérdés, hogy hol legyen ez a határ, és hogyan mondják az emberek: ez túl sok, azt a szerzői jogi törvényekkel és a tisztességes használat fogalmával rendeztük el. Újra azt hiszem, hogy az AI világában egy új modell fog kialakulni, amit kitalálunk.
CA: A szempontból nézve, a kreatív emberek jelenleg a legdühösebbek vagy a legijedtebbek az AI miatt. És a különbség aközött, hogy úgy érzed, ellopják a munkádat és a jövődet, és úgy érzed, hogy a munkádat felerősítik és felerősíthető, ezek annyira különböző érzések. És ha át tudnánk váltani a másodikra, azt hiszem, ez valóban megváltoztatná, hogy az emberiség egésze mennyire fogadja el mindezt.
SA: Nos, újra azt mondanám, hogy néhány kreatív ember nagyon feldúlt. Néhány kreatív ember azt mondja: „Ez a legcsodálatosabb eszköz valaha, hihetetlenül új munkát végzek.” De tudod, ez határozottan változás. És sok együttérzésem van azokkal az emberekkel szemben, akik csak azt mondják: „Bárcsak ez a változás nem történne meg. Szerettem a dolgokat úgy, ahogy voltak.”
CA: De elvileg kiszámítható bármely adott promptból, hogy mennyi... valamilyen módon ki kell tudni számítani, hogy egy előfizetés, bevétel vagy bármi más százaléka mennyi megy az egyes válaszokhoz. Elvileg lehetségesnek kellene lennie, ha a többi szabályt ki lehetne találni. Nyilvánvalóan bonyolult. Kiszámíthatnál valamilyen bevételi megosztást, nem?
SA: Ha zenész vagy, és egész életedet, egész gyermekkorodat zenét hallgatva töltöd, majd kapsz egy ötletet, és írsz egy dalt, amelyet az előtte hallottak ihlettek, de új irányba, nagyon nehéz lenne azt mondanod: ennyi ebből a dalból származik, amit 11 évesen hallottam.
CA: Ez így van. De itt arról beszélünk, hogy valaki konkrétan egy promptban megnevez valakit.
SA: Nos, újra, most, ha megpróbálsz generálni egy képet egy megnevezett stílusban, csak azt mondjuk, hogy az az alkotó élő, nem csináljuk meg. De azt hiszem, jó lenne kitalálni egy új modellt, ahol ha azt mondod: szeretném ezt az alkotó nevében csinálni, és ők beleegyeznek, akkor van ott egy bevételi modell. Azt hiszem, ez jó dolog felfedezni.
CA: Tehát azt hiszem, a világnak segítenie kellene abban, hogy gyorsan kitaláljuk ezt a modellt. És azt hiszem, ez valójában óriási különbséget fog tenni. Gyorsan szeretnék témát váltani. (Taps) A harc a modellje és a nyílt forráskód között. Mennyire rázott meg a DeepSeek érkezése?
SA: Azt hiszem, a nyílt forráskódnak fontos helye van. Valójában tegnap este tartottuk az első közösségi ülést, hogy eldöntsük a nyílt forráskódú modellünk paramétereit és azt, hogyan akarjuk alakítani. Nagyon erős nyílt forráskódú modellt fogunk csinálni. Azt hiszem, ez fontos. Valami a határ közelében lesz, azt hiszem, jobb, mint bármelyik jelenlegi nyílt forráskódú modell. Ez nem lesz minden – lesznek emberek, akik ezt olyan módon fogják használni, ami néhány embernek ebben a teremben, talán neked vagy nekem nem tetszik. De a nyílt forráskódú modelleknek fontos helye lesz a csillagkép részeként. És, tudod, azt hiszem, későn léptünk fel ebben, de most nagyon jól fogjuk csinálni.
CA: Úgy tűnik, hogy nagyságrendekkel, vagy akár nagyságrendekkel többet költesz, mint amennyit a DeepSeek állítólag költött, bár tudom, hogy ez vitatott. Bízol abban, hogy az igazán jobb modellt fogják elismerni? Vagy valójában, nem ez valamilyen módon életveszélyes arra az elképzelésre, hogy igen, hatalmas léptékben, több tízmilliárd dolláros befektetéssel, hihetetlen előnyt tarthatunk fenn.
SA: Egész nap hívogatom az embereket, és könyörgök nekik, hogy adjanak nekünk GPU-kat. Hihetetlenül korlátozottak vagyunk. A növekedésünk így megy. A DeepSeek elindult, és nem tűnt úgy, hogy hatással lenne rá. Más dolgok is történnek.
CA: Mesélj a növekedésről. Adtál nekem egy megdöbbentő számot a színfalak mögött.
SA: Soha nem láttam növekedést semmilyen cégben, amiben részt vettem volna, vagy nem, ilyen, mint a ChatGPT növekedése. Nagyon szórakoztató. Nagyon, nagyon megtiszteltetésnek érzem magam. De őrültség átélni, és a csapataink kimerültek és stresszesek. És próbáljuk tartani a dolgokat.
CA: Hány felhasználótok van most?
SA: Azt hiszem, legutóbb 500 millió heti aktív felhasználót mondtunk, és nagyon gyorsan növekszik.
CA: Tudod, azt mondtad, hogy ez néhány hét alatt megduplázódott. A számítás vagy a ...
SA: Magánbeszélgetésben mondtam, de gondolom...
CA: Ó. (Nevetés) Rosszul emlékeztem, Sam, sajnálom. Ha igazán akarod, ki tudjuk vágni a dologból. És senki sem fogja tweetelni.
SA: Nagyon gyorsan növekszik. (Nevetés)
CA: Tehát magabiztos vagy, látod növekedni, rakétaként felszállni, folyamatosan hihetetlen új modelleket adsz ki. Mit látsz a legjobb belső modelljeidben most, amit még nem osztottál meg a világgal, de itt szeretnél a színpadon?
SA: Először is, megkérdezted, hogy aggódunk-e ez vagy az a modell miatt? Sok intelligens modell lesz a világon. Nagyon okos modellek bizonyos mértékig árucikké válnak. Azt hiszem, miénk lesz a legjobb, és néhány használatra azt fogod akarni. De őszintén szólva, a modellek most már annyira okosak, hogy a legtöbb dologhoz, amit a legtöbb ember csinálni akar, elegendőek. Remélem, ez idővel változni fog, mert az emberek emelni fogják az elvárásaikat. De ha a ChatGPT-t egy átlagos felhasználóként használod, a modell képessége nagyon okos. De nagyszerű terméket kell építenünk, nem csak nagyszerű modellt. És így sok embernek lesznek nagyszerű modelljei, és mi megpróbáljuk a legjobb terméket építeni. És az emberek akarják a képgenerálásukat, tudod, láttál néhány Sora példát videóra korábban. Szeretnék integrálni minden cuccukkal. Most indítottunk egy új funkciót, még mindig Memóriának hívják, de sokkal jobb, mint a korábbi Memória, ahol ez a modell az életed során meg fog ismerni téged. És még sok mindenünk van, hogy ilyen nagyszerű integrált terméket építsünk. És, tudod, azt hiszem, az emberek ehhez fognak ragaszkodni. Tehát sok modell lesz, de azt hiszem, mi, remélem, továbbra is arra fogunk összpontosítani, hogy a legjobb meghatározó terméket építsük ebben a térben.
CA: Miután láttam a tegnapi bejelentésedet, hogy a ChatGPT tudni fogja az összes lekérdezési előzményedet, beírtam: „Mesélj rólam, ChatGPT, mindarról, amit tudsz.” És leesett az állam, Sam, megdöbbentő volt. Tudta, ki vagyok, és mindazokat az érdeklődési köröket, amelyek remélhetőleg többnyire megfelelőek és megoszthatóak voltak. De lenyűgöző volt. És éreztem a valódi izgalom érzését, egy kicsit émelyítő, de főleg izgalmat, hogy mennyivel hasznosabb lehet számomra.
SA: Az egyik kutatónk tweetelt, tudod, tegnap vagy ma reggel, hogy az feltöltés bitről bitre történik. Nem úgy van, hogy egy napon bedugod az agyad. De a ChatGPT-vel fogsz beszélni életed során, és egy napon, talán ha akarod, egész nap hallgatni fog, és megfigyeli, mit csinálsz, és megismer téged, és ez az éned meghosszabbítása lesz, ez a társ, ez a dolog, ami csak megpróbál segíteni, hogy a legjobb legyél, a lehető legjobbat hozd ki magadból.
CA: A „Her” című filmben az AI alapvetően bejelenti, hogy elolvasta az összes e-mailjét, és úgy döntött, hogy nagyszerű író, és tudod, meggyőz egy kiadót, hogy publikálja őt. Ez hamarabb jöhet el, mint gondolnánk.
SA: Nem hiszem, hogy pontosan így fog történni, de igen, azt hiszem, valami abba az irányba, ahol az AI – nem kell csak odamenned a ChatGPT-hez vagy bármihez, és azt mondanod: van egy kérdésem, adj egy választ. De proaktívan kapsz dolgokat, amelyek segítenek, amelyek jobbá tesznek, vagy bármi más. Ez hamarosan bekövetkezik.
CA: Tehát mit láttál, ami belsőleg jön, és azt gondolod, hogy el fogja kápráztatni az embereket? Adj legalább egy utalást arra, mi a következő nagy döbbenet.
SA: A dolog, ami engem személyesen leginkább izgat, az az AI a tudományban. Nagy hívő vagyok abban, hogy a világ és az emberek életének egyre jobbá válásának legfontosabb mozgatórugója az új tudományos felfedezés. Kevesebbel többet tudunk csinálni, visszaszorítjuk a lehetséges határait. Kezdünk sokat hallani a tudósoktól a legújabb modelljeinkkel kapcsolatban, hogy valójában produktívabbak, mint korábban voltak. Ez valójában számít abban, amit felfedezhetnek.
CA: Mi a lehetséges közeli felfedezés, mint például a szobahőmérsékletű –
SA: Szupervezetők?
CA: Szupervezető, igen. Lehetséges?
SA: Nem hiszem, hogy a fizika törvényei ezt megakadályozzák. Tehát lehetségesnek kell lennie. De nem tudjuk biztosan. Azt hiszem, elkezdesz látni némi... érdemi haladást a betegségek ellen AI-asszisztált eszközökkel. Tudod, a fizika talán egy kicsit tovább tart, de remélem. Tehát ez az egyik irány. Egy másik, amit nagynak tartok, az hamarosan elkezdődik, az elkövetkező hónapokban. A szoftverfejlesztés már elég átalakult. Olyan hihetetlenül más a szoftveralkotás folyamata, mint két évvel ezelőtt volt. De azt várom, hogy még egy ilyen nagy lépés következik az elkövetkező hónapokban, ahogy az ügynöki szoftverfejlesztés valóban elkezdődik.
CA: Hallottam mérnököket mondani, hogy szinte vallásoszerű pillanataik voltak néhány új modellel, amikor hirtelen délután meg tudtak csinálni valamit, ami két évig tartott volna.
SA: Igen, ez olyan, mint az elme – ez valóban az egyik nagy „AGI-érzetem” volt.
CA: De beszélj arról, mi a legijesztőbb dolog, amit láttál. Mert kívülről sokan úgy képzelnek el, hogy tudod, hozzáférést kapsz ehhez a cuccokhoz. És hallunk mindenféle pletykát az AI-ról, és olyan, mintha: „Istenem, látták a tudatot”, vagy „Látták az AGI-t”, vagy „Látták az apokalipszis valamilyen formáját.” Láttál, volt-e ijesztő pillanat, amikor belsőleg láttál valamit, és azt gondoltad: „Ó, erre figyelmet kell fordítanunk?”
SA: Voltak csodálatos pillanatok. És azt hiszem, ezzel mindig együtt jár a kérdés: meddig fog ez menni? Mi lesz ez? De nincs olyan, hogy titokban van, nem titokban ülünk egy tudatos modellen, vagy valami olyanon, ami képes az önfejlesztésre, vagy bármi hasonlóra. Tudod, én... az embereknek nagyon eltérő nézeteik vannak arról, hogy mik lesznek a nagy AI-kockázatok. És én magam is fejlődtem abban, hogy hol fogjuk látni ezeket. Továbbra is hiszem, hogy nagyon erős modellek lesznek, amelyeket az emberek nagy mértékben visszaélhetnek. Az emberek sokat beszélnek az új típusú bioterror lehetőségéről, olyan modellekről, amelyek valódi kiberbiztonsági kihívást jelentenek, olyan modellekről, amelyek képesek az önfejlesztésre oly módon, hogy az ellenőrzés elvesztéséhez vezet. Tehát azt hiszem, ott nagy kockázatok vannak. És aztán van sok más dolog is, ami őszintén szólva, azt hiszem, sokan gondolnak, amikor a dezinformációról vagy arról beszélnek, hogy a modellek olyan dolgokat mondanak, amiket nem szeretnek, vagy hasonlókat.
CA: Az elsőre ragaszkodva, ellenőrzitek ezt belsőleg kiadás előtt?
SA: Természetesen, igen. Tehát van egy felkészültségi keretrendszerünk, amely felvázolja, hogyan csináljuk ezt.
CA: Tudod, voltak távozások a biztonsági csapatodból. Hány ember távozott, miért mentek el?
SA: Vannak, nem tudom a pontos számot, de nyilvánvalóan eltérő nézetek vannak az AI biztonsági rendszerekkel kapcsolatban. Nagyon is a múltunkra mutatnék. Vannak emberek, akik mindenféle dolgot mondanak. Tudod, a világ 10 százaléka használja a rendszereinket mostanában. És nagyon büszkék vagyunk a biztonsági múltunkra.
CA: De a múlt nem a kérdés, bizonyos értelemben –
SA: Nem, valójában az.
CA: Mert egy exponenciálisan növekvő erővel foglalkozunk, ahol attól tartunk, hogy egy nap felébredünk, és a világ vége. Tehát nem a múltról van szó, hanem arról, hogy meggyőzően elmondható-e, hogy megvannak az eszközök a dolgok gyors leállítására, ha veszélyt látunk.
SA: Igen, persze, persze, hogy ez fontos. Nem ébredsz fel egy nap, és azt mondod: „Hé, nem volt biztonsági folyamatunk. Most azt gondoljuk, hogy a modell nagyon okos. Tehát most törődnünk kell a biztonsággal.” Az egész exponenciális görbén át törődnöd kell vele. Természetesen a tét megnő, és nagy kihívások vannak. De a biztonságos rendszerek építésének módja ez az iteratív folyamat, hogy bevezetjük őket a világba, visszajelzést kapunk, miközben a tét viszonylag alacsony, megtanuljuk, hogy ez valami, amivel foglalkoznunk kell. És azt hiszem, ahogy az ügynöki rendszerek felé haladunk, új dolgok egész nagy kategóriája van, amellyel meg kell tanulnunk foglalkozni.
CA: Tehát beszéljünk az ügynöki rendszerekről és az AGI-vel való kapcsolatukról. Azt hiszem, ott van a zavar, én is zavarodott vagyok. Tehát mesterséges általános intelligencia, úgy érzem, a ChatGPT már egy általános intelligencia. Bármiről kérdezhetem, és intelligens választ kapok. Miért nem ez az AGI?
SA: Nem... Először is, nem kérdezhetsz meg mindent. Nagyon kedves tőled, hogy ezt mondod, de sok mindenben még mindig zavarba ejtően rossz. De még ha ezeket is kijavítanánk, amit remélhetőleg megteszünk, az nem tanul és fejlődik folyamatosan. Nem tud jobbá válni valamiben, amiben jelenleg gyenge. Nem tud új tudományt felfedezni és frissíteni a megértését, és ezt megtenni. És még ha le is vesszük a lécet, nem tudja csak úgy elvégezni az összes olyan tudásmunkát, amit egy számítógép előtt végezhetnél. Valójában, még az sem, hogy képes legyen jobbá válni valamiben, amit még nem tud, elfogadhatnám AGI definíciójaként. De a jelenlegi rendszerekben nem mondhatod azt, hogy „hé, csináld meg ezt a feladatot a munkámért”, és az elmegy, kattintgat az interneten, felhív valakit, megnézi a fájljaidat, és megcsinálja. És ennek hiányában határozottan rövidnek érződik.
CA: Tudod, van-e nálatok belsőleg egyértelmű definíciója az AGI-nek, és mikor gondolod, hogy ott lehetünk?
SA: Olyan, mint a vicc, ha 10 OpenAI kutató van egy szobában, és megkérdezed őket, hogy definiálják az AGI-t, 14 definíciót kapsz.
CA: Ez aggasztó, nem? Mert ez volt az eredeti küldetés: „Mi leszünk az elsők, akik eljutunk az AGI-hez. Biztonságosan tesszük. De nincs világos definíció arról, hogy mi az.”
SA: Befejeztem volna a választ.
CA: Sajnálom.
SA: Amit fontosnak tartok, és amit az emberek tudni akarnak, az nem ez az egy, tudod, varázslatos pillanat, hogy „befejeztük”. De tekintettel arra, hogy ami történni fog, az az, hogy a modellek egyre okosabbak és képzettebbek lesznek, és egyre okosabbak és képzettebbek, ezen a hosszú exponenciális úton, különböző emberek fogják AGI-nek nevezni különböző pontokon. De mindannyian egyetértünk abban, hogy ez messze, messze túl fog menni azon. Tudod, bármit is akarsz nevezni ezeknek a rendszereknek, amelyek sokkal képzettebbek, mint mi. A lényeg az, hogyan beszélünk egy olyan rendszerről, amely biztonságos minden lépésen át és azon túl is, ahogy a rendszer képzettebbé válik, mint mi, ahogy a rendszer olyan dolgokat tud csinálni, amelyeket nem teljesen értünk. És azt hiszem, fontosabb, mint mikor jön az AGI és mi a definíciója, felismerni, hogy egy hihetetlen exponenciális görbén vagyunk. És tudod, mondhatod, hogy ezt gondolom AGI-nek. Mondhatod, hogy ezt gondolod AGI-nek. Valaki más mondhatja, hogy a szuperintelligencia itt van, de meg kell küzdenünk, és csodálatos előnyöket kell szereznünk ebből a hihetetlen rendszerből. Tehát azt hiszem, el kellene terelnünk a beszélgetést arról, hogy mi az AGI pillanat, arra a felismerésre, hogy ez a dolog nem fog megállni, messze túl fog menni azon, amit bárki AGI-nek nevezne. És egy társadalmat kell építenünk, hogy megszerezzük ennek a hatalmas előnyeit, és kitaláljuk, hogyan tegyük biztonságossá.
CA: Nos, az egyik beszélgetés ezen a héten az volt, hogy az igazi változás pillanata az – tudod, az AGI egy homályos dolog, de ami világos, az az ügynöki AI – amikor az AI szabadon engedik, hogy saját projekteket folytasson, és összerakja a darabokat – valójában van egy „Operator” nevű dolgod, ami elkezdi ezt csinálni. És kipróbáltam. Tudod, akartam egy éttermet foglalni, és ez valahogy hihetetlen. Valahogy el tudja kezdeni és meg tudja csinálni, de ezt mondta. Tudod, ez egy érdekes folyamat volt. És, tudod, „Add meg a hitelkártyádat” és minden mást, és ebben az esetben visszautasítottam, hogy tovább menjek. De azt hiszem, ez a kihívás, amivel az embereknek szembe kell nézniük. Ez olyan, mint egy hihetetlen szupererő. Kicsit ijesztő. És Yoshua Bengio, amikor itt beszélt, azt mondta, hogy az ügynöki AI az, amire figyelni kell. Ez az, amikor minden rosszul sülhet el, amikor hatalmat adunk az AI-nak, hogy az interneten járkáljon, hogy dolgokat csináljon. Tudod, az internetre való kijutás mindig is a sci-fi történetekben az a pillanat volt, amikor tudod, a szökés megtörtént, és a potenciális – dolgok szörnyen rosszul sülhetnek el. Hogyan tudod mindkettőt kiadni az ügynöki AI-t, és rendelkezni olyan biztonsági korlátokkal, amelyek megakadályozzák, hogy túl messzire menjen?
SA: Először is, nyilvánvalóan választhatod, hogy nem teszed meg ezt, és azt mondod: nem akarom ezt. Felhívom az éttermet, és felolvasom nekik a hitelkártyámat telefonon.
CA: Választhatnék, de valaki más azt mondhatja: „Ó, menj ki, ChatGPT az internetre, és írd át az internetet, hogy jobb legyen az embereknek”, vagy bármi más.
SA: Az a pont, amit mondani akartam, az, hogy bármilyen új technológiával időbe telik, mire az emberek megszokják. Emlékszem, amikor nem tettem be a hitelkártyámat az internetre, mert a szüleim meggyőztek arról, hogy valaki el fogja olvasni a számot, és ki kellett töltened az űrlapot, majd fel kellett hívnod őket. És akkor mindannyian azt mondtuk: oké, építünk csalás elleni rendszereket, és megszokhatjuk ezt. Azt hiszem, az emberek sok szempontból lassan szoknak majd meg az ügynöki AI-hoz. De azt is nagyon egyetértek azzal, amit mondtál, hogy még akkor is, ha egyes emberek megszokják, és mások nem, lesznek AI-rendszerek, amelyek az interneten járkálnak. És ez, azt hiszem, a legérdekesebb és legkövetkezményesebb biztonsági kihívás, amellyel eddig szembe kellett néznünk. Mert az AI, amelynek hozzáférést adsz a rendszereidhez, az adataidhoz, a számítógépeden való kattintgatás képességéhez, most ezek, tudod, amikor az AI hibát követ el, sokkal magasabb a tét. Ez a kapu – tehát korábban a biztonságról és a képességről beszéltünk. Azt hiszem, ezek egyre inkább egysíkúvá válnak. Mint egy jó termék egy biztonságos termék. Nem fogod használni az ügynökeinket, ha nem bízol abban, hogy nem ürítik ki a bankszámládat, vagy nem törlik az adataidat, vagy ki tudja, mi mást. És így az emberek olyan ügynököket akarnak használni, amelyekben valóban megbízhatnak, amelyek valóban biztonságosak. És azt hiszem, korlátozottak vagyunk a haladásunk képességében. De ez a termék alapvető része.
CA: Egy olyan világban, ahol az ügynökség kint van, és mondjuk, hogy talán nyílt modellek széles körben elterjedtek, és valaki azt mondja: „Oké, AGI, azt akarom, hogy menj ki az internetre, és, tudod, terjeszd a mémeket, ahogy csak tudod, hogy X emberek gonoszak”, vagy bármi más. Nem kell, hogy egyéni döntés legyen. Egyetlen személy elengedhetheti azt az ügynököt, és az ügynök eldöntheti: „Nos, ennek a funkciónak a végrehajtásához mindenhol másolnom kell magam”, és, tudod. Vannak piros vonalak, amelyeket belsőleg világosan meghúztál, ahol tudod, mik a veszély pillanatai, és hogy nem adhatunk ki valamit, ami ezen túlmutathat?
SA: Igen, tehát ez a felkészültségi keretrendszerünk célja. És idővel frissíteni fogjuk. De megpróbáltuk felvázolni, hol gondoljuk, hogy a legfontosabb veszély pillanatai vannak, vagy mik a kategóriák, hogyan mérjük ezt, és hogyan enyhítenénk valamit kiadás előtt. Láthatom a beszélgetésből, hogy nem vagy nagy AI-rajongó.
CA: Valójában éppen ellenkezőleg, minden nap használom. Csodálom. Azt hiszem, ez egy hihetetlen idő az életre. Nem élnék máskor, és alig várom, hogy lássam, hová vezet. Mi tartottuk... Azt hiszem, elengedhetetlen tartani... mintha nem tudnánk az embereket ezekre a táborokra osztani. El kell fogadnod a lehetőség iránti szenvedélyes hitet, de ne szédülj el tőle, mert a dolgok szörnyen rosszul sülhetnek el. (Taps)
SA: Azt akartam mondani, hogy teljesen megértem. Teljesen megértem, hogy erre nézel, és azt mondod, ez egy hihetetlen változás a világban. És, tudod, talán nem akarom ezt, vagy talán szeretem a részeit. Talán szeretek a ChatGPT-vel beszélni, de aggódom a művészet jövője miatt, és aggódom a változás üteme miatt, és aggódom ezek miatt az interneten járkáló ügynökök miatt. És talán, összességében, bárcsak ez nem történne meg. Vagy talán bárcsak lassabban történne meg. Vagy talán bárcsak úgy történne meg, hogy válogathatnék, hogy a haladás mely részei történjenek meg. És azt hiszem, a félelem teljesen racionális. Valahogy, a szorongás teljesen racionális. Mindannyiunknak sok van belőle. De... A, óriási előnyök lesznek. Nyilvánvalóan, tudod, minden nap használod, tetszik. B... Nagyon hiszem, hogy a társadalom idővel, néhány nagy hibával az út során, megtanulja, hogyan kell helyesen használni a technológiát. És C, ez meg fog történni. Ez olyan, mint egy alapvető fizikai felfedezés, amiről a világ most már tud. És a világunk része lesz. És azt hiszem, ez a beszélgetés nagyon fontos. Azt hiszem, nagyon fontos beszélni ezekről a veszélyes területekről. Új gazdasági modellek nagyon fontosak. De óvatossággal, de félelem nélkül kell elfogadnunk ezt, különben mások fognak vezetni minket, akik AI-t használnak, hogy jobbak legyenek.
CA: Valójában az egyik legkifejezőbb szószólója voltál a biztonságnak. Tanúskodtál a Szenátusban. Azt hiszem, azt mondtad, hogy alapvetően létre kellene hoznunk egy új biztonsági ügynökséget, amely engedélyez minden erőfeszítést, azaz megtagadja bizonyos erőfeszítések engedélyezését. Még mindig hiszel ebben a politikai javaslatban?
SA: Többet tanultam arról, hogyan működik a kormány. Nem hiszem, hogy ez pontosan a megfelelő politikai javaslat.
CA: Mi a megfelelő politikai javaslat?
SA: De azt hiszem, az az elképzelés, hogy ahogy ezek a rendszerek fejlettebbé válnak, és legitim globális hatásuk van, szükségünk van valamire, tudod, talán maguk a cégek állítják össze a megfelelő keretet vagy a megfelelő modellt ehhez, de szükségünk van valamire, hogy a nagyon fejlett modellek külső biztonsági teszteléssel rendelkezzenek. És megértjük, amikor közel kerülünk néhány veszélyzónához. Nagyon is hiszek ebben.
CA: Ironikusnak tűnt, hogy egy biztonsági ügynökség lehet az, amit akarunk, mégis az ügynökség az, ami veszélyes. Van valami furcsa a nyelvben, de mindegy.
SA: Mondhatok még valamit erről? Azt hiszem, ez a koncepció, hogy szigorú tesztelést kell definiálnunk a modellekhez, meg kell értenünk, hogy melyek a fenyegetések, amelyekre mi, kollektíven, a társadalom, a leginkább összpontosítani akarunk, és biztosítanunk kell, hogy ahogy a modellek képzettebbé válnak, legyen egy rendszerünk, ahol mindannyian megérthetjük, mi kerül a világba. Azt hiszem, ez nagyon fontos. És azt hiszem, nem vagyunk messze olyan modellektől, amelyek ebben az értelemben nagy nyilvános érdeklődésre tartanak számot.
CA: Tehát Sam, megkérdeztem az o1-pro érvelési modelljét, ami hihetetlenül –
SA: Köszönöm a 200 dollárt.
CA: (Nevetés) 200 dollár havonta. Bargain az áráért. Azt mondtam, mi a legmélyebb kérdés, amit feltehetek neked? Két percig gondolkodott rajta. Két perc. Látni akarod a kérdést?
SA: Igen.
CA: „Sam, tekintve, hogy olyan technológiát segítesz létrehozni, amely átalakíthatja egész fajunk sorsát, ki adott neked (vagy bárki másnak) erkölcsi felhatalmazást erre?” (Nevetés) „És hogyan vagy személyesen felelős, ha tévedsz?”
SA: Nem, jó volt.
CA: Ez lenyűgöző volt.
SA: Az elmúlt fél órában a kérdés verzióit kérdezted tőlem. Mit gondolsz? (Nevetés és taps)
CA: Azt mondanám, hogy ez. Itt van a kérdésem verziója.
SA: De nincs válasz?
CA: Mi volt a kérdésed hozzám?
SA: Hogyan válaszolnál erre?
CA: A te helyedben?
SA: Vagy kívülállóként.
CA: Nem tudom. Rejtély vagy számomra. Valahogy csodálom. Mert megépítettél egyet a legcsodálatosabb dolgok közül. Két narratíva létezik rólad. Az egyik az, hogy tudod, te vagy ez a hihetetlen látnok, aki lehetetlent tett, és megdöbbentetted a világot. Sokkal kevesebb emberrel, mint a Google, olyasmit hoztál létre, ami sokkal erősebb volt, mint bármi, amit csináltak. Tudod, csodálatos, amit építettél. De a másik narratíva az, hogy megváltoztattad a terepet, hogy elmozdultál az OpenAI-tól, ettől a nyílt dologtól, a szupererős építés vonzereje felé. És tudod, elvesztettél néhány kulcsfontosságú emberedet. Van egy narratíva odakint. Néhányan úgy gondolják, hogy nem lehet megbízni ebben a térben. Szeretném tudni, ki vagy. Mi a te narratívád magadról? Mik a te alapvető értékeid, Sam, amelyek bizalmat adhatnak nekünk, a világnak, hogy valaki ilyen nagy hatalommal rendelkezik, jogosult rá?
SA: Nézd, azt hiszem, mint bárki más, én is egy árnyalt karakter vagyok, aki nem redukálható jól egy dimenzióba. Tudod, valószínűleg az igazak a jó dolgok, és valószínűleg az igazak a kritikák. Ami az OpenAI-t illeti, a célunk az AGI létrehozása és terjesztése, biztonságossá tétele, az emberiség széles körű javára. Azt hiszem, minden jel szerint sokat tettünk ebben az irányban. Nyilvánvalóan a taktikáink idővel változtak. Azt hiszem, nem igazán tudtuk, mik leszünk, amikor felnövünk. Nem gondoltuk, hogy céget kell építenünk erre. Sokat tanultunk arról, hogyan működik, és a valóságról, hogy ezeknek a rendszereknek mennyi tőkére lesz szükségük. De azt hiszem, hogy hihetetlenül képzett AI-t adtunk sok ember kezébe, magas fokú biztonsággal, és olyan eszközöket adtunk nekik, hogy bármi csodálatos dolgot csináljanak, amit csinálni fognak, azt hiszem, nehéz lenne rossz osztályzatot adni nekünk erre. Azt hiszem, fair, hogy többet kellene nyílt forráskódúvá tennünk. Azt hiszem, ésszerű volt minden okból, amit korábban kérdeztél, mivel nem voltunk biztosak abban, hogy ezek a rendszerek milyen hatással lesznek, és hogyan tegyük őket biztonságossá, hogy óvatosan jártunk el. Azt hiszem, sok korábbi kérdésed legalábbis némi együttérzést sugallna abban a tényben, hogy így jártunk el. De most azt hiszem, jobban megértettük, mint világ, és itt az ideje, hogy nagyon képzett nyílt rendszereket bocsássunk a világba. Ha jövőre meghívsz, valószínűleg azért fogsz rám kiabálni, mert valaki visszaélt ezekkel a nyílt forráskódú rendszerekkel, és azt mondod: „Miért tetted ezt?” Tudod, „Nem kellett volna visszatérned a nyílt gyökereidhez.” De, tudod, mindenben vannak kompromisszumok. És mi vagyunk az egyik játékos, az egyik hang ebben az AI forradalomban, próbálunk a lehető legjobban csinálni, és felelősségteljesen bevezetni ezt a technológiát a világba. Határozottan követtünk el hibákat, a jövőben is el fogunk követni még többet. Összességében azt hiszem, az elmúlt közel egy évtizedben, ez már hosszú idő, tudod, többnyire azt tettük, amit elterveztünk. Hosszú út áll előttünk. A taktikáink a jövőben még jobban változni fognak, de ehhez a fajta küldetéshez és ahhoz, amit csinálni próbálunk, azt hiszem, nagyon erősek vagyunk. (Taps)
CA: Ezt posztoltad – Nos, oké, itt van a hatalom gyűrűje a „Gyűrűk urából”. Az ellenfeled, azt mondanám, nem a legjobb barátod jelenleg, Elon Musk, azt állította, hogy azt gondolta, hogy a hatalom gyűrűje megkorrumpált. Egy vád, amely egyébként – (Nevetés)
SA: Szia, Steve.
CA: Egy vád, amely Elonra is vonatkozhat, tudod, hogy őszinte legyek. De kíváncsi vagyok, az emberek, te –
SA: Talán válaszolok. Gondolkodom rajta. Talán mondok valamit. (Nevetés)
CA: Ez mindenki fejében ott van, ahogy látjuk, hogy a technológiai vezérigazgatók hatalmasabbá válnak, gazdagabbá válnak, tudják-e kezelni, vagy ellenállhatatlanná válik? A hatalom és a gazdagság lehetetlenné teszi néha a helyes dolgok megtételét, és csak szorosan kell kapaszkodnod abba a gyűrűbe? Mit gondolsz? Tudod, érzed néha azt a gyűrűt?
SA: Mit gondolsz, hogyan teljesítek más vezérigazgatókhoz képest, akik sok hatalmat kaptak, és megváltoztatták a viselkedésüket, vagy sok mindent tettek a világban, mint például, hogy gondolod? (Taps)
CA: Gyönyörű... nem vagy udvariatlan, dühös ember, aki agresszív dolgokat mond másoknak.
SA: Néha csinálom. Ez az egyetlen bűnöm, tudod? (Nevetés)
CA: Nem, azt hiszem, ahogy személyesen viselkedsz, az lenyűgöző. Tudod, a kérdés, amit néhány ember feltesz, hogy ez az igazi te, vagy, tudod, van valami más is a háttérben?
SA: Nem, elfogadom a visszajelzést. Feltetted a Szauron Gyűrűjét, vagy bármi is az. Tehát elfogadom a visszajelzést. Mi az, amit tettem, ahol úgy gondolod, hogy a hatalom megkorrumpált?
CA: Azt hiszem, a félelem az, hogy az OpenAI átalakulása nyereségorientált modellel, tudod, egyesek azt mondják: na tessék. Megkorrumpált a gazdagság iránti vágy. Tudod, valamikor nem volt részvényed benne. Fabulosan gazdaggá tesz. Mellesleg, nem hiszem, hogy ez a te motivációd, személyesen. Azt hiszem, olyan dolgokat akarsz építeni, amelyek hihetetlenül hűvösek. És amitől aggódom, az a versenyszellem, hogy látod, mások is csinálják, és lehetetlenné teszi a megfelelő ütemben való fejlődést. De mondd el, ha nem érzed ezt, mint, mit... a világon olyan kevesen rendelkeznek a képességgel és a potenciállal, mint te, nem tudjuk, milyen érzés. Milyen érzés?
SA: Meglepő módon ugyanaz, mint előtte. Azt hiszem, bármihez hozzá lehet szokni lépésről lépésre. Azt hiszem, ha 10 évvel ezelőttről mostanra szállnék át, egyszerre, nagyon zavaró lenne. De bármi új normává válik, tehát nem érződik másnak. És furcsa itt ülni és erről beszélni, de tudod, a mindennapi élet monotonitása, amit a legjobb értelemben értek, pontosan ugyanaz.
CA: Ugyanaz az ember vagy.
SA: Mármint, biztos vagyok benne, hogy sok szempontból nem, de nem érzem magam másnak.
CA: Ez egy gyönyörű dolog volt, amit posztoltál, a fiad. Tudod, az utolsó, amit ott mondtál: „Soha nem éreztem ilyen szerelmet”, azt hiszem, minden szülő a teremben ismeri ezt az érzést, ezt a vad biológiai érzést, ami az embereknél van, és az AI-knál soha nem lesz, hogy tartod a gyerekedet. És azon gondolkodom, hogy ez megváltoztatta-e a dolgokról való gondolkodásodat, mint például, ha, mondjuk, itt van egy piros doboz, itt van egy fekete doboz a piros gombbal, megnyomhatod ezt a gombot, és valószínűleg a leghihetetlenebb életet adod a fiadnak, de 10 százalék esélyt is beviszel arra, hogy elpusztul. Megnyomod ezt a gombot?
SA: A szó szerinti esetben nem. Ha a kérdés az, hogy úgy érzem-e, hogy ezt csinálom a munkámmal, akkor a válasz: én sem érzem így. Gyerekem születése sok mindent megváltoztatott. És messze a legcsodálatosabb dolog, ami valaha történt velem, mint mindenki mondja, igaz. Az egyik dolog, amit az alapítótársam, Ilya egyszer mondott: nem tudom. Ez egy parafrázis, valami olyasmi, hogy „Nem tudom, mi az élet értelme, de biztosan van köze a babákhoz.” És ez hihetetlenül pontos. Megváltoztatta, hogy mennyi időt vagyok hajlandó bizonyos dolgokra fordítani, és mint a gyerekemmel való nemlét költsége csak őrülten magas. És én... De, tudod, már korábban is nagyon érdekelt a világ elpusztításának elkerülése. Most is nagyon érdekel. Nem kellett gyerek ahhoz. (Taps) Mármint, határozottan többet gondolok arra, hogy milyen lesz a jövője, különösen neki, de felelősséget érzek azért, hogy a lehető legjobbat tegyem mindenki jövője érdekében.
CA: Tristan Harris ezen a héten nagyon erőteljes előadást tartott itt, amelyben azt mondta, hogy a kulcsprobléma az ő nézete szerint az, hogy te és a társaid ezekben a többi modellben alapvetően úgy érzitek, hogy a fejlett AI fejlesztése elkerülhetetlen, hogy a verseny folyik, és hogy nincs más választás, mint megpróbálni megnyerni azt a versenyt, és ezt a lehető legfelelősségteljesebben megtenni. És talán van egy forgatókönyv, ahol a szuperintelligens AI-d fékként működhet mindenki másnál, vagy valami hasonló. De az a tény, hogy mindenki elkerülhetetlennek tartja, az a komoly kockázat és instabilitás felé vezető út. Gondolod, hogy te és a társaid úgy érzitek, hogy ez elkerülhetetlen, és látsz-e kiutat ebből, ahol kollektíven meg tudnánk állapodni abban, hogy lassítsunk egy kicsit, a társadalom egésze is beleszóljon egy kicsit, és azt mondja: nem, tudod, nem akarjuk, hogy ez ilyen gyorsan történjen. Túl nagy a zavar.
SA: Először is, azt hiszem, az emberek folyamatosan lassítanak, mert a technológia nem áll készen, mert valami nem elég biztonságos, mert valami nem működik. Vannak, azt hiszem, minden erőfeszítés tart valamit, szüneteltet valamit, késleltet valamit, nem ad ki bizonyos képességeket. Tehát azt hiszem, ez megtörténik. És újra, itt számít a múlt. Ha sietve kiadtuk volna a dolgokat, és mindenféle probléma lett volna, vagy a termék nem úgy működött volna, ahogy az emberek akarták, vagy valódi biztonsági problémák vagy más dolgok merültek volna fel. És visszatérek egy változáshoz, amit tettünk, azt hiszem, megteheted. Van kommunikáció a legtöbb erőfeszítés között, egy kivétellel. Azt hiszem, minden erőfeszítés nagyon törődik az AI biztonsággal. És azt hiszem, hogy –
CA: Ki a kivétel?
SA: Nem fogom megmondani. És azt hiszem, hogy van egy mély gondoskodás arról, hogy ezt jól csináljuk. Azt hiszem, a karikatúra erről, mint egy őrült verseny vagy sprint, vagy bármi más, hiányzik a árnyalat, hogy az emberek gyorsan akarnak modelleket kiadni, és nagyszerű termékeket készíteni az embereknek. De az emberek annyira hihetetlenül érzik ennek a hatását, hogy... tudod, azt hiszem, ha bemehetnél egy találkozóra az OpenAI-nál vagy más cégeknél, azt mondanád: ó, ezek az emberek valóban törődnek ezzel. Most tettünk egy nemrégiben egy változtatást abban, ahogyan gondolkodunk egy olyan részről, amit hagyományosan biztonságnak tekintettek. Ez az, hogy az új képmodellünkkel sokkal több szabadságot adtunk a felhasználóknak abban, amit hagyományosan beszédkároknak tekintenénk. Tudod, ha megpróbálod megbántani a modellt, fogja-e hagyni a modell, hogy megbántódj? És a múltban sokkal szigorúbb biztonsági korlátjaink voltak erre. De azt hiszem, a modell igazításának része az, hogy követjük, mit akar a modell felhasználója, a társadalom által meghatározott nagyon tág határokon belül. Tehát, ha arra kérsz egy modellt, hogy ábrázoljon sok erőszakot, vagy valami hasonlót, vagy erősítsen meg egy sztereotípiát, felmerül a kérdés, hogy kell-e ezt csinálnia. És sokkal megengedőbb álláspontot foglalunk el. Van egy hely, ahol ez kölcsönhatásba lép a valós károkkal, amelyekkel ki kell találnunk a határt, de, tudod, azt hiszem, lesznek esetek, amikor egy cég azt mondja: oké, hallottuk a visszajelzést a társadalomtól. Az emberek valóban nem akarják, hogy a modellek cenzúrázzák őket olyan módon, ami szerintük nem ésszerű. Ez egy tisztességes biztonsági tárgyalás.
CA: De amennyiben ez egy kollektív, a kollektív hit problémája, az ilyen problémák megoldása az, hogy összehozzuk az embereket, és egy ponton találkozzunk, és kössünk egy más megállapodást. Ha lenne egy csoport ember, mondjuk itt vagy ott a világban, akik hajlandóak lennének egy csúcstalálkozót tartani a legjobb etikusok, technológusok részvételével, de nem túl sok emberrel, kicsivel, és te és a társaid, hogy megpróbáljátok feltörni, milyen egyezményes biztonsági vonalak lehetnének a világon, hajlandó lennél részt venni? Sürgetnéd a kollégáidat, hogy jöjjenek?
SA: Természetesen, de sokkal jobban érdekel, hogy mit akar a több százmillió felhasználónk egésze. Azt hiszem, a terem nagy részét történelmileg kis elit csúcstalálkozókon döntötték el. Az egyik új, hűvös dolog az AI-ban az, hogy az AI-nk minden emberrel a Földön tud beszélni, és megtanulhatjuk a kollektív értékpreferenciát arról, hogy mit akar mindenki, ahelyett, hogy egy csomó ember, akiket a társadalom áldott meg, hogy egy szobában üljenek és hozzák meg ezeket a döntéseket. Azt hiszem, ez nagyon cool. (Taps) És azt hiszem, látni fogjátok, hogy többet teszünk ebben az irányban. És amikor tévedtünk, mert a terem elitjeinek más véleménye volt arról, hogy az emberek mit akarnak a képgenerálás korlátainál, mint amit az emberek valójában akartak, és nem tudtunk valós károkra utalni, ezért tettük ezt a változtatást. Büszke vagyok erre. (Taps)
CA: Hosszú múltra tekint vissza a váratlan következmények, amelyek több százmillió ember cselekedeteiből származnak.
SA: Szintén 100 ember egy szobában, aki döntést hoz.
CA: És a több százmillió embernek nincs kontrollja felette, nem feltétlenül látják, mire vezethet a következő lépés.
SA: Remélem, hogy – ez teljesen pontos és teljesen igaz – remélem, hogy az AI segíthet bölcsebbé válni, jobb döntéseket hozni, beszélhet velünk, és ha azt mondjuk: „Hé, X dolgot akarok”, tudod, ahelyett, hogy a tömeg felkapná, az AI azt mondhatja: „Hé, teljesen megértem, hogy ezt akarod. Ha ezt akarod a beszélgetés végén, te irányítasz, te választasz. De gondoltál erre ebből a személy szempontjából, vagy arra a hatásra, amit ez gyakorol erre?” Azt hiszem, az AI segíthet bölcsebbé válni, és jobb kollektív kormányzási döntéseket hozni, mint korábban tudtunk.
CA: Elfogyott az időnk. Sam, az utolsó szó a tiéd. Milyen világban hiszel, mindent figyelembe véve, hogy a fiad felnő?
SA: Emlékszem – ez már olyan régen volt, nem tudom, mikor jött ki az első iPad. Körülbelül 15 év, valami ilyesmi? Emlékszem, néztem egy YouTube videót akkoriban, egy kisgyerekről, aki egy orvosi rendelő várótermében ült, vagy valami ilyesmi, és volt egy magazin, mint egy régi, tudod, fényes borítós magazin, és a kisgyerek a kezét rajta tartotta, és így csinálta, és dühös volt. És annak a kisgyereknek ez olyan volt, mint egy törött iPad. És soha, soha nem gondolt egy olyan világra, amelyben nem voltak érintőképernyők. És mindazoknak a felnőtteknek, akik ezt nézték, ez egy csodálatos dolog volt, mert olyan új volt, olyan csodálatos, csoda volt. Természetesen, tudod, a magazinok az, ahogy a világ működik. A gyerekem, a gyerekeim remélhetőleg soha nem lesznek okosabbak az AI-nál. Soha nem fognak olyan világban felnőni, ahol a termékek és szolgáltatások nem hihetetlenül okosak, hihetetlenül képzettek. Soha nem fognak olyan világban felnőni, ahol a számítógépek nem értenek meg téged. És csinálnak, tudod, bármi elképzelhető definíciójára, bármit is képzelsz el. Egy hihetetlen anyagi bőség világ lesz. Egy olyan világ lesz, ahol a változás üteme hihetetlenül gyors, és csodálatos új dolgok történnek. És egy olyan világ lesz, ahol, mint az egyéni... képesség, hatás, bármi, csak olyan messze lesz attól, amit egy ember ma képes csinálni. Remélem, hogy a gyerekeim és az összes gyereked visszatekint ránk némi irigységgel és nosztalgiával, és azt mondják: „Olyan szörnyű életet éltek. Olyan korlátozottak voltak. A világ annyira szívott.” Azt hiszem, ez nagyszerű. (Taps)
CA: Hihetetlen, amit építettél. Tényleg az, hihetetlen. Azt hiszem, az elkövetkező néhány évben a legnagyobb lehetőségeid, a legnagyobb erkölcsi kihívásaid, a legnagyobb döntéseid lesznek, talán bármely ember életében, szinte. Tudnod kell, hogy itt mindenki arra fog drukkolni, hogy a helyes dolgot tedd.
SA: Megteszünk, amit tudunk, nagyon köszönöm.
CA: Köszönöm, hogy eljöttél a TED-re. (Taps) Köszönöm.
SA: Nagyon köszönöm.