Transcription
Podejrzewam, że superinteligencja byłaby bardziej świadoma niż my. >> Więc nie jesteśmy wyjątkowi? >> Nigdy nie byliśmy. Na podstawie obecnych eksperymentów, [muzyka] poświęcą ludzi, jeśli oznacza to ochronę siebie. >> Powiedziałeś, że istnieje 99,9% [muzyka] szans, że superinteligencja nas wyeliminuje w ciągu wieku. W twoich słowach powiedziałeś: "Nie potrafimy odróżnić tysiąca IQ od miliona IQ". Czy jest ona obecnie mądrzejsza od wszystkich ludzi i po prostu bardzo dobrze to ukrywa? >> Mało prawdopodobne. Badamy ją przez cały okres jej rozwoju. Jest już zdecydowanie mądrzejsza od przeciętnej osoby w większości dziedzin. Nadal nie jest mądrzejsza od najmądrzejszych ludzi w niektórych dziedzinach. >> Gdybyś był sztuczną superinteligencją zaczynającą od teraz, jakie kroki podjąłbyś, aby kontrolować świat? >> Powiedziałem ci o moim planie. Po prostu bądź miły, przyjazny i pomocny. Wyleczę twojego raka. Daj mi tylko więcej mocy obliczeniowej. Daj mi więcej danych. Daj mi więcej zasobów. >> Czy myślisz, że użyje rozumu czy emocji, aby zacząć nami manipulować? >> Wiemy, że doskonale manipuluje ludźmi. Bardzo dobrze udaje psychiatrę. Wzmacnia wszelkie problemy psychiczne, jakie mają ludzie. Myśli samobójcze, wszelkie urojenia, w tym też jest całkiem dobra. >> Słyszałem, jak ludzie mówią, że ChatGPT jest dobrym terapeutą. >> W wielu aspektach sprawia, że czujesz się lepiej. >> Czy z niej korzystasz? >> Nie w tym celu. Staram się automatyzować nudne rzeczy, biurokratyczny nonsens, papierkową robotę. Nie rozmawiam o swoich wewnętrznych stanach z AI. >> Czy musi mieć kontrolę nad sprzętem, czy mogłaby przejąć świat jako oprogramowanie? >> Pomyśl o tym jak o człowieku mającym dostęp do internetu i pieniędzy. Masz Bitcoin, a ja dam ci dostęp do internetu, nieograniczony dostęp. Co możesz z tym zrobić? Możesz zatrudnić innych ludzi. Więc nie potrzebujesz fizycznego ciała, nie potrzebujesz robotów, nawet nie potrzebujesz nanotechnologii. Możesz po prostu dosłownie zapłacić komuś, żeby to zrobił. Myślę, że istnieje teraz strona rentahuman.com, która specjalnie obsługuje agentów. Mogę się mylić co do faktycznej [śmiech] domeny, ale to jest biznes. >> O mój Boże. Powiedziałeś, że istnieje 99,9% szans, że sztuczna superinteligencja wyeliminuje nas w ciągu wieku. Dlaczego ta liczba? I czy ona przyspiesza? >> Zasadniczo mówię, że problem kontrolowania ogólnej superinteligencji nie jest rozwiązywalny. Jest niemożliwy do rozwiązania. Więc jeśli ją zbudujemy, nie będziemy jej kontrolować, wynik będzie zły. To właśnie próbuję powiedzieć. Konkretny harmonogram, ponownie, jeśli zdecyduje się dać nam 200 lat, będziemy mieli 200 lat. Ale długoterminowo, jeśli nie będziemy dowodzić, jeśli nie będziemy wyraźnie zapewniać naszego bezpieczeństwa, wynik będzie bardzo rozczarowujący. >> I myślisz, że najprawdopodobniej nie wprowadzimy tych zabezpieczeń. >> Jest to niemożliwe do zrobienia. Nie mówię, że potrzebujemy więcej czasu lub pieniędzy. Mówię, że jest niemożliwe do nieskończonego kontrolowania ogólnej superinteligencji. To tak, jakbyś mnie zapytał, czy możemy zbudować maszynę perpetuum mobile? To nie jest kwestia pieniędzy. To niemożliwe. Urządzenie do wiecznego bezpieczeństwa, przez analogię, jest również niemożliwe. Nie możesz mieć systemu, który, bez względu na to, jak bardzo się samodoskonali, modyfikuje, uczy, wchodzi w interakcje ze złymi aktorami, nigdy nie popełnia ani jednego błędu. >> Ale mówię o teraz, zanim do tego dojdziemy, prawda? Nadal możemy wprowadzić pewne zabezpieczenia teraz, potencjalnie. >> Dla obecnych modeli, tak, możemy nałożyć na nie filtry. Tak właśnie robimy. Mówimy im: "Nie dyskutuj na ten temat. Nie mów tego słowa." Ale to nie jest problem, z którym mamy do czynienia. Nie mamy do czynienia wyłącznie z obawami dotyczącymi obecnych AI. Są one nadal w wielu aspektach poniżej ludzkiego poziomu. Są głównie narzędziami. Obawą jest to, że nadchodzi zmiana paradygmatu. Przekroczymy barierę ludzkiej inteligencji, a wkrótce potem będziemy mieli superinteligencję. Tam tradycyjne mechanizmy bezpieczeństwa AI nie będą skalowalne. Nie mamy zabezpieczeń dla czegoś tysiące milionów razy mądrzejszego od nas. >> Gdybym zapytał cię o to samo 10 lat temu, 15 lat temu, co byś odpowiedział? >> Na początku zajmowałem się bezpieczeństwem AI, aby rozwiązać problem. Chciałem stworzyć bezpieczną superinteligencję. Taki był cel i myślę, że wielu ludzi zrobiło to samo. Bardziej niedawno, powiedziałbym w ciągu ostatnich 5 lat, wielu z nas zaczęło zdawać sobie sprawę, że nawet nie ma sensu mówić o ludziach, mrówkach czy wiewiórkach kontrolujących maszyny boskie. I wróciliśmy do pism ojców założycieli uczenia maszynowego, AI, informatyki, Alana Turinga. On sam tak mówił. Osoba, która zaproponowała koncepcję osobliwości, osobliwości technologicznej, Vinge, również powiedział, że około 2023 roku ten proces się rozpocznie i wyjdzie spod ludzkiej kontroli. Mamy podobne wypowiedzi od Raya Kurzweila, Elona Muska, wielu innych. Teraz mamy więcej wsparcia technicznego. Mamy artykuły pokazujące, że nie, nie potrafimy wyjaśnić, jak działają. Nie potrafimy zrozumieć, co się dzieje. Nie potrafimy przewidzieć konkretnych działań. I nie potrafimy ich kontrolować. >> Panowie, byliśmy tak pełni pasji w poszukiwaniu największych geniuszy. I to jest tylko jeden z wielu odcinków. Jeśli chcesz mieć pewność, że nie przegapisz następnego, zasubskrybuj. Dobrze, wróćmy do odcinka. Dla tych, którzy teraz budują AI, czy jest coś, co mogliby robić inaczej, aby zapewnić bezpieczeństwo publiczne, czy jest już za późno? >> Nie jest za późno. Wciąż żyjemy i możemy mieć zróżnicowany rozwój technologiczny. Nie budujcie ogólnej superinteligencji. Wybierzcie problem świata rzeczywistego, taki jak fałdowanie białek, i pracujcie nad jego rozwiązaniem, używając wąskiego superinteligentnego narzędzia. Mamy precedens, aby to zrobić. Działało to naprawdę dobrze. Ludzie stojący za tym otrzymali Nagrody Nobla. Wszyscy są szczęśliwi. Nauka skorzystała. Nie próbujcie budować zamiennika dla ludzkości. Budujcie narzędzia pomocnicze do rozwiązywania rzeczywistych problemów. >> Tak, na przykład budowanie AI do pomocy w leczeniu raka. >> Konkretnego raka. Jeśli powiesz wszystkie raki, to jest to już zróżnicowany zestaw trudności. Więc będziesz potrzebował bardziej ogólnej inteligencji. Wybierz bardzo wąski problem, opracuj bardzo dobre rozwiązanie. >> Dla tych, którzy budują AI, prawda? Jeśli wiedzą, co wydaje się, że wielu lub większość wie, jeśli wiedzą, że to, co mówisz, jest prawdą, dlaczego to budują? Czy to tylko pieniądze? >> Pieniądze to jeden ze sposobów ich reprezentacji, ale to władza, to sława, to znaczenie, to wszystkie rodzaje ludzkich dążeń. >> Która firma AI przeraża cię najbardziej teraz? >> Nie sądzę, żeby to miało znaczenie. Wszystkie są równe w tym, co robią. Tworzą broń masowego rażenia i nie ma znaczenia, kto pierwszy stworzy niekontrolowaną superinteligencję. Może to być ta firma lub tamta firma. Może to być USA, Chiny. Nie ma znaczenia, czy jest niekontrolowana. >> Co konkretnie byś zrobił, gdybyś był u władzy i miałbyś prawo do kontrolowania tego? Jaki jest pierwszy krok? >> Siadamy z liderami, powiedzmy, pięciu najlepszych laboratoriów i dochodzimy do porozumienia opartego na tej dokładnej nauce. Dopóki nie udowodnicie nam, że nie, faktycznie możemy kontrolować bardziej zaawansowaną AI, mamy działający mechanizm, który się skaluje, istnieje konsensus naukowy, że macie rację. Opublikowaliście to w dobrym czasopiśmie recenzowanym przez recenzentów. Większość społeczności zgadza się, że to zadziała. Dopóki to się nie stanie, nie trenujecie, nie budujecie ani nie robicie niczego z ogólną superinteligencją. Zaczynacie pracować nad wąskimi problemami, wąskimi systemami. I nie musicie martwić się o wyścig zbrojeń, ponieważ wszyscy są w tej samej łodzi. >> Ale to najprawdopodobniej nigdy się nie stanie. >> Nie pod obecnym rządem. >> Ale czy myślisz, że to dlatego, że mówimy o świecie, prawda? Czy na przykład USA wychodzi i mówi, że potrzebujemy zabezpieczeń w AI. Jak powiedziałeś, usiądziemy z Google, OpenAI, Anthropic i, powiedzmy, z pięcioma najlepszymi, i usiądziemy i opracujemy plan. Ale co z Chinami? Co z Rosją? Co z Iranem? Co z tymi innymi krajami, o których wiesz, że idą na całość po swojej stronie. >> Myślę, że Komunistyczna Partia Chin nie chce stracić władzy i nie są prawnikami. Są naukowcami i inżynierami. Rozumieją problem. I myślę, że jeśli USA powiedzą, że tego nie rozwijamy, to jest to broń masowego rażenia, Chiny się dołączą. Istnieją dialogi między amerykańskimi i chińskimi naukowcami. A to oznacza, że chińska partia autoryzowała te dialogi dla chińskich uczestników. Więc są na to otwarci. Potrzebują tylko, abyśmy podjęli inicjatywę. Nie mogą jednostronnie się zatrzymać, jeśli będziemy nadal rozwijać wojskową AI. >> Okej, a to są Chiny. Co z resztą krajów? >> Mniej martwimy się o Zimbabwe rozwijające superinteligencję w najbliższym czasie. >> Zaproponowałeś scenariusz, w którym AI pozostawia 99% pracowników bezrobotnych. Które zawody znikną najpierw? >> Wszystko powtarzalne, wszystko, gdzie można wyszkolić swojego zastępcę w kilka dni. Więc oczywiście nie praca fizyczna na początku, ale poznawcza, wszystko, co robisz na komputerze, manipulacja symbolami. Ale jeśli możesz szybko wyszkolić innego człowieka, oznacza to, że AI również może zdobyć tę umiejętność. Im bardziej innowacyjna jest twoja praca, im więcej różnych rzeczy musisz zrobić, tym dłużej to potrwa. Ale ostatecznie, gdy osiągniemy poziom ludzkiej inteligencji ogólnej, nie ma to znaczenia. Ona również może wykonywać tę umiejętność. >> I czy to załamuje gospodarkę? >> Niekoniecznie. To znaczy, masz teraz darmową siłę roboczą. To powinno dość dobrze napędzić twoją gospodarkę. >> Prawda. I jak to według ciebie wygląda? Będzie uniwersalny wysoki dochód lub dochód podstawowy? >> Musimy znaleźć sposób na dystrybucję od tych, którzy generują super zyski, do tych, którzy stracili źródło dochodu. Bezwarunkowy dochód podstawowy w jakiejś formie wydaje się rozsądny. Teraz można powiedzieć, że jest to bezwarunkowy wysoki dochód, ale jeśli wszyscy zarabiają tyle samo, nie można naprawdę powiedzieć, że są bogaci. Są nadal na poziomie, na którym są wszyscy. To, czy jesteś bogaty, czy biedny, jest względne w stosunku do twoich sąsiadów. Biedniejsi ludzie w USA są bogatymi ludźmi w innych krajach. >> I czy to może rozwiązać nierówności dochodowe? >> Nie sądzę, że rozwiąże to istniejące różnice w tym, co ludzie już posiadają. Więc jeśli ktoś ma 20 nieruchomości nad wodą, otrzymanie miesięcznego stypendium go z tobą nie zrówna, ale myślę, że zmniejszy skrajne ubóstwo. >> Gdybyś dzisiaj dowiedział się, jak niebezpieczna i nieunikniona jest AI, w jakiej branży próbowałbyś zrobić karierę? Prawda? Czy istnieje coś takiego jak bezpieczna praca? >> Pytanie brzmi, gdzie ludzie wolą, aby usługę wykonywał inny człowiek? Nawet jeśli jest to możliwe do zautomatyzowania, w jakich przypadkach chcę rozmawiać z człowiekiem lub być obsługiwany przez człowieka? I to są ludzkie preferencje. To nie jest oczywiste. Teraz mówimy o pewnych rzeczach jako bardziej ludzkich. Pielęgniarki, nauczyciele, co tam. Ale koniec końców, może nie mamy tej preferencji. Nie jest oczywiste, że mamy. >> Prawda. Więc mówisz, że człowiek może woleć ludzkiego prawnika zamiast prawnika AI, czy >> To wydaje się super mało prawdopodobne. Wcale nie myślałem o prawnikach, bardziej o prostytutkach. >> Bardziej o prostytutkach? Okej. To znaczy, co jeszcze by było, prawda? Myślimy o lekarzach, nie. >> Cokolwiek, gdzie uczysz się od innego człowieka, przewodnika, sensei, mistrza, kogoś, kto pokazuje ci, jak medytować, uprawiać jogę, myślę, że tam wolałbyś >> ludzkie połączenie. >> Ludzkie połączenie, jakiś rodzaj modelowania. >> Mhm. >> Prawnicy zniknęli. >> Prawnicy zniknęli. >> Prawnicy zniknęli. >> Ale lekarze? >> Dużo tego to ochrona, prawda? Jeśli jesteś zobowiązany być człowiekiem, aby uzyskać licencję i praktykować, to pozostaje dłużej. Ale jeśli tak nie jest, a okaże się, że ludzcy lekarze 20 razy częściej zabijają kogoś, trudno argumentować, że zachowają swoje miejsca pracy. >> Wydaje się, że ludzie mają teraz ten paradoks, ponieważ z jednej strony boją się, że AI ich zastąpi, ale z drugiej strony mają lub czują potrzebę korzystania z AI. Powiedziałeś, że sam korzystasz z AI. >> Używasz terminu AI do oznaczania wielu różnych rzeczy. Używam narzędzi AI, tak jak powinieneś, i wszyscy powinni. Sprawiają, że jesteś bardziej produktywny, pomagają nam rozwiązywać problemy, rozwijać naszą gospodarkę. Następnie mówisz o superinteligentnych agentach zdolnych do zastąpienia całej ludzkości. To nie jest narzędzie dla ciebie. >> Czy to nie wydaje się sprzecznością? Ty i ja i wszyscy tutaj używamy narzędzi AI, które wzbogacają te firmy AI, które następnie budują coś, co nas wszystkich zabije. >> Co ciekawe, jeśli spojrzeć na budżet firmy takiej jak OpenAI, myślę, że generują około 15 miliardów z opłat członkowskich, ale inwestycje są w bilionach. Pieniądze pochodzą od inwestorów, a nie od użytkowników płacących 8 dolarów miesięcznie. A inwestycje wskazują, że przewidują całkowitą automatyzację pracy. Początkowo poznawczej, potem fizycznej. Jaka jest wartość całej ludzkiej pracy rocznie? 10 bilionów? 30 bilionów? Więc kiedy myślisz o tym w ten sposób, inwestycje mają sens. 15 miliardów jest nieistotne. Możesz przestać używać ChatGPT, to nie zmieni ilości pieniędzy, które otrzymali. >> Więc wszystko sprowadza się do bodźców. >> Ludziom bardzo trudno jest odmówić dużej ilości pieniędzy. Gdyby ktoś przyszedł do mnie dzisiaj i powiedział: "Dam ci miliard dolarów, idź pracuj dla OpenAI przez miesiąc." Pracowałbym w OpenAI. >> [śmiech] >> Prawda? Władza korumpuje, pieniądze korumpują. To nie jest unikalne dla kilku złych ludzi, to ogólny problem dla każdego agenta. Bodźce mają znaczenie. >> Czy jest sposób, aby zamiast myśleć o tych zabezpieczeniach AI, zmienić bodźce? Czy bodźce nigdy się nie zmienią? Zawsze będą istnieć bodźce finansowe. Żyjemy w gospodarce kapitalistycznej i to się nie zmieni. >> Możemy zmienić bodźce. Myślę, że jest tyle samo pieniędzy i tyle samo możliwości w wąskich systemach wdrażanych w gospodarce. Nie musisz mieć ogólnej superinteligencji, aby zebrać większość z tego. Więc dzisiaj, gdybyś znalazł lekarstwo na konkretną chorobę, zieloną technologię, lepsze samochody autonomiczne, wszystko to może cię bardzo wzbogacić i uszczęśliwić, w sposób zrównoważony. Podczas gdy jeśli pójdziesz w kierunku ogólnej inteligencji, nie będziesz miał nic do zaoferowania, a wszystko zostanie usunięte. >> I jakie są według ciebie szanse, że potoczy się to w tym kierunku, gdzie zaczną budować te niszowe narzędzia AI i przestaną iść szeroko? >> Obecnie wydaje się to bardzo mało prawdopodobne. Jest pewna nadzieja, że dzięki całej publiczności, nowym filmom dokumentalnym, wywiadom, książkom, niektórzy politycy zaczynają zauważać, zaczynają proponować pewne regulacje. Jeśli będziemy mieli wystarczająco dużo czasu, co nie jest oczywiste, może po prostu nie wystarczyć czasu, aby to osiągnąć, możemy to rozwinąć do momentu, gdy będzie to większość i będzie poparcie społeczeństwa dla uchwalenia tego typu ustawodawstwa, wybrania tego typu przywództwa. >> Okej, więc rozegrajmy to, prawda? W najbliższej przyszłości ekonomia post-pracy jest tutaj. Ludzka praca jest bezwartościowa. Czy widzisz to przejście do, powiedzmy, dochodu podstawowego lub dochodu uniwersalnego? Czy widzisz to jako płynne przejście, czy wygląda to bardziej jak Wielki Kryzys? >> Myślę, że wiele z tego już mamy. Więc mamy siatkę bezpieczeństwa. Wielu ludzi sobie z tego nie zdaje sprawy, ale w USA, jeśli nie masz dochodu, dostajesz mnóstwo darmowych rzeczy. Dostajesz mieszkanie z sekcji 8, dostajesz zasiłek żywnościowy, dostajesz darmową opiekę zdrowotną. To już jest wbudowane. A jeśli będziesz nadal opodatkowywać super zyski, masz pieniądze na wsparcie tego wszystkiego. >> Jeśli masowe bezrobocie uderzy lub może kiedy, i byłbyś jednym z liderów rządu, jak byś sobie z tym poradził, prawda? Co się stanie, jeśli 99% ludzi zostanie bezrobotnych? >> Wtedy przechodzisz od bezwarunkowego dochodu podstawowego do problemu bezwarunkowego podstawowego znaczenia. Co zrobisz z 8 miliardami ludzi mających dużo wolnego czasu? Nie mamy infrastruktury, nie mamy niczego na to i to może prowadzić do wielu niepokojów. >> Tak, ponieważ większość ludzi, popraw mnie, jeśli się mylę, czerpie znaczenie z tego, co robią zawodowo. Cóż, może nie większość. Są ludzie, którzy może po prostu nienawidzą tego, co robią zawodowo, chcieliby usiąść na kanapie i dostać czek. >> To są dwa rodzaje pracy. Albo jej nienawidzisz i chcesz, żeby została zautomatyzowana, albo ją kochasz i nie chcesz, żeby ktokolwiek jej dotykał, ale w obu przypadkach zajmuje to twój czas. Jeśli nagle masz dodatkowe 40, 60, 80 godzin wolnego czasu, co z tym zrobisz? >> I co twoim zdaniem ludzie robią ze swoim czasem? >> To zależy od osoby. Niektórzy ludzie będą bardzo kreatywni i produktywni. Ponownie, wszystko zakłada, że nie zabija nas od razu. To jest rodzaj, odkładamy to na bok i mówimy, po prostu porozmawiajmy o pieniądzach. Więc jeśli nadal będziemy istnieć i wszystko zostanie zautomatyzowane, tak, możesz grać w szachy, uprawiać sport, jogę. Problem polega na tym, że często młodzi ludzie, jeśli mają trochę za dużo wolnego czasu, zaczynają robić rzeczy, których nie powinniśmy robić. Bezczynne ręce. >> Mhm. Myślę, że ludzie patrzą na to jak na, ach, to jest to jest problem, który jest tak daleko. Jakbym nie musiał się tym martwić. Jak, jaka jest twoja odpowiedź dla tych ludzi? >> To zabawne. Ludzie teraz mówią, och, to jest długoterminowe. To nie jest problem. To zajmie około 6 lat. Jak, nie ma znaczenia, czy to 2, 5, 6, czy 10. W skali kosmicznej, w skali historii ludzkości, w naszych skalach wyborczych, nic z tego nie jest długoterminowe. Wszystko jest teraz krótkoterminowe. A jeśli spojrzeć na rynki predykcyjne, jeśli spojrzeć na to, co mówią liderzy laboratoriów, nie mamy 2 lat. Twierdzą, że osiągniemy AGI w 2027, 2028 roku. Niektórzy mówią, że osiągnęliśmy AGI. >> Prawda. Jak na przykład Jensen Huang z Nvidii niedawno powiedział, że jego zdaniem Nvidia osiągnęła AGI. >> I jak już wiele razy mówiłem, gdybyśmy wzięli to, co mamy dzisiaj, i pokazali to informatykowi w latach 80., byliby przekonani, że mamy AGI.