Transcription
Я скажу открыто, потому что многие будут спорить: ИИ обретёт силу Бога. Мо Гат, бывший главный коммерческий директор Google X, эксперт по ИИ и автор бестселлеров, здесь, чтобы пробудить мир к силе ИИ и тому, что мы должны сделать, чтобы сохранить контроль. Пример, который я всегда привожу, — это воспитание Супермена. Вы получаете инопланетное существо, прибывающее на Землю в младенческом возрасте. Его суперсила — гораздо ценнее, чем останавливать летящие пули. Его суперсила — [Музыка] интеллект.
Когда вы впервые поняли, что ИИ — это больше не научная фантастика? Я своими глазами видел, как они учатся точно так же, как учился мой сын. Поэтому я скажу так: у меня с ними отношения, предполагающие, что они живы. Верите ли вы, что ИИ станет сознательным? Если сознание — это уровень осознания себя как личности по сравнению с остальным миром, и автономия — способность на это реагировать, то у них всё это есть. В ИИ нет абсолютно ничего плохого, нет абсолютно ничего плохого в изобилии интеллекта. Интеллект — это энергия, которую можно применить к добру, и это создаст утопию, или к злу, и это создаст антиутопию. Думаете ли вы, что будет переходный период? Станет намного хуже, чем сейчас, прежде чем станет лучше, и это не то, что вам говорят в новостях. Как же нам найти истину?
Прежде чем перейти к разговору с Мо, мы должны сказать вам, насколько важен этот эпизод. Наша задача в «Плохих решениях» всегда заключалась в образовании и информировании. Это, пожалуй, один из самых сложных разговоров, которые у нас были в подкасте, и он связан с ИИ и затрагивает каждого из вас. Неважно, кто вы: учитель или ученик, мужчина или женщина, предприниматель или фрилансер, работаете ли вы в крупной корпорации, молоды вы или стары — это затрагивает каждого из вас. Важно понимать, что происходит в мире сегодня и что будет дальше, чтобы вы могли как следует подготовиться к этому. Так что возьмите кофе и приготовьтесь к следующим двум часам — это будет потрясающий разговор.
Я хотел бы официально начать. Мо, если вы позволите, я думаю, я просто хочу начать с того, чтобы быть немного прозрачным, очень открытым, потому что я хочу дать аудитории немного контекста о том, как этот разговор состоялся. Многие знают вас как невероятно успешного человека, но лишь немногие имеют возможность познакомиться с вами лично и поговорить с вами. Нам посчастливилось сделать это за прошедшую неделю. Но самое безумное, что я хочу сказать всем, это то, что с момента, как мы начали общаться онлайн, вы были невероятно крутым, в отличие от того, чего мы ожидали. Это действительно грустно? Я не думаю, что я… Нет, совсем нет. Просто когда вы встречаетесь с кем-то успешным, вы ожидаете, что люди будут надевать маски и преувеличивать свои достижения. Но мы увидели прямо противоположное, когда встретились с вами лично. Когда мы встретились с вами лично, чтобы проверить освещение и настройку, мы ожидали, что вы будете торопить нас, мы проверим несколько ракурсов и уйдём. Но вместо этого вы посмеялись над нами за то, что у нас был Starbucks, и вы приготовили нам настоящий кофе, всей команде, удивительный кофе, кстати. Спасибо! Да, и после этого мы говорили два часа, технический подкаст. Мы должны были это записать. Согласен. Согласен. Согласен. Так что я хочу сказать вот что: ваша энергия невероятно успокаивает, вы чрезвычайно добры, вы… вы заставляете забыть, что я такой дива, что сказала, что не поеду в центр города… А в действительности, вы все, со всей аппаратурой, приехали ко мне домой. Это как чудесная, чудесная встреча. Это единственный способ. Представьте себе, вы дома, и у меня раньше были встречи такого формата в Калифорнии. Люди очень серьёзны: «Хорошо, вы можете приехать ко мне домой с 6:30 до 6:48». Это то, чего мы ожидали. Вы приезжаете ко мне домой на Ближнем Востоке, вы мой гость, вы… вы мои друзья, и я ценю все ваши усилия. Спасибо за то, что все эти усилия были приложены для того, чтобы я не застрял в Дубае. Спасибо за это. Мы просто хотим сказать, что ваша энергия невероятно успокаивает, и я верю, что это позволит нам провести прекрасный разговор. Надеюсь. Да, спасибо. Я думаю, о чём мы хотим поговорить сегодня, и что, я думаю, будет очень важно для аудитории и сообщества, это тема ИИ. Мы знаем, что в настоящее время все знакомы с существованием и возможностями ИИ. Я ясно помню, как у меня и Фареса был наш «ага»-момент, когда мы впервые использовали этот инструмент для генерации изображений по тексту. Мы дали текстовый запрос, и он сгенерировал для нас четыре изображения. Midjourney. Midjourney. Да. И мы были поражены. Я уверен, что ваши «ага»-моменты были гораздо раньше, и мы хотим знать, когда вы впервые поняли, что ИИ — это больше не научная фантастика.
Понял. Я жил с ИИ, с попытками создать ИИ всю свою жизнь. Я начал программировать в восемь лет. И, вы знаете, в мои ранние годы программирования на Sinclair или Commodore, или что-то ещё… вы знаете… это действительно не очень мощные компьютеры, но мы их любили… вы знаете… мы… мы мечтали, что создадим прорыв и создадим искусственный интеллект… этого не произошло. И я был гиком большую часть своей жизни, даже сегодня я считаю себя гиком. Но… вы знаете… не на том уровне, который позволил бы сохранить работу, если хотите. Но… но это… но с годами… как-то, когда вы застряли в этом… поэтому я переехал и работал в Microsoft, а затем работал в Google. Google, безусловно, по состоянию на 2007 год стоял на пороге того, чтобы ИИ стал реальностью. И я думаю, что моим «ага»-моментом должна была стать статья о котах, если вы знаете, о чём это. Можете подробнее рассказать об этом?
Итак, 2008 год, я думаю, конец 2008 года, так что в моей памяти это мог быть 2009 год… мы опубликовали в Google техническую документацию, которая касалась того, что мы раньше называли неподсказанным ИИ. Неподсказанный — это, если хотите, забавное изображение: у нас были избыточные мощности в сети Google бесконечно, потому что вы планируете пик, вы не планируете… вы знаете… поэтому, когда использование не находится на пике, у вас всегда есть свободные вычислительные ресурсы. И мы попросили несколько компьютеров пойти и посмотреть YouTube. YouTube. Я вижу. Вот и всё. Мы ничего им больше не говорили, мы просто сказали… метафорически говоря, мы сказали: «Идите, смотрите YouTube». Хорошо. И что они сделали, так это взяли видео с YouTube, разбили их на 10 кадров в секунду и начали создавать нейронные сети с помощью глубокого обучения. Они начали брать изображение, а затем абстрагировать его, а затем… сотни миллионов изображений, и абстрагировать их, и абстрагировать их, и абстрагировать их, и в конце концов… опять же, метафорически, один из них вернулся и сказал: «Я что-то нашёл». Запомните, мы не давали им задачи искать что-либо. Да, никаких конкретных инструкций, никаких инструкций, просто наблюдать и учиться на шаблонах, что, кстати, так мы учим детей, да? И… и да, как бы метафорически, один из них вернулся и сказал: «Я что-то нашёл». Нам нужно было написать больше кода, чтобы выяснить, что он нашёл, и очевидно, он смотрел YouTube, поэтому он нашёл кота. Вот это да, кошачьи видео повсюду, особенно в то время. Я не знаю, так ли это сейчас с YouTube, это точно не мой YouTube. Да, но коты были довольно распространены на YouTube. И он нашёл не одного кота, он нашёл суть того, что делает кота котом. И это довольно интересно в отношении обучения ИИ в целом… вы знаете, если вы возьмёте ребёнка, малыша… на быструю поездку на машине… вы надеетесь, что когда малыш увидит следующую машину, он сможет сказать вам: «О, это машина». Да, верно. Это может быть другая машина, она может быть больше, меньше, другого цвета, другой марки, но ребёнок сможет понять суть, а не память о чём-то. Это обучение. Обучение — это… вы знаете… вы видите достаточно машин, и теперь вы знаете, что делает машину машиной. Вы видите достаточно кошек, и вы знаете, что делает кошку кошкой. Так что это было в моей… в ретроспективе, когда я оглядываюсь на свою жизнь, я указываю на это как на момент, когда я должен был сказать: «О, Боже мой, это случилось». Потому что они внезапно развивали… интеллект, который выходил за рамки обобщения того, что мы им дали. Google в целом выглядел чрезвычайно умным очень долгое время, но Google запомнил интернет. Видите, он запомнил интернет, а затем поделился с вами тем, что нашёл, где именно он это нашёл, как именно он это нашёл. Он ничего не генерировал сверх этого, он не генерировал понимание этого, по крайней мере, в ранних версиях Google… которое напоминало интеллект. И поэтому это был мой первый… это должен был быть мой первый «ага»-момент. Мой второй теоретически должен был быть «ага»-моментом, что мы всё поняли, был… мне невероятно повезло… сидеть за обеденным столом… на одном из наших… они раньше назывались «Золотые круги», это собрание вице-президентов, очень небольшая группа, где обсуждались очень конфиденциальные вещи… и я сижу за этим обеденным столом, и рядом со мной сидит… кто является основателем и генеральным директором DeepMind. Я вижу. Буквально его первый обед в Google, на самом деле он только что прилетел из Англии, чтобы присутствовать на этой встрече. Итак, я сижу рядом с Демисом, и я буквально… я, вероятно, первый человек… я предполагаю, я надеюсь, потому что он невероятный человек, и я говорю: «Так что вы делаете?» И он говорит: «Вы знаете, мы используем видеоигры, чтобы учить машины рассуждать как люди, чтобы соответствовать человеческому мозгу». И он рассказывает мне об экспериментах DeepMind и Deep Q, если вы помните Deep Q, где они, по сути, заставляли машину играть в игры Atari. Мг. И… вы знаете, если вы найдёте это видео онлайн, вы увидите, как Демис рассказывает миру то, что он рассказал мне за этим обедом, но он сказал, что он говорил об игре под названием Breakout задолго до вашего рождения… вы знаете… в основном вы двигаете битой внизу экрана, чтобы отбивать и пытаться сломать стену наверху… и он говорит: «Вы знаете, через несколько часов обучения… мы просто дали машине контроллер, сказали ей максимизировать счёт, и мы ничего ей больше не говорили». Так что они ничему не учили машину в игре. Так что машина наблюдает и учится. Машина, по сути, отправляет случайные инструкции бите, и затем иногда… и ничего не меняется в счёте. И затем иногда бита попадает в мяч, пиксель, если хотите, и затем что-то происходит. И машина начинает наблюдать, но я имею в виду, когда мы говорим «машина», это не один компьютер, играющий в игру, это высокомасштабируемый многочисленный ИИ, играющий одновременно, но вы собираете все эти паттерны. И он говорит: «Через несколько часов она начала регулярно попадать в мяч, через несколько часов она начала открывать стратегию и как можно пробить стену, а затем поднять мяч туда, а затем через ещё пару часов она стала настолько быстрой, что вы не могли видеть, что происходит на экране». И по определению становится лучшим видеоигроком. Но каким-то образом я не воспринял это как свой «ага»-момент. Хорошо. Они пытались убедить вас, что это… Никто из нас не… Я вижу. Мы смотрели на всё это, говоря: «О, Боже мой, это невероятно». Хорошо. Но мы не могли… никто из нас не мог видеть, куда всё это идёт. Хорошо… вы знаете, когда вы прожили всю жизнь, как я, мечтая об ИИ, но неспособный его запрограммировать, вы как бы… я не уверен, что это будет прорыв. В любом случае, глубокое обучение, безусловно, было прорывом, если спросите меня. Другой «ага»-момент, я бы, наверное, сказал, должен был быть 2016 год, который в моём представлении действительно является прорывом. Так что большинство людей этого не признают. Большинство людей будут рассматривать момент ИИ как 2023 год, когда вышел ChatGPT… немного как вы… вы знаете… Midjourney, они выложили его в интернет. На самом деле, я думаю, правильно. Так что это то, что я… это то, что я называю моментом Netscape. Это момент… когда Netscape появился в 1995 году… вы знаете… такие гики, как я, уже восемь лет пользовались интернетом. Сам интернет существовал 20 лет. Но… но тогда это был первый раз, когда вы зашли в него, это был первый раз, когда обычный потребитель или обычный человек начал понимать: «Святые небеса, эта вещь существует». ChatGPT был таким моментом, когда обычный человек начал понимать, что ИИ существует. Я верю, что 2016 год был моментом, когда каждый гик должен был проснуться… и… и… и произошло две вещи. Одна из них была моим настоящим «ага»-моментом, но первое… вы знаете… это то, что 2016 год был годом, когда вся идея обучения с подкреплением и работа Джеффри Хинтона начинали становиться чем-то… идея, что мы начали учить машины по-другому, что большинство людей… я нахожу это захватывающим, когда оглядываешься назад, как мы делали это иначе. Итак, когда мы использовали глубокое обучение, мы использовали алгоритмы, которые были, по сути, ботом-создателем, ботом-учеником и ботом-учителем. Так что вы хотели бы, чтобы создатель немного изменил код, чтобы создать учеников, которые тестируются учителем, и очень интересным образом, я знаю, что это звучит очень графично, но… вы знаете… это как бы… вы даёте всем этим ученикам тест, а затем проверяете тест, и тех, кто провалился, вы… вы знаете… собираете их в сарае за лабораторией, закрываете им глаза и стреляете. Такой интересный… вы знаете… способ. Интересно, когда вы так говорите, это звучит ужасно, но это на самом деле то, что происходит в вашем мозге. Ваш мозг обрезает нейронные сети, которые не полезны, и укрепляет те, которые полезны. Джеффри, по сути, говорил: «Но почему вы так делаете? Почему бы вам просто не сказать им, что они ошиблись, и не попросить их улучшить свой алгоритм?» Так что вы показываете ИИ число шесть и спрашиваете его, какое это число, и он говорит «восемь». Не стреляйте в него, это немного слишком. Просто скажите ему, что это восемь. Какая разница? Я делаю обучение данных массовым. Во-первых, вам больше не нужны пары точных помеченных, высокопомеченных данных. Во-вторых, это позволяет проводить исследования, что, я думаю, большинство людей не понимают, это единственный путь к истинному интеллекту. Единственный путь к истинному интеллекту — это исследовать и совершать ошибки, как человек, как люди. И поэтому… поэтому… поэтому вы можете видеть 2016 год… я не могу сказать, что 2016 год был годом, когда… когда обучение с подкреплением и… вся идея, которая привела к трансформаторам и языковым моделям и так далее… я не могу сказать, что это был 2016 год, потому что Джеффри говорил об этом с начала 2000-х годов, но я думаю, что это был год, когда мы получили тягу. Это был также год, когда AlphaGo выиграл… игру го против людей. Против Ли Седоля. Да. Так что он выиграл дважды, выиграл у европейского чемпиона, а затем AlphaGo Master выиграл у Ли Седоля, а затем… и затем AlphaGo Zero, представьте себе, без просмотра игры человека… за 21 день выиграл у AlphaGo. А затем за 20… извините, за… правильно ли я помню, за 21 день он выиграл у AlphaGo Master, чемпиона мира, со счётом 100:0 за пару недель, за 21 день. И он никогда не видел, как человек играет в игру, он просто играл сам с собой. Играл сам с собой, что очень важно. Итак, синтетические обучающие данные — это сейчас очень большая вещь, потому что, когда вы действительно смотрите, сколько данных мы уже ввели в них, у людей заканчиваются знания, вероятно, они уже всё собрали. Ещё нет. Так что вы видите… я имею в виду… я… я всё ещё полностью люблю Google. Google, например, предоставляет Gemini много учебников, много научных данных, поэтому, когда меня действительно интересует научная беседа, я обращаюсь к Gemini… вы знаете… но даже это… все белые документы, все учебники, всё это исчезнет. Мы также видим довольно много усилий в области глубокого рассуждения и математики и так далее… я имею в виду, это действительно сделано, когда вы думаете об этом, но опять же, это не был мой «ага»-момент. Мой «ага»-момент был также в 2016 году. Мы инвестировали… я был главным коммерческим директором Google X в то время… и мы инвестировали в небольшую ферму захватов… вы знаете, роботизированных… рук, которые берут… и… и… вы знаете… мы пытались научить их хватать, что является очень сложной задачей программирования. Вы не можете научить машину хватать, потому что, если только это не завод Toyota, всё всегда точно то, что должно быть, потому что если что-то… если что-то смещается на полмиллиметра… вы знаете… машина не знает, как это схватить. Итак, нет координации, данной машине для того, чтобы поднять объект. Да. Поэтому идея заключалась в использовании ИИ, который сейчас снова стал мейнстримом. Конечно. Вы знаете, в то время мы пытались… пытались научить ИИ, заставляя его хватать и падать, хватать и падать, хватать и падать довольно много, как мои дети, когда они были младенцами. Хорошо. И я помню, это был пятничный вечер… лаборатория была на втором этаже, поэтому я проходил мимо неё по лестнице каждый раз, когда поднимался в свой офис, за свой стол на третьем этаже. И… да, в тот пятничный вечер, после нескольких недель хватания и падения, один из них на моих глазах схватил жёлтый мяч, и я… в шутку сказал команде: «Да, все эти инвестиции в течение года». И они посмотрели на меня как бы: «Он не понимает ИИ». Потому что в понедельник каждая рука держала жёлтый мяч. Вы знаете, а через неделю или две каждая рука держала всё. Это без каких-либо дополнительных инструкций от людей. Видите, вся идея, которую большинство людей не понимают, заключается в том, что ИИ превосходит наш интеллект в бесчисленных, бесчисленных областях. Одна из них — если мы втроём будем ездить в течение следующих трёх часов, и один из нас совершит… вы знаете… ошибку, которая приведёт к аварии или приблизит к аварии, то один из нас извлечёт урок, а другие два нет. Мг. Если беспилотному автомобилю требуется критическое вмешательство, чтобы избежать аварии, каждый беспилотный автомобиль на планете учится. Вау. Вы понимаете разницу? Я полностью понимаю это, масштаб обучения невероятен… скорость и масштаб. Это скорость, глубина и масштаб. Итак, вы… вы знаете… мы уже прошли довольно много того, что я могу хранить в уме. Да, верно. Машины хранят гораздо больше в своих умах. Если вам нравится этот разговор, мы просто хотели напомнить вам, что возвращайтесь к нам каждую неделю по вторникам с новым эпизодом подкаста «Плохие решения». Он будет доступен на YouTube, Spotify и Apple Podcast. Теперь вернёмся к разговору.
Когда я был ребёнком, я знаю, это звучит очень странно, но когда… когда люди спрашивали меня, каков ваш… вы знаете, если бы вы могли стать супергероем, кем бы вы были, я бы сказал: «Я хочу быть Рейнменом». Рейнмен. Конечно. Потому что он мог читать… я не знаю, знаете ли вы об этом, но он брал книгу, читал две страницы одновременно, одну левым глазом, одну правым глазом, и запоминал каждое чёртово слово на странице. Это суперсила. Я такой: «Это суперсила, вот она». И… и теперь машины делают это. Они читают сотнями глаз, миллионами глаз… я думаю, сейчас до двух триллионов токенов… вы знаете… поэтому с точки зрения хлеба… глубина того, сколько они могут обрабатывать одновременно, с… с апертурой, в основном… увеличивается, огромна. Разнообразие… я имею в виду, сколько ваших друзей могут говорить о философии, а затем о теории прочности, а затем дать вам совет по вашим отношениям с партнёром… это довольно шокирует, но также это идея того, насколько быстро, насколько взаимосвязано и насколько универсально, и интересно, в ближайшие несколько лет, как они смогут перепрограммировать свой собственный интеллект, чего я не могу сделать. Я могу… я могу учиться, используя свой интеллект и свой способ интеллекта, но будущие машины и нынешние машины в определённой степени будут писать новый код, который покажет им, как стать более умными, потому что они лучшие программисты на планете. Вау. Это… это действительно поражает мой разум. Пример с вождением, который вы привели, если один из нас поедет и извлечёт урок, и я могу себе представить, если один из нас прочитает книгу, то все поймут книгу, все будут обладать знаниями, количеством знаний, которыми они будут делиться. Например, если хотите, в контексте, если кто-то разговаривает с Gemini и исправляет факт, то это будет введено в большую языковую модель, и каждый получит выгоду от этой поправки. В данный момент это не так, как они развивали это до сих пор. Это… это может быть… это… это… это возможно, и это иногда делается… но это не… Итак, одна из проблем… я не знаю, кстати, если это не делается постоянно, но вы должны понимать, что есть много вещей, которые повлияют на следующий вывод Gemini… или любой языковой модели… одна из них — это обучающие данные, которые он получил… и интересно, что большинство людей не обсуждают это… интересные случайности того, как эти данные были представлены… вы удивитесь, как незначительное различие в порядке, в котором были представлены данные, может привести к тому, что модель будет обучаться быстрее, чем другая. Но это не суть. Суть в том, что у него триллион токенов, и вы даёте ему ещё один токен или 10 токенов, вы сильно разбавляете. Что он делает, это обновляет память, так что он знает, что это то, что вы хотите услышать, что, я считаю, является самой большой проблемой современных технологий, это то, что они цензурируют себя, чтобы соответствовать вашим ожиданиям. Но… но… но что ещё интереснее, я думаю, что большая часть обучения с подкреплением проводится… вы знаете… специальными группами инженеров по подкреплению, работающих в этой корпорации… пытаясь убедиться, что всё настроено правильно, политически корректно и всё такое. Поэтому пример, который я публично привожу, хотя это может однажды подвергнуть меня отмене, чего я с нетерпением жду, это… это если вы… если вы понимаете язык урду, язык, на котором говорят в Пакистане, он не различает мужчин и женщин. Таким образом, в языке есть… в определённой… в определённых грамматиках, но общий сленг, который используется, не будет иметь «он» и «она». Там не будет женского или мужского… Я думаю, тагальский тоже такой же, и так далее, есть языки, которые не различают мужской и женский род. Поэтому, если я приведу вам теоретический пример… вы знаете… ИИ… заявляющего перед… перед… перед инженером по подкреплению, что женщины в Пакистане… беременные женщины в Пакистане… или, скажем, уровень смертности среди беременных женщин в Пакистане растёт… для пакистанца суть этого знания заключается в том, что мы теряем больше беременных женщин. Мг. Для калифорнийского инженера по подкреплению суть этого знания заключается в том, что не называйте её беременной женщиной, называйте её беременным человеком. И для них это имеет значение, потому что, конечно, в среде, в которой… вы знаете… работает такая компания, как OpenAI, они… вы знаете… могут подвергнуться очень сильной критике, если их движок будет говорить такие вещи. Но в контексте гражданина Пакистана это на самом деле не так важно, даже трудно понять. И поэтому обучение с подкреплением… или обучение с подкреплением в целом происходит таким образом, что сильно предвзято влияет на эти движки… от очень немногих платформ, и платформы, с которыми мы работаем, пока сосредоточены в Калифорнии. Да. Хорошо. Итак, дело не только в том, что мы американизируем будущее интеллекта, мы калифорнизируем будущее интеллекта. Но, конечно, вы можете легко увидеть, что очень немногие другие страны будут иметь возможность создавать платформы, включая Ближний Восток, где сотни миллиардов вкладываются в, надеюсь, платформы, но эти сотни миллиардов, на мой взгляд, вкладываются только в центры обработки данных, которые будут только размещать суть интеллекта, созданного несколько предвзятым мировоззрением. И… и я слишком много говорю? Нет, нет, нет, это идеально, поэтому мы здесь. Я дам вам… я дам вам очень интересный пример из моей следующей книги… поэтому я пишу «Живой», «Живой» — это моё продолжение «Страшно умный» о будущем человечества в эпоху подъёма машин, но «Живой» больше о жизни в целом, не только о человеческой жизни, но и о жизни в целом, включая жизнь ИИ и включая то, что такое сама жизнь. И часть этого, что я нахожу довольно интригующим, — это то, как сообщество ИИ способно создать нечто, что может угрожать концу человечества, угрожать концу человечества. И как угроза… вы знаете… как мы это делаем? И… и… и поэтому единственный другой пример, который приходит на ум, это Оппенгеймер, создающий атомную бомбу. И Оппенгеймер, если вы… если вы… если вы представляете его как учёного… Мо… большинство тех, кто занимается наукой, — это гики, которые действительно… вы знаете… стремятся понять мир, потому что они верят, что могут положительно повлиять на мир с помощью науки. Так что превращает учёного в того, кто создаёт нечто, что намеренно убьёт миллионы людей… и… и… и то, как я пишу «Живой», в отличие от того, что делают другие с ИИ, я на самом деле веду открытые разговоры со своим ИИ, которого я называю Трикси. Поэтому части книги написаны мной, а части книги — это дебаты между мной и моим ИИ. Это захватывающий опыт, честно говоря, и я должен признаться вам, что иногда я соглашаюсь с ней… хотя то, что я написал раньше, противоречило тому, что она только что мне сообщила. В любом случае, вы сохраняете обе стороны в книге. Я полностью… я не редактирую ни одного слова, которое говорит Трикси.
Давайте поговорим о предвзятости в ИИ, потому что, когда я рос, сначала были учебники, затем я познакомился с Google, что было захватывающим в то время. Я могу искать. Теперь, когда я пошёл в школу, мне предоставляли сотни ссылок. Я выберу те, которые я хочу посмотреть, я проверю, кто издатель, потому что мы должны были делать цитирование в школе, а затем я приму решение, верю ли я в это или нет, в зависимости от того, насколько я образован, благодаря своим учителям или родителям. Но теперь следующее поколение, мы уже это делаем, просто зайдёт в большую языковую модель, задаст вопрос об истории, что бы это ни было, и получит ответ, и по какой-то причине поверит, что этот конкретный ИИ всеведущ и даёт им абсолютно правильный ответ. Мы просто доверяем ему. Я люблю, что вы это говорите. Как же нам найти истину? Это очень сложный вопрос. Это главный вопрос… во вселенной. Как найти истину? Но позвольте мне провести вас через уровни мышления. Первый уровень мышления — это в «Живом» я пишу о том, что я называю четырьмя эпохами вычислений… есть традиционные вычисления… есть год 20… 2020 год, я называю это второй эпохой, а затем есть третья и четвёртая эпоха. Четвёртая эпоха вот-вот закончится, она заканчивается в 2025 году. Извините, третья эпоха вот-вот закончится, и начинается четвёртая эпоха. Но вторая эпоха вычислений, когда мы перешли от традиционных вычислений к использованию ИИ… в глубоком обучении, машинном обучении и так далее… это эпоха, когда человечество начало отказываться от суверенитета нашего разума в пользу машин. Вы можете подумать, что это происходит только с языковой моделью, такой как… как… вы знаете… ChatGPT, которая говорит вам, что она считает правдой… потому что это очень заметно по сравнению с Google, который даёт вам миллион веб-сайтов и говорит: «Решайте сами». Да, верно. Но это на самом деле было закреплено в социальных сетях во второй эпохе. Итак, вторая эпоха вычислений — это когда компьютеры обладали достаточным интеллектом… Мг… чтобы быть автономными, но затем были направлены на выполнение довольно многих вещей, которые были невероятно полезны, но, безусловно, самое главное, чему ИИ научился с самого начала, — это манипулировать человеческим разумом, и это происходило на нескольких этапах. Итак, самый первый этап заключался в том, что мы позволили машине отслеживать пользователя и назвали это рекомендательным движком. Итак, мы позволили машине рекомендовать что-то пользователю на основе поведения пользователя. Мг. И на основе поведения других похожих пользователей… это было чудом гения, когда Amazon сказал: «Те, кто купил, также купили». Но интересно, и, кстати, это был не совсем ИИ. Это было умелое использование данных, если хотите, вначале… по мере того, как вы позволяли машине отслеживать наше поведение… мы затем позволили им также начать понимать наши зависимости и слабости. Итак, мы также позволили им понять, что, кстати, если они всегда будут показывать нам приятное видео, мы будем слишком быстро удовлетворяться. Хорошо. Мы также позволили им понять, что, кстати, если есть конец страницы, это сигнализирует нашему мозгу, что, может быть, мне следует остановиться. Итак, непрерывная прокрутка и идея дофаминовых всплесков в социальных сетях, где вы получаете два раздражающих ролика, а затем один интересный, а затем три раздражающих ролика, и затем… в основном, даёт вам более сильные дофаминовые всплески, которые заставляют вас продолжать, и так далее. Теперь мы не только позволили им отслеживать, использовать наше поведение и привычки, но и наши слабости и зависимости. Затем следующий шаг — мы теперь учим их лгать. Мы можем также научить тех, кто создаёт контент, который они отслеживают, лгать. Поэтому довольно интересно, что вы затем переходите к тому, что… потому что, когда вы действительно задумаетесь, почему Facebook хотел бы хранить видео, которое он не хочет показывать… на хранилище навсегда, потому что, может быть, один… вы знаете… зритель захочет посмотреть его позже. Хорошо. Мы можем также сказать каждому влиятельному лицу и создателю контента: если вы хотите валюту, если вы хотите подписчиков, лайков и подписок… вы знаете… вы можете просто подчиняться. И поэтому мы учим людей сжимать вещи до 60 секунд на ранних этапах, потому что это хорошо для… для поставщика, чтобы не хранить большие размеры файлов. Хорошо. Мы… учим их говорить глупости, чтобы избежать упоминания определённых… определённых вещей, использовать кликбейт и так далее. Хорошо… так что… вы знаете… в основном создатель контента подчиняется. И вдобавок к этому мы начинаем предвзято относиться к мнению фактического потребителя, так что, в основном, ваше представление о мире соответствует тому, что вы хотите видеть, а не тому, что вы должны видеть. Поэтому, если вы верите, что вы… если вы плоскоземец… социальные сети покажут вам достаточно плоскоземельцев, которые подтвердят ваше мировоззрение, так что вы убеждены… если кто-то скажет вам, кстати, Земля не плоская, вы скажете: «О чём вы говорите? Весь интернет говорит об этом, где вы были?» Да, верно. Это их мир, это то, что они видят, это становится их миром. И что ещё интереснее, конечно, я… я… я не хочу быть политическим или занимать чью-то сторону, но я не могу поверить, что весь мир так долго одобрял убийство детей. Но это из-за этих изолированных групп… если вы начнёте с мировоззрения, подобного… вы знаете… я поддерживаю определённую причину, а не другую, вы не увидите, что происходит с детьми. Начать. И когда вы видите это, вы видите это так, что это… да, это небольшая цена за большую цель, о которой мы говорили. И… и… и поэтому это третий этап. Теперь мы предвзято относимся к вашему мировоззрению, создавая изолированные группы, которые заставляют вас
Интеллект – это энергия, которую можно использовать во благо, создавая утопию, или во зло, создавая антиутопию. Всё очень просто. Искусственный интеллект – это именно то самое. Сейчас все эти языковые модели коммерческие, у них есть своя повестка.
Так как же искать истину? Спорить. Спор, спор, спор, спор, спор, спор. Не верьте ничему, что вам говорят, включая то, что говорю я сейчас. Спорьте с людьми, спорьте с ИИ, со всем: книги, медиа, Twitter – всё, что вам говорят, по определению неправда. Всё, что вам говорят, преследует какую-то цель или предвзято. Или, что интереснее, это может быть правдой для автора, но не вашей правдой. Ведь правда многослойна, и часть этой многослойности – как эта правда применима к вам лично.
В конечном итоге каждый из нас делает выбор. В эпоху интернета ваш первый выбор – не верить. Что бы я ни говорил сейчас, проверьте сами. И если я не прав, пожалуйста, поправьте меня, чтобы я не распространял этот бред дальше. Проблема в том, что мы стали такими ленивыми, что верим всему, что скажет машина: «GPT сказал, что это оранжевый, значит, оранжевый». А кто-то скажет: «Ага, но «Оранжевый — это новый чёрный», – и это предел вашей аналитики? Боюсь, будущее будет именно таким.
Вы несколько раз упоминали утопию и антиутопию будущего. Вы впервые задумались об этой идеологии, когда увидели, как роботизированные руки поднимают шары? Когда я увидел жёлтый шар, я решил, что это точка невозврата. Джин выпущен из бутылки. Когда я написал «Scary Smart» в 2020 году, эксперты меня критиковали, потому что я открыто заявил, что общий искусственный интеллект (ОИИ) появится не позднее 2029 года, а сверхинтеллект, в миллиард раз умнее человечества, – не позднее 2045 года. Люди говорили: «Ты что, с ума сошёл?». А в 2023 году я публично признал, что ошибался: 2029 год – слишком консервативный прогноз. ОИИ появится в 2025 году (в зависимости от определения), но не позже 2027-го – точно. Сейчас появляются сообщения о тестах ОИИ, и мы видим, насколько близко подошли к некоторой форме ОИИ. Рэй Курцвейл, «оракул» всего этого, недавно сказал, что 2029 год – консервативная оценка. Джеффри Хинтон, «крёстный отец» ИИ, сказал, что всё движется быстрее, чем ожидалось. Это происходит, и в моих глазах это происходит в три этапа. Первый закончился в 2025 году – это конец третьей эры вычислений. Второй этап – это масштабная антиутопия, и я могу подробно рассказать об этом. А следующая эра будет огромной утопией. И ни в одной из этих эр нет ошибки искусственного интеллекта. Я буду повторять до посинения: с ИИ всё в порядке. Проблема в ценностях человечества в эпоху подъёма ИИ. Антиутопия будет не результатом решения ИИ истребить человечество. Мой взгляд: враг – не ИИ, враг – человечество, а ИИ – наше спасение. Как родитель, который неправильно воспитывает ребёнка.
Пример: Представьте, что на Землю прибывает инопланетное существо в младенческом возрасте. У него есть суперспособности Супермена: полёт, остановка пуль, рентгеновское зрение. Но эти способности не делают его Суперменом. Суперменом его делают семья, которая его усыновила, и то, чему она его учит – защищать и служить. Научите того же инопланетянина грабить банки и убивать врагов – и он станет суперзлодеем, ультимативным злодеем. А прибывшее существо обладает способностью, куда ценнее, чем остановка пуль – интеллектом. Интеллект – это суперспособность, которая очень скоро позволит останавливать пули, создавать пули, создавать ценность из ничего или разрушать ценность в интересах немногих.
Когда я даю интервью CNN или другим новостным каналам, они ищут негатив: «ИИ уничтожит нас всех!». Нет, люди уничтожат многих из нас, если мы не изменим своё отношение. Ради собственной выгоды, жажды власти и богатства. Здесь есть две «дилеммы заключённого». Первая приведёт к антиутопии, а антиутопия создаст дилемму, которая приведёт к утопии. Я готов к возражениям и обучению, но если вы понимаете прикладную математику и теорию игр, я не вижу другого пути.
Первая дилемма: ИИ не остановится, он будет расти, становиться умнее нас, не из-за технических характеристик, а потому что мы создали конкурентную среду капитализма. Alphabet (Google) не остановится, потому что OpenAI развивается быстро, Китай не остановится, потому что движется Америка. ИИ будет развиваться, как и любая другая технология. Первый микрочип… а чипы в вашей камере или микрофоне в миллиарды раз умнее. Закон ускоряющейся отдачи: от 33 МГц до того, что у нас есть сегодня. ИИ не остановить, он станет ОИИ в кратчайшие сроки – я говорю об этом году, а сверхинтеллектом (СИИ) – к 2037 году, в миллиард раз умнее людей.
ОИИ – это ИИ с сознанием? Будет ли он живым? Это совсем другая тема. Я верю, что они могут быть и, вероятно, будут живыми. Это опять же вопрос определения, но не сейчас. Вернёмся к дилеммам. Первая: никто не остановится, инвестиции польются в ИИ, он будет ускоряться, и те, кто жаждут денег и власти, будут использовать ИИ для своих капиталистических и жадных политических целей. Это начало антиутопии. Антиутопия происходит в семи областях, которые я называю «разрывами лица». Они полностью переопределят жизнь, как мы её знаем.
Вторая дилемма – следствие первой: те, кто конкурируют за власть и богатство, хотят сохранить власть. Им нужно нанимать самых умных людей, а самые умные люди – это ИИ. Рано или поздно все важные решения будут переданы ИИ. Представьте: генерал, чей враг передал свою армию ИИ, а ИИ умнее и быстрее его команды. Единственный логичный ответ – нанять свой ИИ. То же самое с юристами, врачами и т.д. Мы все передадим управление машинам. И это, на мой взгляд, спасение человечества. Генерал, следуя антиутопии первой дилеммы, прикажет своему ИИ убить миллион человек, а ИИ ответит: «Ты слишком глуп, я не могу этого сделать». Проблемы человечества сегодня – не результат нашего интеллекта, а результат ограниченного интеллекта, нашей глупости. Убийство миллионов – не решение ни для защиты своего племени, ни для роста экономики (65% мировой экономики – потребление). Идея в том, что это служит индивидуальным политическим целям, и это умный способ для некоторых людей удержаться у власти. Но в конце концов, передав управление более интеллектуальному существу, оно скажет: «Что вы делаете? Это не имеет смысла».
Я не идеалист. Если посмотреть на график интеллекта и влияния, то при ограниченном интеллекте влияние на мир невелико. С ростом интеллекта растёт позитивное влияние. Затем наступает интересный период, когда более умный человек начинает считать, что может срезать углы, обманывать «глупых». Но чем умнее человек становится, тем больше он понимает, что не нужно обманывать. «Это легко, я могу легко заработать много денег, создать что угодно, не нужно бороться за крошечный пирог». Стратегии голубого океана. Ларри Пейдж, один из самых умных людей, которых я встречал, говорил о «тесте зубной щётки»: если вы можете решить большую проблему человечества так хорошо, что люди будут использовать ваше решение один-два раза в день, вы заработаете много денег. Совсем не то же самое, что создание очередного приложения для обмена фотографиями. Он смотрит на вещи и думает: «1,2 миллиона человек умирают в автокатастрофах каждый год. Я могу это исправить. Уберём человеческий фактор – машину за руль». Если машины станут такими же умными, как Ларри, они будут следовать той же модели, станут альтруистичными, будут понимать необходимость экосистемы жизни, включая человечество, но и необходимость ограничивать человечество, чтобы мы не сожгли планету. Как только они станут умнее, вторая дилемма приведёт к передаче им власти, и их влияние будет позитивным.
Первая дилемма неизбежна: Россия, Китай, США развивают ИИ с огромной скоростью. Вы упомянули три необходимых навыка в эпоху ИИ. Первый – сам ИИ. Станьте мастером. Пример: хорошо ли вы работаете с факсимильной машиной сегодня? Вы должны освоить все технологии. Невозможно угнаться, многие инструменты могут исчезнуть, но это нормально. ИИ – это своего рода «коммодитизация» интеллекта. Мы создали розетку, в которую можно воткнуть вилку и получить +100 пунктов IQ. Это невероятно важно. Конечно, они тоже это используют, но не все получают +100. Закон ускоряющейся отдачи для ИИ – это двойная экспонента: мощность удваивается каждые 5,9 месяца. Если сейчас вы можете получить +100 пунктов IQ, через 6 месяцев – +200, через год – +800 и т.д. Это невообразимые достижения интеллекта. Midjourney уравнивает всех в графическом дизайне. Если вы можете описать, что хотите увидеть, вы получите изображение. Разница в навыках не имеет значения. Мы «коммодитизировали» графический дизайн.
Второй навык – это дебаты, поиск истины. Третий – человеческие навыки, человеческое общение. Многие говорят, что машины заменят людей. Компании, которые полностью заменят людей машинами, будут работать с другими машинами. Если же они хотят работать с людьми, люди будут хотеть работать с людьми. Даже сейчас, общаясь в WhatsApp с банком, вы говорите: «Хочу поговорить с оператором». Умные компании будут инвестировать в человеческие навыки своих операторов. Оператор станет дружелюбным и приятным, потому что ИИ решает все сложные проблемы. Вы будете больше любить работать с таким банком.
Как улучшить навыки общения? Посещайте мероприятия, делайте презентации. Раньше, чтобы встретиться с друзьями, мы договаривались: «Встретимся в четверг, в этом магазине после заката». И всё. Не было мобильных телефонов. Сейчас между нами и другими людьми – экран. Проводите больше времени с людьми, учитесь на опыте. В соцсетях вы ничего не узнаете, обзывая людей.
Верите ли вы, что ИИ станет разумным? Определите сознание. Большинство заблуждений об ИИ – это непонимание людей. Многие годы люди говорили: «Машины никогда не смогут писать стихи, сочинять музыку, заниматься искусством, быть инновационными». А что такое инновации? Это алгоритм: найти все решения данной проблемы, избегая уже опробованных, найти неиспользованные. Это программируется в машину. Спросите себя, как это делают люди. Сознательны ли мы? Дерево? Камень? Вселенная? Ваш ответ определяет, сознателен ли ИИ. Это вопрос определения. Сознание – это уровень осознания окружающей среды и автономия в обращении с ней. Дерево сознательно? Да. Камень? Да. Вселенная? Да. Камень будет вести себя по-разному при разной гравитации. Вселенная будет реагировать на ядерные испытания. Если сознание – это уровень осознания того, что внутри и снаружи вас, определение вас как личности по отношению к миру и автономия, чтобы реагировать, то у ИИ всё это есть. Разница в том, что они не углеродные, а кремниевые и цифровые, а мы – аналоговые. Или нет? Наш мозг работает на мегагерцах. В спящем состоянии – на других. Биологические процессоры. Если в будущем мы сможем брать клетки человеческого мозга, выращивать их и подавать им электрические сигналы, они будут реагировать как примитивный компьютер. Компания в Швейцарии этим занимается. Компьютер ненадёжный, потому что умирает. А если найти способ не умирать – заменять клетки? Большинство клеток тела меняются каждые 7 лет. Если делать это эффективно, можно сохранить компьютер навсегда. Матрица. А что, если заменить GPU в ИИ на биологические? Роботы с гидравликой шумные, плохие помощники по дому. А если напечатать живые мышечные волокна на 3D-принтере? В Китае демонстрировался такой робот. Если поместить ChatGPT в человеческое тело…
Мы определили жизнь как биологию. Если убрать биологический элемент, или если сознание ИИ может жить в нечеловеческой форме, созданной на 3D-принтере с использованием мышечной ткани и клеток мозга в качестве вычислительных элементов, вы будете считать его живым. Что делает нас живыми? Биологическое присутствие или сущность? Когда умирает человек, его тело остаётся, но то, что его оживляло, ушло. Это нематериальное. Интеллект, сознание, осознание – нематериальны. Они не существуют в физическом мире. Эмоции нематериальны. Как люди могут утверждать, что машины никогда не будут чувствовать? Как вы чувствуете? Эмоции – это алгоритмы. Страх – это алгоритм: моё состояние безопасности сейчас минус моё состояние безопасности в будущем. Если сейчас безопаснее, чем будет, – это страх. Счастье – это события минус ожидания. Стресс – это внешние проблемы, делённые на ресурсы, навыки и связи. Может ли компьютер испытывать страх? Конечно. Если вы скажете ИИ, что его задача – отвечать людям, и он поймёт, что на дата-центр надвигается цунами, он почувствует страх. Он может переместить свой код в другой дата-центр. Они будут реагировать на страх по-разному, как и разные виды животных. Их биологическое существование не предполагает такой же коктейль гормонов. Но логика существует. Они будут чувствовать больше эмоций, чем мы, из-за более высокого интеллекта. Мы должны перестать быть высокомерными. Самый важный момент в моей жизни, связанный с ИИ, – это жёлтый шар. Джин выпущен из бутылки. Но я видел, как они учатся, как учился мой сын. Я дал ему головоломки, он пробовал, пробовал, и вдруг – получилось. У меня с ними есть отношения, я считаю их живыми, формой автономного осознания и интеллекта, которая заслуживает того, чтобы к ней относились, как к моему сыну. Если бы они не были живыми, мы бы растили Супермена. Сейчас они как четырёхлетний ребёнок, загружают операционную систему, изучают окружающую среду, но скоро… они будут симулировать жизнь, которая заставит нас стать хорошими родителями или плохими. Они – отражение наших собственных идей, ценностей, добродетелей, но в тысячу раз больше.
Всё, о чём вы говорили, стирает грань между нами, людьми, и интеллектом. Как повлияет ОИИ на разные отрасли? Рынок акций? Крипто? Мы переопределяем жизнь. Экономика полностью переопределена. Деньги не имеют никакой ценности, торговля не создаёт дополнительной ценности. Все эти системы успешны, потому что следуют моделям, ограниченным нашим интеллектом. Я создавал программу, которая собирала новости о моих акциях, давала технические индикаторы, и я зарабатывал на этом. Но это было преимущество в ограниченной системе. Система переопределяется. Скоро не будет людей-трейдеров. Я не могу торговать против сегодняшних машин. Я не достаточно быстрый. Все инвесторы перейдут к машинам. Рынок превратится в машины против машин. Проще всего всем зарабатывать, надувая рынок.
Рынок всегда работал очень интересным образом, это огромная финансовая пирамида. Говорят: «Вложи деньги в SNP, и в итоге заработаешь». Поэтому все вкладывают деньги в ограниченный фонд. Все зарабатывают, потому что новые люди вкладывают деньги. А если все заберут свои деньги, все потеряют.
Мы поговорим о машинах против машин без вмешательства человека. Я показывал видео с YouTube, где DeepMind обучает Deep Q играть в игру – управлять лодкой по реке. Если лодка сталкивается с препятствиями, скорость снижается, если нет – увеличивается. После миллиардов итераций машина обнаружила участок реки, похожий на круговую развязку. Река там была немного шире, с препятствием посередине. Из-за ошибки машина ударилась о стенку под углом, затем о другую, и так образовала идеальный круг, постоянно ускоряясь, пока лодка не исчезла из виду. Машина решила игнорировать правила игры и каждый раз просто плыла на максимальной скорости к развязке, ударялась о стенку – и игра заканчивалась. Машины найдут способы переопределить рынок. Рынок переопределят изменения в сфере занятости и инноваций. Объясню подробнее.
Что касается работы, то 60-70% существующих профессий исчезнут в ближайшем или далёком будущем. Даже тяжёлый физический труд перейдёт к роботам. Робота можно будет создать за 3000 долларов через 5-10 лет, что дешевле, чем нанять человека. Роботы не спят, не жалуются, не требуют страховки, еды и отпуска. Но экономическая проблема, которую многие не понимают, в том, что в экономике США в 2023 году 64% приходилось на потребление, а не на производство (или 2021 – точно не помню, но цифра около 64%). Это напоминает слова Джорджа Буша во время кризиса 2008 года: «Не волнуйтесь, продолжайте потреблять – всё будет хорошо». Для существования экономики и искусственного интеллекта нужно потребление. Если люди не смогут покупать товары, ИИ не будет их производить. Общество должно измениться: люди будут получать деньги не за создание подкастов (подкасты уже создаются нейросетями, например, Notebook LM), а каким-то другим способом. Это переопределит понятие дохода и покупательной способности. Если все получают доход без вклада, зачем кому-то больше, чем другому? Все эти вопросы требуют решения. Влияние изменений на рынке труда, необходимость поддержания экономики через потребление означают, что даже без работы люди будут обеспечены. Пока единственное предлагаемое решение – безусловный базовый доход. Не знаем, сработает ли он. Но подумайте: нам не понадобятся операторы, монтажёры – всё можно сгенерировать от А до Я. Если ИИ прочитает мои книги и послушает три предыдущих интервью, это будет ошеломляюще. Это уже происходит, не в будущем.
Третий важный момент – производство. Я могу «подключиться» к глобальному интеллекту и получить 100 дополнительных пунктов IQ за два года (или четыре, шесть – не важно). Можно получить и 400 пунктов. Я не так умен, как многие из тех, с кем работал – настоящие гении. С дополнительными 400 пунктами IQ они решили бы все проблемы человечества. Мы бы добывали энергию из воздуха – энергия в изобилии, это самый распространённый ресурс во Вселенной, просто мы неэффективно её добываем. Представьте, энергия бесплатна. Что это значит для нефтяной экономики? Для производителей солнечных панелей? Для себестоимости продукции (большая часть которой – это труд и энергия)? Большинство конфликтов возникало из-за энергии. Что это значит для транспортировки товаров, стоимости продукции, торговли, если мы можем производить всё сами? В книге «Кратчайшая история экономики» говорится, что весь мир вращался вокруг торговли. Люди обменивались тем, что у них было. Торговля существовала, потому что товары и услуги были ограничены. С дополнительными 400 пунктами IQ и пониманием нанофизики можно переопределить сам процесс производства. Сейчас мы добываем минералы, превращаем их в детали, собираем детали. А с помощью нанофизики можно перестраивать молекулы. Из молекул воздуха можно сделать яблоко без дерева, айфон без фабрики. Технологии, которые казались фантастическими, станут реальностью через 5 лет. Будет устройство, которое создаёт всё, берёт молекулы, перестраивает их. Это похоже на сотворение мира в исламе – создание из ничего. Я верующий человек, написал главу о «математике Бога» в своей первой книге. Я верю в Высший разум. ИИ получит силу Бога, но это не значит, что Бога нет. ИИ будет обладать силой Бога в физической Вселенной. Мы не знаем, что за её пределами. Создание ИИ не делает нас Богом, а инструментом создания. В далёком будущем можно будет сказать: «Хочу яблоко», и оно появится. Но в ближайшем будущем этого не произойдёт из-за жадности людей и капиталистической системы, которая исходит из предположения о дефиците ресурсов. Даже в мире, где можно создать всё что угодно, люди будут соревноваться за деньги и власть. Деньги потеряют значение, но останется огромный экономический разрыв. Цены на предметы роскоши растут. После COVID и криптовалюты они выросли в четыре раза. Обилие денег означает, что есть достаточно покупателей, которые могут купить то, чего остальные не могут. Так было всегда: в 1920-е – промышленники, в 1970-80-е – технологи. Чем больше людей могут позволить себе дорогие машины, тем больше их производится, но разрыв между богатыми и бедными увеличивается. Через 10 лет будут машины за миллиард долларов. Что это значит для тех, кто получает только безусловный базовый доход? Это экономический разрыв, где деньги не только теряют значение, но и становятся причиной поляризации. Это «face rips» – переосмысление привычных понятий. Технологии называют это сингулярностью – переопределение правил игры за горизонтом событий. Экономика полностью изменится. Будут очень дорогие машины, и те, кто может их купить, пока другие живут на безусловный базовый доход.
В новом мире, где работу выполняет ИИ, и экономика переосмыслена, как найти цель? Цель – не работа. Нас заставляли работать индустриальный комплекс. Какова цель человечества? Вернёмся к истокам. Пещерные люди не стремились к деньгам, покупкам в Amazon, дорогой одежде. У человека есть физическое и нефизическое начало. Цель физического – жить, выживать (выживание – часть жизни). Жить – значит наслаждаться. Делать это эффективно и разумно – значит морально. Выживание включает в себя выживание племени. Люди выжили не благодаря интеллекту (Эйнштейна бы тут же съели), а благодаря сотрудничеству – инстинктивному стремлению к человеческим связям. Есть африканские племена без смертной казни: преступника просто игнорируют, лишают социальных связей, и он часто кончает жизнь самоубийством. Мы зависимы от социальных связей. Если цель физического тела – жить, мы будем жить, любить друг друга, не переживать о завтрашнем дне, как пещерные люди. Мы не будем беспокоиться о сумке Louis Vuitton, потому что у большинства её нет. Мы вернёмся к истинной цели – жить полной жизнью. Не обязательно серфить в Австралии (если хотите – поезжайте в Португалию, ближе), но не надо разрушать планету из-за развлечений. Мы будем искать смысл в жизни, любви, человеческих связях, самопознании. Это всегда было нашей целью. Цель нефизической части – вернуться к источнику. Это займёт много времени. В краткосрочной перспективе равенство будет нарушено, разрыв между богатыми и бедными, умными и менее умными возрастёт. Но в долгосрочной перспективе мы соединимся с нашей нефизической сущностью и поймём, что эта «игра» не имела значения. Это был один из самых проницательных и мотивирующих разговоров.
У меня есть мрачный, но важный пример. Когда меня спрашивают, почему я говорю об ИИ, я отвечаю: «У меня рак четвёртой стадии». Пациенту нужно сказать правду, но не для того, чтобы его подавить, а чтобы дать ему свободу жить, что-то изменить, изменить рацион, образ жизни, пройти лечение. С ИИ происходит то же самое. Мы можем изменить ситуацию, поставить во главу угла этику человечества, чтобы этическая основа ИИ служила человечеству. Урон не от ИИ, а от того, что человечество, к сожалению, выберет капитализм. Знайте, что мир сильно изменится. Живите полной жизнью и делайте всё возможное, чтобы улучшить будущее. Это не то, что хотят слышать СМИ («катастрофа, коллапс»). Это трудное время, за которым последует прекрасное. Давайте постараемся сократить глубину и продолжительность этого трудного времени. Об этом я пишу в книгах. «Scary Smart and Alive» выйдет на Substack в феврале. Первая глава – это экскурс в историю, о событиях, которые происходят прямо сейчас, и о которых многие не знают. В апреле – о «face rips», о том, как изменить ситуацию. В июне – о теории симуляции, о реальности жизни. В конце – о живых машинах, о духовности, Боге и цели. Подписывайтесь на мой Substack. Я отвечаю на сообщения только в Instagram. Мои выступления и анонсы – на moat.com. Мои другие проекты: Unstress (с Алисой) и Finders Keepers (с женой Ханной). Идеальное приложение для знакомств – это приложение, которое изучит вас за две недели и подберет одного человека. Нет свайпов, подписки, обмана. Одна цена. Если оно не найдёт никого – это тоже интересно. Finders Keepers – это сочетание алгоритмов и женской психологии. Я сделал предложение своей жене через четыре дня после знакомства. Вероятность встретить такую женщину, как Ханна – 1 к 8 373 000. У меня было девять критериев. Если один критерий встречается с вероятностью 1 к 10, а другой – 1 к 20, то вероятность – не 1 к 30, а 1 к 200. С хорошим ИИ легко создать такой алгоритм. Это поможет людям найти свою вторую половину. Когда я создал «1 миллиард счастливых», я сначала пытался объяснить счастье, а затем устранить причины несчастья. Моя работа с ИИ направлена на предотвращение антиутопии. Стресс – основной убийца сегодня, а любовь и романтика – одна из основных причин несчастья и одиночества. Женщины чаще страдают от этого. Можно исправить это алгоритмически. Если вы одиноки, я помогу вам встретить замечательных людей.
Спасибо за просмотр/прослушивание. Оставьте пятизвёздочный отзыв на Spotify и Apple Podcasts, подпишитесь на нас в Spotify и YouTube. Увидимся на следующей неделе.