AI AGENTS EMERGENCY DEBATE: These Jobs Won't Exist In 24 Months! We Must Prepare For What's Coming!

Я думаю, что многие люди не понимают, насколько огромным будет позитивное влияние ИИ на их жизнь. Что ж, я бы утверждал, что идея о том, что это ИИ-нарушение не приведёт нас к человеческой катастрофе, является оптимистичной. Например, люди останутся без работы в огромном количестве. Вы согласны с этим, не так ли? Да. Если ваша работа настолько рутинная, насколько это возможно, её не станет в ближайшие пару лет. Но это создаст новые возможности для создания богатства. Позвольте мне объяснить это так. Мы создали новый вид, и никто на Земле не может предсказать, что произойдёт. К нам присоединились три ведущих голоса, чтобы обсудить самый разрушительный сдвиг в истории человечества – рост ИИ. И они отвечают на вопросы, которых вы больше всего боитесь. Эта технология станет намного мощнее. И да, мы пройдём через период потрясений. Но в конце концов мы создадим справедливый мир. Это позволяет людям управлять своим бизнесом, зарабатывать много денег, и вы можете решать важные проблемы, такие как прорывы в глобальном здравоохранении и образовании, которые будут феноменальными. И вы можете жить невероятно полноценной жизнью.

Что ж, я бы просто сказал по этому поводу, что это всегда была фантазия технологов – делать чудесные вещи в своё свободное время, но мы заканчиваем тем, что бездумно листаем ленту, эпидемия одиночества, верно? Падение рождаемости. Таким образом, потенциал добра здесь бесконечен, а потенциал зла в 10 раз больше. Например, есть война, неразличимые подделки и мошенничество. Поэтому люди не понимают, сколькими различными способами их будут грабить. Послушайте, я не думаю, что обвинять во всём этом технологию – это правильно. Все эти проблемы уже здесь. Вы все здесь отцы. Итак, что вы говорите своим детям? Ну, во-первых, это всегда немного поражало меня. 53% из вас, кто регулярно слушает это шоу, ещё не подписались на него. Поэтому, не могли бы вы оказать мне услугу, прежде чем мы начнём? Если вам нравится шоу, и вам нравится то, что мы здесь делаем, и вы хотите поддержать нас, простой бесплатный способ сделать это – нажать кнопку подписки. И моё обязательство перед вами состоит в том, что если вы это сделаете, то я приложу все свои силы, я и моя команда, чтобы сделать это шоу лучше для вас каждую неделю. Мы будем прислушиваться к вашим отзывам. Мы найдём гостей, с которыми вы хотите, чтобы я говорил, и мы будем продолжать делать то, что мы делаем. Большое спасибо.

Причина, по которой я хотел провести этот разговор со всеми вами, заключается в том, что тема ИИ, но более конкретно агенты ИИ, занимала моё свободное время несколько недель подряд. И на самом деле, когда я начал использовать Replet, для меня это был парадигмальный сдвиг. Было два парадигмальных сдвига подряд, которые произошли примерно с недельным интервалом. ChatGPT выпустил свою модель генерации изображений, где вы могли создать любое изображение. Оно было невероятно детализированным, с текстом и всеми этими вещами. Это был огромный парадигмальный сдвиг. А затем на той же неделе я наконец-то сдался, чтобы попытаться понять, что означает термин «агент ИИ», который я слышал по всему интернету. Я слышал «vibe coding». Я слышал «агент ИИ». Я подумал: «Я попробую». Мгм. И когда я использовал Replet, через 20 минут использования Replet мой разум был взорван. И я думаю, что в ту ночь я не спал до 3 или 4 часов утра. Для тех, кто не знает, Replet – это программное обеспечение, которое позволяет вам создавать программное обеспечение. Мгм. И практически любое программное обеспечение, которое вы захотите. Поэтому человек, такой как я, совершенно не имеющий навыков программирования, смог создать веб-сайт, интегрировать Stripe, принимать платежи, интегрировать ИИ на свой веб-сайт, добавить вход в Google на свой веб-сайт и сделать это за считанные минуты. Затем я отправил программное обеспечение, которое я создал без навыков программирования, своим друзьям, и один из моих друзей ввёл свою кредитную карту и заплатил. Удивительно. Таким образом, я просто запустил компанию SaaS без навыков программирования. Чтобы продемонстрировать агента ИИ очень простым способом, я использовал онлайн-агента ИИ под названием Operator, чтобы заказать нам всем немного воды из CVS за углом. Агент ИИ сделал всё от начала до конца, и люди будут смотреть на экран. Он ввёл мои данные кредитной карты и выбрал для меня воду. Он дал человеку чаевые. Он внёс некоторые примечания к доставке. В какой-то момент войдёт парень. Он не взаимодействовал с человеком. Он взаимодействовал с моим агентом ИИ. И я просто… причина, по которой я использую это в качестве примера, заключается в том, что это снова был для меня момент парадигмального сдвига, когда я услышал об агентах. Мгм. Примерно месяц назад я пошёл и заказал бутылку электролитов, и когда позвонил мой дверной звонок, я испугался. Я испугался.

Но эй, кто ты и что ты делаешь? Итак, я начал программировать в очень молодом возрасте. Вы знаете, я создал свой первый бизнес, когда был подростком. Я ходил в интернет-кафе и программировал там. И я понял, что у них нет программного обеспечения для управления бизнесом. Я подумал: «О, почему бы вам не создать аккаунты?» У меня нет сервера. Мне потребовалось два года, чтобы создать это программное обеспечение. И это как бы заложено в моём уме, эта идея, что, эй, знаете, в мире много людей с действительно удивительными идеями, особенно в контексте того места, где они живут, что позволяет им создавать бизнес. Однако основной источник трения между идеей и программным обеспечением, или назовём это идеей и созданием богатства, – это инфраструктура, физическая инфраструктура, то есть компьютер перед вами. Это интернет-соединение. Это набор инструментов и навыков, необходимых вам для этого. Если мы сделаем так, чтобы любой, у кого есть идеи, кто хочет решать проблемы, мог это сделать, я имею в виду, представьте себе мир, в котором мы могли бы жить, где каждый, кто имеет заслуги, кто может ясно мыслить, кто может генерировать много идей, может создавать богатство. Я имею в виду, это удивительный мир, чтобы жить в нём, в любой точке мира. Итак, с Replet, компанией, которую я основал в 2016 году, идея была такой: «Хорошо, программирование сложно, как нам решить проблему программирования?» И мы создали каждую часть процесса, хостинг, редактор кода, единственное, чего не хватало, это, знаете, агент ИИ, и поэтому в течение последних двух лет мы работали над этим агентом ИИ, с которым вы можете, знаете, аналогично ChatGPT, знаете, эта революция с GenAI, вы можете просто воплощать свои идеи в жизнь. Я имею в виду, это начинает звучать религиозно, это как, знаете, боги, знаете, мифы, которые… которые создали люди, они раньше представляли себе мир, где вы можете быть везде и всюду одновременно, это своего рода интернет, а также вы можете воплощать свои идеи в жизнь, и… знаете, это ещё только начало, я думаю, что агент Replet – это фантастический инструмент, и я думаю, что эта технология станет намного мощнее. Конкретно, что такое агент ИИ? У меня есть этот график, который мне не нужно передавать никому из вас, чтобы вы могли видеть рост агентов ИИ. Но этот график представляет собой данные о трендах поиска Google. Это также похоже на наш доход. О, хорошо. Правильно. Вода прибыла. Здравствуйте. Спасибо. Вы можете войти. Могу ли я попробовать, пожалуйста? Да. Это 3951. Отлично. Большое спасибо. Спасибо. Спасибо. Я имею в виду, это как сверхъестественная сила. Вы вызвали воду. Я вызвал воду из своего разума. Да. И она появилась здесь с нами, и она явно считает, что нам нужно много. Но, чтобы определить термин «агент ИИ» для того, кто никогда раньше не слышал этого термина. Да. Да. Итак, я предполагаю, что большинство зрителей сейчас знакомы с чатом, верно? Вы можете зайти и поговорить с ИИ. Он может искать в интернете для вас. У него ограниченное количество инструментов. Может быть, он может вызвать калькулятор, чтобы выполнить сложение, вычитание, но это примерно всё. Это стиль запроса-ответа. Агенты – это когда вы даёте ему запрос, и они могут работать бесконечно, пока не достигнут цели или не столкнутся с ошибкой, и им понадобится ваша помощь. Это бот ИИ, у которого есть доступ к инструментам. Эти инструменты предоставляют доступ к веб-браузеру, например, Operator, доступ к среде программирования, например, Replet, доступ к… знаете, кредитным картам. Чем больше инструментов вы даёте агенту, тем мощнее он становится. Конечно, есть все эти соображения по поводу безопасности и защиты, и всё такое. Но самое важное – агент ИИ определит, когда он закончит выполнение. Сегодня агенты ИИ могут работать от 30 секунд до 30 минут. Недавно вышла статья, которая показывает, что каждые 7 месяцев количество минут, в течение которых может работать агент, удваивается. Итак, сейчас мы на уровне 30 минут. Через семь месяцев мы будем на уровне одного часа, затем… двух часов. Довольно скоро мы будем на уровне дней. И в этот момент агент ИИ выполняет работу, выполняет работу, похожую на человеческую, и на самом деле новая модель OpenAI 03 превзошла ожидания. Таким образом, она как бы удвоила связность в задачах с длительным горизонтом всего за три или четыре месяца. Таким образом, мы находимся в этом огромном… я имею в виду, этот экспоненциальный график… который показывает вам огромную тенденцию, на которой мы находимся.

Бретт, расскажите нам немного о вашем опыте, но я также видел, как вы писали какие-то заметки. Там было использовано несколько слов, которые я посчитал довольно интересными, особенно учитывая то, что я знаю о вас. Слово «бог» использовалось несколько раз. Что ж, позвольте мне просто сказать, что я эволюционный биолог, и, вероятно, для целей этого разговора лучше всего будет считать меня теоретиком сложных систем. Одна из вещей, в которых я уверен относительно ИИ, заключается в том, что это первый раз, когда мы создали машины, которые перешли порог от высокой сложности к истинно сложной. И я скажу, что слушаю этот разговор со смесью глубокой надежды и страха, потому что мне кажется очевидным, что потенциальное благо, которое может принести эта технология, эффективно бесконечно. Но я бы сказал, что вред, вероятно, в 10 раз больше. Это большая бесконечность. И вопрос о том, как мы собираемся добраться до места, где мы можем использовать очевидную силу, которая здесь есть, для того, чтобы делать добро и избегать худшего вреда… я понятия не имею. Я знаю, что мы не готовы. Поэтому я слышу, как вы говорите об агентах, и я думаю… что это замечательно. Мы все можем использовать такую вещь прямо сейчас, и чем мощнее она будет, тем лучше. Идея о том, что что-то может решать проблемы от вашего имени, пока вы занимаетесь чем-то другим, замечательна. Но, конечно, это условие для возникновения абсолютного опустошения в результате недопонимания, верно? Чтобы что-то действовало автономно для достижения цели, вы чёрт возьми лучше поймёте, что на самом деле является целью и как натянуть поводья, чтобы оно начало достигать чего-то, что не было целью. Потенциал для злоупотреблений также совершенно огромен. Вы знаете, вы можете представить, просто выберите свою любимую антиутопию в стиле «тёмного зеркала», где кому-то было сказано охотиться на вас, пока вы не умрёте, и он рассматривает это как… техническую задачу. Поэтому я не знаю, как сбалансировать обсуждение всех вещей, которые явно могут произойти из этого, которые совершенно трансцендентны. Я имею в виду, я думаю, что не неуместно использовать здесь метафоры о Боге или библейские метафоры. Вы… производите воду, казалось бы, из воздуха. Я считаю, что это имеет точный библейский аналог. Поэтому… в любом случае, сила здесь, но также и необходимость предостерегающих историй, которых у нас нет. Проблема в том, что нет мифологии, которая должным образом предупредила бы нас об этом инструменте, потому что мы только что перешли порог, который по своей способности изменять мир похож на изобретение письма. Я действительно думаю, что именно там мы находимся. Мы говорим о чём-то, что фундаментально изменит то, что есть у людей, без плана. Вы знаете, письмо меняет мир медленно, потому что количество людей, которые могут это делать, сначала невелико и остаётся таким в течение тысяч лет. Это меняет вещи медленно, и это очень большая сила, чтобы просто выбросить её в систему, которая изначально не была хорошо регулируемой.

Дэн, да. Итак, я предприниматель. Я создаю бизнес последние 20 с лишним лет. Я полностью расположен между вами двумя: волнение от возможностей и ужас от того, что может произойти. Есть изображение Нью-Йорка в 1900 году, и каждое транспортное средство на улице – это конная повозка, а затем, 13 лет спустя, та же фотография с той же точки обзора, и каждое транспортное средство на улице – это автомобиль. И за 13 лет все лошади были удалены, а автомобили поставлены на их место. И если бы вы взяли интервью у лошадей в 1900 году и спросили: «Как вы оцениваете свой уровень уверенности в мире?» Лошади сказали бы: «Ну, мы были частью человечества… в течение многих-многих лет… в течение тысяч лет. На каждые три человека приходится одна лошадь. Насколько плохо это может быть? Вы знаете, у нас всегда будет особое место. Мы всегда будем частью общества». И мало ли лошади понимали, что это не так. Что лошади будут выведены из бизнеса очень и очень быстро. И рассуждая по аналогии, вы знаете, многие из нас сейчас сидят и думают: «Эй, погодите секунду. Делает ли это меня лошадью в 1900 году?» Я думаю, что многие люди не понимают, насколько масштабное воздействие окажут эти технологии. Одна минута мы заказываем воду, и это мило, а на следующую минуту она может работать в течение нескольких дней, и, по вашим словам, она не останавливается, пока не достигнет своей цели, и она придумает столько разных способов, сколько только возможно, чтобы достичь своей цели, и, по вашим словам, она лучше знает, что это за цель. Я много думаю, когда Даниэль говорит о широком применении агентов ИИ и где находятся границы, потому что если эта вещь будет становиться всё умнее, ну, постепенно может быть преуменьшением, она станет невероятно умной невероятно быстро, и мы видим эту гонку ИИ, где все эти большие языковые модели конкурируют друг с другом за интеллект, и если она сможет перемещаться по интернету, кликать, заказывать, писать, создавать, и вся наша жизнь сегодня зависит от интернета… чего она не сможет сделать? Она будет умнее меня. Без сомнения, она уже такая. И она сможет принимать действия в интернете, а это почти вся моя профессиональная жизнь. Это как я строю свой бизнес. Даже этот подкаст – это интернет-продукт в конце концов, потому что вы можете создавать… мы проводили эксперименты, и я могу показать графики на своём телефоне, чтобы создать подкасты ИИ, и они… нам удалось добиться того же удержания, что и у генерального директора. Теперь с моделью генерации изображений удержание, как удержание зрителей, процент людей, которые доходят до одного часа… вау… сейчас одинаково. Так что мы можем сделать видео, мы можем опубликовать его, мы можем написать сценарий, вы можете синтезировать мой голос, он звучит как я. Итак, что она сможет сделать? Мгм. И можете ли вы привести примеры различных вариантов использования, которые средний человек, возможно, не придумал бы интуитивно?

Да. Итак, я склонен быть оптимистом, и отчасти причина в том, что я пытаюсь понять пределы технологии. Что она может сделать – это всё, на чём мы можем обучить её… любой набор человеческих данных, на которых мы можем её обучить. Чего она не может сделать – это всё, чего люди не знают, как делать, потому что у нас нет данных для обучения. Конечно, она суперумная, потому что она интегрирует огромное количество знаний, которые вы не смогли бы прочитать, верно? Она также намного быстрее. Она может выполнить огромное количество вычислений, которые… ваш мозг… вы даже не можете понять, потому что всё это… они умны. Они могут действовать, но мы знаем пределы того, что они могут делать, потому что мы их обучили. Они способны имитировать то, что может делать человек. Поэтому вы смогли заказать воду, потому что она была обучена данным NSF, которые включают в себя клики на DoorDash и заказ воды. Я приветствую ваш оптимизм, и мне нравится, как вы думаете над этими головоломками, но я думаю, что вижу, как вы совершаете ошибку, которая, как мы вот-вот обнаружим, очень распространена. Итак, у нас есть несколько различных категорий систем. У нас есть простые системы, у нас есть сложные системы, у нас есть комплексные системы, а затем у нас есть сложные адаптивные системы. Для большинства из нас высокосложная система кажется сложной системой. Мы не понимаем разницу. Технологи часто осваивают высокосложные системы, и они знают, например, что компьютер – это совершенно предсказуемая система внутри. Она… она детерминирована. Мгм. Но для большинства из нас она функционирует, она достаточно загадочна, чтобы казаться сложной системой. И если вы находитесь в положении, когда вы освоили высокосложные системы, и вы смотрите на сложные системы и думаете, что это естественное расширение, вы не сможете предвидеть, насколько они непредсказуемы. Поэтому, даже если это правда, что сегодня существуют ограничения того, что могут делать эти машины, исходя из их данных обучения, я думаю, что проблема в том, чтобы увидеть, что будет происходить. Вы действительно хотите начать рассматривать это как эволюцию нового вида, который будет продолжать эволюционировать. Он будет частично формироваться тем, о чём мы его просим, направлением, в котором мы его ведём, и он будет частично формироваться вещами, которые мы не понимаем. Итак, как работает этот компьютер, который… который у нас есть? Что ж, одна из вещей, которые он делает, это то, что мы подключаем их друг к другу с помощью языка. Это почти как будто вы подключили сетевой кабель между человеческими умами. И это означает, что когнитивный потенциал превышает сумму отдельных умов, о которых идёт речь. Ваши ИИ будут делать это. И это означает, что наша способность сказать, на что они способны, не сводится к тому, что… мы не обучали его этим данным. По мере того, как они начинают взаимодействовать, эта обратная связь приведёт их к возможностям, которые мы не предвидим и которые, возможно, даже не узнаем, как только они появятся. Это один из моих страхов. Это развивающееся существо, и это даже не животное. Если бы это было животное, можно было бы сказать что-то о пределах этой способности. Но это новый тип биологического существа, и оно станет способно на вещи, для которых у нас даже нет названий. Даже если бы оно этого не делало, даже если бы оно оставалось в рамках, о которых вы говорите, вы упомянули о том, что у него средний уровень интеллекта. Ну, по определению это означает, что 50% людей на планете менее умны, чем… ИИ. В некоторой степени это почти как будто мы только что изобрели новый континент удалённых работников. Их миллиарды. У всех у них есть магистерская степень или докторская степень. Все они говорят на всех языках. Всё, что вы могли бы назвать кому-то или попросить кого-то сделать через интернет, они там круглосуточно, и они получают 25 центов в час. Если это… так что, если это действительно произошло… если бы мы действительно только что обнаружили, что на планете есть миллиард дополнительных людей, у всех у которых есть докторские степени, и которые с радостью работают почти бесплатно, это оказало бы огромное разрушительное воздействие на общество. Общество должно было бы переосмыслить, как все живут, работают и обретают смысл. Итак… и это если он останется на среднем уровне интеллекта. Это довольно поразительно. Я всё ещё думаю, что это инструмент. Это сила, которая может быть использована предпринимателями. Вы знаете, я думаю, что мир будет разрушен, верно? И… и, знаете, этот… послевоенный мир, который мы создали, где вы живёте свою жизнь, вы проходите 12 лет обучения, поступаете в колледж и просто ставите галочки, вы получаете работу… мы уже видим трещины в том, что это… эта американская мечта, возможно, больше не существует. Поэтому я думаю, что мир уже изменился. Но… но, например, какие возможности? Очевидно, есть недостатки. Возможности в том, что впервые доступ к возможностям равен. И я думаю, что будет больше неравенства. И причина этого неравенства заключается в том, что на самом деле Стив Джобс… знаете, привёл такую аналогию. Это как… лучший водитель такси в Нью-Йорке на 20% лучше, чем… знаете… знаете, средний водитель такси. Лучший программист может быть в 10 раз лучше. Вы знаете, мы называем… мы говорим о инженере 10x. Теперь отклонение будет в тысячу раз, верно? Лучший… лучший предприниматель, который может использовать этих агентов, может быть лучше… может быть в тысячу раз лучше, чем тот, у кого нет решимости, у кого нет навыков, у кого нет амбиций. Верно? Поэтому… поэтому это создаст мир. Да, есть огромный доступ к возможностям, но есть люди, которые его захватят, а затем они его захватят, а затем будут люди, которые нет. Я представляю себе это почти как… марафонскую гонку, и у ИИ есть две сверхспособности. Одна сверхспособность – отвлекать людей… например, алгоритм TikTok. Это верно. А другая сверхспособность – делать вас гиперкреативными. Таким образом, вы становитесь гиперпотребителем или гиперсоздателем. И в этой марафонской гонке у подавляющего большинства людей завязаны ботинки, потому что ИИ отвлекает их. Некоторые люди бегут традиционную гонку. У некоторых людей есть велосипед, а у некоторых людей есть автомобиль Формулы-1. И это будет очень сложно, когда результаты появятся на табло, и вы увидите: «О, погодите секунду. Есть несколько человек, которые закончили этот марафон примерно за 30 минут». И есть много людей, которые финишировали за 18 часов, потому что у них были завязаны ботинки. И я не понимаю, если у нас есть равные возможности, почему существует такая большая разница в том, как быстро… знаете… и… знаете, я использую аналогию, но эта идея, что… знаете, некоторые люди начнут зарабатывать миллион долларов в месяц, а многие люди скажут: «Эй, я даже не могу найти работу за 15 долларов в час». Будет этот интересный разрыв. Что ж, но я слышу в том, что говорят вы оба, некое предположение, что всё это будет сделано честно. И я действительно хочу… я не пессимист. Я согласен, что пессимисты, вероятно, неправы, что их страхи неуместны. Но я думаю, что у нас есть вопрос о задаче связанных скоростей. Вы знаете, я сказал, что потенциал добра здесь бесконечен, а потенциал зла в 10 раз больше. Верно? Я имею в виду, есть много способов, которыми это, очевидно, даёт людям возможность делать то, что им было бы иначе сложно сделать: изучать программирование, а затем разбираться, как заставить код работать, вывести его на рынок и всё такое. И это решает множество этих проблем, и это, очевидно, хорошо. На самом деле, то, чего мы должны хотеть, – это создание богатства так быстро, как мы можем туда добраться. Но проблема в том, что… насколько гиперкреативный человек обладает возможностью создавать богатство, человек, который хочет украсть, может быть ещё более могущественным. И это меня беспокоит на довольно высоком уровне. Случаи злоупотребления могут превосходить случаи использования, и у нас нет плана, что с этим делать. Э… могу ли я… могу ли я дать вам краткое… введение здесь… оптимистический взгляд? OpenAI изобрела… GP… первая версия GPT вышла в 2019 году. 2020 год был GPT2, и поэтому OpenAI… знаете, сейчас они подвергаются большой критике и судебным искам от Илона Маска, что они больше не с открытым исходным кодом, верно, раньше они были такими. Причина в том, что…

GPT-2, они сказали, что мы больше не будем открывать исходный код этой технологии, потому что это создаст возможности для злоупотреблений, таких как, например, влияние на выборы, кража кредитной карты бабушки и так далее. Не правда ли, Бретт, несколько удивительно, как мало злоупотреблений мы наблюдали до сих пор?

Я не знаю, сколько злоупотреблений мы видели до сих пор. Я не знаю, знает ли кто-нибудь из нас. И даже пример, который вы предлагаете, где чат GPT больше не является открытым исходным кодом для предотвращения злоупотреблений, я принимаю их слово за то, что это мотивация. В то время как системный теоретик, я бы сказал: «Если бы у вас была технология, которая отлично подходит для повышения вашей способности владеть властью, то открытый исходный код – это неспособность извлечь из этого выгоду». И что наиболее выгодное использование – это сохранить его в тайне, а затем либо продать возможность манипулировать выборами людям, которые хотят это сделать, либо продать возможность держать его вне поля зрения людям, которые этого не хотят. И я ожидал бы, что это, вероятно, и происходит. Если у вас есть технология, столь же преобразующая, как эта, отдавать её бесплатно – это нелогично, что оставляет нас, общественность, более или менее во власти тех, у кого она есть. Так что я не вижу причин для комфорта.

Мы находимся на заре этой радикальной трансформации человечества, которая по своей природе, как поистине сложная и возникающая инновация. Никто на Земле не может предсказать, что произойдёт. Мы находимся на горизонте событий чего-то. И проблема в том, что мы можем говорить об очевидных нарушениях, о нарушении занятости, и это будет массовым. И приведёт ли это к тому, что какая-то группа элит решит: «Ну, вдруг у нас появилось много бесполезных едоков, и что мы с этим будем делать?» Потому что этот разговор очень быстро приводит к чему-то очень мрачному. Но я думаю, что это только начало различных способов, которыми это может пойти не так, без учёта сценариев «думера». Это неконтролируемый эксперимент, в котором всё человечество находится ниже по течению.

Да. Поэтому я пытался сказать, что OpenAI ошибалась относительно потенциала вреда, как, знаете ли, я думаю, мы бы услышали об этом в новостях, как о том, насколько большой вред это нанесло, и, может быть, что-то работает в тени, но несколько инцидентов, о которых мы слышали, где, знаете ли, причина больших языковых моделей, технология, которая управляет чатом, была огромными заголовками, например, New York Times писала об этом ребенке, который, возможно, был подстрекаем каким-то чат-программным обеспечением, которое помогает подросткам бороться с одиночеством, к самоубийству, что трагично. И, очевидно, это именно те вопросы безопасности и злоупотреблений, о которых мы хотим беспокоиться. Но это своего рода изолированные инциденты, и у нас есть модели больших языков с открытым исходным кодом. Очевидно, что все говорят о DeepSeek. Deepseek – это из Китая. Так каков стимул Deepseek? Возможно, стимул – разрушить индустрию искусственного интеллекта в США. Когда они выпустили DeepSeek, рынок рухнул, рынок Nvidia, рынок искусственного интеллекта и всё такое. Но есть стимул к открытому исходному коду. Meta выпускает Llama с открытым исходным кодом. Llama – это ещё один ИИ, похожий на Chat GPT. Причина, по которой они выпускают Llama с открытым исходным кодом, и Цукерберг просто говорит об этом вслух, заключается в том, что они не хотят зависеть от Open AI. Они не продают ИИ как услугу. Они используют его для создания продуктов. И в бизнесе существует концепция «коммодитизировать свой комплимент», потому что вам нужен ИИ как технология для запуска вашей службы. Лучшая стратегия – это выпустить его с открытым исходным кодом.

Итак, эти рыночные силы создадут условия, которые, я думаю, действительно благоприятны. Вот несколько примеров. Во-первых, компании, занимающиеся искусственным интеллектом, мотивированы создавать безопасный искусственный интеллект, чтобы они могли его продавать. Во-вторых, компании по кибербезопасности инвестируют в ИИ, который позволяет им защищаться от вредоносных действий ИИ. Итак, у вас есть свободный рынок, и у нас всегда он был, но, как правило, человечество могло использовать одну и ту же технологию для защиты от злоупотреблений. Так что я действительно не понимаю этого, и, возможно, это именно тот разговор, которого вы ожидали бы между кем-то на переднем крае сложной системы и биологом, который пришёл из мира сложного и смотрит на сложные системы. В теории игр у нас есть нечто, называемое проблемой коллективных действий. И на рынке, который вы описываете, отдельная компания не имеет возможности сдерживать злоупотребления ИИ. Максимум, что вы можете сделать, это не участвовать в них. Вы не можете остановить других людей от программирования больших языковых моделей опасным образом. И вы можете ограничить свою собственную способность зарабатывать, основываясь на своих собственных ограничениях того, что вы готовы делать. И тогда фактически происходит то, что технология всё равно изобретается. Просто деньги оказываются в кармане кого-то другого. Поэтому стимул не в том, чтобы себя сдерживать, а в том, чтобы, по крайней мере, конкурировать и участвовать на рынке, который будет открыт.

И так много способов злоупотребления этой технологией. Давайте рассмотрим пару. Что мешает кому-то обучать большие языковые модели на творческом продукте отдельного человека, а затем создавать большую языковую модель, которая может превзойти этого человека, которая может эффективно не только производить то, что они естественным образом производили бы в течение всей жизни, но и может экстраполировать из этого и даже гибридизировать это с идеями других людей, так что эффективно те, у кого есть большая языковая модель, могут обучать её на творчестве других, не включая их в использование этого знания. Вы можете эффективно оказаться без работы, выложив свои творческие идеи в мир, где они поглощаются в качестве обучающих данных для будущих больших языковых моделей. Это недобросовестно, но это фактически гарантировано. На самом деле это уже происходит. Так что это проблема. И аналогично, что бы помешало кому-то взаимодействовать с человеком и обучать большую языковую модель, чтобы она стала похожа на персонализированного мошенника? Что-то, что будет играть именно в ваше слепое пятно. Это происходит. Это начинает происходить. Люди получают телефонные звонки, и это звучит как их дочь, и я потерял свой телефон, и я занимаю телефон друга, и всё такое.

Что интересно, так это то, что я думаю, вы очень хорошо подметили. Я беспокоюсь о влиянии на общество. И всё же, когда я смотрю на каждого человека, который регулярно использует ИИ, это почти всегда оказывает глубоко положительное влияние на его жизнь. Я смотрю на таких людей, как… я только что провёл некоторое время со своими свёкрами, которым за 70 и за 80, и они регулярно используют ИИ для самых разных вещей, которые они находят невероятно ценными и которые улучшают качество их жизни. Лично я совершил сделку по слияниям и поглощениям, где купил компанию в прошлом году, и ИИ был настолько мощным в помощи этому процессу. Разговоры были транскрибированы, и они были превращены в письма о намерениях, а затем в пресс-релизы и юридические документы, и мы, вероятно, сэкономили 100 000 долларов расходов, и мы ускорили весь процесс, и было довольно волшебно видеть, как это может произойти. С учетом сказанного, есть все эти такие, ну, 100 000 долларов юристов не получили оплату, верно? Так что, что я хочу знать, да, люди расстроены, но если мы оглянемся назад на изобретение сотового телефона или изобретение платформ социальных сетей, были бы все основания иметь точно такую же перспективу, верно? Я помню начало Facebook, и я помню идею о том, что внезапно процесс, который раньше поражал людей, когда вы просто теряли связь с большинством людей, которые были вам важны, это было не то, что должно было происходить больше. Вы могли просто сохранить их навсегда как часть диффузной социальной группы, которая просто росла, и ценность добавлялась. Нет предела тому, сколько добра это принесло, но то, что это сделало с нами, было глубоким и не очевидным в первой главе. Скажите то же самое о сотовых телефонах и ловушках допамина и о том, как это отделило нас друг от друга, как это отделило нас от природы, как это изменило сами модели, с помощью которых мы думаем. Это изменило каждый класс.

Итак, и я думаю, что эти вещи окажутся своего рода незначительными предзнаменованиями тех потрясений, которые произведёт ИИ. Поэтому я согласен с вами сегодня. Количество того, что вы можете сделать с ИИ, огромно. Есть немного вреда. Может быть, это то, о чём нам нужно беспокоиться. Но по мере развития, когда мы подойдём к краю этой пропасти, к которой мы направляемся, я думаю, мы обнаружим, что мы ещё не можем определить природу грядущих изменений.

Поэтому я просто хотел добавить немного контекста к этому, потому что Амджад, я видел интервью, которое вы дали в информационном бюллетене в 2023 году, где вы сказали: «Я бы не готовился к ОИИ так же, как я бы не готовился к концу света». Это фактически конец света, если видение ОИИ, которое имеют некоторые из этих компаний, сбудется, потому что это называется моментом сингулярности, потому что вы действительно не можете предсказать, что произойдёт после этого. Итак, как вы вообще подготовитесь к этому, и вы хотите подготовиться к более вероятному миру, и этот мир, который вы можете фактически предсказать, – это мир, где да, есть огромные улучшения технологии, и есть безумные кумулятивные эффекты технологии, и за этим довольно трудно угнаться. Из этого следует, что в 2023 году вы говорили нечто подобное Бретту в том смысле, что мы не можем видеть за угол, потому что это сингулярность. Извините, вы также использовали ОИИ – общий искусственный интеллект. Было бы интересно узнать, каково ваше определение ОИИ. Скажите это.

Да. Итак, что я там говорил, так это то, что даже если я ошибаюсь, что вы действительно можете создать неограниченный, по-видимому, сознательный искусственный интеллект, который может полностью заменить людей и может действовать автономно таким образом, что даже люди не могут действовать и могут координировать действия разных ИИ, разных центров обработки данных, чтобы захватить мир. Даже если так, определение ОИИ – это общий искусственный интеллект, означающий, что ИИ может эффективно приобретать новые навыки так же, как люди могут приобретать навыки. Сейчас ИИ не приобретает навыки эффективно, они требуют огромного количества энергии и вычислений, целого набора данных вычислений для приобретения этих навыков, и я думаю, что снова есть предел тому, насколько общим может стать интеллект, я думаю, что большую часть времени мы отстаём в том, что люди способны делать, сингулярность основана на этой концепции взрыва интеллекта, поэтому как только вы создадите ОИИ, как только вы создадите общий искусственный интеллект, этот интеллект сможет изменить свой собственный исходный код и создать следующую версию, которая будет намного умнее. И следующая версия создаёт следующую версию, и следующую, ну, до бесконечности, верно? В течение недели, возможно, в течение миллисекунд в какой-то момент. Да. Верно. Потому что он может изобрести новые вычислительные субстраты и всё такое. Возможно, они будут использовать квантовые вычисления, и тогда у вас будет этот взрыв интеллекта таким образом, что невозможно предсказать, каким будет мир, и что я говорю, это своего рода история о конце света, как вы вообще подготовитесь к этому, поэтому если это происходит, почему бы мне тратить время на подготовку к тому, что я думаю, что это маловероятно, не могу видеть за угол, да, но я бы предпочел подготовиться к тому, что я говорил там. Я бы предпочел подготовиться к более вероятному миру, в котором у нас есть доступ к огромной силе, но мир не заканчивается, и люди всё ещё важны. Я не знаю, почему вы говорите «более вероятно». Я имею в виду, я думаю, что структура вашего аргумента верна. Вы бы готовились к миру, который может произойти, к которому вы можете подготовиться. Нет никакого смысла пытаться подготовиться к миру… Вы не можете предсказать его полностью. Единственное, что вы можете сделать, это просто улучшить свои собственные навыки и обратить внимание. Но если у меня есть одно сообщение для технологов, то это то, что ваша уверенность в том, что это может и не может сделать, не на месте, потому что вы, не заметив, шагнули в область по-настоящему сложного. В по-настоящему сложном ваша уверенность должна упасть почти до нуля, что вы знаете, что происходит. Сознательны ли эти вещи? Я не знаю. Но будут ли они с большой вероятностью, они станут сознательными, и у нас не будет теста, чтобы сказать нам, произошло ли это. Илон Маск предсказывает, что к 2029 году у нас будет ИИ с нами, ОИИ, который превзойдёт объединённый интеллект всех людей. И Сэм Альтман на самом деле написал пост в блоге три месяца назад, который я читал, где он сказал, что мы уверены сейчас, Сэм Альтман, основатель Open Arrow, который создал chatbt, мы уверены сейчас, что мы знаем, как создать ОИИ, как мы его традиционно понимали. Когда я всё это объединяю, я возвращаюсь к главному вопросу о том, какую роль играют люди в этом, в своего рода профессиональном продукте, в создании ВВП. Если это умнее, чем все люди вместе взятые, если Илон Маск прав, и оно способно действовать через интернет и продолжать учиться. Это центральный вопрос, на который я надеюсь ответить сегодня, а именно: куда мы идём?

Я имею в виду, в моём представлении о мире мы находимся в креативном кресле. Мы сидим там, где мы контролируем рои разумных существ, чтобы выполнять нашу работу. Например, как вы ведёте свой бизнес, вы сидите за компьютером, у вас есть час работы. Да. И вы собираетесь запустить, например, тысячу SDR, представителей по продажам, чтобы они получили как можно больше лидов, и вы создаёте новое обновление на replet для своего веб-сайта, а затем с этой стороны вы фактически имеете ИИ, который обрабатывает данные о вашем существующем бизнесе, чтобы выяснить, как его улучшить, и эти ИИ как-то координируются вместе, и я пытаюсь отдать предпочтение человеку, вот моя миссия – создавать инструменты для людей. Я не создаю инструменты для агентов, а агенты – это инструмент, и поэтому в конечном итоге я не только думаю, что люди занимают привилегированное положение в мире и во Вселенной. Мы не знаем, откуда берётся сознание. У нас нет науки, чтобы объяснить это. Я думаю, что люди особенные. Одна сторона – это моя вера в то, что люди особенные в мире, а другая сторона, которую я понимаю, что технология сегодня, и я думаю, в обозримом будущем, будет функцией наших обучающих данных. Поэтому возникла вся эта идея: а что, если чат GPT генерирует патогены? А обучали ли вы его на патогенах? Они делали такие вещи в Ухане. Знаете, я имею в виду, многие биотехнологические компании в основном используют искусственный интеллект, например, я могу подумать об Abselera, я думаю, что это Abselera в Канаде, весь их бизнес использует ИИ для создания новых вакцин с использованием искусственного интеллекта и больших наборов данных, чем мы когда-либо имели раньше, и я знаю, потому что я был очень близок к одному из основателей, людей, участвовавших в Absela, так что эта работа идёт в любом случае, и если мы подумаем об Ухане, это довольно хорошо известно сейчас, что это вышло из лаборатории и людей, работающих в лаборатории, и в этом сценарии это оказало огромное влияние и закрыло мир. Центральный вопрос, на который я хотел бы ответить, прежде чем снова открыть его для комнаты, – это какие рабочие места, потому что я знаю, что у вас есть эта перспектива. Какие рабочие места будут избыточны в мире, где я сижу здесь как генеральный директор с тысячей агентов ИИ, верно? Я думал обо всех именах моих сотрудников в моей компании, которые в настоящее время занимают эти должности. Я думал о своём финансовом директоре, когда вы говорили об обработке бизнес-данных, моих графических дизайнерах, моих видеоредакторах и т. д. Итак, какие рабочие места будут затронуты?

Да, все они. Итак, я думаю, и что они делают? Может быть, это полезно для аудитории. Я думаю, что если ваша работа настолько рутинна, насколько это возможно, ваша работа исчезнет в ближайшие пару лет. Это означает, что если вы в этих работах, например, работах по контролю качества, работах по вводу данных, вы сидите перед компьютером и должны щелкать и вводить вещи в определённом порядке, оператор, и эти технологии появляются на рынке очень быстро, и они вытеснят много, много рабочей силы, бухгалтеров, бухгалтеров, шум, да, я имею в виду, я только что потянул связку в моей ноге, и они сделали МРТ, и мне пришлось ждать пару дней, пока кто-то посмотрит на МРТ и скажет мне, что это значит. Да, я предполагаю, что это исчезло. Да, я думаю, что экосистему здравоохранения трудно предсказать из-за регулирования и снова есть так много ограничивающих факторов того, как эта технология может проникать в экономику из-за регулирования и готовности людей к этому. Но знаете, нерегулируемые рабочие места, которые чисто текстовые на текстовом выходе, если ваша работа, вы получаете сообщение, и вы создаёте какой-то артефакт, который, вероятно, текст или изображения, то эта работа находится под угрозой.

Поэтому, чтобы дать вам некоторую статистику, около 50% американцев, имеющих высшее образование, в настоящее время используют ИИ. Статистика значительно ниже для американцев без высшего образования. Таким образом, вы можете видеть, как там может возникнуть раскол, и эта трещина будет расширяться, потому что такие люди, как мы за этим столом, все возиться с этим. Но моя мама и папа в Плимуте на юго-западе, в сельской Англии, не имеют такого… они только что разобрались с iPhone. Поэтому я купил им iPhone, и теперь они пишут мне сообщения. ИИ находится на миллион миль дальше. И если я начну убегать со своим ОИИ, моими агентами, этот разрыв будет увеличиваться. Женщины непропорционально страдают от автоматизации, о чём вы говорили там, с примерно 80% работающих женщин, занимающих работу, находящуюся под угрозой, по сравнению с чуть более 50% мужчин, согласно Harvard Business Review, а рабочие места, требующие только аттестат о среднем образовании, имеют риск автоматизации 80%, в то время как те, которые требуют степень бакалавра, имеют риск автоматизации всего 20%. Таким образом, мы снова можем видеть, как это вызовет своего рода… это также огромный риск… с аутсорсингом бизнес-процессов, который по существу является отправкой рабочих мест из западных стран в Индию, на Филиппины, как в данный момент миллионы людей были выведены из бедности благодаря возможности выполнять эти виды работ по аутсорсингу бизнес-процессов, и все они исчезнут, но у них будет тысяча сотрудников, но… но… но эти люди уже переходят к обучению ИИ. Хм. Знаете, так что будет огромная индустрия по обучению ИИ, пока они не будут обучены. Ну, нет, вы должны постоянно приобретать новые навыки, и об этом я говорю. Я имею в виду, это снова, если ИИ является функцией его данных, то вам нужно всё больше и больше данных. И кстати, у нас закончились данные интернета. Я на самом деле интересно думал, что это может быть не очень хорошо для Соединённых Штатов или Великобритании, западного мира, потому что это будет выравнивателем, где теперь ребёнок в Индии не нуждается в офисе в Кремниевой долине и 7 миллионах долларов инвестиций, чтобы создать программную компанию. Моё… моя вера в то, что… у меня более широкое определение ОИИ и сингулярности, и для меня ОИИ – это имеем ли мы общий искусственный интеллект в общем смысле, может ли ИИ просто делать то, что люди раньше могли делать, и мы уже пересекли эту точку, у нас есть этот общий интеллект, к которому теперь мы все можем получить доступ, и 800 миллионов человек в неделю сейчас используют чат GBT, он взлетел за последние 3 месяца, а затем для меня сингулярность… когда первый трактор выехал на ферму, для меня это был момент сингулярности. Потому что каждый, кто работал на ферме, раньше требовалось 100 человек, чтобы вспахать поле, а теперь появляется трактор, и два парня с трактором теперь могут вспахать поле за то же время, а теперь 98 человек из 100 полностью без работы. Мы также всегда недооцениваем технологию, если она действительно меняет историю. Когда вы оглядываетесь назад на автомобили, лошадей, самолёты, братья Райт просто думали о самолёте как о чём-то, что могла бы использовать армия, мы понятия не имели о применении. Поэтому кто-то недавно сказал мне: «Когда это изменит мир, мы недооцениваем влияние, которое это изменит мир». И я вижу людей сейчас с их оценками ИИ и агентов ИИ уже невероятно оптимистичными. И поэтому, если история повторится здесь, мы недооцениваем влияние, которое это окажет. И я думаю, что это первый раз в моей жизни, когда аналогии с промышленной революцией кажутся немного короткими. Да. Потому что мы никогда не видели интеллекта… я мог бы рассматривать это как… я не умный человек в этом отношении, но я мог бы рассматривать это как нарушение работы мышц, в то время как это нарушение интеллекта. Это именно то, что делает людей особенными, это их когнитивные способности и, в частности, их способность подключать свои умы друг к другу. Таким образом, сумма… или целое больше суммы частей. Это то, что делает человеческое познание особенным. И что мы делаем, так это создаём нечто, что может технологически превзойти его без каких-либо предпосылок, которые делают этот процесс безопасным. Так что да, мы революционизировали мир сколько раз? Бесчисленное множество. Но, вы знаете, мы значительно повысили эффективность сельского хозяйства. Это отличается от того, чтобы взять нашу основную компетенцию как вида и превзойти самих себя с помощью продукта нашего… нашего труда. Я думаю, что ваш вопрос хороший. Тогда что станет? У нас осталось только одно. У нас есть наши мышцы, от которых мы избавились в промышленной революции, а затем у нас есть наш интеллект, это цифровая революция. Теперь у нас остались эмоции и агентство. Поэтому мы, по сути, идея агентства, я думаю, мы раньше судили людей по IQ, а теперь IQ – это большой выравниватель, а теперь в будущем на следующие 10 лет мы будем смотреть, являетесь ли вы человеком с высоким уровнем агентства или с низким уровнем агентства. Есть ли у вас способность добиваться результатов и координировать действия агентов? Есть ли у вас возможность создавать предприятия или отдавать приказы цифровым армиям? знаете, и по существу эти люди с высоким уровнем агентства будут процветать в этом новом мире, потому что у них есть эта другая вещь, которая бурлила под поверхностью, что очень интересно, когда вы сказали, что агентство останется важной вещью, мы сидим здесь и говорим об агентах ИИ, и сумасшедшая вещь в мире агентов ИИ, обладающих сверхъестественным интеллектом, заключается в том, что я могу просто сказать своему агенту: «Слушай, я иду в отпуск, пожалуйста, создай для меня компанию SaaS, которая найдёт рыночную возможность, создай веб-сайт, размести его в моём канале социальных сетей, я буду на Гавайях», и этот новый агентский мир тоже крадёт это, потому что теперь он может действовать так же, как я могу просматривать интернет. Я могу позвонить в Domino's Pizza, поговорить с их агентским агентом, организовать свою пиццу, чтобы она была там, прежде чем я даже проснусь. И на самом деле предсказуемость, знаете, OpenAI теперь учится, и Сэм Альтман сказал, что они расширили функцию памяти. Поэтому он знает всё… он знает всё больше и больше обо мне. Он почти сможет предсказать, чего я хочу, когда я этого хочу. Он будет знать календарь Стива. Он прибывает в студию. Убедитесь, что его темп на стороне. Убедитесь, что на его iPad есть краткий обзор. Сделайте краткий обзор. Сделайте для меня исследование. И всё остальное, скажите, помните день рождения Бретта, поэтому, когда я прибуду, там будет что-то. На самом деле, это устраняет мою потребность в любой…

Agency. Yes. И вы знаете, опять же, я не знаю, как изложить эту мысль так, чтобы людям пришло в голову, что я действительно предлагаю, но сегодня, может быть, это неосознанно, но хорошо, позвольте мне объяснить так. Если вы осознаёте себя, вы начинали как ребёнок, который этого не делал. И хотя это может не полностью охватывать суть, вы фактически являетесь большой языковой моделью, верно? Вы переходите от бессознательного младенца к высоко осознающему взрослому. И процесс, с помощью которого вы это делаете, во многом связан с эффективным обучением словам и другим вещам в окружающей среде, точно так же, как мы сейчас обучаем эти ИИ.

Таким образом, идея о том, что мы можем отложить вопрос о сознании в сторону, его не будет, пока мы не разберёмся, как его запрограммировать, и мы в безопасности, потому что не знаем, как работает сознание, — я извлекаю противоположный урок. Мы создали именно то, что породит этот феномен, и тогда философы смогут поспорить, является ли это истинным сознанием или оно просто ведёт себя точно так же, как если бы оно было настоящим. И ответ таков: это не разные вещи. Без разницы. И то же самое верно для агентности. Вы знаете, особенно если вы создали среду, в которой эти ИИ являются фактическими конкурентами, то вы фактически создаёте эволюционную среду, в которой они будут развиваться, чтобы заполнять любые ниши, которые там есть. И мы не прописывали эти ниши.

Поэтому у меня есть ощущение, что мы… мы пригласили… мы создали нечто, что действительно будет функционировать как новый вид жизни, и это особенно тревожно, потому что оно говорит на нашем языке. Это заставляет нас верить, что оно больше похоже на нас, чем есть на самом деле, и оно на самом деле потенциально совершенно другое. Так что, кстати, он здесь оптимист, верно? Ему так нравится оптимизм по поводу больших языковых моделей и того, как они будут развиваться. Да. Это удивительно. Это удивительная технология. Я думаю, что она повысила глобальный IQ, верно? Как 800 миллионов человек… 800 миллионов человек стали намного умнее и эмоционально умнее. Я знаю людей, которые раньше были очень грубыми и обманывали людей неправильным способом. Они говорили вещи не очень вежливым образом, а затем вдруг начали пропускать то, что они говорят, через чат, чтобы сделать это добрее и приятнее, и теперь их больше любят.

Таким образом, это не только делает нас умнее, но и позволяет нам быть лучшей версией самих себя. А сценарий, о котором вы говорите, я не думаю… я не знаю, что в этом плохого. То есть, знаете ли, я хотел бы меньше агентности в некоторых местах. Например, я хотел бы, чтобы что-то помогло мне не открывать банку арахисового масла ночью, верно? Есть места в моей жизни, где мне нужен больший контроль, и я бы предпочел доверить его какому-то существу, которое могло бы помочь мне сделать лучший выбор. Я имею в виду, к сожалению, даже если есть небольшая группа элит, которые могут поехать на Гавайи, пока что-то другое занимается рутинными деталями их бизнеса, мы довольно скоро столкнёмся с миром, в котором миллиарды людей не имеют навыков для использования ИИ. Некоторые из них будут необходимы некоторое время. Вам понадобятся сантехники. Но это также не долгосрочное решение, потому что таких рабочих мест недостаточно, и, конечно же, у нас есть гуманоидные роботы, которые, однажды получив возможности ИИ, также смогут… они смогут пролезть под ваш дом в подпол и починить вашу сантехнику.

Так что обычно происходит, когда вы имеете дело с масштабным экономическим спадом, который возникает из-за того, что огромное количество людей без работы, элиты начинают смотреть на этих людей и думать: ну, мы в них действительно не нуждаемся. И поэтому идея о том, что это нарушение ИИ не приведёт нас к какой-то очень человеческой катастрофе, я думаю, слишком оптимистична, и нам нужно начать готовиться прямо сейчас. Каковы права человека, у которого всё, во что он вложил, полностью стёрто из списка потребностей? Несет ли этот человек ответственность за то, что не предвидел прихода ИИ? И является ли это его проблемой, что он теперь голодает, и другие смотрят на него как на, знаете ли, бесполезного едока? Я так не думаю. Чем это отличается от… когда… как это называется… надвигающаяся машина пришла, и ткачи, знаете, в результате… ну, промышленной революции? Как… чем это отличается от любого времени в истории, когда технологии автоматизировали многих людей из работы? Я бы сказал, масштабом и скоростью, вот чем оно отличается, и масштаб и скорость приведут к беспрецедентной катастрофе, потому что скорость, с которой люди будут одновременно отстранены не только в одной отрасли, но и во всех отраслях, просто… и это действительно произошло. Было… в течение первых 50 лет индустриализации, с конца 1700-х до начала 1800-х годов, вы фактически… романы Чарльза Диккенса — это по сути люди, приехавшие с ферм, которые были перемещены и прибыли в города, дети, живущие на улицах. Британия решила забрать всех и отправить их в Австралию, откуда я родом, и… знаете, была… была эта масштабная проблема перемещения.

Я думаю, что мы перейдём к высокоскоростной экономике, где вместо этой длинной карьеры, которая длится 45 лет, у нас будут очень быстрые карьеры, которые длятся от 10 месяцев до 36 месяцев. И вы изобретаете что-то, вы выводите это на рынок, вы собираете команду из пяти-десяти человек, которые работают вместе, затем вас вытесняют, вы приходите… Могу ли я упомянуть здесь историю? Есть предприниматель, который использовал Replit похожим образом. Его зовут Билли Хоуэлл. Вы можете найти его на YouTube, в интернете. Он заходил на Upwork и находил то, о чём люди просили, разные запросы на определённые приложения, технологии. Затем он брал то, о чём они просили, вставлял это в Replit, делал из этого приложение, звонил им, говорил им: «У меня уже есть ваше приложение. Вы заплатите за него 10 000 долларов?» И так… так что это своего рода арбитражная возможность, которая существует прямо сейчас. Это не арбитраж. Это кража. Как… что это такое? Как это кража? У вас есть кто-то, у кого есть идея, которую можно вывести на рынок, а кто-то другой скрытно обнаруживает её и затем продаёт им свою собственную идею. Ну, они платят им за это. Они говорят: «Я дам тебе 500 долларов, если кто-то сделает это для меня». Верно? Но это то, что я более или менее думаю, что будет происходить во всей экономике, то есть да, с этой точки зрения мы можем видеть, что каждый внезапно получает возможность создать отличный бизнес. Что ж, что мы думаем о людях, которые будут вытеснены с вершины? Что они будут думать обо всех этих людях, создающих все эти высококонкурентные бизнесы? И найдут ли они способ сделать то, что делал венчурный капитал или что делали звукозаписывающие продюсеры? То, что они будут делать, это использовать своё превосходное положение на вершине, и они будут забирать большую часть богатства, которое создаётся всеми этими людьми, у которых есть эти идеи, которые на нормальном рынке фактически создали бы для них бизнесы, и они будут паразитировать на них. Я думаю, что с этим внедрением ИИ и ИИ-агентов старая ценность изменилась, и теперь не будет так, что сама идея является рвом, и не будет так, что ресурсы являются рвом.

Поэтому в таком сценарии вам всё ещё нужно решать вопрос дистрибуции. Вам всё ещё нужно иметь, например, аудиторию. Так что если вы сейчас подкастер, у вас миллион подписчиков в Твиттере. Вы находитесь в выгодном положении, потому что у вас теперь есть то, чего нет у парня с отличной идеей, но без аудитории, у вас есть встроенное распространение. Поэтому я теперь думаю, что большая часть игры может перейти к… да, всё ещё о вкусе и идее, но также ров — это дистрибуция. Да. И говоря об адаптивных системах… одна из адаптаций, которая произойдёт, это то, что люди будут искать людей и будут искать доказательства человечности. О, я согласен, что подлинность станет основной валютой, а всё, что можно подделать или обмануть, будет обесценено, и такие вещи, как спонтанный джаз или комедия, которая достаточно интерактивна, чтобы её невозможно было сгенерировать с помощью ИИ, эти вещи будут приоритетными, спонтанная ораторская речь, а не речи… отвечает на некоторые ваши вопросы… нет, отвечает… отвечает на мой вопрос для небольшого числа людей, которые находятся в положении сделать эти вещи. Стивен, вы используете слово «ров». Которое, я думаю, очень важное слово для предпринимателей. Нам… нам нужно иметь ров. Мы много думаем о рвах, и это индустриальная эпоха. Многие даже не знают, что такое ров, что вы имеете в виду под рвом. Это просто… я часто думаю об этой идее: какие рвы остались? Таким образом, чтобы определить, как я определяю ров, у вас есть замок, и вокруг него есть как бы небольшой круг воды. И когда-то этот круг воды защищал замок от нападения, и вы можете поднять подъёмный мост, так что никто не сможет легко атаковать вас. Это защита от чего-то. Так что это ваш… ваш щит. Это ваша… ваша защита. И когда-то, как предприниматель, вы знаете, у меня есть программная компания в Сан-Франциско под названием Third Webb, и мы привлекли почти 30 миллионов долларов. У нас есть команда из 50 отличных разработчиков. И большая часть нашего рва заключалась в том, что вы не можете конкурировать с нами, если у вас нет 50 разработчиков и 30 миллионов долларов в банке. Сколько из этих 30 миллионов долларов ушло на кодинг? Подавляющее большинство из них. Я имею в виду, что ещё мы будем делать? Что ещё мы будем делать? Так что это хорошо. Я думаю, что рвы — это плохо. Хорошо, позвольте мне привести аргумент. Все ищут рвы, например, один из наиболее значительных рвов — это сетевые эффекты. Да, вы знаете, поэтому вы не можете конкурировать с Facebook или Twitter, потому что чтобы переместить людей из Facebook или Twitter, вам нужно… это проблема коллективных действий. Вам нужно переместить их всех одновременно, потому что если один из них переместится, то сеть не будет ценной, они вернутся. Таким образом, у вас есть эта проблема курицы и яйца. Допустим, у нас есть более децентрализованный способ создания социальных сетей, который устранит способность Twitter цензурировать, и я думаю, что вы находитесь на другом конце цензуры, верно? И поэтому часть моего оптимизма в отношении человечества заключается в том, что… в целом существует самокоррекция. Демократия — это самокорректирующаяся система. Свободные рынки в значительной степени являются самокорректирующимися системами. Существуют очевидные проблемы со свободными рынками, которые мы можем обсудить. Но возьмём… здравоохранение, вы знаете, существует эпидемия ожирения… этот период времени, когда компании, вы знаете, безнаказанно производили эти сладкие, солёные, жирные закуски, и все объедались ими, и все стали очень… вы знаете, нездоровыми. А теперь повсюду есть Whole Foods. Сегодня люди в Силиконовой долине вообще не ходят в бары. Они ходят в беговые клубы. Вот как вы встречаетесь. Вот как вы ищете свидание. Вы ходите в беговые клубы. И поэтому произошёл сдвиг, потому что была реакция. Очевидно, сигареты — ещё один пример. Вы говорили о телефонах и нашей зависимости от телефонов. И я вижу сдвиг прямо сейчас, например, в моём кругу друзей, люди, которые постоянно находятся в своих телефонах, уже как бы не в фаворе, и они не хотят с вами общаться, потому что вы постоянно пялитесь в свой телефон. Поэтому всегда есть эти реакции, но проблема в том, что вы ссылаетесь на самокоррекцию, и я согласен, что на самом деле существует автоматическая функция вселенной, в которой происходит самокоррекция. Вы не можете иметь положительную обратную связь, которая не сдерживается какой-то внешней отрицательной обратной связью. Но исправления, список исправлений включает в себя такие вещи, как вы указываете, где люди становятся просветлёнными, и они понимают, что причиняют себе вред либо сахаром, который они потребляют, либо ловушками дофамина в своих телефонах, и они становятся лучше. Но также в списке корректирующих шаблонов — геноцид и война, и, вы знаете, паразитизм. И проблема в том, что эти вещи разрушают богатство.

Таким образом, вы намекаете на превосходный факт открытого рынка без рвов. Предположительно, преимущество этого заключается в том, что создаётся больше богатства, потому что людям не мешают делать то, что продуктивно. Я вижу это. Но тогда что является продуктом всего этого нового богатства, которое будет создано миром, наделённым силой ИИ? Заканчивается ли он настолько высокой концентрацией, что у вас есть небольшое количество сверхэлит и огромное количество людей, которые полностью зависят от них? Что станет с этими людьми? Процесс обучения, процесс самокоррекции проходит через вред, чтобы достичь более просветлённого решения. Ничто не защищает нас от того, чтобы фаза вреда была настолько апокалиптически ужасной, что, вы знаете, мы доберёмся до другой стороны, и скажем: «Ну, это было ужасное исправление». Или, может быть, там никого не будет, чтобы это сказать. Это тоже на столе. Это напоминает мне мышеловку, где вы видите сыр, и мы говорим: «О мой бог, моя бабушка сможет провести какое-то исследование, и о мой бог, моя жизнь станет проще». Таким образом, вы приближаетесь всё ближе к сыру. И исторически, если мы посмотрим на все последние 10 000 лет, это очень небольшое количество элит, которые владеют абсолютно всем, и очень большое количество крепостных и крестьян, которые живут за счёт натурального хозяйства. Вы знаете, если элиты слишком жадны и они слишком сильно изолируют крестьян, и они пытаются использовать жестокость или… Да. в конце концов это возвращается, чтобы преследовать их. И поэтому вы получаете понимание того, что вам нужна система, которая уравновешивает эти вещи, и вы знаете, у Запада есть лучшая система, которую мы когда-либо видели. Это та, в которой мы соглашаемся на равные условия игры. Мы никогда этого не достигаем, но мы согласны с тем, что это желательная вещь, и чем ближе мы к ней приближаемся, тем больше богатства мы создаём. Но опять же, если ИИ наделяет властью тех, кто имеет дурные намерения, с большей скоростью, чем тех, кто создаёт богатство и является просоциальным, мы можем оказаться перед лицом масштабной регрессии в том, насколько справедлив рынок Запада. Это ваша главная забота по сравнению с экономическим вытеснением? И я думаю, что это одно и то же. Как они одно и то же? Потому что экономическое вытеснение начнётся. Я не знаю, сколько миллионов человек будут вытеснены с работы в США. Внезапно у нас возникнет вопрос о том, есть ли у нас обязательства перед ними. И вы согласны с этим, не так ли? Да. Но… но… но опять же, это… без боли, нет выгоды. Я имею в виду, мы пройдём через период разрушения. И я думаю, что в конце концов старые, вы знаете, угнетающие системы будут сломаны, и мы создадим, возможно, справедливый мир, но у него будут свои собственные… свои собственные проблемы. И каков масштаб этого разрушения по вашей оценке? Трудно сказать, потому что… вы знаете, есть эта концепция ограничивающих факторов, например, вы знаете, есть… регулирование… есть аппетит людей к… сегодня, например, система здравоохранения очень устойчива к инновациям из-за регулирования, вы знаете, и это плохо… по поводу регулирования стоит сказать, что когда Трамп пришёл к власти, он подписал новый закон, который называется «Устранение барьеров для американского лидерства в области ИИ», который отменяет предыдущие политики в области ИИ, которые считались ограничительными. И очевидно, если вы думаете о том, куда направляется финансирование в области ИИ, оно направляется в два места. Это Америка и это, в основном, Китай. Это подавляющее большинство инвестиций. Таким образом, при конкуренции этих двух, любое регулирование, которое ограничивает ИИ каким-либо образом, на самом деле является самосаботажем. М-м. И это, вы знаете, я живу в Европе некоторое время, и мне уже неприятно, что когда Сэм Альтман и OpenAI выпустили модель 03, эту новую невероятную модель, её нет в Европе, потому что в Европе есть регулирование, которое не позволяет ей прийти в Европу. Таким образом, мы теперь находимся в невыгодном конкурентном положении… о чём говорил Сэм Альтман. И в более широком плане по поводу этого момента разрушения, я был довольно обеспокоен, когда услышал, что другой стартап Сэма Альтмана назывался Worldcoin. И Worldcoin был задуман с целью содействия универсальному базовому доходу, то есть помочь создать систему, в которой людям, у которых нет денег, деньги даёт правительство просто за то, что они живы, чтобы помочь им покрыть свои основные потребности в еде и жилье. Что говорит мне о том, что человек, который создал самую большую компанию по разработке ИИ в мире, может видеть что-то, чего многие из нас не видят, а именно… Да. Там… там должна быть система, которая просто раздаёт деньги людям, потому что иначе они не смогут выжить. Я категорически не согласен с этим. С какой частью вы не согласны? Я не согласен с тем, что, во-первых, люди были бы довольны УБД. Я думаю, что вы знаете… вы знаете, основная ценность людей, и нужно быть любопытным по поводу эволюционных причин, это то, что мы хотим быть полезными. Действительно важно знать, что многие из рабочих мест, которые находятся под угрозой, являются самыми высокостатусными, высокооплачиваемыми рабочими местами в мире. Возьмём самую высокооплачиваемую работу в Америке… которая является анестезиологом. Это самая высокооплачиваемая работа и самая высокооплачиваемая должность. Должность. Да. И большая часть этой работы заключается в наблюдении за пациентом, знании того, какой тип лекарств лучше всего подойдёт его организму… давать им точно нужное количество, контролировать воздействие этого… на организм, а затем вносить небольшие корректировки… правильные технологии, и любая медсестра сможет выполнить эту работу. И у вас может быть один анестезиолог на месте, который наблюдает за 10, 20, 30, 40 отделениями, и технология, вы знаете, выполняет работу, но этот один человек находится там только для того, чтобы наблюдать, если что-то пойдёт не так или если возникнет этическая дилемма. Что в этом плохого? Я имею в виду, если… если точность лучше там, где они есть. Нет, в этом нет ничего плохого, за исключением того факта, что многие люди, сотни тысяч людей потратили всю свою жизнь на обучение этому, они получают огромное количество цели и удовлетворения от того факта, что это их карьера, это их работа. У них есть ипотека, у них есть дома, у них есть статус, и это вот-вот исчезнет. Ну, если это самые высокооплачиваемые рабочие места, может быть, вам следует начать экономить. Да. Ну, я имею в виду, да, я… я слышу вас, но вы говорите о людях, которые выполняют жизненно важную работу. М-м. Высокоспециализированную работу, и поэтому они не в хорошем положении, чтобы переориентироваться на основе изобретения технологии, о которой они не знали, потому что, честно говоря, я имею в виду, в абстрактном плане, может быть, мы все где-то в будущем видели приход ИИ, но мы не знали, что он внезапно наступит. И нам нужно выяснить, что делать с этими людьми. Это не их вина, что они внезапно стали устаревшими, и немыслимо, что люди примут это. Это… это принципиально несовместимо с нашей природой. Нам нужно, к чему стремиться, и вы знаете, вы можете поддерживать жизнь таким образом, но вы не можете… поддерживать осмысленное существование, поэтому это краткосрочный план в лучшем случае. Давайте поговорим о смысле. По этому поводу вытеснения рабочих мест это уже происходит. Генеральный директор Cler, который был на этом подкасте раньше, отличный парень… сказал в сообщении в блоге, которое они опубликовали на веб-сайте Cler, что у них теперь есть агенты ИИ по обслуживанию клиентов, которые обрабатывают 2,3 миллиона чатов в месяц, что равнозначно найму 700 человек на полный рабочий день для выполнения этой работы. Таким образом, они уже смогли сэкономить на 700 сотрудниках службы поддержки клиентов, используя агентов ИИ для выполнения этой работы. И они на самом деле… они на самом деле избавились от этих 700 рабочих мест, верно? У меня нет этой информации перед собой, но я посмотрю. Я выложу это на экран для тех, кто хочет получить контекст по этому поводу. Но это уже происходит. Это не какой-то антолог или что-то в этом роде. И это не высокооплачиваемые люди во всех случаях. Мы сделали что-то подобное, кстати. Мы… внутренне мы… мы заменили эту функцию на 70%. Да. Я имею в виду, наша компания, нас 65 человек, и, вы знаете, мы… вы знаете, зарабатываем… миллионы на человека, вы знаете. Так что это… Собираетесь ли вы нанимать больше людей, чтобы подняться до… Я думаю, что да, но мы нанимаем медленно, например, вы знаете, мы используем… ИИ для поддержки клиентов, и это означало, что нам нужно меньше… поддержки клиентов, и мы пытаемся максимально использовать ИИ. Человек в отделе кадров в Replit пишет программное обеспечение, используя Replit. Поэтому я приведу вам пример. Ей нужно было… программное обеспечение для построения организационных диаграмм, и она посмотрела на множество из них, получила много демонстраций, и все они очень дорогие, и им не хватает функций, которые она хочет. Например, она хотела контроль версий. Она хотела знать, когда что-то изменилось, и вернуться в историю. Она зашла в Replit, за 3 дня она получила именно то программное обеспечение, которое хотела, и какова была стоимость… может быть, 20 долларов… вы знаете, что-то вроде того… 20 долларов, 30 долларов один раз, верно? И… сколько сотрудников в отделе кадров нам нужно сейчас? У нас два… если они так сильно задействованы, может быть, нам не нужна команда из 20 человек в отделе кадров… по этому вопросу о смысле я слышал, как так много миллиардеров в области ИИ описывают это как век изобилия, и я не уверен, всегда ли изобилие — это хорошо, потому что вы знаете, когда мы смотрим на психическое здоровье и смотрим на то, как люди получают свой смысл и цель в жизни, большая часть этого — это иметь что-то, к чему стремиться, и какую-то борьбу в значимом направлении для вас… и это, может быть, смежно, но когда было проведено исследование, я думаю, что в Австралии, где они посмотрели на предсмертные записки, и в предсмертных записках мужчин в этих предсмертных записках было то, что они не чувствовали себя достойными, они не чувствовали себя стоящими. Они не чувствовали, что нужны своим семьям. И это во многом стало причиной их психологического состояния. И я задаюсь вопросом, в мире изобилия, где, вы знаете, многие из этих миллиардеров ИИ говорят нам, что у нас будет так много свободного времени, и нам не нужно будет работать, будет ли вообще кризис смысла, проблема психического здоровья. Я имею в виду, она уже есть. И она не требует ИИ, и она будет ухудшаться. Я не знаю, что с этим делать, потому что по сути, как человеческие существа, мы созданы, как все организмы, чтобы находить возможности и выяснять, как их использовать. Вот что мы делаем. А мир, который вы описываете, на самом деле противоположен этому. Это мир, где ваши биологические потребности на физиологическом уровне удовлетворены, и нет очевидного места для вашего свободного времени, если это то, что у вас в итоге останется, чтобы использовать его в чём-то, вы знаете… нет места для стремления, и я действительно представляю, что в лучшем случае произойдёт следующее: люди, которых поддерживает универсальный базовый доход, приходят, а затем паразитируют… вы знаете, какую бы валюту им ни приходилось тратить, кто-то будет нацеливаться на неё, и они будут нацеливаться на неё с помощью системы с поддержкой ИИ, которая обнаруживает их недостатки характера. Я имею в виду, опять же, мы уже живём в этом мире, но он будет намного хуже, когда ИИ будет выяснять, вы знаете, на какую порнографию нацеливаться на вас конкретно. Это… это кошмарный сценарий. И я действительно думаю, что нам стоило бы потратить время как виду, чтобы начать рассматривать, если мы собираемся оказаться в этой ситуации, и мы найдём способ удовлетворить основные потребности большого числа людей, которые будут отстранены. Как должен выглядеть мир, чтобы у них был настоящий смысл? Не псевдосмысл, не что-то, вы знаете, поверхностно, вы знаете, видеоигра — это не смысл, даже если это кажется очень значимым в данный момент. Я думаю, что это было бы достойной инвестицией для нас, чтобы выяснить, как…

Произвести его. Но, честно говоря, я не ожидаю, что мы либо проведём этот разговор, либо продвинемся далеко по этой дороге. Я думаю, гораздо более вероятно, что мы растратим богатство, которое будет произведено ИИ. Интересно, что в западных странах, когда у нас появляется больше изобилия, у нас начинает рождаться меньше детей. И мы уже наблюдаем этот спад рождаемости в западном мире, что довольно страшно. Я думаю, это часто связывают с богатством: чем больше денег зарабатывает человек, тем меньше вероятность того, что он захочет иметь детей, тем больше он пытается защитить свою свободу.

Но также по этому вопросу о ИИ: отношения сложны. Моя девушка иногда счастлива, а иногда нет, и мне приходится, знаете ли, проходить через эту борьбу с ней, работать над отношениями. Дети — это сложно, и если мы оптимизируем себя, и, знаете ли, большая часть причины, по которой я поддерживаю борьбу с моей девушкой, я уверен, исходит из каких-то эволюционных причин, потому что я хочу размножаться и хочу иметь потомство, но если бы мне не пришлось иметь дело с трудностями, связанными с человеческими отношениями, романтическими или платоническими, найдётся определённая доля людей, которые действительно выберут такой исход, и мне интересно, что произойдёт с рождаемостью в таком сценарии, потому что мы уже изо всех сил пытаемся. Мы уже находимся в ситуации, когда в 1950-х годах на одну женщину приходилось пять детей, а в 2021 году — около двух. И мы видим спад. Если посмотреть на Южную Корею, их коэффициент фертильности упал до 0,72 — самого низкого показателя в мире. И если эта тенденция сохранится, население страны может сократиться вдвое к 20100 году.

Итак, да, отношения, связи, и, я думаю, я думаю, мы должны наложить это на эпидемию одиночества, которая заключается в том, что нам обещали социальные связи, когда появились социальные сети, когда мы получили подключение к Wi-Fi, обещание заключалось в том, что мы станем более связанными. Но совершенно ясно, что поскольку мы проводим так много времени в одиночестве, изолированно, удовлетворяя свои потребности с помощью водителей Uber Eats, социальных сетей, TikTok и интернета, мы инвестируем меньше в очень сложную вещь, такую как попытка найти друга и найти девушку. Молодые люди занимаются сексом меньше, чем когда-либо прежде. Всё, что связано со сложной задачей установления реальных связей, кажется, исчезает. Я утверждаю, что всё, о чём мы говорили здесь, все негативные вещи, связанные с одиночеством, смыслом жизни, уже здесь. И я не думаю, что винить во всём этом технологию — это правильно. Я думаю, что многое произошло из-за существующих человеческих импульсов и мотиваций.

Ну, я хотел бы вернуться к тому, с чего вы начали, потому что я думаю, что это, возможно, основной вопрос. Почему мы уже живём в мире, который не делает нас счастливыми? И является ли это обязанностью технологии? И я не думаю, что это именно технология. Человеческие существа среди своих даров являются фундаментально технологичными, говорим ли мы о квантовых вычислениях или об обработке кремня для наконечника стрелы. Что с нами случилось, что создало растущую, распространяющуюся, трансформирующуюся дистопию — это процесс, который мы с Хезер в нашей книге «Руководство охотника-собирателя по 21 веку» называем гиперновизной. Гиперновизна — это тот факт, что скорость изменений опережает нашу способность адаптироваться к изменениям. И мы уже давно перешли этот порог, когда мир, в котором мы молоды, — это не тот мир, в котором мы становимся взрослыми. И это несоответствие делает нас больными во многих областях.

Таким образом, вопрос, который я задаю, заключается в том, приведут ли изменения, о которых вы говорите, к снижению скорости изменений, в этом случае мы могли бы построить мир, который начал бы лучше удовлетворять потребности человека, открывать возможности для поиска значимой работы, или это ускорит скорость изменений, что, по моему мнению, гарантированно ухудшит наше положение. Если бы это был одноразовый сдвиг, правильно, ИИ наступит. Он откроет всевозможные новые возможности. Будет огромный переворот, но из этого мы сможем построить мир. Будет ли этот мир стабильным или это будет просто один горизонт событий за другим? Если это последнее, то это фактически говорит о том, что он делает с людьми, а именно: он разрушит нас. Когда я смотрю на общество, я думаю: «Хорошо, это оказывает негативное влияние». Когда я смотрю на отдельные примеры использования, это оказывает глубоко позитивное влияние. Включая меня, это оказывает очень позитивное влияние. Так что это одна из тех вещей, когда я задаюсь вопросом, чему же мы должны учить людей в школе, чтобы они понимали мир, в который мы входим? Потому что одна из самых больших проблем, с которыми мы сталкиваемся, заключается в том, что мы отправляем детей в школу с этим планом, этим шаблоном, что у них будет эта долгая карьерная траектория, которая больше не существует, что по сути мы относимся к ним как к обучающимся LLMs. И мы говорим: «Хорошо, мы будем давать вам подсказки. Вы дадите нам правильный ответ. Вы будете галлюцинировать, если это возможно. И, знаете, и потом мы говорим: «Хорошо, теперь идите в мир». И они говорят: «О, но подождите секунду. Я не знаю, как работают деньги. Я не знаю, как работает общество. Я не знаю, как работает мой мозг. Я не знаю, как мне справиться с этой проблемой новизны. Я не уверен, как подойти к кому-то в социальной ситуации и спросить, не хочет ли он пойти на свидание». Все важные вещи, которые на самом деле являются важными вехами, которых люди хотят достичь и на которые технология может действительно повлиять, мы не получаем инструкции.

Поэтому я думаю, что одним из самых важных моментов, которые должны произойти, является то, что мы должны оснастить молодых людей в школе, чтобы они действительно подготовились к миру, который приближается, или к миру, который уже здесь. С одной стороны, я думаю, вы очень хорошо изложили проблему. Фактически, у нас есть модель того, что должна делать школа, которая, в лучшем случае, соответствовала 50-м годам или около того, и она совершенно не соответствует задаче подготовки людей к миру, с которым они на самом деле сталкиваются. Если бы мы собирались подготовить их, я бы утверждал, что единственный набор инструментов, который стоит иметь на данный момент, — это очень общий набор инструментов. Способность мыслить на ходу и менять планы, когда что-то меняется, — это единственная игра в городе относительно нашей способности подготовить вас заранее. Возможно, другой вспомогательный компонент к этому будет заключаться в обучении тому, что мы знаем, что, честно говоря, недостаточно о том, как жить здоровой жизнью. Правильно? Если бы мы могли, если бы мы могли побудить людей к таким привычкам поведения и потреблению пищи, а затем научить их мыслить на ходу, у них мог бы быть шанс в мире, который наступает. Но загвоздка в том, что у нас нет учителей, чтобы это сделать. У нас нет людей, которые знают. И вопрос в том, может ли ИИ фактически использоваться таким образом, чтобы действительно вызвать правильный склад ума у людей, чтобы жить в этом мире.

Я много времени провёл в области образовательных технологий. Одна вещь, которая, как мы говорим в интернете, является «чёрной пилюлей» об образовании в целом, образовательная интервенция заключается в том, что существует много данных, показывающих, что существует очень мало вмешательств, которые можно внедрить в образование для получения лучших результатов. И поэтому, знаете ли, было проведено много экспериментов над педагогикой, над тем, как организовать класс, которые привели к очень незначительным улучшениям. Существует только одно вмешательство, и это было воспроизведено много раз, которое создаёт два сигма, два стандартных отклонения положительных результатов в образовании, то есть вы лучше, чем 99% всех остальных, и это индивидуальное обучение. Я так подумал, я собирался сказать, что меньшие классы и персонализация, индивидуальное обучение, да, и кстати, если вы посмотрите, кто-то также провёл опрос всех гениев, понимающих мир, и обнаружил, что все они занимались индивидуальным обучением. У всех них был кто-то в жизни, кто интересовался ими и обучал их. Итак, что может создать возможность индивидуального обучения для каждого ребёнка в мире? ИИ. ИИ. Мои дети используют его, и это невероятно. Да. В том смысле, что… они взаимодействуют, и это адаптируется к их скорости. Да. И… это даёт им разные аналогии, с которыми можно работать. Например, знаете ли, мой сын учился делению, и его просят разбить стекло и на сколько частей он разбивает его этим молотком, и, знаете, он говорит такие вещи, как: «Нет, Зандер, давай, действительно разобьём его». И… ему это нравится, правда? Это синтез? Да. Да. Я инвестор в этой компании. О, ну, это было… это здорово наблюдать за этим симулированным индивидуальным обучением, потому что оно разговаривает с ним. Оно задаёт ему вопросы. Бретт, вы педагог. Вы большую часть своей жизни посвятили обучению людей в университетах. Как вы воспринимаете всё это?

Ну, с одной стороны, я согласен с тем, что чем ближе к индивидуальному обучению вы получаете, тем лучше. Но я также лично считаю, что от нуля до одного — это лучше всего. И я имею в виду, что часть того, что случилось не так с нашей образовательной системой, заключается в том, что это делается через абстракцию. И фактически арбитром того, преуспели вы или потерпели неудачу в усвоении урока, является человек впереди класса. И это нормально, если человек впереди класса действительно проницателен. И это ужасно, если человек впереди класса вялый, что случается часто. Так что это не работает так же, как взаимодействие с физическим миром, в котором никто не должен говорить вам, преуспели вы или потерпели неудачу. Если вы столкнулись с двигателем, который не заводится, вы не можете заставить его завестись спорами. Вы должны выяснить, что именно вызвало его поломку, а затем вы получаете большую награду, когда вы меняете эту вещь, и вдруг она заводится. Поэтому я большой поклонник того, чтобы быть как можно более мягким и как можно более конкретным в обучении. Другими словами, когда я делал это, и не только со студентами, но и со своими собственными детьми, я стараюсь говорить как можно меньше и позволяю физическим системам говорить человеку, преуспел он или потерпел неудачу. И это создаёт понимание. Вы можете экстраполировать из одной системы в другую. И вы знаете, что вы не просто экстраполируете из непонимания одного человека. Вы экстраполируете из того, как всё на самом деле работает.

Поэтому я не знаю, можно ли использовать ИИ в этом контексте. У меня есть ощущение, что, вероятно, есть способ сделать это, но нужно было бы делать это целенаправленно, особенно с робототехникой и гуманоидными роботами. На самом деле, это именно то место, где вы можете сделать это, с робототехникой, как мне кажется. Да. Ну, робототехника научит вас физической вычислительной части. И тогда вопрос, как влить это в ИИ, так что… это… знаете ли, выталкивает вас из какой-то завихрения, где вы застряли, и перемещает вас в способность решать какую-то проблему следующего уровня, которую вы не нашли бы самостоятельно. Что, по-вашему, следует преподавать в классе со всем, что вы теперь знаете? Ну, вы все здесь отцы. У всех вас есть свои дети. Так что это хороший вопрос для вас. Сколько лет вашим детям? Сколько лет вашим детям? Три и пять. 19 и 21, и шесть, семь и десять. Мои дети очень маленькие, но мы уже используем ИИ, и я сажусь с ними перед Replit и мы генерируем идеи и создаём игры. И… я бы сказал, что то, что Бретт сказал о общности, очень важно. Способность менять планы и быстро осваивать навыки. Быть генеративным очень-очень важно. Иметь быстрый темп генерации идей и итерации над этими идеями. Мы садимся перед ChatGPT, и мой ребёнок представляет сценарий. О, что если, знаете ли, есть кошка на Луне, а затем, знаете ли, что если Луна сделана из сыра, а что если внутри неё есть мышь, или… и поэтому мы продолжаем генерировать эти… вариации этих разных идей, и я… и я нахожу, что это делает их более изобретательными и творческими. Правило номер один, которое я говорю своим детям, — это держаться подальше от порнографии любой ценой. Я бы предпочел, чтобы у вас была проблема с наркотиками, чем проблема с порнографией. И я действительно так думаю. Я думаю, что порнография более опасна для человека, как бы плоха ни была проблема с наркотиками. Но когда мы переходим к вопросу о том, как противостоять миру и… вещам, которые вы будете… ожидать делать на рабочем месте и всё такое, мой аргумент в том, что вы сталкиваетесь с… рассветом эры сложных систем, с которыми вы должны будете взаимодействовать. И в эпоху сложных систем вы должны понимать, что вы не можете спланировать решение. И вы должны подходить к этим системам с улучшенным набором инструментов смирения, потому что способность системы делать что-то, чего вы не предсказываете, намного больше, чем у очень сложной системы. Поэтому вы должны предвидеть это и быть очень чувствительными к тому факту, что то, что вы намеревались сделать, — это не то, что произойдёт. Поэтому вы должны отслеживать непредвиденные последствия любого вашего действия и то, что на самом деле работают два инструмента. Один из них вы только что упомянули, это прототипирование. Вы создаёте прототипы вещей. Вы не думаете, что я знаю решение этой проблемы, и я собираюсь её построить. Вы думаете, я думаю, что там есть решение. Я собираюсь сделать proof of concept, а затем я узнаю, чего я не знаю, и я сделаю следующую версию. Узнаю, чего я не знаю, и в конце концов вы можете получить что-то, что действительно выполняет цель. Итак, прототипирование — это одна вещь. И также вместо использования чертежа как метафоры в вашем уме… вы можете перемещаться куда-то. И знаете, как я думаю об этом, серфер в некотором смысле овладевает сложной системой, но он делает это не планируя свои дни, катаясь по волнам. Вы не можете этого сделать. То, что вы можете сделать, это стать экспертом в усвоении обратной связи и прокладывании пути вниз по волне. И это правильный подход для сложной системы. Ничто другое не сработает.

Поэтому я думаю, что заключительная часть — это общие инструменты, никакой специализации. Это эра генералистов, и… инвестируйте в эти инструменты, и они окупятся. Поэтому руководящей философией для меня является создание высокоавтономных генералистов. Поэтому… в конечном итоге я хочу, чтобы они были мотивированными самостоятельными людьми и имели широкий общий набор инструментов. Я представляю их очень похожими на то, что вы представляете, то есть инструктирующими роботов, инструктирующими агентов, придумывающими идеи. И я представляю себе их жизнь с очень высокой скоростью, где они могут писать книгу, организовывать фестиваль, иметь подкаст, начинать бизнес и быть частью бизнеса кого-то другого одновременно, поскольку они страдают СДВГ. Да. Правильно. Точно. Таким образом, высокоавтономный генералист — это своего рода руководящая философия. Некоторые вещи, которые мы делаем, такие как шахматы, бразильское джиу-джитсу, танцы, уроки актёрского мастерства, игры на природе, предпринимательство, понимание того, что вы можете начать продавать лимонад. Мы только что устроили продажу лимонада, что было удивительно. Мы продали много лимонада на улице. Такие вещи и перескоки с одной вещи на другую, но также попытки избегать слишком большого количества экранов и заставлять их делать что-то из того, что происходит в доме. Некоторые различия, которые мы пытаемся дать им, — это разница между созданием и потреблением, потому что я думаю, что у ИИ есть эта сверхспособность сделать вас гиперпотребителем или гиперсоздателем. И если вы не понимаете разницы между созданием и потреблением, вы попадаете в ловушку потребления, будь то порнография или просто новости, или… вещь, знаете ли, вещи, которые кажутся вам продуктивными, но вы на самом деле просто потребляете вещи. Не станет ли это самым успешным ИИ? Тот, который больше всего играет с моим дофамином. Да. И заставляет вас… и заставляет вас думать, что вы что-то достигаете, когда вы на самом деле просто что-то потребляете. Поэтому попытка дать им понять, что в их жизни есть это различие между созданием и потреблением, и быть на стороне создания. Я начал свой первый бизнес в 12 лет, и я начал больше бизнесов в 14, 15, 16, 17 и 18 лет. И в то время я не понимал, что быть основателем без денег означало, что я также должен быть маркетологом, торговым представителем, финансовой командой, службой поддержки клиентов и рекрутером. Но если вы начинаете бизнес сегодня, к счастью, есть инструмент, который выполняет все эти задачи за вас. Наш сегодняшний спонсор — Shopify. Благодаря всем его интеграциям с ИИ, использование Shopify немного похоже на то, что вы наняли целую команду по росту с первого дня, которая занимается написанием описаний продуктов, дизайном вашего веб-сайта и улучшением изображений ваших продуктов, не говоря уже о тех вещах, которые вы ожидаете от Shopify, таких как доставка, налоги, инвентаризация. И если вы хотите начать свой бизнес, зайдите на shopify.com/bartlet и зарегистрируйтесь для пробной версии за 1 доллар в месяц. Это shopify.com/bartlet. То, в чём мы, я думаю, все согласны, это то, что это неизбежно. Вы согласны с этим, Бретт? Я думаю, что печально, что это неизбежно, но на данный момент это так. Какая часть этого кажется вам печальной? Мы растратили долгий период продуктивности и мира, в течение которого мы могли бы подготовиться к этому моменту. И наша узкая направленность на конкуренцию создала хрупкий мир, который, я боюсь, не переживёт грядущие потрясения. И этого не должно было быть. Это было предсказуемо. Я имею в виду, честно говоря, фильм «2001 год», который вышел за год до моего рождения, предвосхищает некоторые из этих проблем. И, знаете, мы относились к этому слишком уж как к развлечению, а не как к образованию. Поэтому мы сейчас… у нас открылась эра ИИ без обсуждения её последствий для человечества. Сейчас по играм-теоретическим причинам нет никакого способа замедлить темпы, потому что, как вы указываете, если мы сдерживаем себя, мы просто передаём ИИ в руки наших конкурентов. Это не решение. Поэтому я не выступаю за это, но мы могли бы сделать гораздо больше подготовки. Мы могли бы признать, что многие люди работали на работах, которые вот-вот будут уничтожены, и мы могли бы глубоко задуматься о том, каковы моральные последствия и какими могут быть имеющиеся в нашем распоряжении решения. И не подготовившись, это будет гораздо больше разрушений, чем это должно было быть. Амджад, я слышал, как вы только что сказали, что мы должны говорить о том, как мы справляемся с потерей рабочих мест. У вас есть какие-либо теории, если бы вы были премьер-министром или президентом мира, и ваша задача заключалась в том, чтобы решать проблему потери рабочих мест, скажем, в Соединённых Штатах, как бы вы это делали? Первое, что я бы сделал, это… научил людей этим системам, будь то… программы на телевидении или агитация, или что угодно, просто пытаясь заставить людей понять, как работает ChatGPT, как работают эти алгоритмы, и по мере появления новых рабочих мест… я думаю, знаете, появится возможность для людей определить, что… эта работа требует этого набора навыков, и у меня есть этот… этот вид опыта, и хотя мой опыт потенциально устарел, я могу перепрофилировать этот опыт для выполнения этой работы. Я приведу вам пример: учитель по имени Адил Хан, знаете ли, он начал использовать в то время GPT-3 и… почувствовал, что он делает удивительную работу в качестве инструмента для учителей или даже потенциально самого учителя. Поэтому он немного изучил кодирование, и он… он пошёл в Unreal Engine и построил… эту компанию, и… всего через два года она стоит сотни миллионов долларов. Очевидно, не каждый сможет создавать компании такого масштаба, но, поскольку у вас есть опыт в определённой области, вы сможете создать следующую итерацию… этого, используя технологию. Поэтому, даже если ваша работа исчезла, вы сможете выяснить, знаете ли, что… что потенциально будет после этого. Поэтому… поэтому я думаю, что опыт людей, который они накопили, я не думаю, что он весь впустую. Даже если ваша работа исчезла, вы никогда не сможете предсказать, какие работы появятся. Я имею в виду, я думаю об этой безумной ситуации, когда я говорю своему дедушке, что такое персональный фитнес-тренер? И его бы поразила эта идея, что, ну, ладно, я не очень хочу идти в спортзал, поэтому мне нужно записаться на приём и заплатить кому-то, чтобы он пошёл в спортзал и встретился со мной там. А потом он стоит там и говорит мне поднимать тяжёлые вещи, которые я на самом деле не хочу поднимать. А потом он считает их и говорит мне, что я хорошо поработал, а потом я кладу тяжёлые вещи, и в конце концов я чувствую себя очень хорошо, и я плачу ему кучу денег. Мой дед был бы в шоке: «Что за чертовщина, тебя обманули? Это так… поэтому мы никогда не можем предсказать, как будет выглядеть это… будущее работы. Даже всего через 20, 30, 40 лет работы быстро и убедительно превращаются во что-то другое. Я думаю, что очень опасно думать, что нам нужно сосредоточиться на навыках. Я думаю, что будущее не в навыках. Навыки заменяются. Это идея, что образовательная система должна перестать быть раздробленной и должна стать подходом к обучению на протяжении всей жизни. Министерство образования должно рассматривать людей как людей, обучающихся на протяжении всей жизни, которые постоянно претерпевают изменения и нуждаются в переобучении. Интересно. Это будет иметь место. Министерство образования должно начинать с ребёнка и идти до, возможно, 70 лет. Играет ли Министерство образования какую-либо роль вообще? Зависит от вашего определения образования. Я думаю, если вы пытаетесь учить детей или если вы пытаетесь учить детей, знаете ли, запоминать факты и цифры из учебника истории, то нет. Но если это касается коучинга, наставничества, увольнения, поиска следующего дела и, возможно, если это управляется ИИ и всё такое, тогда это другой парадигмальный сдвиг в отношении того, что такое образование и какова его цель. И если мы рассматриваем это как гибкую вещь, когда мы переходим к возможности, а затем возвращаемся к образованию, замечая новую возможность, а затем обратно сюда. Если мы учимся не навыкам, а инструментам. Так что это образование, основанное на инструментах, а не на навыках. Целью образования на протяжении большей части истории человечества была добродетель, стремление стать великим человеком, обладающим хорошим суждением и хорошими ценностями. И мы на самом деле не делаем многого из этого больше. Но я думаю, что если бы мы по существу сказали, если мы вернёмся к тому, что… если мы зададим вопрос, какова цель образования и где оно занимает место в нашей жизни и в какие временные рамки оно входит, а затем мы просто доверяем, что люди будут придумывать странные и замечательные рабочие места. Знаете, это звучит безумно, но также… и это странная аналогия. Мой кот невероятно счастлив. Откуда вы знаете? Ну, он демонстрирует все признаки счастливого кота, и он живёт в мире сверхразума, насколько он понимает. Итак, есть этот дом, и еда просто волшебным образом появляется. Он понятия не имеет, что есть этот календарь Google, который управляет многими вещами, которые происходят вокруг него. Еда доставляется. Деньги волшебным образом зарабатываются чем-то, что невообразимо умнее кошки. И всё же кошка эволюционировала, чтобы жить этой жизнью цели и смысла в доме. И насколько он знает, у него замечательная жизнь. Но у вас есть возможность в любой момент, если у вас плохой день, сделать что-то не очень приятное для этой кошки. И он не может ответить вам тем же. Точно. Но что мне даст причинение вреда кошке? Потому что в этой аналогии вы можете захотеть переехать, а домовладелец не разрешает кошек. Поэтому вам нужно принять решение. Да, есть вещи, которые сильно беспокоят кошку по вине не кошки. Я понимаю. Но насколько это касается существования кошки и истории кошек, если вы спросите эту кошку: «Тебе…

Вы хотите поменяться местами с любой из других кошек, которые были до вас? Вероятно, она бы сказала: «Я не хочу рисковать, потому что всем остальным кошкам приходилось выживать самостоятельно, чего мне не приходится делать». Вполне возможно, что мы в итоге будем жить жизнью, очень похожей на жизнь домашней кошки, в том смысле, что с нашей точки зрения мы ведём очень интересную жизнь, полную смысла и цели, и просто есть этот огромный высший разум, который управляет всем, и мы не знаем, как это работает, но это не имеет значения, как это работает. Мы, мы, мы являемся бенефициарами этого, и он, он делает важные вещи, и мы наслаждаемся тем, что являемся домашними кошками в, в его, в его жизни.

У меня есть несколько замечаний по этому поводу. Во-первых, я довольно уверен, что ваша кошка не так впечатлена вашими способностями, как вы сами, или как вы думаете, что она впечатлена. Э-э, я просто достаточно хорошо знаю кошек, чтобы быть в этом довольно уверенным. Но о, она смотрит на меня свысока. Да, вы правы. Я думаю, что это, я думаю, это справедливо, это справедливое замечание, что существует существование, и на самом деле, вы знаете, домашние животные действительно хорошо живут. Если у них есть любящие хозяева, у них действительно всё довольно хорошо. И я бы также хотел отметить, что в определённом смысле мы уже так живём. Большинство из нас не понимают процесса, в результате которого электричество поступает из стен нашего дома или вода из крана. И нас вполне устраивает тот факт, что кто-то этим занимается, а мы можем заниматься чем-то ещё.

Но то место, где я нахожу что-то тревожное в вашем описании, это то, что вы говорите, что суть нашей деятельности заключается в том, чтобы справляться с тем, что рабочие места постоянно меняются. Это очень новый процесс. Это процесс гиперновой новизны. Раньше так случалось очень редко, что у населения были обстоятельства, когда вы фактически не делали того же самого, что и ваши прямые предки. Правильно? В общем, вы брали те работы, которые были, выбирали то, что вам подходило, и делали это из поколения в поколение. Из поколения в поколение. И суть в том, что мы сейчас достигли того момента, когда ещё при вашей жизни то, за что можно получить оплату, будет радикально меняться таким образом, который никто не может предсказать. И это опасная ситуация. Примерно каждые два года, примерно два или три года, верно? И поэтому, возможно, существует какая-то модель, с помощью которой мы можем оседлать эту волну, и вы можете изучить универсальный набор инструментов, и вы знаете, что ваше выживание не зависит от вашей способности, вы знаете, переключаться каждые два года и ни на минуту не сбиваться, или, может быть, мы не можем, но я думаю, что стоит задать вопрос, вывел ли нас темп технологических изменений из нормальных человеческих обстоятельств, позволяющих вывести, чем вы можете зарабатывать на жизнь, исходя из того, чем занимались ваши предки, и поставил ли он нас в ситуацию, когда то, чем занимались ваши предки, будет совершенно неважно, что бы это ни было. Но это фактически выбор, который был сделан за нас. И мы могли бы выбрать замедление темпов изменений, чтобы жить в некотором роде гармонии, где наша развивающаяся среда и наша взрослая среда совпадали бы. Теперь, как биолог, я бы утверждал, что если мы не сделаем ничего подобного, это вопрос времени. Да. Как бы мы изменились? Как нам замедлить темпы изменений? Ну, я, я имею в виду, вы можете, вы можете, вы можете быть амишами, верно? Вы можете быть амишами и жить в своих собственных общинах, и я предполагаю, что некоторые люди хотели бы этого. Ну, я, знаете, когда мы с Хизер писали нашу книгу, я хотел, чтобы первая глава была: «Правы ли амиши?» И ответ таков: они не могут быть абсолютно правы, потому что они выбрали произвольный момент, чтобы сойти с эскалатора. Но правы ли они в том, что в этой продолжающейся тенденции технологических изменений есть что-то опасное? Очевидно, что правы.

Что делают амиши, для тех, кто не знает? Амиши живут так, как будто был 1850 год или что-то в этом роде. Так что они живут в, они не пользуются машинами. Я думаю, у них есть телефоны, но у них нет электричества. В основном они, они добровольно принимают техно, они, в основном, община со сниженными технологиями, и они, э-э, оказались удивительно хорошо защищены от многих вещей, которые перевернули современный мир. Одна из них, да, ко, они преуспели замечательно, очень счастливые люди, очень низкий уровень аутизма, у них есть всевозможные преимущества, так что в любом случае я не утверждаю, что мы должны жить как амиши. Я так не считаю, но я думаю, что идея, которая у них была, заключалась в том, что нужно сойти с этого эскалатора, потому что вы просто будете продолжать становиться всё более больными, вероятно, верна сейчас. Возможно, это одноразовый сдвиг. Мы перешагнули горизонт событий. Мы будем жить в мире ИИ. И, возможно, если мы будем осторожны, мы сможем выяснить, как превратить этот ландшафт бесконечных возможностей, который вы описываете, в место, которое не меняется. Что у вас всегда есть возможность решить, что нужно сделать. Но ничто, что жизнь за этим горизонтом событий не является постоянно меняющимся процессом. Это просто следующая граница.

Я также хочу предложить или задать вопрос, когда мы говорим о нашем гиперменяющемся мире, не становится ли сложнее учиться пожилым людям из-за того, как работает мозг с точки зрения скорости обработки и гибкости памяти? Поэтому мне было интересно, не окажется ли так, что, например, мой отец, из-за его мозга и сниженной гибкости памяти и скорости обработки, которая происходит, когда вы становитесь старше, будет испытывать значительно большие трудности, чем моя племянница, которая, кажется, может учиться, я имею в виду, моя племянница знает пять языков, и ей семь или что-то в этом роде, безумие какое-то, пять языков, но я имею в виду, что мозг намного пластичнее, не так ли? И это возвращает нас к нашей эволюционной психологии, о которой вы знаете гораздо больше, чем я, о нашей эволюционной истории, о которой вы знаете гораздо больше, чем я, о том, что мы должны извлекать уроки, когда мы молоды. Использовать эту информацию всю жизнь. Но если эта информация быстро меняется, ну, это, я имею в виду, это именно то, на что я указываю. Ненормально, когда ваша развивающаяся среда не готовит вас к вашей взрослой среде. Нормальное явление заключается в том, что в молодости вы берёте на себя всё больше ответственности взрослой среды. А затем в какой-то момент, вы знаете, в правильно функционирующей культуре существует обряд посвящения. Вы идёте в кусты на 10 дней, возвращаетесь с, вы знаете, крупным, э-э, вы знаете, охотничьим животным, и теперь вы взрослый, и вы используете ту программу, которую вы создавали, и активируете её. И это нормально. И, вы знаете, вы гораздо более счастливый человек. Вы гораздо более удовлетворённый человек, если ваша жизнь имеет такую ​​непрерывность. И, вы знаете, я не против идеи, что мы позволили себе делать то, чего нельзя сделать, если это предел, но мы также серьёзно навредили себе. И я хотел бы как-то разделить нашу способность улучшать своё благополучие от самонанесённых ран, которые возникают из-за этого бесконечного темпа изменений. И я не знаю, возможно ли это, но я думаю, что это достойная цель.

Что-то забавное. Я не знаю, является ли это точной контрапунктацией, но, э-э, во время ко, особенно, и вы знаете, в связи с недавними технологическими изменениями, некоторые люди начали жить ближе к более предковой среде. Э-э, поэтому, э-э, люди, чьи работы находятся в Интернете, некоторые мои друзья, например, поехали и построили общины, такие как коллективы, где они, вы знаете, живут, и они создают фермы, и они, и они едят, а затем они едят, и у них есть такая работа с электронной почтой. Они выполняют свою работу с электронной почтой в течение пяти часов и выходят, и у всех у них есть дети, и это увлекательная жизнь. И в Силиконовой долине было так много переосмысления того, как мы живём. И есть куча стартапов, которые пытаются создать, э-э, города, где они такие: «Ладно, мы знаем, что мы страдаем, потому что наши города не очень-то пригодны для прогулок». И есть так много причин, по которым мы страдаем. Во-первых, мы не получаем движения. Во-вторых, есть социальный аспект города, пригодного для прогулок, где вы можете общаться с людьми. Вы подружитесь, просто оказавшись в одном месте с другими. Давайте на самом деле построим, э-э, города, пригодные для прогулок, и если мы хотим, вы знаете, э-э, быстрее перемещаться, у нас будут эти беспилотные автомобили на периферии города, которые будут ездить кругами, и я думаю, есть способы, с помощью которых технология может позволить нам, э-э, жить, э-э, таким образом, который обращает вспять, я полагаю, более локальным способом. Мне нравится это видение, но я также понимаю, что есть другое видение, верно? Вы видите людей в Пало-Альто, например, на самом деле оказывающих, вы знаете, очень строгий контроль над тем, насколько их дети подвергаются воздействию, э-э, вы знаете, телефонов. И я живу в Пало-Альто. Да. Так что, так что вы видите это. С другой стороны, я беспокоюсь о том, что элита Пало-Альто не понимает, что они делают, они выясняют, как уменьшить вред для своих собственных семей, экспортируя вред в мир этих технологий, которые для всех остальных не регулируются. И поэтому вопрос в том, можем ли мы привлечь всех? Если революция ИИ собирается изменить наши отношения с работой и всем остальным, можем ли мы привлечь всех, чтобы в конце этого процесса вместо того, чтобы говорить: «Ну, знаете, жаль, что, э-э, вы знаете, три миллиарда человек были принесены в жертву этому переходу, но прогресс есть прогресс», мы действительно могли сказать: «Ну, мы разобрались, и теперь все живут в стиле, который ближе к их программированию и ближе к ожиданиям их физических тел». Если бы это было правдой, то я бы, я бы хотел ошибаться в своих опасениях по поводу того, что будет дальше. Но, к сожалению, рынок не решит эту проблему, если мы не будем целенаправленно заставлять его это делать.

В чём ваш самый большой страх? Когда вы говорите «мои опасения по поводу того, что будет», что вы, что вы, какая картина возникает у вас в голове? О, это совсем другая тема на самом деле. Э-э, мой, мой страх, проистекающий от технологий, э-э, и ИИ, заключается в том, что это неконтролируемый процесс, и что этот неконтролируемый процесс будет очень плохо взаимодействовать с некоторыми скрытыми человеческими программами. Что, по сути, необходимость в работниках в значительной степени исчезает, и люди, которые стоят во главе процессов, приводящих к этой ликвидации необходимости в работниках, начинают говорить о «ненужных едоках». Может быть, на этот раз они придумают новый термин. «Проредить стадо». Да. Или они позволят ему проредиться или что-то в этом роде. Да. Я слышал, как вы говорили о пяти основных проблемах, которые вас беспокоят, или о пяти основных угрозах, которые у вас есть. Не могли бы вы назвать эти пять? Итак, первая — это та, о которой я меньше всего беспокоюсь. Я не беспокоюсь о ней вообще, но я меньше всего беспокоюсь о ней, а именно о злонамеренном ИИ, на котором так сосредоточены пессимисты. Вторая — это идея, что, вы знаете, ИИ может быть несогласованным не потому, что у него есть расходящиеся интересы, а потому, что он просто неправильно понимает то, о чём вы его просили. Эти автономные агенты. Вы знаете, знаменитый пример: вы просите их производить как можно больше скрепок, и они начинают ликвидировать вселенную, чтобы делать скрепки, и вы знаете, это проблема, подобная проблеме ученика волшебника. Третью я бы сказал, что на самом деле все остальные, я бы сказал, гарантированы, и, э-э, третья из них — это расстройство человеческого интеллекта, что мы уже живём в мире, где очень сложно понять, что вообще означают факты. Верно. Факты настолько отфильтрованы, и мы настолько убеждены алгоритмами, что, вы знаете, наша способность быть уверенными даже в основных фактах, даже в рамках нашей собственной дисциплины иногда находится на самом низком уровне, и это ухудшается, и эта проблема делает гигантский скачок вперёд в тот момент, когда у вас появляется возможность создавать неразличимые глубокие подделки. Верно. Это очень сильно изменит мир, когда тот факт, что вы смотрите видеозапись того, как кто-то грабит банк, не означает, что они грабили банк или что банк вообще был ограблен. Э-э, так что в любом случае я называю это, мы много с этим имеем дело, кстати. Я думаю, каждую неделю, каждую неделю я отправляю, у меня есть чат с людьми, которые сейчас в основном тратят, я бы сказал, 30% своего времени на то, чтобы разбираться с глубокими подделками меня, которые занимаются крипто-мошенничеством, приглашая людей в группы Telegram, а затем прося их о предоставлении данных кредитных карт. У нас была одна на X. Я думаю, вы, вероятно, видели её, Дэн, не так ли, меня? Но что кто-то запускал рекламу с глубокими подделками на X со мной. И это была не просто одна реклама. Это было похоже на отбивание мух. Их было 10. И я написал им в X, и появилось ещё 10. Затем на следующий день ещё 10. Затем на следующий день ещё 10. Затем это начало происходить в Meta. Так что это видео со мной, в основном просящее вас прийти в группу Telegram, где людей обманывают, и члены моей аудитории обманываются. И когда я отправляю их в Meta, они, к счастью, удаляют их. Но затем появляется ещё пять. И я зашёл вчера на LinkedIn, и в моих личных сообщениях: «Стив, кстати, есть новая афера». И на самом деле на этом этапе мне нужен был бы кто-то на полный рабочий день, просто отправляющий это в Meta. Я такой же, но в меньшем масштабе. Каждую неделю это: «Вы действительно писали мне в Facebook, прося мои крипто-кошельки и всё такое». Мои самые нелюбимые — это когда мать-одиночка пишет мне, что она только что заплатила 500 фунтов стерлингов своих денег и как она опустошена, и я чувствую моральное обязательство вернуть ей её деньги, э-э, потому что она попалась на какую-то аферу. Это был я. Это был мой голос. Это было видео со мной, говорящее ей что-то. Да. И я не знаю, я не знаю, как с этим бороться, но извини, продолжай. Ну, я имею в виду, это на самом деле в списке здесь. Массивное нарушение того, как всё функционирует, и потому что люди будут безработными в огромном количестве, и потому что те, кто не соблюдает наш социальный договор, окажутся более сильными, чем люди, которые это делают. Итак, в этом случае не только эта бедная женщина, вы знаете, теперь лишилась 500 долларов на какую-то аферу, но вас также ограбили, независимо от того, вернёте вы ей деньги за то, что она, как она думала, купила. Вашу репутацию крадёт кто-то, и у вас нет возможности предотвратить это. Это случилось и со мной, и это глубоко тревожно, и это только один из дюжины различных способов, которыми ИИ позволяет тем, кто абсолютно готов уменьшить пирог, из которого мы все получаем, чтобы увеличить свой кусок. Вы знаете, есть бесчисленные способы, которыми это может произойти, и, э-э, я думаю, люди этого не видят. Они не понимают, сколькими разными способами их будут грабить так же наверняка, как если бы кто-то печатал деньги. Э-э, и затем последний заключается в том, что это просто ускоряет демографические процессы, которые потенциально приводят к высвобождению технологий, которые существовали до ИИ. Вы знаете, это может легко привести к эскалации, э-э, в войны, которые превращаются в ядерные. Э-э, так что в любом случае я думаю, что этот список, вероятно, можно было бы дополнить на этом этапе, теперь, когда мы, вы знаете, провели некоторое время в эпоху ИИ. Мы можем начать более подробно рассказать о том, что возможно в эту эпоху и чего мы должны опасаться. Одна из тех вещей, которые вы упомянули, правда, вы знаете, проблема правды. Скажите, просто мысленный эксперимент, человек сегодня, например, среднестатистический человек, получивший высшее образование, скажем, человек, более подвержен пропаганде или вводят в заблуждение, чем кто-то в Советском Союзе? Ну, я не знаю, потому что я не жил в Советском Союзе, но моё понимание от людей, которые там жили, заключалось в том, что существовала широкая осведомлённость о том, что пропаганда не соответствовала действительности. Это не значит, что они знали, во что верить, но существовал цинизм, который является одним из моих страхов здесь, заключается в том, что, вы знаете, вы действительно застряли между двумя плохими вариантами в мире, где вы не можете сказать, что правда. Вы можете быть чрезмерно доверчивым и постоянно быть лохом, или вы можете стать циником, и вы можете быть парализованы тем фактом, что вы просто ничему не верите. Но ни то, ни другое не является рецептом для... Думаете ли вы, что поиск в Google, а может быть, теперь ChatGPT помог людям больше или меньше найти истину? Я думаю, это не совсем ChatGPT, но все различные движки ИИ, с которых мы начинаем с Google, кратко улучшили нашу способность знать, что правда, потому что на самом деле они позволяют нам видеть сквозь алгоритмическую манипуляцию, потому что ИИ плохо контролируется. Вы можете заставить его распознавать закономерности, которые люди будут клясться, что не соответствуют действительности. Э-э, и поэтому в любом случае многие из нас нашли его полезным просто для отмены газолайтинга. Э-э, так что это было очень позитивно. Но я также помню ранние дни поиска, и поиск раньше был вопросом: «Есть какие-то страницы там. Я не знаю, где они находятся. Вот механизированная вещь, которая просмотрела эти вещи и просто указывает мне на направление вещей, которые содержат эти слова». Правильно, прежде чем алгоритмическая манипуляция начала направлять нас к тому, чтобы верить в чистый бред, потому что кто-то, кто контролировал эти вещи, решил, что нам полезно верить этим вещам. Поэтому я предполагаю, что в данный момент ИИ усиливает нашу способность видеть более ясно, но это действительно зависит от некоторого рода соглашения о защите этой способности, о которой я не знаю, есть ли у нас... Вы подразумеваете этим, что ИИ защитит нас от ИИ, то есть женщина, которая попалась на мошенничество в моей аудитории, у платформ будет встроенный инструмент, который сможет вскоре определить, что это не я, и реклама была запущена кем-то из другой страны, потенциально, а затем также, когда её начинают просить о реквизитах её кредитной карты таким образом в Telegram через 10 минут, система сможет понять, что это, вероятно, мошенничество в этой точке касания, и это будет также защитой, а не только нападением. Первое, э-э, вопрос в том, заинтересована ли Meta в решении этой проблемы? Да. Да. И поэтому Meta, вероятно, активно работает над ИИ, и опять же, это будет игра в кошки-мышки, как и любое злоупотребление, которое происходит там. Поэтому я думаю, что рынок естественным образом отреагирует на подобные вещи так же, как, вы знаете, мы установили антивирусы, как бы раздражающе они ни были. Я думаю, мы установим, э-э, ИИ на наших компьютерах, которые позволят нам, по крайней мере, помочь нам отсортировать подделку от правды. Ну, но давайте возьмём пример, который вы говорите. Заинтересована ли Meta в решении этой проблемы? Поверхностно кажется, что так и должно быть, но сколько раз в недавней истории мы наблюдали, как корпорация пожирает свой собственный бизнес из-за того, что в лучшем случае является странными желаниями её акционеров, верно? Почему X отталкивала людей с большими счетами или Facebook или Google? Казалось бы, вы ожидали бы, основываясь на том, что рынок выбирает поисковые системы или сайты социальных сетей, вы ожидали бы, что эти компании будут абсолютно меркантильными и скажут: «Ну, если у Алекса Джонса большая аудитория, кто мы такие, чтобы говорить?» Именно этого я и ожидал. Вместо этого эти компании следили за нравственностью мысли, даже если это уменьшало численность населения, использующего платформы. Мне трудно объяснить, почему это произошло, но у меня есть все основания ожидать, что то же самое произойдёт с ИИ.

Что вам нравится в ИИ? Каков ваш оптимистичный взгляд? Потому что в начале этого разговора вы сказали, что есть бесконечное количество способов, которыми он может улучшить нашу жизнь, и в 10 раз больше способов, которыми он может навредить нашей жизни. Но давайте рассмотрим некоторые из тех способов, которыми он может радикально улучшить нашу жизнь. Есть несколько разных способов. Во-первых, у нас есть, как мы уже упоминали, нехватка компетентных учителей и профессоров. И это проблема, решение которой займёт как минимум три поколения, если мы собираемся начать завтра и начнём обучать людей правильному способу, который сделает их компетентными, чтобы стоять перед аудиторией и обучать. Но если мы сможем улучшить этот процесс, если мы сможем использовать такой инструмент, как ИИ, так что, вы знаете, небольшое количество компетентных учителей может, может быть, охватить большее количество учеников, это правдоподобно, я думаю. Второе — у нас есть огромное количество проблем, которые являются препятствиями для нашей хорошей жизни на этой планете, которые ИИ может решить, чего человеческий интеллект сам по себе не может. Правильно? Так же, как вы знаете, вычислительная мощность может вычислять вещи с такой скоростью, с которой люди не могут справиться, и есть определённые вещи, которые вы хотите вычислить очень хорошо. Есть также некоторые проблемы с рассуждениями. Вы могли бы представить, что вместо того, чтобы иметь, э-э, статические законы, которые плохо регулируют поведение, потому что они обходятся, вы могли бы иметь динамическое взаимодействие. Вы могли бы указать цель чего-то вроде закона, а затем вы могли бы контролировать, успешно ли конкретное вмешательство продвинуло вас в том направлении, в котором вы надеялись идти, или сделало что-то парадоксальное, что происходит всё время, и вы могли бы иметь, вы могли бы, в основном, иметь управление, которое направлено на навигацию и создание прототипов, а не на указание плана того, как мы должны жить. Так что нам не нужны политики. В данный момент мы застряли с, вы знаете, конституционными защитами, которые так же хороши, как были созданы, и всё ещё неадекватны современным реалиям. Дэн, что вам нравится в ИИ на индивидуальном уровне, но также и на уровне общества? Да. Ну, основные — это здравоохранение и образование. Я имею в виду, это смешно, что вы, э-э, сидите там в боли, пройдя МРТ, и ещё нет человека, который посмотрел бы на эту МРТ. И сказал вам, что делать. Э-э, и это можно было бы легко решить, есть всевозможные проблемы со здравоохранением, где, э-э, а также не только это, во всём мире есть места, где просто нет врачей общей практики, и у них нет, вы знаете, медицинских консультантов, и, вы знаете, прорывы в глобальном здравоохранении будут феноменальными, и прорывы в глобальном образовании могут быть революционными, э-э, на планете. Я рад на индивидуальном уровне, что я думаю, что индустриальная эпоха создала множество работ, которые очень обесчеловечивают, и мы просто привыкли к ним и мирились с ними. Идея о том, что работа должна быть повторяющейся, и вы просто повторяете один и тот же цикл снова и снова и снова и снова и снова в течение 10-летнего периода, вы можете, вы знаете, подняться на одну ступеньку, и всё такое. Я не думаю, что это очень по-человечески. Идея о том, что вы могли бы одновременно писать книгу, запускать бизнес, управлять командой, запускать фестиваль, проводить мероприятие. Э-э, что вы действительно могли бы делать это что-то вроде работы в мини-королевстве, где у вас есть эта маленькая, вы знаете, э-э, экосистема вокруг вас забавных вещей, в которых вы участвуете, что на самом деле стало возможным для подавляющего большинства людей, если они используют эти инструменты. Вы можете жить невероятно полноценной, удивительной и влиятельной жизнью, или я знаю, что я так живу благодаря наличию этих инструментов в моей жизни. Например, я делаю то, о чём я мог только мечтать, э-э, в детстве. И что бы вы сказали предпринимателям? Я знаю, вы работаете с тысячами предпринимателей. Что вы им говорите с точки зрения их текущего бизнеса или возможностей бизнеса, которые вы предвидите? Поэтому я думаю, что небольшие команды сейчас имеют бесконечное влияние, и что, когда у вас есть команда из, скажем, пяти-десяти человек, которые разделяют невероятную страсть к значимой проблеме в мире, и они хотят увидеть, как эта значимая проблема решается, и они объединяются в духе предпринимательства, чтобы решить эту проблему. Эта небольшая команда из 5-10 человек, вооружённая теми технологиями, которые у нас сейчас есть, может оказать большое влияние. Вы можете заработать много денег. Вы можете хорошо повеселиться. Вы можете решать важные проблемы в мире. Вы можете масштабировать решения. Вы, вероятно, можете сделать больше за трёхлетний период, чем большинство людей за 30-летнюю карьеру. Э-э, и затем эта небольшая группа из 5-10 человек может либо вместе взяться за новую значимую проблему, либо распасться и, вы знаете, работать над другими значимыми проблемами с другими командами. В таком мире, где у вас есть такое бесконечное влияние, но у всех остальных есть доступ к...

Тот же бесконечный рычаг. Что становится УТП? Возвращаясь к этой идее рва, что представляет собой ценность, когда у всех нас есть доступ к 20 долларам бесконечного рычага? Ну, во-первых, первое, что вам нужно сделать, вам нужно понять, что этот момент времени является наименее конкурентным моментом. Если вы понимаете, как использовать эти инструменты, вы можете начать зарабатывать деньги уже завтра. Я вижу бесчисленные примеры того, как люди зарабатывают тысячи долларов с помощью этих спекуляций, о которых я говорил, или строят бизнес, который приносит миллионы долларов в первые пару месяцев существования. Поэтому я бы сказал, начните действовать сейчас. Начните создавать вещи. Это беспрецедентное время создания богатства. Очевидно, что в какой-то момент, по мере того как рынок становится более эффективным, по мере того как все больше и больше людей понимают, как использовать эти инструменты, потенциал для быстрого создания этих массовых предприятий уменьшается. Мы видели это, как рассвет интернета или рассвет веба, было намного проще создать Facebook, чем сейчас. Затем у нас появились мобильные устройства, и в течение трех-четырех-пяти лет было очень легко создавать массовые предприятия, а затем это стало сложнее. Нахождение на грани возможного будет очень-очень важным в ближайшие несколько лет. И это меня очень волнует, потому что предприниматели, которые обращают внимание, будут получать максимальное удовольствие, но они также смогут заработать много денег.

Сколько приложений было создано на Replet на сегодняшний день? Я могу рассказать о миллионах вещей, которые были созданы с момента основания компании, но только с сентября, когда мы запустили Replent, было создано около 3 миллионов приложений, полностью на естественном языке, без кодирования, полностью на естественном языке. Из них, я думаю, 300-400 000 были развернуты в реальном мире, сайт был развернут, и его используют люди в каком-то бизнесе, каком-то внутреннем инструменте. Кстати, я построил один вчера вечером, внутренний инструмент, или я создал приложение для отслеживания того, как мои дети зарабатывают карманные деньги. Удивительно. Я просто сказал ему, что хочу отслеживать задачи, которые происходят по дому, и присваивать им значение, и я хочу иметь возможность в конце недели нажать кнопку и получить сводку о том, сколько заплатить каждому ребенку за карманные деньги. Мы так облажались. И в течение 15 минут оно создало это приложение, и это было удивительно. Вы могли переключаться между тем, где находятся ваши дети, и еженедельными отчетами, и тем, сколько за задачу, и вы можете отмечать задачи, удалять задачи или добавлять задачи. Так что теперь у меня есть это приложение, на создание которого ушло 15 минут простого разговора о том, чего я хочу, и теперь у меня есть приложение для управления карманными деньгами в доме. И это, кстати, то, что, управляя IT-агентством много лет назад, мы бы взяли за создание 5-10 000 фунтов или 5-10 000 долларов США, и сколько времени, вероятно, это был бы проект на три-четыре недели. Мы находимся на старте S-образной кривой, которую вы описываете, и это уже, если это 20 долларов в месяц за Replet, примерно 20 долларов в месяц, 25 за базовый вариант, вы использовали один день, скажем, это доллар, это стоило вам минут и доллар сейчас, и мы находимся в начале S-образной кривой, и вы говорите с ним, как будто вы общаетесь с разработчиком. Одна из вещей, которая замедляет процесс разработки, это то, что вам нужно отправить информацию разработчику, и он должен ее понять, а затем он должен что-то создать, а затем вернуться к вам. Это происходит прямо на ваших глазах, пока вы за этим наблюдаете, и оно фактически показывает вам, что строится, и это действительно дико.

Это одно изменение преобразило то, как моя команда и я двигаемся, тренируемся и думаем о своих телах. Когда доктор Дэниел Либерман пришел на DEO, он объяснил, как современная обувь с ее амортизацией и поддержкой делает наши ноги слабее и менее способными делать то, что задумала природа. Мы потеряли естественную силу и подвижность в ногах, и это приводит к таким проблемам, как боль в спине и боль в коленях. Я уже купил пару босых ботинок Viva. Поэтому я показал их Дэниелу Либерману, и он сказал мне, что это именно тот тип обуви, который поможет мне восстановить естественное движение стопы и восстановить мою силу. Но я думаю, что у меня был подошвенный фасциит, когда вдруг у меня начали постоянно болеть ноги. И после этого я решил начать укреплять свою собственную стопу, используя Vivo barefoot. И исследования Ливерпульского университета подтвердили это. Они показали, что ношение босых ботинок Vivo в течение 6 месяцев может увеличить силу стопы до 60%. Посетите vivo barefoot.com/doac и используйте код diary 20 от моего спонсора для получения скидки 20%. Сильное тело начинается с сильных ног.

Этого никогда раньше не делали. Информационный бюллетень, который ведут 100 лучших руководителей мира. Все время люди говорят мне: «Можете ли вы стать моим наставником? Можете ли вы попросить этого человека стать моим наставником? Как мне найти наставника?» Поэтому вот что мы собираемся сделать. Вы отправите мне вопрос. И самый популярный вопрос, который вы мне отправите, я отправлю его 100 руководителям, некоторые из которых являются лучшими руководителями в мире, управляющими компаниями на сто миллиардов долларов. А затем я отвечу вам по электронной почте, как они ответили на этот вопрос. Вы можете сказать: «Как сохранить отношения, когда вы создаете стартап? Что самое важное, если у меня есть идея, и я не знаю, с чего начать?» Мы отправляем это по электронной почте руководителям. Они отвечают по электронной почте. Мы берем пять-шесть лучших ответов. Мы отправляем это вам по электронной почте. Я нервничал, потому что думал, что маркетинг может не соответствовать действительности. Но потом я увидел, что отвечают основатели, и их готовность отвечать, и я подумал, что это действительно хорошо, и все, что вам нужно сделать, это зарегистрироваться совершенно бесплатно.

Я не думаю, что мы много времени говорили об автономном оружии. Это то, что меня действительно беспокоит. И то, что беспокоит людей в отношении ИИ, это идея, что это, знаете ли, развивающаяся система, и за ней нет ничего, и она может действовать непредсказуемым образом и не руководствоваться людьми. Я также думаю, что это относится к корпорациям, правительствам, и поэтому я думаю, что отдельные люди часто могут иметь лучшие намерения, но коллектив может прийти к тому, чтобы делать вещи таким образом, который вреден или морально нечистоплотен. И я думаю, мы говорили о Китае против США, и это создает определенную динамику гонки, где они оба заинтересованы в том, чтобы срезать углы и потенциально делать вредные вещи, и в мире геополитики и войн, знаете ли, что меня действительно пугает, это автономное оружие. И почему это вас пугает? Потому что, знаете, вы можете представить себе автономные беспилотники, обученные на чьем-то лице, и вы можете отправить рой беспилотников, и они могут быть этой автономной машиной для убийства, для покушения, и она может функционировать как технология страна против страны в мире, которая все еще безумна, но она также может стать инструментом для правительств, чтобы подчинять граждан. И люди думают, что мы в безопасности на Западе, но я думаю, что опыт с Covid показал, что даже системы на Западе могут очень быстро стать драконовскими. Да. Похоже, я слышал в Иране, что у них есть камеры с распознаванием лиц, которые обнаруживают, где женщины носят хиджабы в своих собственных машинах, и автоматически задерживают машину. Если вы едете и не носите хиджаб, и если вы, конечно, идете по улице, он просто это обнаруживает, и вы сразу же оказываетесь в беде. Он действует как полицейский, судья, знаете ли, законодатель, это судья, присяжные и палач, по сути, и это происходит мгновенно. Что произошло в Канаде с протестом дальнобойщиков, они заморозили их банковские счета просто за то, что они там были, просто за то, что находились в этом месте. И просто чтобы подтвердить, что Иран внедрил всеобъемлющую систему наблюдения для обеспечения соблюдения своих обязательных законов о хиджабе, используя различные технологии, одна из которых - камеры и распознавание лиц. Так что они установили камеры в общественных местах, чтобы выявлять женщин, которые не придерживаются дресс-кода хиджаба. Да. И в связи с этим Лондон только что установил эти системы распознавания лиц в Лондоне, а также по всему Уэльсу. И они внедряются быстро, и все, что вам нужно, это смена правительства, которое захотело бы внедрить что-то подобное, и все базовые технологии уже есть. В Иране это становится немного хуже, потому что у них есть новое приложение под названием Nazar app, где правительство представило мобильное приложение Nazar, которое позволяет вам как гражданину сообщать о другом гражданине, который не носит хиджаб, и оно регистрирует их местоположение, время, когда они его не носили, и номерной знак автомобиля с данными краудсорсинга. Затем он может преследовать этого человека. Я бы также хотел отметить, что я думаю, что мы недостаточно изобретательны. Я согласен с вами. У меня есть та же самая озабоченность по поводу этого автономного оружия, но я также думаю, что это не обязательно должно происходить в контексте войны или даже правительственного угнетения, что вполне возможно, что это эффективно снижает цену не обнаруживаемого или не преследуемого преступления. И, возможно, экономические модели возвращаются в форме людей, которые выбивают своих конкурентов или любого, кто пытается конкурировать с ними, используя автономный беспилотник, который не может быть отслежен до них. Вы знаете, что следует за распознаванием лиц. И, знаете ли, вам не нужно убивать очень много людей, чтобы другие поняли, что это зона, с которой не стоит связываться. Поэтому я могу себе представить, знаете ли, эффективно новую высокотехнологичную организованную преступность, которая защищает рэкет и зарабатывает кучу денег, и подчиняет людей, которые ничего не сделали плохого.

В 2023 году у меня в подкасте был Мустафа Сулливан, когда все это началось, и он является генеральным директором Microsoft AI. Вы знакомы с Мустафой? Конечно. Да. И одна из вещей, которые он сказал мне в то время, заключалась в том, что один из моих страхов заключается в том, что небольшая группа людей, которые хотят причинить вред, получат доступ к инструментам, которые могут мгновенно дестабилизировать наш мир. В этом и заключается проблема. Как остановить то, что может причинить вред или потенциально убить. Вот где нам нужна изоляция. И это немного похоже на то, что вы говорите, Амад, что у нас теперь будут эти инструменты. Вы говорили в контексте военных действий, но, как сказал Бретт, даже меньшие группы людей, которые могли быть, я не знаю, картелями или бандами, могут причинить аналогичный вред. И в данный момент, с точки зрения автономного оружия, как США, так и Китай вкладывают огромные средства в оружие на основе ИИ, автономные беспилотники и кибервойну, потому что они боятся, что другой получит его первым. И мы говорили о том, насколько большая часть нашей жизни зависит от интернета, но кибероружие и кибер-агенты ИИ, которые могут быть развернуты, чтобы уничтожить китайские X, Y или Z или наоборот, являются реальной проблемой. Да. Да. Я думаю, что все это - реальная проблема. В отличие от Мустафы, я не думаю, что изоляция возможна. Часть причины, по которой эта система игровой теории конкуренции между США, Китаем, корпорациями, отдельными лицами делает так, что эта технология уже, знаете ли, уже существует и ее действительно трудно вернуть обратно в мешок. Я задал ему этот вопрос, и я помню ответ, потому что это был такой резкий момент для меня. Я сказал Мустафе: «Думаете ли вы, что это можно сдержать?» И он ответил: «Мы должны». Поэтому я снова спросил его. Я сказал: «Думаете ли вы, что это можно сдержать?» И он ответил: «Мы должны», и я снова спросил его: «Думаете ли вы, что это возможно?» «Мы должны». Так что проблема с этой цепочкой мышления заключается в том, что она может привести к угнетающей системе, есть один из так называемых пессимистов или философов ИИ, чью работу я уважаю, его зовут Ник Бостром, и он пытался придумать способы, которыми мы можем сдержать ИИ, и то, что он придумал, возможно, более угнетающе, чем то, что придумал бы ИИ, это тотальное государство слежки. Вам нужно тотальное наблюдение за вычислительными мощностями, за компьютерами людей, за идеями людей, чтобы не изобретать ИИ или ИИ общего назначения. Это как забрать оружие или что-то в этом роде. Правильно. Именно так. Я имею в виду, всегда существует проблема сдерживания любой технологии, которая заключается в том, что вам действительно нужно угнетение и драконовская политика, чтобы сделать это.

Вы боитесь чего-нибудь еще или беспокоитесь о чем-нибудь еще, что касается ИИ, кроме автономного оружия? Мы говорили о кризисе рождения, и я думаю, что более общая проблема здесь заключается в создании виртуальных сред с помощью VR, где каждый живет в своей собственной созданной вселенной, и это так заманчиво, и даже создает симуляцию работы и симуляцию борьбы, так что вам действительно не нужно покидать этот мир, и поэтому каждый из нас будет социопатическим, знаете ли, похожим на Матрицу. Готов игрок один. Готов игрок один. Мы все как бы подключены, еще хуже, чем Готов игрок один. По крайней мере, это массово разработанная среда. Я говорю об ИИ, симулирующем все за нас, и поэтому вы буквально находитесь в матрице. Вы знаете, может быть, это я об этом думал. Я наслаждался этой великолепной симуляцией. Да. И поэтому, я имею в виду, знакомы ли вы с парадоксом Ферми? Нет, не знаком. Итак, парадокс Ферми - это вопрос, профессор, его зовут Ферми, он задал вопрос: если Вселенная так обширна, то где же инопланетяне? Из того факта, что люди существуют, можно сделать вывод, что существуют и другие цивилизации. И если они существуют, то почему мы их не видим? А затем это вызвало кучу решений Ферми. Есть, я не знаю, вы можете найти сотни решений в интернете. Один из них - это своего рода мысленный эксперимент с домашней кошкой, где на самом деле инопланетяне существуют, но они как бы помещают нас в среду, подобную амишам в определенное время, и не раскрывают нам, что происходит там. Так что мы домашние животные. Может быть, они наблюдают за нами и наслаждаются тем, что мы делаем, останавливая нас от причинения вреда себе, останавливая нас от причинения вреда себе. Есть так много вещей, но одна из вещей, которая, я думаю, потенциально является решением парадокса Ферми, и один из самых печальных результатов заключается в том, что цивилизации прогрессируют, пока не изобретут технологию, которая заблокирует нас в бесконечном удовольствии и бесконечной симуляции, так что у нас не будет мотивации лететь в космос, чтобы искать исследование, потенциально другие инопланетные цивилизации. И, возможно, это предопределенный исход человечества или очень вероятный исход любого вида, подобного человечеству. Нам нравится удовольствие. Удовольствие и боль - основные мотиваторы. И поэтому, если вы создаете машину бесконечного удовольствия, означает ли это, что мы просто дома в нашей VR-среде, где все заботится о нас, и буквально как матрица, и реальный мир был бы ужасен в таком сценарии? Да. Было бы ужасно. Я имею в виду, другое более простое объяснение парадокса Ферми заключается в том, что вы генерируете достаточную технологию, чтобы вы могли уничтожить свой вид, и это лишь вопрос времени с этого момента, о котором мы можем поговорить о ядерном оружии. Мы можем поговорить об ИИ, но какая-то технология, если мы останемся на этом эскалаторе, какая-то технология, которую мы генерируем, в конечном итоге, что бы ни позволило вам покинуть планету, позволяет вам взорвать планету? Вот так.

Я хочу получить заключительные мысли и заключительные замечания всех. И, надеюсь, в ваших заключительных замечаниях вы сможете уловить что-то действенное для человека, который слушает это сейчас по дороге на работу, или для матери-одиночки, обычного человека, который, возможно, не так продвинут в технологическом плане, как многие из нас за этим столом, но пытается ориентироваться в этом, чтобы понять, как прожить хорошую жизнь в течение следующих 10, 20, 30 лет. Да. Занимайте столько времени, сколько вам нужно. Я думаю, что мы живем в самое интересное время в истории человечества. Поэтому для матери-одиночки, которая слушает, для кого-то, кто не был бы стереотипом технократии, не думайте, что вы не можете делать эти вещи. Сегодня это никогда не было так доступно в вашей работе. Вы можете быть предпринимателем. Вам не нужно идти на огромный риск, чтобы создать бизнес, уйти с работы и создать бизнес. Есть бесчисленные примеры. У нас есть пользователь, который является менеджером по продуктам в крупном бизнесе недвижимости, и он создал что-то, что повысило коэффициент конверсии на 10%, что принесло миллионы и миллионы долларов этому бизнесу, и этот человек стал знаменитостью в этой компании и стал тем, кто поднимает всех остальных и учит их использовать эти инструменты, и очевидно, что это очень хорошо для любой карьеры, и вы получите повышение, и ваш пример создания программного обеспечения для вашей семьи, для ваших детей, чтобы улучшить и узнать больше, чтобы стать лучшими детьми, как пример предпринимательства в вашей семье. Поэтому я действительно хочу, чтобы люди отказались от этой концепции предпринимательства, которая заключается в том, что это ваш подкаст, дневник генерального директора. Вы начали этот подкаст, разговаривая с генеральными директорами, я полагаю, верно, и со временем это изменилось на то, что каждый может быть генеральным директором, каждый является своего рода генеральным директором в своей жизни, и поэтому я думаю, что у нас есть беспрецедентный доступ к инструментам для того, чтобы это видение действительно стало реальностью.

Ну, это, очевидно, момент некоторого рода человеческого фазового перехода. То, что, я верю, будет равносильно открытию сельского хозяйства, письма или электричества. И тьма, которая, я думаю, обоснована при взгляде на все возможные результаты этого сценария, на самом деле потенциально является частью другой истории. В эволюционной биологии мы говорим об адаптивном ландшафте, в котором ниша представлена как пик, а более высокая ниша, лучшая ниша, представлена как более высокий пик. Но чтобы перейти из нижней ниши в высшую нишу, вам нужно пересечь то, что мы называем адаптивной долиной. И нет гарантии, что вы пройдете через адаптивную долину. И на самом деле, рисунок, который мы поместили на доску, я думаю, слишком оптимистичен, потому что он в двух измерениях. Кажется, вы точно знаете, куда идти, чтобы подняться на следующий пик. И на самом деле это больше похоже на то, что пики - это острова в архипелаге, который находится в тумане, где вы не можете понять, в каком направлении находится этот пик, и вы должны рассуждать, что это, вероятно, так, и вы надеетесь не пропустить его на несколько градусов. Но в любом случае, эта тьма - это именно то, чего вы ожидали бы, если бы мы собирались открыть лучшую фазу для людей. И я думаю, что на этот раз мы должны быть очень внимательны. Я думаю, что мы должны тщательно обдумать, как мы не позволим комбинации этой совершенно новой чрезвычайно мощной технологии и рыночных сил превратить это в какой-то новый вид рабства. И я не думаю, что это должно быть так. Я думаю, что потенциал здесь позволяет нам рефакторить практически все. Возможно, мы наконец-то достигли места, где рутинная работа больше не нужна, и стремление к смыслу может заменить ее. Но это не произойдет автоматически, если мы не придумаем, как это сделать. И я надеюсь, что мы сможем признать, что опасность этого момента лучше всего используется, если она мотивирует нас непосредственно столкнуться с этим вопросом.

Каждый из нас имеет двух родителей, четырех бабушек и дедушек, восьмерых прабабушек и прадедушек, 16, 32, 64. У вас есть эта как бы длинная цепочка предков, которые все должны были встретиться друг с другом. Все они должны были пережить войны. Все они должны были пережить болезни и недуги. Все должно было произойти для нас. Один, каждый человек, все это должно было произойти, чтобы мы оказались здесь. И если мы подумаем обо всех этих тысячах и тысячах людей, каждый из них с радостью поменялся бы местами, если бы у него была возможность быть живым в этот конкретный момент. Они бы сказали, что их жизнь была борьбой, болезнями, что их жизнь была большим количеством рутинной и бессмысленной работы. Это было опасно. Вы знаете, у каждого из нас, вероятно, есть предки, которые были порабощены, вероятно, есть предки, которые умерли слишком молодыми, вероятно, есть предки, которые работали в ужасных условиях. У всех нас это есть. И они все просто посмотрели бы на этот момент и сказали бы: «Вау». Итак, вы говорите мне, что у вас есть возможность решать важные проблемы, придумывать приключения, путешествовать по миру, выбирать мозги любого человека на планете, у которого вы хотите выбрать мозги? Вы можете просто послушать подкаст. Вы можете просто посмотреть видео. Вы можете поговорить с ИИ. Знаете ли, вы говорите мне, что вы живы в этот конкретный момент? Пожалуйста, извлеките из этого максимум пользы. Знаете ли, вы можете сидеть и рассуждать об обществе и о том, как общество может работать. Но в конечном счете, все сводится к тому, что вы делаете в этот момент. И решение важных проблем, смелость, веселье, создание вашей маленькой вмятины во Вселенной. Вы знаете, вот о чем это все. И я чувствую, что у вас есть обязательство перед вашими предками извлечь максимум из этого момента.

Большое спасибо всем за то, что вы здесь. Я многому научился и развил свое мышление, что во многом является причиной того, почему я хотел собрать нас всех вместе, потому что я знаю, что у вас всех разные переживания, разный опыт образования. И вы делаете разные вещи, но вместе это помогает мне как бы пройти через все эти идеи, чтобы понять, где я приземлюсь. И я задаю много вопросов, но я на самом деле верю в людей. Я думал об этом секунду назад. Я думал, я оптимистично отношусь к способности людей ориентироваться в этом просто потому, что у меня нет другого выбора? Потому что, как вы сказали, альтернатива на самом деле не стоит того, чтобы о ней думать. И поэтому у меня есть оптимизм в отношении того, как, я думаю, мы собираемся ориентироваться в этом отчасти потому, что мы ведем эти разговоры, и мы в истории не всегда вели их в начале новой революции, когда мы думаем о социальных сетях и о том, какие последствия это имело. Мы пытаемся наверстать упущенное с последствиями. И я полон надежды. Может быть, это предприниматель во мне. Я взволнован. Может быть, это тоже предприниматель во мне. Но в то же время, ко многим пунктам, которые Бретт и Амад подняли, и Дэн поднял, есть серьезные соображения, когда мы плывем от одного острова к другому. И из-за скорости и масштаба этого преобразования, которое выделяет Бретт, и вы смотрите на статистику роста этой технологии и как она распространяется как лесной пожар, и как, как только я попробовал Replet, я сразу же вышел и сказал Кози: «Кози, попробуй это». И она была на этом, и она была зацеплена. А потом я позвонил своей подруге на Бали, которая является практиком дыхательных упражнений, и я сказал: «Наберите это в своем браузере. R E P L I T». А потом она делает эти расписания дыхательных упражнений со всей информацией о своих клиентах перед ретритом, который она собирается провести. Это распространяется как лесной пожар, потому что мы интернет-ориентированные. Мы были рождены с этой технологией. Поэтому это не новая технология. Это что-то поверх того, что интуитивно понятно для нас. Поэтому этот переход, как описывает Бретт, от одного пика к другому или от одного острова к другому, я думаю, будет невероятно дестабилизирующим. И, взяв интервью у стольких лидеров в этой области, от Рида Хоффмана, основателя LinkedIn, до генерального директора Google, до Мустафы, которого я упоминал, они мало в чем согласны, но в том, в чем они все согласны, и в чем согласен Сэм Альтман, это то, что долгосрочное будущее, долгосрочный способ функционирования нашего общества радикально отличается. Люди спорят о краткосрочной перспективе. Иногда они даже спорят о среднесрочной перспективе или временных рамках, но все они согласны с тем, что будущее будет выглядеть совершенно иначе. Амад, спасибо за то, что вы делаете.

Вы то, на чём мы сегодня не смогли много времени сосредоточиться, и это обычно то, чем я здесь занимаюсь, но ваша история невероятно вдохновляющая, невероятно вдохновляющая, учитывая то, откуда вы пришли, что вы сделали, что вы строите. Вы демократизируете и создаёте равные условия для предпринимателей от Бангладеша до Кейптауна и Сан-Франциско, чтобы они могли превращать свои идеи в реальность. И я думаю, что на поверхности это просто замечательно, что, вы знаете, я родился в Ботсване, в Африке, и у меня мог бы быть такой же доступ, чтобы превратить моё воображение в нечто, что изменило бы мою жизнь, благодаря вашей работе в Replet. И я настоятельно рекомендую всем проверить это. Вы, вы, вероятно, не сможете уснуть той ночью, потому что это так, это так… для кого-то вроде меня это было так захватывающе, получить возможность делать это, потому что это был барьер для творчества всю мою жизнь. Мне всегда приходилось обращаться к кому-то, чтобы что-то построить.

Дэн, спасибо вам ещё раз огромное, потому что вы представляете голос предпринимателей, и вы действительно стали титаном, лидером мнений для предпринимателей в Великобритании, и эта перспектива, этот баланс невероятно важны. Поэтому я очень, очень ценю ваше присутствие здесь, как всегда, и вы огромный любимец нашей аудитории. Бретт, спасибо вам миллион раз за то, что вы являетесь человеческим взглядом на сложные проблемы, и вы делаете это со смелостью, которая, я думаю, необходима нам для поиска истины в подобных ситуациях, где некоторые из нас могут увлекаться оптимизмом, и мы можем мчаться к мышеловке, потому что любим сыр, и я думаю, вы важный противовес и голос в мире в это время.

Итак, спасибо всем вам за то, что вы здесь. Я очень, очень ценю это, и, э-э, посмотрим. Эти вещи живут вечно. Так что это всегда немного поражало меня. 53% из вас, кто регулярно слушает это шоу, ещё не подписались на него. Поэтому могу я попросить вас об одолжении? Если вам нравится шоу, и вам нравится то, что мы здесь делаем, и вы хотите нас поддержать, простой бесплатный способ сделать это — это нажать кнопку «Подписаться». И моё обещание вам: если вы это сделаете, то я, и моя команда, сделаем всё возможное, чтобы это шоу становилось лучше для вас каждую неделю. Мы будем слушать ваши отзывы. Мы будем искать гостей, с которыми вы хотите, чтобы я говорил, и мы будем продолжать делать то, что мы делаем. Спасибо вам большое.