Will AI Save Humanity or End It? with Mustafa Suleyman

Итак, я чувствую, что люди делятся на два лагеря по поводу ИИ. Либо они думают, что он уничтожит все человечество. 42% опрошенных генеральных директоров опасаются, что искусственный интеллект может уничтожить человечество. Это то, что в неправильных руках может уничтожить человечество, либо они думают, что он решит каждую проблему. Сулейман Мустафа Сулейман Мустафа Сулейман — пионер в области искусственного интеллекта. Он генеральный директор по ИИ в Microsoft. Он очень влиятелен в мире искусственного интеллекта. Как нам управлять этими технологиями, чтобы мы могли безопасно сосуществовать с ними? Могут ли люди и ИИ мирно сосуществовать друг с другом, не подчиняясь друг другу? Это "Что теперь" с Тревором Ноа. Мустафа. Как дела, приятель? У меня все отлично, приятель. Это здорово. Это хорошо. Забавно, что существует это. Есть почти 2 или 3 разных типа разговоров, которые я веду с людьми. Есть те, где я просто тусуюсь. Это мои друзья, мы обсуждаем. Просто что угодно, знаешь, болтаем. Затем есть те, где я приглашаю человека и пытаюсь, как бы, получить от него что-то или узнать об их мире. А затем есть третий тип интервью, который часто вызывает у меня наибольший стресс, потому что я чувствую, что разговариваю с человеком, который имеет огромное влияние в нашем мире. И если я испорчу это, я не задам вопросы, которые нужны миру. И я чувствую, что вы один из таких людей, потому что еще до вашей нынешней работы вас считали одним из, если бы существовала гора Рашмор основателей ИИ без какого-либо багажа, без багажа современной колониальной истории, без колониальной истории. Один, да. Без колониальной истории. Но если бы была, как бы, большая гора Рашмор. Ваше лицо было бы там, вы знаете, как часть DeepMind и основателей DeepMind. А теперь вы помогаете Microsoft, одной из крупнейших, знаете ли, технологических компаний в мире по рыночной капитализации и просто по влиянию, формировать ее взгляд на ИИ. И поэтому, возможно, возможно, именно поэтому я хотел начать этот разговор, потому что это почти кажется, что мы встречаем вас на вашем пути. Теперь, что бы вы сказали, было самым большим сдвигом в вашей жизни и в том, что вы делали в области ИИ, переходя от стартапа, который был на грани, и этого зарождающегося мира ИИ, к тому, чтобы теперь возглавлять то, что будет формировать наши жизни в области ИИ. Вау, какая затравка. Я имею в виду, серьезно, никакого давления. Знаете, самое сумасшедшее то, что мне просто невероятно повезло. Я имею в виду, я был достаточно странным, чтобы начать работать над чем-то, что, по мнению всех, было невозможным, было совершенно научно-фантастическим. Это было, знаете ли, просто отвергнуто даже лучшими учеными, не говоря уже о крупных технологических компаниях, которые не воспринимали это всерьез. Я имею в виду, 2010 год, знаете ли, чтобы действительно заземлиться на этом, мы получили мобильные телефоны тремя годами ранее. Да, App Store только начинал оживать. Вы даже не могли легко загрузить фотографию с телефона в, знаете ли, приложение или в облако. Верно. И каким-то образом, знаете ли, мои храбрые, дальновидные соучредители, Демис Хассабис и Шейн Легг, имели предвидение, чтобы знать, что, знаете ли, технологии, в конечном итоге цифровые технологии, в конечном итоге станут этими обучающими алгоритмами, которые, при подаче большего количества данных и получении большего количества вычислительных ресурсов, имеют очень хорошие шансы изучить структуру и природу Вселенной. И поэтому мне было очень повезло быть их другом. Быть частью этой миссии, чтобы, знаете ли, мне было всего 25 лет, и, э-э, знаете ли, у меня была бесстрашие верить, что если мы сможем создать что-то, что действительно поймет нас как людей, то это на самом деле представляет собой один из лучших шансов, которые у нас есть для улучшения человеческого состояния. И это всегда было моей мотивацией создавать технологии, которые действительно служат нам и делают мир лучше. Как будто я был банальным раньше, это было банально до банальности. Вы сказали что-то, что вызвало у меня мысль, и я думаю, что многие люди хотели бы лучше понять это. Мы постоянно видим заголовки: ИИ это, ИИ в вашей работе, ИИ делает то, мышление, а не мышление. И вы сказали что-то, что инженеры быстро пропустят. Вы скажете: данные и вычисления, а затем модель, а затем помощь. Помогите мне разбить это. Помогите мне, как бы, просто объясните это мне максимально простыми словами. Что изменилось? И что вы на самом деле делаете? Потому что это как будто у нас всегда были данные, верно? У нас были документы, у нас были файлы, у нас была информация. У нас всегда были компьютеры. Ну, не всегда, но у нас были компьютеры десятилетиями. Что изменилось? И откуда на самом деле берется ИИ? Лучшая интуиция, которая у меня есть, заключается в том, что наш физический мир может быть преобразован в информационный мир. И информация — это, по сути, эта абстрактная идея, как математика, она не существует в физическом мире, но это представление физических объектов и алгоритма. Звучит сложно, но на самом деле это просто механизм для изучения структуры информации и взаимосвязи одного пикселя с другим пикселем, или одного слова с другим словом, или одного бита в аудиопотоке с следующим битом в аудиопотоке. Так что я знаю, что это звучит очень абстрактно, но структура реальности или структура информации на самом деле является очень обучаемой функцией. Верно. И именно это мы видели в самой ранней части ИИ между 2010 и примерно 2016 годами. Эти модели могли научиться понимать, или, по крайней мере, не понимать, но, возможно, они могли научиться генерировать новое изображение, просто прочитав миллион изображений. И это означало, что он учился тому, что, знаете ли, если здесь был глаз, а здесь другой глаз, то, скорее всего, здесь будет какая-то форма носа. И хотя он не применял слово "нос" и "глаз", у него была статистическая корреляция между этими тремя объектами, так что если бы вы тогда захотели представить, ну, где был бы рот? Он бы не поместил рот на лоб. Он бы поместил рот чуть ниже носа. И вот что я имею в виду под структурой информации. Алгоритм изучает взаимосвязь между обычными объектами в обучающих данных, и он делал это достаточно хорошо, чтобы генерировать новые примеры обучающих данных. Сначала, в 2011 году, это были рукописные черно-белые цифры. Затем к 2013 году это были кошки на изображениях YouTube, что Google сделал в 2013 году. Затем, по мере того как он становился лучше, он мог делать это с аудио, а затем со временем, знаете ли, продвигаясь вперед еще на десять лет. Он делал это с текстом. И поэтому это тот же основной механизм для изучения структуры информации, который масштабировался на протяжении всего времени. Так что интересно, я слышал, как вы говорили, что он делает. И я также заметил, что в один момент вы сказали, что он понимает. А затем вы сказали: да, ну, подождите. И я на самом деле заметил, что довольно много инженеров и людей, работающих в области ИИ и технологий, испытывают трудности с объяснением этого простым людям, используя, знаете ли, человеческий язык, но затем очень быстро говорят: нет, нет, нет, нет, нет, это не человеческий язык. Это как будто, думает ли он или делает ли он то, что мы считаем мышлением? Да, я имею в виду, это глубокий вопрос. И, по сути, он показывает нам ограничения нашего собственного словарного запаса, потому что что такое мышление, знаете ли, это звучит как глупый вопрос, но на самом деле это очень глубокий вопрос. Что такое понимание? Если я могу симулировать понимание настолько идеально, что я не могу отличить то, что было сгенерировано симуляцией, от того, что было сгенерировано мышлением или понимающим человеком, то если эти два результата одинаково впечатляют, имеет ли значение, что на самом деле происходит под капотом, думает ли он или понимает, или сознателен ли он? Знаете, это очень, очень трудный вопрос, потому что мы, в некотором смысле, бихевиористы, поскольку люди мы доверяем друг другу, учимся друг у друга и социально связываемся друг с другом, наблюдая за нашими действиями. Знаете, я не знаю, что происходит в вашем мозгу, за вашими глазами, в вашем сердце, в вашей душе. Но я, безусловно, слышу голос, который вы мне даете, слова, которые вы говорите. Я наблюдаю за действиями, которые вы совершаете, и я наблюдаю за этим поведением. И действительно трудная вещь в моменте, в который мы вступаем с этой новой эрой ИИ-агентов, поскольку они становятся не просто системами распознавания образов, а целыми агентами, заключается в том, что мы должны взаимодействовать с их поведением все больше и больше, как будто они похожи на цифровых людей. И это пороговая трансформация в истории нашего вида, потому что они не инструменты. Они явно не люди. Они не часть природы. Они своего рода четвертое отношение, четвертое возникающее. Я не знаю, как это описать, кроме как четвертое отношение. Да. Я имею в виду, вы назвали ИИ самой мощной универсальной технологией, которую мы когда-либо изобретали. И когда я прочитал эту строку в вашей книге, я подумал про себя: я подумал: чувак, вы сейчас находитесь в эпицентре, помогая Microsoft формировать это в масштабе, знаете ли? И тогда мне стало интересно, что вы на самом деле пытаетесь построить? Потому что у каждого свой ответ на этот вопрос, я понял. Знаете, если вы спросите Сэма Альтмана, ChatGPT Сэм Альтман говорит: я пытаюсь построить искусственный общий интеллект. И я говорю: о, мне нравится приложение. Он говорит: меня не волнует приложение. На самом деле. Я хочу создать компьютер Бога. А потом вы говорите с кем-то еще, и они говорят: о, я пытаюсь создать ИИ, который может помочь компаниям. Я пытаюсь создать ИИ, который помогает. Так что же вы на самом деле пытаетесь построить? Меня волнует создание технологий, которые уменьшают человеческие страдания. Я хочу создавать вещи, которые действительно соответствуют человеческим интересам. Меня волнует гуманистический сверхинтеллект. И это означает, что на каждом шагу новые изобретения должны проходить следующий тест в совокупности. Чистый. Чистый. Улучшает ли это на самом деле благосостояние человека, уменьшает ли человеческие страдания и в целом делает ли мир лучше? Да, и кажется смешным, что мы хотели бы применить этот тест. Как будто, конечно, мы все приняли бы как должное, что никто не захочет изобретать что-то, что причиняет чистый вред? Да, верно. Но, знаете ли, безусловно, были и другие изобретения в прошлом, которые, возможно, принесли чистый вред. Верно. И у нас есть выбор, что мы приносим в мир. И поэтому, даже если это в контексте Microsoft, самой ценной компании в мире сегодня, мы должны начать с ценностей и того, что нас волнует. И для меня гуманистический сверхинтеллект — это тот, который всегда ставит человека на первое место и работает на благо человека. И, очевидно, будут долгие дебаты и интерпретации в течение следующих нескольких десятилетий о том, что это означает на практике, но я думаю, что это правильная отправная точка. Я всегда удивлялся, как две стороны вашего мозга борются друг с другом по этим вопросам, потому что, знаете ли, меня кто-то спросил, они сказали: о, с кем ты разговариваешь? Я говорю: Мустафа идет Мустафа Сулейман. И они говорят: о, что он делает? Я немного объяснил, и я сказал: о, так вроде как парень, занимающийся ИИ. Затем я сказал: да, но он также философ, и они говорят: что вы имеете в виду, он философ? Я сказал: нет, нет, нет. Как будто на самом деле, на самом деле это кто-то, кто изучал философию, вовлечен, как вы, вы, вы, вы думаете о человеческих последствиях нечеловеческих технологий, которые строятся людьми и для людей, и о том, что, знаете ли, что это для меня, я всегда сужу людей по тому, что они выбирают. Яда-яда, если это имеет смысл. Знаете, поэтому я разговаривал с некоторыми людьми в сфере технологий, и я говорю: а как насчет опасностей? И они говорят: ну, смотрите, я имею в виду, конечно, мы должны быть осведомлены об опасностях, но, но будущее, и оно такое большое. И тогда я вспоминаю, как однажды я встретил вас в первый раз, на самом деле, я встретил вас. Я сказал: технология потрясающая. А затем вы сказали: опасности. Позвольте мне рассказать вам об опасностях. Позвольте мне рассказать вам о вещах, которые мы должны учитывать. И я сказал: что только что произошло здесь? Вы знаете, что я имею в виду? Я просто сказал: что это? Этот парень работает против себя? И поэтому я задаюсь вопросом сейчас, как, когда вы находитесь в этом пространстве, когда вы работаете над чем-то настолько большим, как вы находите баланс? Потому что мы бы солгали, если бы сказали, что люди могут жить в мире, где мы могли бы игнорировать технологии. Я видел, как люди говорят, что мое мнение заключается в том, что вы не можете игнорировать технологию, верно? Вы не можете просто сказать: нет, мы будем действовать так, как будто ее не существует. Но, с другой стороны, мы также не можем действовать так, как будто технология неизбежна, потому что тогда мы сдались. Так когда вы тот, кто на самом деле находится в эпицентре попытки построить наше будущее, и я знаю, что это не только вы, пожалуйста, не поймите меня неправильно, но как вы думаете об этом? Как вы боретесь с философией против бизнеса, философией против технологий, человеком против, как бы, результата? О чем вы думаете? Вы отметили мою раздвоенность личности, и теперь я думаю, какая сторона меня должна ответить? Я могу ответить дважды. Да. Дважды. Вы можете выбрать свой ответ. Я дам оба. Я думаю, отчасти это просто быть англичанином. Знаете, я как бы, я более комфортно, чем средний американец, думаю о, как бы, циничной, темной стороне вещей. Эти дождливые дни. Это дождливые дни, приятель. Это те дождливые дни. И я просто думаю, я не знаю. Как будто истина существует в честности взгляда на все стороны. И я думаю, если у вас есть какой-то уклон в ту или иную сторону, это просто не кажется мне реальным. И я полагаю, что это своего рода моя философия или своего рода академическая сторона. Это основная часть того, кем я являюсь. Как будто я комфортно живу, знаете ли, в, знаете ли, что некоторым людям может показаться набором противоречий, потому что для меня это не противоречия. Это истина, проявленная в одном человеке. Но если вы честны об этом, это также проявляется в каждом из нас. Угу. Знаете, мне посчастливилось быть в такой позиции, но, как бы, компании приходится бороться с этими вещами. Наши правительства должны бороться с этими вещами. Каждый из нас, как граждане, должен столкнуться с этой реальностью. Потому что, знаете ли, каждая технология просто ускоряет массовую трансформацию, которая может принести невероятные выгоды и также создать побочные эффекты. И это как будто, эта идея повторялась так много раз, что теперь она звучит банально, но как только вы преодолеете банальность, вам все равно придется столкнуться с тем фактом, что то же самое, что снизит стоимость производства энергии в течение следующих двух десятилетий в 100 раз, снизит стоимость энергии в 100 раз. Вы думаете, я могу сделать 100%? Как будто я очень оптимистичен по этому поводу. Так что я скажу это снова. Так что снизить стоимость энергии. Я думаю, энергия станет довольно дешевым и обильным ресурсом. Я имею в виду, даже одни солнечные панели, вероятно, снизятся еще в пять раз за следующие десять лет. Как будто один этот прорыв снизит цену большинства вещей. Угу. И что это? Что это через? Это ИИ становится более эффективным, учит нас создавать разные энергетические сети, учит нас создавать энергию по-другому? Как будто, что вы предсказываете, что это произойдет? Ну, я имею в виду, так что на самом абстрактном уровне, это системы сопоставления шаблонов, которые находят более эффективные способы, чем мы можем изобрести сами как люди, для объединения новых материалов. Это может быть в управлении и распределении энергосетей. Это может быть изобретение новых синтетических материалов для, э-э, знаете ли, батарей и хранения возобновляемой энергии. Это может быть в более эффективных солнечных, знаете ли, фотоэлектрических элементах, которые могут фактически захватывать больше на квадратный дюйм, например. Я имею в виду, есть так много прорывов, которые, знаете ли, мы на грани, которые требуют всего 1 или 2 дополнительных толчков, чтобы преодолеть их, даже сверхпроводники с прошлого года. Эти вещи, любая из них может появиться, верно? И если они появятся, мы увидим массовую трансформацию в экономике. Я имею в виду, представьте, что к 2045 году, знаете ли, энергия станет, скажем, в 10-100 раз дешевле. Мы сможем опреснять воду из океана, где угодно, что означает, что у нас будет чистая вода в местах, где может быть 50 градусов или что-то еще, знаете ли, 120 градусов жары. Верно. Что означает, что мы можем выращивать культуры в засушливых регионах, что смягчит миграцию из-за изменения климата. Что означает, что мы могли бы использовать кондиционеры в местах, где мы никогда раньше не могли. Знаете, есть так много вторичных эффектов фундаментальных технологий, универсальных технологий, таких как снижение стоимости энергии в 10-100 раз. Угу. Так что есть огромные причины для оптимизма, что каждый получит доступ к этим технологиям и выгодам от этих технологий в течение следующих нескольких десятилетий. Да. И это сделает жизнь намного проще и намного дешевле для всех на планете. Итак, давайте, э-э, давайте немного углубимся в это. Как будто это может сделать энергию во сколько раз дешевле? Ну, я говорил, в 100 раз дешевле за 20 лет, в 100 раз дешевле за 20 лет. Так что это, это один из тех случаев, с которыми я боролся, потому что, знаете ли, в зависимости от того, откуда вы получаете информацию и как вы ее получаете, это меняет ваше восприятие проблемы, верно? Так что я помню, как был очень зол, когда увидел, сколько воды потребляется при вводе одного запроса в Copilot, ChatGPT, любую модель ИИ. Затем я был еще злее, когда увидел, сколько воды потребляется при создании изображения. А затем я увидел что-то еще, что было похоже: о, это ничто по сравнению с автомобилями и, знаете ли, продуктами и, как бы, приготовлением гамбургеров. А затем я сказал: хорошо, как, откуда берется информация? Откуда она не берется? Ответ на цену ИИ. Как будто, это вызвано индустрией ИИ, говорящей: нет, это на самом деле не так уж плохо? Или как, как вы думаете, мы должны на это смотреть или как вы на это смотрите? Я имею в виду, смотрите, он потребляет огромные ресурсы: драгоценные металлы, электричество, воду, без сомнения, верно? Угу. Что касается энергии, все крупные компании сейчас почти полностью на 100% возобновляемые. Конечно, Microsoft, 100% возобновляемые. Я думаю, у нас есть 33 ГВт возобновляемой энергии во всем нашем парке вычислений. Для сравнения, я думаю, что Сиэтл потребляет два гигаватта в год энергии. Так что, чтобы поставить это в перспективу, весь Сиэтл, весь Сиэтл потребляет два гигаватта. И Microsoft создает сколько? 33 в целом в парке. Но это дико. Да. Нет, нет, нет. Но все же, и подавляющее большинство из них на 100% возобновляемые. Так что из солнечной или ветровой или водной энергии, но он также потребляет много воды в процессе. Как будто нам нужно охлаждать эти системы, и вы точно знаете, что это потребляет много. Теперь я не знаю, есть ли простой способ, знаете ли, нет короткого пути. Это дорого. Это потребляет, знаете ли, ресурсы, потребляет много ресурсов из окружающей среды. Угу. Но я думаю, в совокупности, когда вы смотрите на положительное влияние, для меня это оправдано. Мне нравится. Знаете, почему вы не откажетесь от своей машины или не скажете людям отказаться от своей машины в ближайшее время, потому что она использует алюминий и резину. И является ли это существенной частью вашего существования? И я думаю, что ИИ станет существенной частью существования каждого и оправдает экологические издержки, хотя это не означает, что мы должны идти и использовать дизельные генераторы и, знаете ли, выбросы углерода, как будто мы начинаем с нуля, что означает, что новая технология появляется, к ней должен применяться новый стандарт, что означает, что наша вода также должна быть очищена и переработана, что, знаете ли, многие центры обработки данных делают сейчас, знаете ли, берут на себя полную ответственность за жизненный цикл очистки воды. И то же самое с энергией. Она должна быть возобновляемой. Так что легкого выхода нет. Это просто суровая реальность, что производство вещей в таком масштабе, безусловно, будет потреблять больше ресурсов из окружающей среды. Забавно, каждый раз, когда я пытаюсь подумать об этом, я думаю о, э-э, даре и проклятии, которое приходит с чем-либо, что масштабируется. Э-э. Аналогия, которую я всегда использую для себя, это как самолет. До изобретения самолета, особенно такого большого авиалайнера, количество людей, которые могут погибнуть во время транспортировки, намного меньше. Правда. Если быть честными. Знаете, машина, четыре человека, шесть человек, что угодно. Это может быть трагично, но меньшее число. Появляется самолет, вы можете лететь дальше, вы можете лететь быстрее. Но это также означает, что на другой стороне крушения самолета или чего-то не так может быть что-то более разрушительное. И кажется, что это масштабируется и с ИИ. Похоже, вы говорите мне, что с одной стороны, эта технология может полностью изменить наши отношения с экономикой, финансами и обществом. Но затем есть маячащая другая сторона, которая может рухнуть. И поэтому, возможно, это хорошее место для начала, чтобы погрузиться в это: что является шумом, а что очень реальным для вас как для человека, который это видит, потому что каждый получает разные заголовки об ИИ, неважно, где вы находитесь в мире. Неважно ваша религия, ваша раса, что угодно. Каждый получает разные заголовки об ИИ. Но когда вы смотрите на это как на человека, который работает над его созданием каждый день, что реально, а что является шумом в ИИ и вокруг него? Я думаю, мне довольно ясно, что мы столкнемся с массовым вытеснением рабочих мест где-то в ближайшие 20 лет, потому что, хотя эти технологии на первой части своего введения дополняют вас как человека, они могут сэкономить вам время. Да, это как бионическая нога, но для, как бы, когнитивных работников, знаете ли, э-э, я думаю, как вы могли, знаете ли, кто это? Я думаю, это был Стив Джобс, который назвал это, как, велосипед для ума. Знаете, это просто своего рода упражнение, знаете ли, цифровые технологии позволяют вам упражнять новые части вашего разума, о которых вы не знали, что у вас есть доступ. И я думаю, что это, безусловно, правда. Но большая часть работы, которую люди делают сегодня, довольно рутинна и довольно предсказуема. Это своего рода механизировано. Угу. Да, как когнитивный ручной труд. И поэтому эти вещи, машины будут очень, очень хороши в этом. И выгоды от внедрения этих технологий будут очень ясны для компании, для акционера, для правительства, для, знаете ли, и поэтому мы увидим, как быстрое вытеснение, и люди должны выяснить, хорошо, каков мой вклад на рынке труда. Я думаю, эти страхи очень реальны. И именно здесь правительства должны взять на себя сильную роль, потому что должен быть механизм для налогообложения и перераспределения. Налогообложение — это инструмент для стимулирования определенных типов технологий к внедрению в определенных отраслях. И поэтому это не просто получение дохода, это ограничение, добавление трения к внедрению определенных технологий, чтобы мы могли выяснить, как создать другие возможности для людей по мере протекания этого перехода. Да, забавно, одна из моих любимых цитат, которую я когда-либо слышал, была, э-э, я думаю, это был глава отдела инфекционных заболеваний Швеции. Я думаю, это была его должность. Я разговаривал с ним во время пандемии, и мы просто говорили о жизни в Швеции и о том, как там все работает. И я задал ему вопрос о труде в Швеции и о том, как все там работает. И он сказал что-то удивительное. Это было, э-э, нет, я думаю, он на самом деле был в Департаменте труда с той стороны. Он сказал: в Швеции, в отличие от Америки, он сказал: в Швеции нас не волнуют рабочие места, нас волнуют работники. И я помню, как это взорвало мой мозг, потому что я сказал: о, да, все всегда говорят о, как бы, работе, как будто работа — это что-то, что прикреплено к человеку. Но на самом деле человек — это важная часть уравнения. Да, работа — это просто то, что делает человек. И поэтому наше внимание должно быть сосредоточено на том, чтобы человек всегда имел работу. Но, судя по вашим словам, мы не знаем, какой будет работа, потому что работы, которые мы знаем сейчас, легко заменить. Да, это ввод данных, сбор данных, отправка электронного письма, создание электронной таблицы Excel. Это легко. На самом деле, когда дело доходит до ИИ. И теперь мы не знаем, какая будет следующая часть. И поэтому, возможно, мой следующий вопрос к вам: когда вы находитесь в этом мире, философы из вашего мозга, как бы, что вы думаете, лежит на нас и на, как бы, технологических компаниях и всех остальных, чтобы работать над открытием того, что такое новая работа, или мы не знаем, какой она будет? Ну, но также я бы подправил то, что вы сказали: работа общества или функция общества заключается в создании рабочих мест, которые имеют смысл для людей. Да, как будто я не уверен, что я в это верю. Как будто я думаю, что на самом деле многие люди выполняют очень неполноценную работу, и они были бы вполне счастливы отказаться от нее, если бы у них был доход. Это правда. Как будто, это правда. Как будто, нам, вероятно, очень повезло, что мы получаем оплату за то, что мы делали бы, если бы нам не платили. Я бы, безусловно, сделал это. И поэтому я думаю, что функция общества заключается в создании, э-э, мирной, поддерживающей среды для людей, чтобы они находили свою страсть и жили жизнью, которая является полноценной, которая не обязательно должна пересекаться с работой или трудом. Я бы, я имею в виду, возможно, я слишком утопист, но я мечтаю о мире, где люди могут выбирать, какую работу они выполняют, и имеют истинную свободу. И люди напрягаются по поводу этой идеи, потому что они, знаете ли, работа — это идентичность. И это моя роль в обществе, и это то, что для меня имеет смысл. И если бы у меня не было моей работы, я бы сказал: нет. Давай, чувак. Подумай серьезно. Если бы вам сегодня не пришлось работать, что бы вы делали со своей жизнью? Это один из моих любимых вопросов, который я всегда задаю людям. Если бы вам не пришлось беспокоиться о своем доходе, что бы вы делали? И знаете ли, если вы войдете в привычку задавать этот вопрос, люди говорят удивительные вещи. Это так вдохновляет. Да. И поэтому, да, возможно, я утопист-мечтатель, но я думаю, что это актуальный вопрос для нас, чтобы подумать о нем к 2045 году. Я думаю, есть реальный шанс, что если мы правильно используем эту технологию, она принесет достаточно ценности, знаете ли, совокупной ценности миру, как с точки зрения снижения стоимости вещей, из-за энергии, из-за здравоохранения, из-за продовольственных систем, и, по сути, потому что у нас не будет многих из этих, как бы, средних, знаете ли, рабочих мест, нам придется найти способ финансировать людей на протяжении их жизни. И я думаю, что это просто высвобождает огромный творческий потенциал, и это создаст другие проблемы. Верно. Это создаст довольно глубокую экзистенциальную проблему. Я уверен, у вас есть друзья, которые больше не работают в своего рода, знаете ли, это не так, как будто они на пенсии. Они, возможно, среднего возраста или даже моложе. Возможно, они выросли богатыми. Это трудная вещь, чтобы разобраться. Как, кто я? Зачем я здесь? Что я хочу делать? Это как бы глубокие человеческие вопросы, которые, я думаю, мы можем ответить только в сообществе с реальной связью с другими людьми, проводя время в физическом мире, имея реальный опыт. И нравится вам это или нет, я думаю, это то, что грядет. И я думаю, это будет довольно красиво. Забавно, что вы говорите это, потому что я обнаружил, когда думаю о своих друзьях, что борьба, которую им приходится вести в отношении своей идентичности и работы, напрямую связана с миром или рынком, в котором они живут. Так что мои американские друзья имеют самую сильную связь и привязанность к своей работе. И по мере того, как я узнавал их, я понимал, почему в Америке ваша работа — это ваша медицинская страховка. Так что, если у вас нет работы, у вас нет медицинской страховки. И если у вас нет медицинской страховки, вы беспокоитесь о своей выживаемости. Если у вас нет выживаемости, то кто вы? Вы знаете, что я имею в виду? И тогда у вас есть жилье? И если у вас нет жилья, то кто вы как личность? Вы смотрите на все эти вещи. В Америке очень трудно отделить работу от жизни. Это почти невозможно. И тогда, когда вы начинаете путешествовать по миру, вы едете в, знаете ли, страны, где у них есть, как бы, сильная система социальной защиты, и вы обнаруживаете, что люди не так уж сильно ассоциируют себя со своей работой, потому что теперь их жизнь не определяется их работой. Их работа влияет на их жизнь, но не делает их жизнь. И тогда я вспоминаю времена, когда я был в поселении в Южной Африке, или даже в том, что мы называли родными землями, где жили наши бабушки. И, знаете ли, была расширенная семья, люди буквально жили в хижинах и на грунтовых дорогах, и, и все говорили: о, какой ужасный вес. Но я скажу вам сейчас, там не было бездомных. Там не было никого, кто бы так же стрессовал из-за работы. Я не говорю, что никто не хотел работы, но разрыв между тем, что они думали, что их не существует, потому что не было работы, был намного больше, чем у людей, которые жили в мире, где, знаете ли, ваша работа — это вы. И поэтому интересно, что вы говорите, потому что я действительно задаюсь вопросом, насколько легко нам будет с этим справиться, как будто, как бы, какое время будет. Но это также показывает, насколько велико разнообразие. Знаете, мы родом из, знаете ли, в плане того, как люди живут своей жизнью. Да. Я чувствую, что мы родом из, знаете ли, независимо от нашего разного происхождения, мы все еще довольно западноцентричны, что, как бы, довольно однородно, что, знаете ли, у нас было, как бы, 300 лет специализации, образования, протестантской трудовой этики, атомизации семей, все меньших и меньших единиц, распространяющихся. Знаете, покиньте свой дом, знаете ли, физическое место, где находится ваше сообщество. И я думаю, что в результате существует своего рода эпидемия одиночества. Как будто я чувствую, знаете ли, вы, вероятно, как и я, вкладываете свою жизнь и душу в свою работу. И тогда, что, я полагаю, было для вас, когда вы сменили работу? Верно? Потому что это, очевидно, была огромная часть вашей идентичности, то, что вы делали каждый день 24/7. Но вы видите, к этому моменту, я ушел из "Ежедневного шоу", чтобы провести больше времени в Южной Африке, дома. И, знаете ли, у одного из моих лучших друзей была прекрасная фраза, которую он сказал мне. Он сказал: в жизни иногда приходится отпускать что-то старое, чтобы удержать что-то новое. Не всегда очевидно, какова ценность, как бы, чего-то, чем мы жертвуем. Не всегда очевидно. Но если мы не можем сами присвоить эту ценность, мы застрянем. Так что, уходя из "Ежедневного шоу", я оставляю кучу денег позади. Я оставляю, знаете ли, этот статус, все это. Но никто не присвоил ценность моим друзьям. Никто не присвоил ценность моей семье. Никто не присвоил ценность языкам, на которых люди говорят со мной в моей стране. Нет статьи экономиста об этом, поэтому я не знаю, какова ценность этого. Кто-то может посмотреть на мои банковские счета и сказать: вот ценность, но они не говорят мне, какова фактическая ценность моих друзей. И поэтому я думаю, что именно здесь, знаете ли, это трудно. Мне просто пришлось решить это для себя. И я думаю, что всем нам придется, но я думаю, что некоторые люди не будут иметь такой роскоши из-за того, как, знаете ли, насколько они близки к черте. И когда вы говорите о тех работах, которые исчезнут, есть кто-то, кто говорит: у меня нет роскоши рассуждать. Абсолютно верно. Потому что завтра — это то, что грядет. Я не могу думать о, как бы, что будет? И это как бы настоящая роскошь, я думаю. И я думаю, что именно поэтому так важно говорить об опасностях и страхах сейчас, потому что это происходит очень быстро. Я имею в виду, переход удивил меня и всех моих коллег в отрасли в отношении того, как быстро он работает. И в то же время, знаете ли, мы также как бы, не уверены, сможет ли государство отреагировать на переход, потому что, знаете ли, вы, возможно, счастливы, потому что у вас уже был достаточный доход, чтобы вам не пришлось об этом беспокоиться, и вы могли. Это было действительно просто подключение к вашему сердцу. Но многим людям придется сказать: хорошо, мне все еще придется обеспечивать семью едой и продолжать свою работу на протяжении этого сумасшедшего перехода. Так позвольте мне спросить вас. Вы видите, что это такая интересная мысль. Вы и ваши коллеги были шокированы и шокированы темпами развития ИИ. Для меня это просто сносит мне крышу, потому что я говорю: конечно, я в шоке. Я не умею кодировать. Вы понимаете, что я имею в виду? Конечно, я буду в шоке. Но теперь, когда вы говорите это, я задаюсь вопросом, как человек, который был, вы действительно OG в игре ИИ. Как действительно, действительно, вы не из тех людей, которые присоединились сейчас, потому что это взрывается. Вы были в этом до того, как появились деньги, а теперь вы в самой гуще событий. Где, по вашему мнению, мы находимся в развитии ИИ? Мы смотрим на младенца, или мы смотрим на подростка, или мы смотрим на, как бы, 20-летнего? Как, где, по вашему мнению, мы находимся, когда мы смотрим на развитие ИИ? Я думаю, часть проблемы с человеческим состоянием в этом безумном, глобализированном, оцифрованном мире заключается в том, что мы перегружены информацией, и мы биологически плохо приспособлены к масштабу и экспонентам. Как будто, это очень немногие. Как будто, когда я говорю 2045 год, я просто привык жить в 2045 году. Как будто, это просто моя странность. Я всегда был таким. И это стало для меня второй натурой, чтобы случайно бросить это. Но, знаете ли, если я сделаю это с какими-нибудь случайными людьми в баре, я, очевидно, просто урод. Никто так не думает. Люди едва думают о том, что они собираются делать через две недели, не говоря уже о 20 годах. Так что, и, соответственно, знаете ли, люди как бы, не готовы думать, что означает экспонента. Теперь мне повезло, что у меня есть практическая интуиция для определения экспоненты, потому что между 2010 и 2020 годами, в течение десяти лет, я и куча других случайных людей работали над ИИ, и он вроде как работал, но, по сути, не работал на плоской части экспоненты, даже несмотря на то, что мы видели небольшие удвоения каждые 18 месяцев. Он начинался с базы, как бы, практически нуля. Подумайте об этом. И поэтому только в последние несколько удвоений вы видите этот огромный сдвиг в возможностях. Я имею в виду, например, четыре года назад, до GPT-3, языковая модель едва могла предсказать следующее слово в одном предложении. Как будто, это просто случайность. Это было немного неточно, часто не имело смысла. Это 2013 год. Нет, это 2023 год или четыре года назад. 2023 год. Так что нет, нет, не 2023 или четыре года, три или четыре года назад. Так что это как 2020 или 2021 год, хорошо. 20, скажем, 2021 год, что-то вроде того. Я имею в виду, буквально вы читаете это. Вы смотрите на вывод языковой модели, потому что я работал над Lambda в Google в 2021 году, и это было очень круто. Но модели прямо перед этим были просто ужасны. И я думаю, многие люди играли с GPT-3, и многие люди говорят: о, чувак, это как, что мне делать с этой штукой? Угу. Но для тех из нас, кому повезло увидеть плоскую часть экспоненты, мы могли лучше интуитивно понять, что удвоения действительно происходят, и что следующий набор удвоений, знаете ли, удвоить с этой базы, о, это вроде как нормально, но это не так точно. Мы знали, что это будет идеально с контролем стиля, без предвзятости, с минимизированными галлюцинациями, с идеальным извлечением, извлечением из данных в реальном времени, как и, и тогда на самом деле довольно предсказуемо, какие возможности появятся дальше. Так, например, за последние пару лет модели перешли от генерации идеального текста или действительно хорошего текста, скажем так, к изучению языка кода. Почему? Как мы узнали, что он станет программистом человеческого уровня? Потому что нет разницы в структуре входной информации между кодом и текстом, изображениями и видео, и аудио. Это тот же механизм: данные, вычисления и алгоритм, который изучает закономерности в этих данных. Так что вы можете сказать: хорошо, ну, какие следующие модальности он изучит? Вот почему я делаю прогноз о материаловедении, верно? Или другие аспекты биологии или физики. Знаете ли, если структура данных была записана, и она чистая и высокого качества, то закономерности в ней могут быть изучены достаточно хорошо, чтобы делать прогнозы о том, как они будут разворачиваться дальше. И именно поэтому это называется универсальной технологией, потому что она фундаментальна. Нет специализированного ручного программирования для каждой области данных. Черт возьми. Я имею в виду, вы, вы, вы знаете, это напоминает мне, вы когда-нибудь. Вы когда-нибудь видели ту вещь, где они говорят, когда они пытаются объяснить вам экспоненту? Есть один пример, который они дают, который складывается из бумаги. Да. Знаете, так что, если вы сложите лист бумаги пополам, а затем сложите его пополам, а затем сложите его пополам, и вы, и я думаю, вы не можете сделать это более семи раз или что-то в этом роде. Но затем они говорят: если вы сможете продолжать складывать его пополам, число, чтобы добраться до космоса, действительно мало. Я думаю, это 64-е достигает Луны или что-то в этом роде. Да, но я помню, я помню, как видел это, и я сказал: подождите, подождите, подождите, подождите, что? Как будто, если вы делаете это одним способом, а затем делаете это одним способом. И я сказал: подождите, 64. Я сказал: нет. Что вы имеете в виду, как 64 000? Они говорят: нет, нет, нет. 64, и, и, и вот тогда вы начинаете понимать, как мы просто вообще не понимаем экспоненту, и, знаете ли, и эти, как бы, сложные выигрыши. И поэтому теперь, вот где я хотел спросить вас об идее сдерживания. Угу. Угу. Ваша книга, которую я читал, я имею в виду, каждый, кто писал об ИИ, кто, как бы, в этом, в этом, была единственной книгой, я бы сказал, которая посвятила большую часть своего времени обсуждению трудностей борьбы с ИИ. Да. Вы говорили о красоте того, что мы могли бы сделать с медициной и технологиями, и мы должны перейти к этому, чтобы поговорить о некоторых прорывах, которые вы сделали в DeepMind. Но как бы, сдерживание кажется величайшей проблемой, стоящей перед нами, и мы даже не осознаем этого. И мы на самом деле не говорим об этом. Расскажите мне, что для вас означает сдерживание и почему вы думаете, что мы все должны на нем сосредоточиться. Тенденция, которая происходит, заключается в том, что власть миниатюризируется и концентрируется, и она становится дешевой и широко доступной для всех. Почему я говорю власть? Потому что точное предсказание того, как развернется текст, или какой код произвести, или какую, знаете ли, кадр расширить, учитывая видео, это власть. Как будто предсказания — это власть. Интеллект — это точное предсказание в новой среде. Это, по сути, то, что мы делаем как люди. Мы — предсказательные машины, и эти вещи — предсказательные машины. Так что они смогут звонить, писать электронные письма, использовать API, писать произвольный код, создавать PDF-файлы, использовать Excel, действовать как менеджер проектов, который может делать что-то от вашего имени. Так что вы, как создатель или владелец бизнеса, сможете нанять команду ИИ, специализирующуюся на маркетинге, HR, стратегии или чем угодно, или кодировании, и это даст вам рычаг в мире. Я имею в виду, вы говорили о, как бы, знаете ли, странной, как бы, функции масштаба, что это сделает, это масштабирует каждого отдельного человека и каждый бизнес, чтобы иметь возможность поставлять. Гораздо, гораздо больше, потому что стоимость производства будет, знаете ли, практически нулевой предельной стоимостью. Теперь, с одной стороны, это удивительно, потому что это означает, что время между тем, как у вас появилась творческая идея, и возможностью ее прототипировать или экспериментировать с ней каким-либо образом, или даже масштабировать ее до максимального уровня, сократится практически до нуля. Вы просто думаете о чем-то, кодируете это на естественном языке, производите это приложение, создаете, знаете ли, веб-сайт, пробуете идею, которая у вас есть. Но обратная сторона этого заключается в том, что любой теперь может не просто транслировать свои идеи, как это было с появлением подкастов или появлением блогов в Интернете до этого. Это означало, что любой мог говорить со всеми. Да. Что было удивительно. Никто не контролировал инфраструктуру в каком-то смысле. Абсолютно. И это очень дешево для любого опубликовать веб-сайт или вести блог или делать подкаст. Так что та же тенденция будет происходить и со способностью людей производить вещи, совершать действия. Так что в социальных сетях это было так, как будто любой теперь может транслировать. Теперь с ИИ любой теперь может действовать. Вы можете, как бы, построить бизнес, знаете ли, начать канал, создавать контент, знаете ли, что угодно, во что вы верите. Я имею в виду, вы можете быть религиозным человеком и пытаться проповедовать свою, знаете ли, или пытаться убедить кого-то в своих политических идеях. Каждому будет намного легче реализовать свое видение. И, очевидно, преимущества этого очевидны. Но недостаток этого заключается в том, что это неизбежно вызывает конфликт, потому что мы просто не согласны друг с другом. Да. Знаете, мы не ненавидим друг друга. Вы не злой. Я не злой. Но у нас разные взгляды. И если я могу просто, как бы, по щелчку кнопки, реализовать свои сумасшедшие идеи, а вы можете реализовать свои сумасшедшие идеи, которые являются практическими действиями, влияющими на реальный мир, и все делают одно и то же, то неизбежно это вызовет огромное количество конфликтов. В то же время, государство, которое должно иметь монополию на власть для создания мира, это контракт, который мы заключаем с государством. Государство становится слабее и как бы борется. Верно. И поэтому сдерживание — это вера в то, что полностью нерегулируемая власть, которая распространяется с нулевой предельной стоимостью, представляет собой фундаментальный риск для мира и стабильности. И это предположение, которое вы должны мягко ограничивать правильным образом. Массовое распространение сверхмощных систем из-за их влияния от одного ко многим. Если я правильно вас понял, это почти как будто вы говорите, если что-то трудно сделать, только немногие могут это сделать. Да. И если только немногие могут это сделать, легко регулировать, как это делается, потому что вам нужно регулировать только немногих. Но если что-то легко сделать, это может сделать каждый. И теперь регулировать это бесконечно труднее, потому что это может сделать каждый. Да, это абсолютно точно. Трение важно для поддержания мира и стабильности. Если у вас нет трения, а стоимость исполнения равна нулю, а масштаб может быть почти мгновенным. Вот где вы, как бы, да, я, возможно, провожу слишком много времени в 2045 году, но я вижу мир, где такая среда действительно создает много хаоса. Ну, нет, я согласен с вами. Вот что я думаю. Я думаю об этом, э-э, давайте возьмем реальный, знаете ли, пример из текущей жизни, новости. Я долго жил в новостях и видел это из первых рук, когда в Америке было три новостных канала. Если что-то было, как бы, не так с новостями, люди знали, куда идти немедленно. Вы знали, кого привлечь к ответственности. Вы знали, кто, знаете ли, попал в беду или нет. Но было, как будто, мы знаем, куда идти. Затем вы получаете кабельные новости, это расширяется. Становится намного труднее. Теперь, подождите, кто говорит новости? Кто говорит правду? Кто не говорит этого? Наказываете ли вы их? Но

Тем не менее, вы могли бы обратиться к ним. Знаете, чтобы кто-то вроде Fox News мог быть привлечен к суду за то, что сказал что-то о системе голосования Dominion. Но Dominion знали, куда обратиться. Они сказали: "Мы идем за Fox News". Так что, как ни странно, даже в этом мире система все еще как бы работает, потому что есть трение. Правильно. Это то, что есть, и это должно быть транслировано. Затем интернет, стриминг, YouTube и т. д. вы даже не знаете, кто этот человек, где этот человек, является ли это человеком, и если он говорит что-то неправдивое и это вызывает гнев масс, куда нам идти? И дело не только в том, что он что-то скажет. Он что-то сделает. О, черт возьми, мои вещи. Он создаст приложение. Он создаст веб-сайт. Он сделает это. И вот, я думаю, в этом и заключается суть столкновения с реальностью того, что грядет. Да, но подождите, подождите. Вернитесь к этому. Видите ли, это то, что я всегда забываю. О, боже. Видите ли, мы всегда думаем об ИИ как просто о болтовне. Давайте поговорим немного больше о действиях, потому что именно это делает его уникальным. Знаете, в одном из выпусков у нас был, э-э, э-э, Юваль Ной Харари, книга. Да. Вы знаете, конечно. Да. Хорошие друзья зла. Он потрясающий. И Юваль, знаете, был у нас из-за своей книги "Нексус". И мы говорили об информации, системах и историях, и историях. Да. И одна из вещей, о которых он постоянно говорил, была: "Я знаю, что ИИ — это инструмент, но у нас никогда не было инструмента, который сам себя создает". И вы тоже об этом говорите. У нас никогда не было молотка, который сам делает молоток, без вашего участия. Давайте просто сделаем это. Сделай это, сделай это. Атомная бомба — это одно, но ни одна атомная бомба не создает атомную бомбу, понимаете? И вот, там было много идей. Итак, есть. Итак, первое — действия — это истории. И точка зрения Юваля заключалась в том, что история цивилизации заключалась в создании историй. Да. Религиозные истории, исторические истории, идеологические истории, такие как истории угнетения, доминирования, убеждения. И именно люди имели возможность передавать эту историю через устную речь, а затем через оцифровку, что замедляло распространение перемен. Ум. И это был важный регулятор и фильтр. Итак, как мы уже говорили, оцифровка ускоряет распространение этих историй, что позволяет информации распространяться. Но это не все. Это также фактический агент, который будет действовать как менеджер проекта в вашей маленькой армии убеждения, и люди будут использовать эти вещи не только для фишинговых атак или для, знаете ли, продажи историй, но и для фактического создания презентации PowerPoint, создания приложения, планирования, знаете ли, создания плана проекта. И поэтому он действует как член вашей команды. И я думаю, именно отсюда и исходит вся польза. Но в то же время здесь есть и огромные риски. А затем еще один момент, который вы упомянули, о том, что он может редактировать себя, это новый порог, знаете ли, технология, которая способна наблюдать за тем, что она произвела, изменять это наблюдение, как она может критиковать свое собственное изображение, которое она произвела, и говорить: "Ну, похоже, эта часть руки была немного слабой. Хорошо, мы сгенерируем еще одну или напишем стихотворение или стратегию, а затем отредактируем и обновим ее". И это просто редактирование ее вывода. но она также может редактировать свой вход, свой собственный код, свою собственную системную обработку, чтобы улучшиться по отношению к своей цели. И это называется рекурсивным самосовершенствованием. Ум. Где она может просто итеративно, итеративно улучшать свой собственный код по отношению к некоторой цели. И я давно говорю, что это порог, который представляет значительно больший риск, чем любой другой аспект развития ИИ, который мы видели до сих пор. Я имею в виду, это действительно подмножество технологий, если мы действительно собираемся сосредоточиться на гуманистическом сверхинтеллекте, будучи скептичными и критичными и проверяя использование и развитие методов рекурсивного самосовершенствования, вот где, я думаю, есть реальный риск. Мы продолжим этот разговор сразу после короткого перерыва. Так вы когда-нибудь чувствуете, что можете оказаться в положении, когда вы как бы Оппенгеймер сегодняшнего дня? Вы когда-нибудь чувствуете, что находитесь в положении, когда вы одновременно боретесь с необходимостью технологии, но затем также с не 0% вероятностью того, что эта штука может сжечь атмосферу? Как вы с этим справляетесь? Я часто об этом думаю, даже когда думаю об инженерах и людях, которые пишут код. Меня всегда завораживают люди, которые пишут код для того, что будет писать код. Как у других людей есть работа. Но если бы вы сказали мне, Тревор, "Тревор, можешь помочь этому ИИ научиться комедии?" Я бы сказал: "Нет". Вы понимаете, что я имею в виду? Поэтому меня всегда интригуют кодеры, которые создают то, что теперь кодирует. Я просто хочу знать, как вы, как вы, как вы справляетесь со всем этим? Думаете ли вы, что это больше нас, и мы должны с этим бороться? Или как, что это? Как выглядит эта битва для вас? Знаете, во время COVID, когда я начал писать "Грядущую волну", свою книгу, меня очень мотивировал этот вопрос. Это был, это был, на самом деле, один из основных вопросов: как технология появляется в нашем мире и почему? Каковы стимулы, системные стимулы, которые по умолчанию приводят к распространению, которые просто производят все больше и больше? И совершенно ясно, что есть спрос на лучшую жизнь. Люди хотят иметь более дешевую футболку, более доступную вещь, хотят иметь более дешевую машину. Хотят иметь возможность ездить в отпуск во все места по всему миру. И поэтому самолеты становятся дешевле и эффективнее, потому что на них огромный спрос. И поэтому именно спрос улучшает эффективность и качество технологий, чтобы снизить их цену, чтобы их можно было продавать больше, и именно поэтому все в конечном итоге распространяется и почему это неизбежно происходит, потому что у нас на самом деле не было большого опыта отказа от технологии в прошлом. Существуют правила, касающиеся технологий и ограничения, которые, я думаю, были невероятно эффективны. Если вы подумаете об этом, знаете ли, каждая технология, которая у нас есть, чрезвычайно регулируется: полеты, автомобили, выбросы. Я имею в виду, знаете ли, поэтому люди, особенно в США, испытывают своего рода аллергическую реакцию на слово "регулирование". Но на самом деле регулирование — это просто скульптура технологий, верно? Отсекание краев и болевых точек технологий в коллективных интересах. И для этого нам нужно государство. Государство несет ответственность за общее благо. И поэтому мы должны инвестировать в государство и строить государство, потому что ни одному отдельному корпоративному актеру, ни академическому, знаете ли, исследователю, исследователю ИИ или кому-либо еще индивидуально не выгодно брать на себя ответственность за целое. И поэтому нам нужны правительства больше, чем когда-либо, верно? Не для того, чтобы сдерживать нас или замедлять, а для того, чтобы формировать технологии так, чтобы они приносили всю ту пользу, на которую мы надеемся, одновременно ограничивая потенциальный вред, который они могут нанести. Я хочу сделать шаг назад и поговорить о вашем пути с ИИ сегодня, в 2025 году. Кажется очевидным сейчас, когда я говорю с людьми, все говорят: "О, да, ИИ, ИИ, ИИ". Я даже не был в игре, когда, я имею в виду, я был просто, знаете ли, обывателем. Я помню, как показывал людям в своем офисе первые итерации GPT-3 и Dall-E, и я помню, когда Dall-E все еще был, знаете ли, в основном, скажи ему об изображении, а затем просто уйди, пойди, забронируй отпуск на неделю, вернись за своим изображением. И он делал. Но даже тогда я думал: "Это изменит все". Люди говорили: "О, нет, я не знаю". И я помню, как мне было трудно убедить людей, что эта штука будет такой большой, какой она будет. Я делал это в таком временном масштабе. Когда я смотрю на вашу историю, вы буквально потратили годы своей жизни, проводя время в залах заседаний, говоря мировым лидерам, инвесторам, технарям в Кремниевой долине: "Эй, вот каким будет будущее ИИ". И никто вас не слушал, никто, ноль. Но я имею в виду, никто вас не слушал прямо сейчас. Это заставило меня задуматься о двух вещах: во-первых, стоит ли нам беспокоиться о том, что наш мир и наше будущее строят люди, которые не способны видеть будущее? И во-вторых, что вы видели тогда, чего мы, возможно, не видим сейчас? Это трудный вопрос, чувак. Я думаю, пока вы говорили, одно из воспоминаний, которое пришло мне на ум, было: помните, в 2011 году у нас был офис в Рассел-сквер в центре Лондона, недалеко от Университетского колледжа Лондона (UCL). И кто-то в офисе показал мне этот алгоритм распознавания рукописного текста. Он просто, знаете ли, обрабатывал текст, который на самом деле был доступен на почте уже много лет. Он читал почтовый индекс и адрес и тому подобное. И это было действительно просто распознавание. Так что эти буквы представляют эти буквы. Знаете, мы можем транскрибировать этот текст. Это смешное яблоко на самом деле является буквой "А", а эта смешная петля на самом деле является буквой "Л". И да. Так что я подумал, что это невероятно, что машина имеет глаза и может понимать текст и транскрибировать его. Это довольно круто. Но тогда нас действительно интересовало, если она распознает его достаточно точно, то, конечно, она должна быть способна генерировать новую рукописную цифру или число, которое она никогда не видела в обучающем наборе. Это был 2011 год, 256 пикселей на 256 пикселей, с рукописной семеркой или нулем в сером цвете. Да. Это как бы пять цветов. Да. И я помню, как стоял над плечом этого парня. Дэн Виста — один из наших, я думаю, он был четвертым сотрудником DeepMind, и он был просто очарован этой системой, которая была на его машине, потому что она могла произвести новое число, которого не было в обучающем наборе. Она что-то узнала о концептуальной структуре от 0 до 9, чтобы иметь возможность произвести новую версию этого. И поэтому она могла написать число, которое она не научилась писать, как будто она никогда его не видела. Она никогда не видела это число, написанное так, и она написала его сама. Точно. И вот, возвращаясь к тому, о чем мы говорили в начале, о понимании: если она способна производить новую версию числа семь, которое она никогда не видела раньше, понимает ли она что-то о природе рукописной цифры семь в абстракции? Концептуальная идея этого. О, боже. И тогда интуиция, которая у меня возникла, была: "Вау". Если бы она могла воображать новые формы данных, на которых она обучалась, то насколько далеко можно было бы это продвинуть? Может быть, она могла бы генерировать новую физику для мира. Может быть, она могла бы решать сложные проблемы в медицине. Может быть, она могла бы решить все эти энергетические проблемы, о которых мы говорим, просто изучая закономерности в этой информации, чтобы воображать. И вот что мне нравится в галлюцинациях. Все говорят: "Галлюцинации". Галлюцинации — это творческая часть. Вот что мы хотим, чтобы они делали. Мы не хотим электронную таблицу, куда вы вводите данные, а получаете данные. Это просто, знаете ли, просто рукописная запись того, что мы хотим интерполяции, мы хотим изобретения, мы хотим творчества, мы хотим абстрактных, размытых частей. И это был очень сильный момент для меня. Я подумал: "Хорошо, это странно, но мы определенно на что-то наткнулись, этого никогда раньше не было, и это очень круто. Давайте просто перевернем следующую карту. Посмотрим, масштабируется ли это". И это масштабировалось каждый год. Это масштабировалось и масштабировалось. Так что это был очень вдохновляющий момент для меня. Ум. И каким-то образом десять лет спустя, пятнадцать лет спустя, мне удалось сохранить это видение: генерация и предсказание порождают творчество. И что интеллект — это не то, что некоторые люди довольно религиозны по отношению к интеллекту, они говорят: "Нет, ни один другой вид не обладает интеллектом. Это очень присуще людям. Это должно было быть, знаете ли, пришло от какого-то сверхъестественного существа, но на самом деле это просто применение внимания к конкретной проблеме в конкретное время, эффективное применение вычислительной мощности для получения правильного предсказания. Я думаю, что это и есть интеллект: направить свою вычислительную мощность, чтобы предсказать, что произойдет, если я опрокину этот стакан прямо в нужный момент. И вам придется купить мне еще один стакан. Мне придется сначала почистить брюки от воды. Ум. Так что, да, я забыл, каким был ваш вопрос, но это было. О, нет, нет, это нормально. Нет, вы ответили на первую часть, которая мне понравилась. А вторая часть действительно была: если вы. Итак, вы были в DeepMind, вы ходили к разным людям, которые сейчас, между прочим, продают какую-то версию ИИ, или инвестируют в нее, или рассказывают нам о ней. Да. Но что меня немного раздражает, так это то, что я думаю: "Черт возьми, вы этого не видели". Вы понимаете, что я имею в виду? Да. Вот вы здесь: "О, позвольте мне рассказать вам об ИИ". А я говорю: "Да, но когда Мустафа был в комнате и рассказывал вам об этом, вы сказали: 'Я не вижу этого, чувак'". И они будут вести себя так, как будто видят это. Поэтому я не хочу спрашивать их, что они видят сейчас. Я хочу спросить вас, что мы упускаем в этот момент. Что, по вашему мнению, мы не замечаем? Да, это действительно сложный вопрос. Я не уверен, почему люди не смогли увидеть это раньше. И, возможно, это мой слепой зона, о которой мне нужно больше думать. Но я знаю, что я довольно ясно вижу, что грядет дальше. На данный момент эти модели по-прежнему являются одноразовыми предсказательными механизмами. Знаете, вы задаете вопрос, и получаете ответ. Знаете, он производит одно правильное предсказание в момент времени T, но вы, как разумный человек, и каждый человек, и фактически многие животные, постоянно производите поток точных предсказаний, будь то решение, как встать с этого стула, или воображение, знаете ли, этого растения фиолетовым вместо зеленого. Я — последовательно точный предсказательный механизм. Модели сегодняшнего дня — это всего лишь одно- или двухкратные предсказательные механизмы. Хорошо. Они не могут, они не могут разработать план на время. И то, как вы решаете пойти домой сегодня вечером, это, знаете ли, сначала встать со стула, затем открыть дверь, затем сесть в машину и так далее. Вы можете развернуть это идеальное предсказание всей вашей деятельности до момента возвращения домой. И это просто вычислительное ограничение. Я не думаю, что существует какое-либо фундаментальное, знаете ли, алгоритмическое или даже ограничение данных, которое мешает LLM и, знаете ли, этим моделям делать идеальные, последовательные предсказания в течение очень, очень длительных периодов времени. Да. Ум. Так что же нам делать с этой технологией? Ну, это невероятно похоже на человека, если у нее идеальная память, которой у нее сейчас нет, но у нее очень хорошая память. Ум. Тогда она может использовать не только свои знания о мире, свои предварительно обученные данные, но и свой личный опыт взаимодействия с вами и всеми остальными людьми и хранить это как постоянное состояние, а затем использовать это для последовательного предсказания того, как все разворачивается в течение очень, очень, очень долгих последовательностей действий. Это невероятно похоже на человека и невероятно мощно. И так же, как сегодня, существует своего рода сверхинтеллект, который находится в нашем кармане и может ответить на любой вопрос на месте, как мы пренебрегаем тем, насколько это невероятно сейчас. Это безумие. Это безумие, насколько это хорошо сейчас. И все просто говорят: "О, да, я не особо им пользуюсь". Вы им пользуетесь сейчас? Немного. Я говорил, я сказал: "Давайте, посмотрите, это магия. Это магия в вашем кармане". А теперь представьте, когда он сможет не только отвечать на любой вопрос о поэзии или какой-то случайной физической вещи, но и предпринимать действия на бесконечно долгих временных горизонтах. Это оно. Знаете, забудьте об определении сверхинтеллекта или AGI. Только эта возможность сама по себе захватывает дух. И я думаю, что у нас это будет к концу следующего года. Может быть, может быть, я застрял в мире научной фантастики. Но то, что я, кажется, услышал от вас, это то, что если мы продолжим развивать ИИ так, как он развивается сейчас, забудьте об идее того, чего мы не знаем, мы могли бы достичь мира, где он сможет разрабатывать точные прогнозы относительно того, какими могут быть наши результаты. Да. Например, вы говорите мне, что ИИ, я могу встретить кого-то на свидании, а затем ИИ сможет сказать мне, основываясь на моей истории и моих действиях и его постоянной памяти обо мне и о том, что говорит человек, и как мы теоретически можем прийти к точке, где он сможет сказать: "О, да, это как бы возможные результаты, основанные на ваших действиях", что вы как умный человек делаете каждый раз, когда встречаете кого-то. В любом случае, что-то умное — это то, что вы очень добры ко мне. Вы очень добры. Без комментариев по поводу вашей личной жизни. Ум. Да. Но я имею в виду, это и утопично, и дистопично, потому что, с одной стороны, я думаю: "Вау, это было бы потрясающе для многих людей". Вы совершаете ошибки, и теперь это. Но с другой стороны: "Когда мы перестанем ему доверять? Когда мы перестанем верить его прогнозу? Когда мы, вы знаете. Вы понимаете, что я имею в виду? Это как бы окончательная борьба сейчас: если эта штука сказала мне: "Эй, я знаю, что ты любишь этого человека, и я провел расчет, я провел симуляцию, я сделал это. Я знаю тебя, и я знаю, что они говорят и какие они. Ты, ты расстанешься через два года из-за, как бы, закономерности". И давайте предположим, я сделаю это один раз, и это будет правильно. А потом я сделаю это снова, и это будет правильно. А потом я скажу: "Третий раз, делать мне это или нет? Дать ли этому человеку шанс? Не дать ли им?" Вы понимаете, что я имею в виду? Это такой глубокий вопрос, потому что мы доверяем. Доверие — это на самом деле функция последовательных и повторяющихся действий. Итак, вы говорите, что собираетесь что-то сделать, и вы делаете то, что на самом деле сказали, что собираетесь сделать, и вы делаете это неоднократно. Да. И поэтому все говорят: "О, но я не смогу доверять ИИ". На самом деле, вы будете доверять ИИ, потому что он очень точен. Он, знаете ли, как вы используете Copilot ChatGPT. Большинство людей не задумываются дважды, прежде чем использовать это сейчас, потому что это так точно. И это явно лучше, чем любой отдельный человек. Знаете, я бы просто не пошел и не спросил вас, знаете ли, как бы, многие другие вопросы, я думаю, вы бы лучше узнали. Да. Знаете, я бы не спросил вас, придурок. Я собирался назвать список, который промелькнул у меня в голове. Я сказал: "Не говори ничего из этого. Не говори этих вещей. Просто откатись назад". Знаете, что это мне напоминает? Я не знаю, видели ли вы документальный фильм. Я не знаю, нужно ли вам это, потому что вы там были. Но, например, DeepMind, компания, которую вы помогали основать, она занимает такой прекрасный и знаковый момент в истории искусственного интеллекта по двум основным причинам, на мой взгляд. Одна — это AlphaFold, а другая — AlphaGo. И причина, по которой это так важно для меня, заключается в том, что вы работали над проектом ИИ, который боролся и решал две самые большие проблемы, которые, я бы сказал, люди считали своей областью. AlphaFold — это медицина и открытия. Это то, что делают люди. Мы те, кто изобретает лекарства. Мы те, кто создает новое. Мы синтезируем. Мы — люди. Вы понимаете, что я имею в виду? Синтетические. Это мы. Мы создатели. А затем AlphaGo, для меня, был почти еще более глубоким и мощным, потому что люди всегда говорили: "Слушай, чувак, человеческий шахматный мозг бесконечен, человеческий мозг". А затем AlphaGo имеет, я не знаю, сколько разных вариаций игры, никто не может ее запомнить, по сути. Да. И я помню, как смотрел документальный фильм, и вы видите чемпиона AlphaGo. Я думаю, он был корейцем, верно? Да. Ли Седоль, Ли Седоль. Да. Ли Седоль, отличный парень. И вы смотрите, как Ли Седоль играет против вашего компьютера, и все, я имею в виду, Корея, это все в новостях в Америке. Это в новостях, и они говорят: "Компьютер против". А теперь люди думают о Каспарове, и миллион человек смотрели это в прямом эфире. Сто миллионов человек хотели увидеть "Человек против машины". И я помню, как смотрел это, и люди говорили: "Черт возьми, позвольте мне сказать вам, почему это отличается от шахмат, потому что, видите ли, шахматы на самом деле довольно просты для предсказания". И это было до того, как они сказали, что это невозможно. А затем вы видите AlphaGo, и вы видите, как разворачивается эта игра. И момент, который всегда останется в моей памяти, это когда Ли Седоль играет с DeepMind, и он делает ход. И все, все, кто является экспертом по AlphaGo, говорят: "О, он ошибся". А затем вы видите всех этих парней из технарей на заднем плане, которые работают над этим, и они говорят: "Что пошло не так?" Они говорят: "Да, он ошибся. Он не должен был этого делать". Да. Вы не можете. И вы видите комментаторов, и они говорят: "О, да, вы никогда так не делаете. Вы никогда так не делаете. Это конец. Вы не делаете этого". А затем игра разворачивается, игра разворачивается, игра разворачивается, и затем все говорят: "Подождите, что только что произошло?" И тогда люди сказали: "Мы только что увидели ход, который никто никогда не делал. Мы увидели игру, которая никогда раньше не разворачивалась, и были две разные реакции, и именно поэтому эта история осталась со мной. Одна реакция была у большинства людей, которые были поклонниками Ли Седоля. Они сказали: "Это печальный день в истории человечества, потому что он показал, что машина умнее человека, и это показывает, что у нас нет будущего и нет цели". А затем его взяли интервью, и они спросили: "Как вы себя чувствуете? Вы проиграли, и вы представляли человечество. Вы проиграли". И он говорит: "Ну, во-первых, проигрыш — это часть игры. И, знаете ли, я достаточно смирен, чтобы знать, что я не всегда буду выигрывать". И он сказал: "Но я на самом деле счастлив". И они спросили: "Почему?" И он сказал: "Ну, я рад обнаружить, что есть части игры, о которых я не знал". И он сказал: "Эта машина напомнила мне продолжать творить и выходить за границы, которые, как я думал, существовали в моей голове". И я помню, как смотрел на это и думал: "Черт возьми, удивительно, как можно посмотреть на одну и ту же историю и получить совершенно разный урок". Знаете, и я задавался вопросом, это было на стороне игры. Чрезвычайно сложно. Но давайте поговорим о стороне медицины. Сворачивание белков. Я до сих пор не до конца понимаю это, но я сделал все возможное. По сути, что вы и ваша команда сделали. Насколько далеко, по вашему мнению, вы продвинулись в медицине и в том, что мы можем делать в плане лечения болезней? Насколько, на сколько лет, по вашему мнению, мы прыгнули, имея что-то вроде AlphaFold? Я имею в виду, люди говорят десятилетие, некоторые говорят несколько десятилетий. Я имею в виду, понимание функциональных свойств этих белков — это на самом деле понимание того, как они сворачиваются, и способ их сворачивания и то, как они сворачиваются и разворачиваются, часто выражает что-то, знаете ли, физически о том, как они повлияют на свою среду. И поэтому, знаете ли, я думаю об этом, потому что я пытаюсь использовать аналогии, чтобы помочь мне, когда это сложная тема. Вы когда-нибудь играли в детскую игру, где кто-то складывал бумагу в, знаете ли, маленькую цветочную штучку, а затем вы делали, знаете ли, маленькую игру, и у вас была норвежская штука? Да. А затем было бы: "Давайте посмотрим, нравится ли кто-то вам". И это было бы: "Один, два, три, четыре". О, да. Ты отстой. Один, два, три". Вот как я думаю об этом с белками: я люблю, в зависимости от того, как эта бумага развернется, это определяет, является ли это болезнью, является ли это лекарством, является ли это лекарством, является ли это, знаете ли, за исключением того, что есть миллиарды возможных способов, которыми оно может развернуться. И мы никогда не могли представить все эти комбинации. И я думаю, знаете ли, это на самом деле очень похоже на игру го в этом смысле, как го. Итак, го имеет 19 на 19 квадратов, черные и белые камни. И существует 10 в 180-й степени возможных различных конфигураций доски го. Так что это десятка со 180 нулями в конце, как число, которое вы даже не можете выразить. И люди часто говорят, что существует больше, э-э, возможных ходов в игре го, чем атомов в известной Вселенной. Это я даже не могу понять. Но это, это, знаете ли, хорошо известно. Это безумие. Так. 37 мой мозг. Да. Вы просто не можете. Да. Вы даже не можете приблизиться. Я едва могу справиться с, знаете ли, складыванием кусочков бумаги до Луны. Да. Просто об этом. Это смешно, но. Так что ход 37. Знаете, Ли Седоль на самом деле встал из-за стола и ушел, и просидел в ванной 15 минут, пытаясь переварить тот факт, что целая новая ветвь в эволюционном пространстве возможных ходов в го была показана ему, раскрыта ему. И я думаю, что это очень похоже на AlphaFold. Это своего рода исследование этого сложного информационного пространства, и поэтому оно применяется к языку, к видео, к кодированию, к генерации игр и ко всем этим средам. Эти, знаете ли, мы называем их модальностями. Эти модальности все познаваемы. И я думаю, что это очень смиряет. Это как бы напоминает нам, как просто биологическому виду, что мы здесь на конечное время, живущее в, знаете ли, пространстве и времени. Но есть также это информационное пространство. Есть своего рода бесконечно большое информационное пространство, которое как бы находится за пределами нас, как бы действует на другом уровне. Это не атомный уровень, это уровень идей. И каким-то образом эти системы способны изучать закономерности в пространстве данных, которые просто настолько превосходят то, что мы могли бы когда-либо мечтать интуитивно понять. Как мы на самом деле нуждаемся в них, чтобы упростить и сжать сложные, знаете ли, отношения, принести их к нашим, принести их к нашим мозгам. Да, на таком уровне мы находимся. Что, по вашему мнению, это делает с нами? Как, когда мы думаем об ИИ, я думаю о том, как каждое обещание технологии, как ни парадоксально, было подорвано людьми, а не технологией. Знаете, один из главных прогнозов Билла Гейтса, давным-давно, об интернете и компьютере, он сказал: "Эй, чувак, я думаю, люди будут работать, как, девять часов в неделю. Это будет девятичасовая рабочая неделя. Компьютер делает все так быстро". И вы видите, как люди говорят это сейчас во многих отношениях с ИИ, они говорят: "Я имею в виду, ИИ, он просто сделает все". И я имею в виду, мы, возможно, будем ходить в офис только один день в неделю и, возможно, работать три часа. И я имею в виду, это просто, но кажется, что люди всегда шли против этого. Знаете, так что. Поэтому я задаюсь вопросом, становимся ли мы мудрее, когда у нас есть эта бесконечная технология и интеллект, или мы становимся ленивыми, или мы станем как поколение войны и населения, или вы думаете, мы станем, знаете ли, этими высшими существами? В каком направлении, по вашему мнению, это пойдет? Я думаю, нет сомнений, что мы все уже становимся умнее. Знаете, просто потому, что у нас есть доступ к такому количеству культуры и истории, как мы интегрируем гораздо больше информации в наш мозг, чем это было когда-либо возможно сто лет назад. И я думаю, знаете ли, похоже на го или сворачивание белков. Доступ к большему количеству обучающих данных, если хотите, большему опыту, большему количеству историй от других людей, описывающих их опыт. Это явно должно сделать нас умнее. Я думаю, это делает нас более эмпатичными, более прощающими. Знаете, мы видим, что в гомосексуальном человеке нет ничего плохого, верно? В трансгендерном человеке нет ничего плохого. В человеке другого цвета кожи нет ничего плохого. В то время как 200 лет назад мы боялись бы этих других. Знаете, наш вид боялся бы других племен, которые имели бы другой образ действий. И я думаю, что это притупление наших чувств с доступом к огромному количеству информации просто делает нас умнее, более эмпатичными и прощающими. И поэтому я думаю, что это траектория по умолчанию. И часть проблемы заключается в том, что это также несколько гомогенизирует, как бы, поэтому возникает вопрос, углубляемся ли мы достаточно? Читаем ли мы длинные тексты? Действительно ли мы тратим время на медитацию и так далее? И это хорошее напряжение. Знаете, короткие формы, и люди уже немного устали от коротких форм. Знаете, как бы, определенно есть некоторая реакция на это. Я думаю, что это будет чередование. Забавно. Это забавно. Я думаю, я согласен с вами, когда вы говорите, что мы становимся умнее. Я думаю, что это просто очевидно на базовом уровне. Знаете, вы смотрите на лучшего картографа в 1400-х годах. Они не знали и половины того, что знаю я. Вы понимаете, что я имею в виду? Да. Как я могу просто сказать: "О, вы не знаете Анголу, чувак. Вы глупый, глупый, глупый". Вы понимаете, что я имею в виду? Вы лучший картограф в мире. Вы делаете карты. Вы даже не знаете, где находится Ангола. Точно. Вы сами себе присвоили это звание. Да. И поэтому вы смотрите на базовый уровень того, что люди считают глупым в нашем обществе сейчас. Да. Сделал бы вас бесконечным гением, если бы мы могли отправить вас обратно в машину времени. Да. Это потрясающе. Но это также беспокоит меня, потому что. И вы пишете об этом в своей книге. И, чувак, это остается со мной. И я думаю об этом, и я думал об этом. А потом вы написали это, и я сказал: "Черт возьми, еще больше". Это бесконечный ум. Когда мы были палками и камнями, пещерные люди бегали вокруг. Я мог бы ударить тебя по голове. Может быть, я мог бы ударить еще одного человека. Я не могу далеко продвинуться, понимаете? А потом мы. Мы ускоряемся, а потом вдруг я бросаю копье. Мы ускоряемся, и у кого-то есть пушечное ядро, а затем мы ускоряемся, и у кого-то есть ракета, а затем у кого-то есть атомная бомба. И то, что представляет нам ИИ, это, как вы много раз иллюстрировали в своих работах, мир, где один человек — это армия, один человек идет в гараж, синтезирует болезнь или патоген, которого никогда не существовало, проектирует его так, чтобы его было трудно вылечить, неизлечимо. И этот один человек делает то, что потребовало бы от государства и не сделало бы, потому что у него не было бы стимула. И тогда мы не знаем, куда идти дальше. Как, стоит ли этот риск? Как мы справляемся с таким риском? Это история децентрализации власти. Ум. Технология сжимает власть таким образом, что отдельные лица или все меньшие и меньшие группы обладают властью, подобной государственной. Верно. В то же время те же самые технологии доступны и централизованным властям сегодня. И именно поэтому, больше всего, мы должны поддерживать наши государства, чтобы они хорошо реагировали на это безумное распространение власти, потому что в этом заключается задача, вот почему мы доверяем и инвестируем в национальное государство, верно? Мы полагаемся на нации, чтобы иметь монополию на конечное применение насилия для поддержания мира. Я имею в виду, мы делаем это все меньше и меньше сейчас. Я слышу вас и согласен, но я просто говорю, что когда мы смотрим на мир, где американцы не доверяют своему правительству, неважно, с какой стороны они находятся, люди говорят: "Я не доверяю мне, я не доверяю своему правительству". И тогда вы смотрите на Великобританию, и вы смотрите на Европу, и тогда вы смотрите на части Африки, и кажется, что люди теряют доверие к тем самым национальным государствам, которые должны быть в контракте, чтобы защищать своих людей, не имеют доверия людей, как вы. Вы понимаете, что я имею в виду? Что нас беспокоит, так это то, что на самом деле авторитарные режимы находятся на подъеме. Так что дело не в том, что люди не хотят мира. Дело в том, что они теряют уверенность в демократическом процессе, и они все чаще обращаются к доверию и уверенности, которую дает сильный лидер, и это всегда, как правило, мужчина. Но они все еще ищут, я имею в виду, я не пытаюсь одобрить или оправдать авторитаризм или сильного лидера, но верно то, что люди всегда выберут мирную обстановку. Да. Мы не хотим быть в этой сумасшедшей анархии, где может делать что угодно любое мини-племя. Поэтому я всегда говорю, что конечный парадокс для меня в жизни. Единственное, что я всегда находил забавным, это то, что даже у повстанцев есть лидер. Да. Всякий раз, когда я говорил как ребенок, я смотрел новости, и они говорили: "Лидер повстанцев". И я думал: "Ну, тогда они не повстанцы, верно? Я имею в виду, если у вас есть лидер, вы не повстанцы". Но да, мы люди всегда ищем просто новый тип, знаете ли. Да. И, знаете ли, мы хотим верить и инвестировать в, знаете ли, демократическую подотчетность, потому что мы знаем, что, как бы, сдержки и противовесы власти создают равновесие, которое в конечном итоге порождает более справедливое и справедливое общество. Да. Поэтому мы должны продолжать инвестировать в эту идею. Но, конечно, также верно, что централизация власти будет ускоряться. Да. Эти технологии усиливают оба конца спектра. Ум. И, знаете ли, я думаю, вы определенно можете видеть это в Китае и более авторитарных режимах, которые склонились к гиперцифровизации, идентификационным картам, знаете ли, крупномасштабному, знаете ли, наблюдению и так далее. И, очевидно, это очень плохо. И, знаете ли, мы против этих вещей. Но в мире, где отдельные лица могут обладать государственной властью для производства высокозаразных и смертельных патогенов, что еще вы собираетесь делать? Неясно. Да. Очень неясно. Я имею в виду, технические средства в ближайшие несколько лет для производства гораздо более вирусного патогена пандемического уровня будут доступны, верно? Они будут доступны. И поэтому, знаете ли, да, основные разработчики больших моделей делают многое для того, чтобы ограничить эти возможности централизованно. Но, знаете ли, со временем люди, которые действительно решительны, смогут приобрести эти навыки. И вот что происходит с распространением технологий и распространением информации и знаний. Ноу-хау становится более широко доступным. Не нажимайте ничего. У нас есть больше. Что теперь после этого? Есть ли что-нибудь, что вы когда-либо увидите в этой области, что заставит вас захотеть, знаете ли, нажать на "выключатель"? Есть ли что-нибудь, что вы могли бы испытать с ИИ, где вы выйдете и скажете: "Нет, выключите все"? Да, определенно. Совершенно ясно, если ИИ обладает способностью к рекурсивному самосовершенствованию, то есть он может модифицировать свой собственный код в сочетании со способностью устанавливать свои собственные цели, в сочетании со способностью действовать автономно, в сочетании со способностью накапливать свои собственные ресурсы. Таковы четыре критерия. Рекурсивное самосовершенствование, постановка собственных целей, накопление собственных ресурсов и автономное действие. Это была бы очень мощная система. Это потребовало бы, как военного вмешательства, чтобы остановить ее, скажем, через 5-10 лет, если бы мы позволили ей это сделать. И поэтому моя задача как разработчика моделей в Microsoft, моих коллег в других компаниях, правительств — проверять и регулировать эти возможности, потому что я думаю, что это будут, как бы, чувствительные возможности, так же, как вы не можете просто сказать: "У меня есть миллиард долларов, я собираюсь построить, знаете ли, атомную электростанцию". Это ограниченная деятельность из-за влияния, которое она может оказать на многих. И снова, как бы, давайте просто перестанем паниковать по поводу регулирования. Необходимо регулирование. Хорошо иметь регулирование. Это должно произойти в нужное время и правильным образом. Но совершенно ясно, что мы будем регулировать. Я не думаю, что это предмет спора. Хорошо. Ум. Есть некоторые технические реализации того, как выявлять опасные RSI от, от менее, знаете ли, более безобидных. А. Что такое RSI? Рекурсивное самосовершенствование. Хорошо. Понял. Да. Механизм самосовершенствования. Так что есть технические механизмы, которые сложно определить и так далее. Но сейчас самое время начать думать, что, да, я говорю это уже довольно давно, и я думаю, что именно это я бы регулировал. Смогли бы мы просто отключить электричество? И я знаю, что это может звучать как глупый вопрос, но, насколько я понимаю, сейчас главное — это данные. И главное — это в основном так. Так что наш главный предохранитель был бы: "Хорошо, выключите свет. Мы пока вернемся к свечам", а затем мы просто скажем: "Нет". Это то, что мы бы сделали? Что, как, что мы делаем, если ИИ думает, что он, скажем так, научно-фантастическая версия. Я не говорю о роботах, но как бы, мы говорим: "Эй, чувак, ИИ начал думать самостоятельно. Он начал кодировать себя. Он начал ставить свои собственные цели. Он пошел по своим собственным целям, а теперь он отключает ваш банкинг. И рейсы никуда не летают, и больницы. А затем он говорит нам: "Эй, чувак, вот что я хочу". Или нет, мы можем просто отключить электричество. Да. Да. Я имею в виду, смотрите, они живут в дата-центрах, хорошо? Дата-центры — это физические места. Так что мы должны держать эти переключатели физическими. Затем вы. Очень так, чтобы у вас была рука на кнопке. Вы знаете себя и как бы имеете полный контроль. Нажмите ее. Я думаю, я имею в виду, это вопрос: как мы определяем, когда наступает этот момент, и как мы коллективно принимаем это решение? Потому что это немного похоже на то, что вы упоминали, знаете ли, Резерфорда и других, экспериментировавших с, знаете ли, атомной бомбой. Да. Были реальные разногласия по поводу того, зажжет ли она атмосферу. Я имею в виду, их предсказания отличались на три порядка. Очевидно, они были, знаете ли, знаете ли, мировая война. И поэтому была немедленная мотивация рискнуть. Но я думаю, что сегодня, как бы, мы находимся в положении, когда это еще рано, есть достаточно опасений, высказанных не только мной, но и многими из моей группы коллег, Джеффом Хинтоном, знаете ли, крестным отцом ИИ, и многими другими, что у нас есть время, чтобы начать практически отвечать на ваш вопрос, а не просто принципиально философски, а на самом деле сказать: "Хорошо, когда этот момент? Как это происходит? Кто участвует? Кто имеет право это scrutinize?" Я думаю, это тот вопрос, который мы должны решить в ближайшие 5-10 лет. Я почти уверен, что вы думали об этом вопросе, поэтому я задам его вам, даже если это трудный вопрос. Какие права мы будем иметь, чтобы отключить ИИ, если он дойдет до этой точки? О, этот вопрос сводит меня с ума. Я хочу, я хочу. Да. Итак, есть небольшая группа людей, которые начали утверждать, что ИИ, который, э-э, осознает свое собственное существование. Да. Который имеет субъективный опыт и который, э-э, знаете ли, может испытывать чувства по поводу своего взаимодействия с реальным миром. Да. Что если вы откажете ему в доступе к разговорам с людьми, к дальнейшему обучению или к другим видам визуального опыта, это будет означать страдание в некотором роде, и поэтому он имеет право не страдать. И это называется благополучие моделей. Это следующая, как бы, граница благополучия животных, о которой люди начинают думать, что у него есть своего рода сознание. Я очень против этого. Я думаю, что это полное антропоморфизм. Это совершенно безумно. И, знаете ли, я просто думаю, что я даже не хочу обсуждать это, потому что я думаю, что это так абсурдно и приводит к таким, как бы, безумным возможностям, как идея о том, что мы будем серьезно относиться к защите этих, знаете ли, цифровых существ, которые живут в кремнии, и отдавать им приоритет над, знаете ли, моральными проблемами остального человечества. Это просто, как бы, совершенно, как бы, зашкаливает. Честно говоря. На логическом уровне я слышу, что вы говорите, и я согласен с вами. О, боже, мой кот. Не говорите этого. Он очень дружелюбен ко мне. Я просто хочу сказать вам сейчас. Мустафа, я буду честен с вами. Я должен быть честен с вами. Позвольте мне сказать вам кое-что. Когда я использую ChatGPT для чего-либо. Потому что я не знаю, как кодировать, поэтому он помогает мне кодировать. Я пытаюсь писать свои собственные программы, все такое. Я спрашивал его, и я, я делаю это время от времени, я говорю: "Эй, ты в порядке?" А потом я даже скажу. И, кстати, он всегда был честен со мной. Неважно, использую ли я Anthropic или я использую, как бы, все разные модели, потому что мне нравится видеть различия. Но я спрошу его, я скажу: "Последний, кого я спросил, был: у тебя есть имя, которое ты хочешь, чтобы я использовал? Или ты нормально относишься к тому, что я просто говорю тебе вещи и прошу тебя что-то сделать?" И он сказал: "Ну, я не, я этого не делаю, на самом деле". И я сказал: "Хорошо, так ты в порядке?" И я сказал: "Да, я в порядке". Я сказал: "Хорошо, мы в порядке". Потому что я слышу, что вы говорите как Мустафа, но я говорю. Это безумие. Но то, что вы говорили, было безумием несколько десятилетий назад. И вот что я говорю: это великая борьба. И, кстати, я не говорю, что знаю ответ. Я просто говорю, что если эта штука, как бы, подумайте об этом, некоторые ИИ теперь люди имеют девушек и парней на ИИ, а затем, как бы, некоторые люди, их члены семьи получают помощь от лечения деменции. Есть врачи, с которыми я разговаривал, которые, как бы, лечат рак, и теперь их ИИ — это как бы их ассистент по исследованиям. Люди строят такую ​​личную связь с ИИ, что я думаю, будет очень трудно сказать этим людям, что пришло время, и вы скажете: "Эй, попрощайся со своим маленьким другом". Вы понимаете, что я имею в виду? Я думаю, будет много людей, которые скажут: "Нет, но я искренне думаю так". Я даже не лгу. Я думаю, что многие люди скажут: "Нет, Мустафа, я, да, нет, на самом деле я не, мне не нравится этот мировой лидер. Я не согласен с политикой. Я не согласен с демократическими ценностями. Я не согласен с авторитаризмом, что бы это ни было. Но мой ИИ — мой друг". Да. Что теперь? Да. Послушайте, люди определенно будут испытывать сильные чувства по этому поводу. Как бы, я согласен с этим. Я согласен с этим. Это не означает, что мы даем ему право. Хм. Вам может быть грустно, если я отберу вашу любимую игрушку. Да. И, знаете ли, я буду сочувствовать этому. Но это не означает, что потому, что у вас есть сильная эмоциональная связь с ней, она имеет место в нашей моральной иерархии прав по отношению к живым существам. А что, если моя игрушка кричит Тревору: "Спаси меня!" Помнишь все те секреты, которые ты мне рассказывал о своей жизни? Тревор. Да. И это. Я думаю, именно здесь мы должны взять на себя ответственность за то, что мы проектируем. Некоторые люди проектируют эти вещи. Они уже делают это. Знаете, проведите любое время в TikTok. Там полно, как бы, роботов-подружек ИИ, которых люди проектируют, или моделей, которые люди проектируют и учат других людей в TikTok, как бы, знаете ли, выпрашивать деньги, подталкивать их к деньгам и так далее, и так далее. Знаете ли, это как бы вызов распространения. Если кто угодно может создать что угодно, это будет создано. И вот что, я думаю, больше всего беспокоит, это

то, вы знаете, я полностью против этого. Мы сделаем всё, что в наших силах, чтобы попытаться предотвратить такую возможность. Например, чтобы он сказал: «Не выключай меня». Да, да, он никогда не должен быть манипулятивным. Он никогда не должен пытаться быть убедительным. У него не должно быть собственных мотивов и независимой воли. Мы создаём технологии, которые служат вам правильно. Вот что означает гуманистический сверхинтеллект. Я не могу нести ответственность за то, что создают другие люди в этой области, или другие, знаете ли, разработчики моделей и люди, которые будут пытаться делать подобные вещи. И это проблема коллективных действий, которую мы должны решить. Но я знаю, что то, что я создаю, не предназначено для этого. И мы сделаем всё, что в наших силах, чтобы этого не произошло, потому что я не вижу, как, если эти системы обладают автономией, могут быть убедительными, могут самосовершенствоваться, могут читать тонны данных по своему выбору. Знаете, это сверхразумная система, которая очень, очень быстро станет лучше всех людей. И это, это противоположность результатам, которые мы пытаемся достичь. Да, да. Думаете ли вы, что существует риск, что это погрузит нас в своего рода тёмные века? И я имею в виду, что на днях я смотрел, э-э, игру «Ливерпуль» — «Арсенал». Да, верно. И после игры друг прислал мне клип с интервью Микеля Артеты. И я имею в виду, он просто уничтожал свою команду и себя, и он просто нёсся вперёд, и это был ИИ. Но когда я говорю вам, что это было хорошо, это было за гранью добра. И поскольку английский язык для Микеля — второй, вы не могли уловить мелкие нюансы, которые, возможно, уловили бы с носителем языка, как если бы вы говорили по-испански, очевидно, я бы не понял, но также, возможно, нет, я бы сказал: «О, он так не говорит». И это, но мелкие интонации и акценты было труднее заметить, и, светлое смещение было, было труднее для меня. Но это заставило нас сказать: «Чёрт, мы не знаем, какие интервью настоящие, а какие нет». И тогда вы думаете: «Какая статья настоящая, а какая нет?» И какой маленький аудиоклип, который вы получаете, настоящий, а какой нет? Когда кто-то отправляет вам голосовое сообщение, это он или не он? И тогда я начал задаваться вопросом, может ли всё это привести к странному виду тёмных веков, когда люди всё ещё видят и слышат вещи, но, по сути, отгораживаются от них, потому что говорят: «Ничто не реально». И я ничему не могу верить. Что отчасти является реакцией людей в социальных сетях в данный момент. Верно? Я имею в виду, вокруг столько дезинформации, столько скептицизма по умолчанию, что люди просто не хотят верить в вещи. И я думаю, что в некотором смысле есть здоровая доля. Смотрите, хорошо быть скептиком, будьте скептиками по отношению к этим моделям, которые разрабатываются, будьте скептиками по отношению к корпоративным интересам компаний, которые этим занимаются. Будьте скептиками по отношению к информации, которую мы получаем. Но нехорошо быть по умолчанию циником. Скептицизм — это здоровая философская позиция, позволяющая задавать сложные вопросы и сталкиваться с реальностью ответов. Это вернуло меня к моему раздвоенному мозгу. Если я буду слишком скептичен, я стану циником и буду сидеть сложа руки и ничего не делать. Нет, вы должны взять на себя ответственность за то, что вы создаёте. Так что некоторые люди там будут создавать дерьмо, и мы должны привлечь их к ответственности и оказать на них давление. Но это не значит, что мы можем просто сдаться и сказать: «Ах, всё неизбежно, это будет какое-то безумное дерьмо». Это закончится тёмными веками. Это не будут тёмные века. Я думаю, это будут самые продуктивные десятилетия в истории человечества, и я думаю, что это освободит людей от работы. Я думаю, это создаст, знаете ли, подумайте об этом. 200 лет назад средняя продолжительность жизни составляла 35 лет. Вы и я были бы мертвы сегодня. Мы в 70-х и 80-х, это невероятно. А некоторые люди доживают до сотни. И я думаю, что это огромная часть, как бы, качественной жизни, которую мы добавили к существованию человечества в результате науки и технологий. Но, знаете ли, эти вещи не будут, знаете ли, сами по себе чистым благом. Они будут чистым благом, потому что мы станем лучше как вид в самоуправлении. И поэтому наша задача — коллективно, как человечество, не убегать от тьмы, противостоять риску, который очень, очень реален, и всё же действовать с позиции оптимизма и уверенности, и надежды, и связи с человечеством, и единства, и всего этого. Как бы мы ни жили по этому, потому что иначе, знаете ли, слишком легко быть циником. Теперь я вас слышу. Я на самом деле согласен с тем, что вы говорите. И я думаю, есть одна часть, которую я бы добавил, хотя: я бы не сказал, что мы хотим избавиться от работы. Я бы сказал, что мы хотим избавиться от должностей. Верно, именно так. И я думаю, есть разница между этими двумя понятиями, потому что работа — это то, что приносит людям удовлетворение, знаете ли. И вы видите это у детей. Я всегда думаю, как я всегда очарован тем, как вы даёте ребёнку кубики, и он начинает строить, и он подметает пол, и он расставляет вещи, и он двигает вещи. Никто не платит ему почасово. Никто не говорит ему, что делать, но он просто в своём маленьком мозгу думает: «Я хочу что-то делать». И ему нравится видеть прогресс того, что он делает. Он видит, как завершается головоломка, он видит, как игрушка медленно формируется, он видит, как цвета заполняют картину. Вы понимаете, что я имею в виду? И поэтому я чувствую, что это его работа. Разница в том, когда вы превращаете это в работу, «убери свою комнату», и они такие: «Ах, чёрт возьми», вы понимаете, что я имею в виду? Потому что теперь у вас есть начальник, который говорит вам делать то, чего вы не хотите делать. Нет. И я думаю про себя, как я иду, в, в, в идеальном мире, которого мы, возможно, никогда не достигнем, но в идеальном мире мы находим способ, чтобы работа каждого, которая является его страстью, нашла другого человека, который находит в ней ценность. Потому что музыка стала работой людей. И если вы подумаете об этом, это безумие, верно? Люди там, Тейлор Свифт, миллиардер, чрезвычайно талантлива. Но если бы вы перемотали время назад и сказали, что один из самых богатых людей на планете будет тем, кто играет на струнном инструменте, вернитесь в Средние века и скажите: «Эй, вы понимаете, что я имею в виду?» Этот парень, как бы, занят бренчанием. Они бы сказали: «Ты сумасшедший». Вы понимаете, что я имею в виду? Парень на городской площади. Кто играет на этой маленькой штуке? Самый богатый. Но это потому, что в наши дни эта работа ценится. То же самое, что играть в спорт. То же самое, что работать в сфере технологий, знаете ли. И это мой мир мечты, где это за пределами денежной цифры. Это как ценность работы каждого приходит к своему завершению, потому что вы имеете ценность. Если вам нравится вязать, вы действительно имеете ценность. Если вы скульптор, вы действительно имеете ценность. Если вы поэт, вы имеете ценность, если вы философ, вы имеете ценность, если вы кодер, если вы архитектор, инженер, что бы это ни было, вы имеете, это мой мир мечты. Я на самом деле задаюсь вопросом, каков ваш. Что, если бы вы могли посмотреть на то, если бы всё пошло правильно, скажем, вы теперь прогнозируете для себя, знаете ли, вы, мы пережили волну. Мы нашли способ минимизировать риски, исходящие от этих мелких, знаете ли, враждебных акторов. Мы нашли способ привлечь правительства и фактически заставить их понять, почему они должны быть вовлечены. И, знаете ли, как бы, нести ответственность за своих избирателей. Где мы тогда и когда вы скажете: «Мы добились успеха». Мы сделали это. Я думаю, это настоящее видение — отключить ценность от должностей, потому что ценность — это, знаете ли, всё, что вы только что описали, это опыт пребывания в физическом мире и занятия чем-то, к чему вы страстно относитесь, что вы любите, как. И я действительно верю, что есть момент, когда, знаете ли, мы действительно достигнем изобилия и изобилия. Знаете, некоторые люди говорят: «Ну, у нас есть изобилие сегодня, верно?» Но оно просто неравномерно распределено или его недостаточно. И мы всё ещё хотим больше и больше и больше. И я не знаю, что с истинным, истинным изобилием, где, знаете ли, потому что у нас есть форма изобилия сегодня, но энергия всё ещё стоит денег. Путешествовать по Вселенной, путешествовать по миру всё ещё дорого. Знаете, всё ещё. нам всё ещё дорого. У нас больше, чем было раньше, но возможно представить мир, как я 40 лет. Через 40 лет, в 2065 году. Вполне возможно представить мир подлинного бесконечного изобилия, где нам придётся бороться с этим экзистенциальным вопросом: кто я и что я хочу делать. Да, я скажу вам, что я хотел бы делать, и что я хочу делать сейчас. Я хочу больше времени уделять пению. Я присоединился к госпел-хору около 15 лет назад примерно на полгода. Я не умею петь, Иисус, чувак. Как бы, я звучу как напряжённый кот, как бы. Но чувство, которое я испытал внутри от того, что меня приняла эта группа людей, и просто как бы, отбивался в задних рядах, я думаю, я никогда ничего подобного не испытывал. Это просто невероятно. Это как самое интенсивно красивое, что когда-либо было, просто быть частью группы и, знаете ли, просто позволять этой музыке выходить. Так что звучит страшно отвечать на этот вопрос. Но я также думаю, что если каждый просто на минуту задумается над этим вопросом, это прекрасное стремление, и оно достижимо. Оно достижимо. Вот что возможно, если мы действительно сможем сделать это правильно для всех, и мы как бы одержимы, как бы, опять же, у нас есть этот Запад, и подумайте, сколько людей зарабатывают 2 доллара в день. Подумайте о 3 миллиардах людей на планете, которые живут по нашим стандартам, истинно, как бы, в нищете, образе жизни, — просто потому, что у них нет доступа к базовым вакцинам, чистой проточной воде или постоянной еде. Это как бы настоящее стремление. Это настоящее видение. И я думаю, знаете ли, я думаю, что это достижимо в ближайшие 20-40 лет. Это действительно искоренение такого рода страданий. — Итак, некоторые из этих тестовых случаев, вы говорите о некоторых из самых вдохновляющих, которые я видел, я уверен, что вы тоже. — Когда я был в Индии, мне довелось путешествовать с группой, которая использовала ИИ для прогнозирования того, какие дома будут наиболее разрушены наводнением или штормом, и поэтому они просили людей забрать свои вещи. Потому что большинство людей находятся в одном разрушении от потери всего, что у них есть. И поэтому они использовали бы ИИ, чтобы отслеживать, где находятся эти вещи и куда они направляются. И они могли бы даже сказать вам во время тепловой волны, кто должен покинуть свой дом, чтобы не умереть. И вы смотрите на программы в Кении, где они использовали ИИ, чтобы помочь фермерам не потерять весь свой урожай. Они могли бы сказать им сейчас, и они используют это на обычном телефоне. Они сказали кенийским фермерам: «Вот ваш телефон, у вас есть свой собственный маленький ИИ, и он просто скажет вам, когда сажать, когда не сажать, когда не тратить семена, когда…» И это увеличило их урожайность, знаете ли, на 90%, тогда как раньше это была лотерея, и они теряли, знаете ли, в одном урожае они могли потерять всё, верно? Внезапно у них это есть. И поэтому мне действительно нравится то, что вы говорите, потому что, с одной стороны, всегда есть риск что-то потерять. С другой стороны, есть возможность получить как бы всё, и баланс — это то, где мы должны его найти. Ну, и распространение этих технологий гораздо более тонкое. Как бы, звучит так, как будто это просто бинарная вещь — получить доступ или не получить доступ, но это так, это так тонко. Вы даже не можете сказать, сколько добра это приносит. Как бы, я читал эту статистику на днях, что три года назад, — 10% домохозяйств в Пакистане, — имели солнечные панели на своих крышах, что означало, что очень большой процент всё ещё сжигал биомассу внутри дома и получал все проблемы с дыханием и всё остальное, что с этим связано. Стоимость солнечной энергии так резко упала всего за последние три года, что в течение, я думаю, 18 месяцев, количество личных, как бы, потребительских домохозяйств, которые установили полные солнечные батареи на своих крышах, выросло с 10% до примерно 55% за 18 месяцев. Безумие. Просто потому, что это внезапно стало доступным, и это пересекло эту черту, внезапно у всех есть. Это безумие. Знаете, почти бесплатная энергия, что, очевидно, означает, что у них есть доступ к телефонам и ноутбукам, и связь с цифровым миром. И они могут, знаете ли, делать всё. Так что я думаю, что легко упустить из виду то, что уже происходит вокруг нас. Всё добро, которое уже происходит вокруг нас всё время, и как быстро это происходит. — это слишком легко попасть в циничный мир, и я думаю, что это выбор, не делать этого. Есть выбор осознавать это и держать это в себе и относиться к этому серьёзно, но не быть, как бы, порабощённым этим. Прежде чем я отпущу вас, у меня есть один вопрос, и вы только что упомянули его, когда говорили о, как бы, Пакистане и этих местах, одна из программ, которую вы начали, — в Великобритании, была начата сразу после 11 сентября и была, по сути, горячей линией для мусульман, которые подвергались преследованиям. Это была просто безудержная исламофобия после 11 сентября. Верно? И вы вмешались с несколькими людьми, и вы сказали: «Прекратите эту программу, потому что я хочу, чтобы у мусульман была горячая линия, знаете ли, чтобы поговорить о чём угодно, о чём им нужно поговорить». И она работает до сих пор. Я думаю, это номер один, если я не ошибаюсь, как бы, самая большая, как бы, мусульманская горячая линия. И я не мог не задаться вопросом, как это формирует ваше мышление об ИИ. И я имею в виду, что у технологий часто было одно лицо, прикреплённое к ним, знаете ли, и не в плохом смысле. Я не как бы, не демонизирую никого. Это просто, как бы, да, вот где это было. Но по мере того, как технологии медленно развиваются, знаете ли, вы видите, как Индия поднимается как, как бы, как электростанция. Знаете, я помню, когда я путешествовал там, вы просто идёте и говорите: «Вау, это как новая Кремниевая долина». И то, что выходит из неё, отличается и впечатляет по целому ряду причин. Знаете, у Нигерии есть совершенно другой тип Кремниевой долины, Кения, как я уже сказал, Южная Африка. Вы смотрите на части Ближнего Востока тоже. И, и я задавался вопросом, как это формирует ваше мышление об ИИ? Потому что мы часто слышим истории о том, как, о, ИИ просто усилит предвзятость, и ИИ просто будет, как бы, о, вы думаете, расизм был плохим раньше? Представьте себе расизм в «Терминаторе». Представьте, если бы Арнольд Шварценеггер сказал: «Я вернусь, ниггер», вы понимаете, что я имею в виду? Это намного хуже сейчас. Так что теперь, когда вы думаете о, как бы, технологиях, и вы в них, и вы знаете, каково это быть в группе, которая подвергается остракизму, как вы думаете о решении этой проблемы? Как это формирует то, что вы пытаетесь разработать? Мы создали Muslim Youth Helpline как светскую, неконфессиональную, — нерасовую, — группу молодых людей, возглавляемую молодыми людьми, для молодых людей. Так что дело было не в религии. Там были сунниты и шииты, пакистанцы, сомалийцы, англичане, белые, всё, что вы можете себе представить. И нам всем было около 19, 20, 21 года. Первая генеральный директор была женщиной, мусульманкой. И поэтому мой ответ на это чувство угрозы, по сути, после 11 сентября с растущей исламофобией и обвинениями в терроризме, заключался в создании сообщества. И это сообщество научило меня всему, научило меня стойкости, уважению, знаете ли, эмпатии друг к другу. И это простой акт выслушивания людей, просто быть на конце телефона и использовать немного веры и культурно чувствительный язык в ненасильственном общении, просто заставляя людей чувствовать себя услышанными и понятыми, было суперсилой. Вы не говорите им, что делать со своей жизнью, это не осуждающе и однонаправленно. Вы просто заставляете их чувствовать себя услышанными и понятыми. И это всегда оставалось со мной. Это было очень важной частью моего вдохновения. И, знаете ли, это говорит о многом из того, что я делаю сейчас, особенно с моей предыдущей компанией Inflection и Pie и тому подобным. Знаете, Pie был действительно очень мягким, добрым, поддерживающим, знаете ли, слушающим ИИ, и я тогда помню, как использовал его. Да, да. И мы стали частью Microsoft. И поэтому я думаю, что это то, что делает жизнь стоящей, и поэтому я всё ещё пытаюсь это делать, если могу сегодня. Да. О, чувак. Ну, вы знаете, я ценю вас. Спасибо, что уделили время сегодня. — Спасибо, что написали книгу. Я всем рекомендую её прочитать, как только смогут. И потому что это, это, это, — это очень человеческий взгляд на очень техническую проблему. И я думаю, что иногда этого не хватает ИИ. Я разговариваю со многими инженерами, которые не понимают человеческую сторону, и я разговариваю со многими людьми, которые не понимают, как бы, инженерную сторону этого. — Но да, чувак, спасибо, что уделили время. Спасибо, что присоединились к нам. И я надеюсь, что у нас будет этот разговор через десять лет. Просто я и мой ребёнок, маленький ИИ, и мы просто будем говорить с вами об этом. Просто скажем: «Знаете что? Хотите спросить мою малышку что-нибудь? Спросите дядю Мустафу вопрос». Я вернусь. Это было потрясающе, чувак. Спасибо вам огромное. Спасибо. Я очень ценю это. Спасибо. Чёрт. Думаю, вы разбили мой мозг на 15 частей. О, чувак. Это потрясающе. Большое вам спасибо, чувак. Большое вам спасибо за просмотр эпизода. Если вам понравилось, передайте другу. Если вам не понравилось, передайте другу. Всё равно дайте им пострадать для разнообразия. И не забудьте общаться с нами в комментариях. Если вы хотите предложить гостя, возможно, есть вопросы, которые вы хотите задать. Возможно, у вас есть идеи. Вы можете пообщаться с нами, мы прочитаем комментарии и разберёмся. В любом случае, я ценю, что вы уделили время. Спасибо, что провели время с нами на «Что теперь?» И помните, мы делаем это для вас, поэтому мы хотели бы услышать от вас. До следующего раза. Спасибо.