Transcription
Мы эффективно, вы можете думать об этом так: 50% наших усилий направлено на масштабирование, 50% — на инновации. Я ставлю на то, что вам обоим понадобится, чтобы достичь AGI. Я всегда чувствовал это: если мы построим AGI, а затем используем его как симуляцию разума, а затем сравним это с реальным разумом, мы увидим, в чем различия, и, возможно, что особенного и остающегося в человеческом разуме, верно? Может быть, это креативность, может быть, это эмоции, может быть, это сновидения. Есть много сознания. Существует множество гипотез о том, что может быть или не может быть вычислимо. И это возвращает нас к вопросу о машине Тьюринга: каков предел машины Тьюринга. >> Нет ничего, что нельзя было бы сделать в рамках вычислительного. >> Ну, никто не говорил так. Никто не нашел ничего во вселенной, что было бы невычислимо >> до сих пор. >> До сих пор. Добро пожаловать на подкаст Google DeepMind с профессором Ханной Фрай. Это был экстраординарный год для ИИ. Мы видели, как центр тяжести сместился от больших языковых моделей к агентному ИИ. Мы видели, как ИИ ускорил открытие лекарств, а мультимодальные модели интегрировались в робототехнику и беспилотные автомобили. Теперь это все темы, которые мы подробно исследовали на этом подкасте. Но для последнего эпизода этого года мы хотели взглянуть шире, выйти за рамки заголовков и запусков продуктов, чтобы рассмотреть гораздо более важный вопрос. Куда все это на самом деле движется? Какие научные и технологические вопросы определят следующую фазу? И кто-то, кто много времени уделяет размышлениям об этом, — Демис, генеральный директор и соучредитель Google DeepMind. Добро пожаловать обратно на подкаст, Демис. >> Приятно вернуться. >> Я имею в виду, за последний год произошло немало. >> Да. Что, по вашему мнению, является самым большим сдвигом? >> О, вау. Я имею в виду, столько всего произошло, как вы сказали, как будто мы упаковали 10 лет в один год. Я думаю, многое произошло. Я имею в виду, конечно, для нас прогресс моделей. Мы только что выпустили Gemini 3, которым мы очень довольны. Мультимодальные возможности, все эти вещи просто очень хорошо продвинулись. И, вероятно, то, о чем я очень волнуюсь этим летом, — это продвижение мировых моделей. Я уверен, что мы поговорим об этом. Да, абсолютно. Мы поговорим обо всем этом немного подробнее через мгновение. Я помню, когда я впервые брала у вас интервью для этого подкаста, вы говорили о проблемах корневого узла, об этой идее, что вы можете использовать ИИ для раскрытия этих последующих преимуществ. И вы довольно хорошо сдержали свое обещание, должна сказать. И хотите ли вы рассказать нам о том, где мы находимся с ними, какие вещи находятся прямо за углом, и какие вещи вы как бы решили или почти решили? >> Да. Ну, конечно, очевидным доказательством был AlphaFold, и как бы безумно думать, что приближается 5-летняя годовщина объявления AlphaFold миру, по крайней мере Alpha Fold 2. Так что это было доказательство, я думаю, что было возможно решать такие проблемы корневого узла. И мы ищем, мы исследуем все остальные сейчас. Я думаю, материаловедение. Я хотел бы сделать сверхпроводник комнатной температуры, и, знаете, лучшие батареи, такие вещи. Я думаю, это на очереди. Лучшие материалы всех видов. Мы также работаем над термоядерным синтезом. >> Потому что было объявлено о новом партнерстве по термоядерному синтезу. >> Да, мы только что объявили о партнерстве с Deep One. Мы уже сотрудничали с ними, но теперь это гораздо более тесное сотрудничество с Commonwealth Fusion, которые, я думаю, вероятно, являются лучшим стартапом, работающим по крайней мере над традиционными реакторами ТОКАК. Так что они, вероятно, ближе всего к тому, чтобы иметь что-то жизнеспособное, и мы хотим помочь ускорить это, помогая им удерживать плазму в магнитах и, возможно, даже проектировать материалы. Так что это захватывающе. И затем мы также сотрудничаем с нашими квантовыми коллегами, которые проделали удивительную работу в команде квантового ИИ в Google, и мы помогаем им с кодами коррекции ошибок, используя наш машинный интеллект, чтобы помочь им, и, возможно, однажды они помогут нам. >> Это идеально. Именно так. Термоядерный синтез особенно, я имею в виду, разница, которую это внесло бы в мир, которая была бы раскрыта благодаря этому, гигантская. >> Да. Я имею в виду, термоядерный синтез всегда был Святым Граалем. Конечно, я думаю, солнечная энергия тоже очень перспективна, верно? Эффективно используя термоядерный реактор в облаках, в небе. Но я думаю, если бы у нас были модульные термоядерные реакторы, знаете, это обещание почти неограниченной возобновляемой чистой энергии, очевидно, изменило бы все. И это Святой Грааль. Конечно, это один из способов, которым мы могли бы помочь с климатом. >> Это делает многие из наших существующих проблем как бы исчезающими, если мы сможем. >> Определенно. Я имею в виду, это открывает множество, вот почему мы думаем об этом как о корневом узле. Конечно, это напрямую помогает с энергией, загрязнением и так далее, и помогает с климатическим кризисом. Но также, если энергия действительно была бы возобновляемой, чистой и очень дешевой или почти бесплатной, тогда многие другие вещи стали бы жизнеспособными. Например, доступ к воде, потому что мы могли бы иметь опреснительные установки практически везде. Даже производство ракетного топлива. Знаете, просто много морской воды, которая содержит водород и кислород. Это, по сути, ракетное топливо, но для его расщепления на водород и кислород требуется много энергии. Но если энергия дешевая, и возобновляемая, и чистая, то почему бы этого не сделать? Знаете, вы могли бы производить это 24 часа в сутки, 7 дней в неделю. >> Вы также видите много изменений в ИИ, который применяется к математике, верно? Что, знаете ли, выигрывает медали на Международной математической олимпиаде, и в то же время эти модели могут совершать довольно простые ошибки в математике средней школы. Почему существует этот парадокс? >> Да, я думаю, это на самом деле увлекательно. Одна из самых увлекательных вещей, и, вероятно, которую нужно исправить как одну из ключевых вещей, пока мы еще не достигли AGI. Как вы сказали, у нас было много успехов в других группах в получении золотых медалей на Международной математической олимпиаде. Вы смотрите на эти вопросы, и это очень сложные вопросы, которые могут решить только лучшие студенты в мире. И, с другой стороны, если вы задаете вопрос определенным образом, мы все видели это, экспериментируя с чат-ботами сами в нашей повседневной жизни, что он может совершать довольно тривиальные ошибки в логических задачах. Они пока не могут играть в приличные шахматы, что удивительно. Так что чего-то не хватает, все еще в этих системах с точки зрения их последовательности. И я думаю, что это одна из вещей, которую вы ожидали бы от общего интеллекта и, знаете ли, системы AGI, что она будет последовательной во всем. И поэтому иногда люди называют это "зубчатым интеллектом". Так что они действительно хороши в определенных вещах, возможно, даже на уровне доктора наук, но затем в других вещах они как бы не на уровне даже средней школы. Так что производительность этих систем все еще очень неравномерна. Они очень, очень впечатляют в определенных измерениях. Но они все еще довольно базовые в других, и нам нужно закрыть эти пробелы. И вы знаете, есть теоретические причины, почему, и в зависимости от ситуации это может быть даже способ восприятия и токенизации изображения. Так что иногда на самом деле он даже не получает всех букв, которые вы, знаете ли, когда вы считаете буквы в словах, он иногда ошибается, но он может не видеть каждую отдельную букву. Так что есть разные причины для некоторых из этих вещей. И каждая из них может быть исправлена, а затем вы можете увидеть, что осталось. Но я думаю, последовательность, я думаю, еще одна вещь — это рассуждение и мышление. Так что у нас есть системы мышления сейчас, которые во время вывода проводят больше времени, думая, и они лучше, они лучше выдают свои ответы. Но это еще не очень последовательно с точки зрения того, использует ли оно это время мышления полезным образом, чтобы фактически перепроверить и использовать инструменты для перепроверки того, что оно выдает. Я думаю, мы на пути, но, возможно, мы только на 50% пути. >> Я также думаю об этой истории AlphaGo, а затем AlphaZero, где вы убрали весь человеческий опыт и обнаружили, что модель фактически улучшилась. Есть ли научная или математическая версия этого в моделях, которые вы создаете? >> Я думаю, что мы строим сегодня, это больше похоже на AlphaGo. Так что, знаете ли, вы, по сути, эти большие языковые модели, эти фундаментальные модели, они начинают со всех человеческих знаний. Знаете, то, что мы выкладываем в интернет, что сегодня практически все, и сжимаем это в какой-то полезный артефакт, верно, который они могут искать и обобщать. Но я думаю, что мы все еще находимся на ранних стадиях наличия этого поиска или мышления сверху, как AlphaGo должен был использовать эту модель для направления в полезных рассуждениях, полезных идеях планирования. И затем прийти к лучшему, знаете ли, решению любой проблемы в данный момент. Так что я не чувствую, что мы ограничены в данный момент пределом человеческих знаний, как интернет. Я думаю, главная проблема в данный момент заключается в том, что мы еще не знаем, как надежно использовать эти системы в полной мере, как мы это делали с AlphaGo. Но, конечно, это было намного проще, потому что это была просто игра. Я думаю, как только у вас появится AlphaGo, вы сможете вернуться, как мы это делали с серией Alpha, и сделать AlphaZero, где она начнет как бы сама открывать знания. Я думаю, это будет следующий шаг, но я, это, очевидно, сложнее, и поэтому я думаю, что хорошо сначала попробовать создать первый шаг с какой-то системой, подобной Alpha, а затем мы можем подумать о системе, подобной Alpha Zero. Но это также одна из вещей, которых не хватает в сегодняшних системах, — это способность учиться в реальном времени и постоянно учиться. Так что, знаете ли, мы обучаем эти системы, мы их балансируем, мы их дообучаем, а затем они выходят в мир, но они не продолжают учиться в мире, как мы. И я думаю, что это еще один критически недостающий элемент из этих систем, который будет необходим до AGI. >> В плане всех этих недостающих частей, я знаю, что сейчас идет большая гонка за выпуск коммерческих продуктов, но я также знаю, что корни Google DeepMind действительно лежат в этой идее научных исследований. И я нашел цитату от вас, где вы недавно сказали: "Если бы я мог, мы бы оставили ИИ в лаборатории дольше и сделали бы больше таких вещей, как AlphaFold, возможно, вылечили бы рак или что-то в этом роде". Мм. >> Вы думаете, мы что-то потеряли, не выбрав этот более медленный путь? >> Я думаю, мы потеряли и приобрели что-то. Так что я чувствую, что это был бы более чистый научный подход. По крайней мере, это был мой первоначальный план, скажем, 15-20 лет назад, когда ИИ почти никто не занимался. Мы только начали, мы собирались начать DeepMind. Люди думали, что это безумие заниматься этим. Но мы верили в это, и я думаю, что идея заключалась в том, что если мы будем прогрессировать, мы будем продолжать как бы постепенно строить AGI, очень осторожно относясь к каждому шагу и его аспектам безопасности и так далее, анализируя, что делает система, и так далее. Но тем временем вам не пришлось бы ждать, пока появится AGI, прежде чем он станет полезным. Вы могли бы ответвить эту технологию и использовать ее в действительно полезных для общества целях, а именно в развитии науки и медицины. Так что именно то, что мы сделали с AlphaFold, на самом деле, это не фундаментальная модель сама по себе, а общая модель, но она использует те же методы, знаете ли, трансформеры и другие вещи, а затем смешивает их с более специфическими вещами для этой области. Так что я представлял себе множество таких вещей, которые были бы сделаны, которые были бы огромными, знаете ли, вы бы выпустили их миру, как мы сделали с AlphaFold, и действительно сделали бы такие вещи, как излечение рака и так далее, в то время как мы работали над более AGI-треком в лаборатории. Теперь оказалось, что чат-боты были возможны в масштабе, и люди находят их полезными, и затем они превратились в эти фундаментальные модели, которые могут делать больше, чем просто чат и текст, очевидно, включая Gemini. Они могут делать изображения и видео и всевозможные вещи, и это тоже было очень успешно коммерчески и с точки зрения продукта, и мне это тоже нравится. Я всегда мечтал иметь идеального помощника, который помогал бы мне в повседневной жизни, делал бы ее более продуктивной, возможно, даже немного защищал бы мое мозговое пространство от внимания, чтобы я мог сосредоточиться и быть в потоке и так далее, потому что сегодня с социальными сетями это просто шум, шум, и я думаю, что ИИ может на самом деле помочь нам с этим. Так что я думаю, что это хорошо, но это создало довольно безумную гонку, в которой множество коммерческих организаций и даже национальных государств спешат, знаете ли, улучшать и превосходить друг друга, и это затрудняет проведение строгих научных исследований одновременно. Мы пытаемся делать и то, и другое, и я думаю, мы находим правильный баланс. С другой стороны, есть много плюсов в том, как это произошло, это, конечно, то, что в эту область поступает гораздо больше ресурсов. Так что это определенно ускорило прогресс. И также, я думаю, широкая общественность на самом деле, интересно, всего на пару месяцев отстает от абсолютного фронтира в плане того, что они могут использовать. Так что каждый получает возможность почувствовать, каким будет ИИ. И я думаю, что это хорошо, и тогда правительства лучше это понимают. Странно то, что я имею в виду, в это время в прошлом году, я думаю, было много разговоров о том, что масштабирование в конечном итоге достигнет стены, о том, что у нас закончатся данные, и тем не менее, мы записываемся сейчас, Gemini 3 только что был выпущен, и он лидирует по всему ряду различных бенчмарков. Как это стало возможным? Разве не предполагалось, что будет проблема с достижением стены масштабирования? Я думаю, многие люди так думали, особенно учитывая, что другие компании имели более медленный прогресс, скажем так, но я думаю, мы никогда особо не видели никакой стены, как бы я сказал, возможно, есть убывающая отдача, и люди, когда я говорю это, думают только: "О, так нет отдачи, это ноль или один, это либо экспоненциально, либо асимптотически". Нет, на самом деле есть много места между этими двумя режимами, и я думаю, мы находимся между ними, так что это не так, что вы удвоите производительность по всем бенчмаркам каждый раз, когда выпускаете новую итерацию. Возможно, это то, что происходило в самом начале, знаете ли, три-четыре года назад. Но вы получаете значительные улучшения, как мы видели с Gemini 3, которые стоят вложений и отдачи от этих вложений. И я не видел никакого замедления. Есть проблемы, например, заканчиваются ли у нас доступные данные, но есть способы обойти это, знаете ли, синтетические данные, генерация ваших, знаете ли, эти системы достаточно хороши, они могут начать генерировать свои собственные данные, особенно в определенных областях, таких как программирование и математика, где вы можете проверить ответ в некотором смысле, вы можете произвести неограниченное количество данных, так что все эти вещи являются исследовательскими вопросами, и я думаю, что это преимущество, которое у нас всегда было, заключается в том, что мы всегда были как бы в первую очередь исследователями, и я думаю, у нас самая широкая и глубокая исследовательская база, всегда была. И если вы посмотрите на последние десять лет достижений, будь то трансформеры или Alpha Zero, любые из вещей, которые мы только что обсуждали, все они вышли из Google или DeepMind. Так что я всегда говорил, что если потребуется больше инноваций, научных, то я бы поставил на нас как на место, где это произойдет, так же, как мы были, знаете ли, в предыдущие примерно 15 лет для многих больших прорывов. Так что я думаю, что это просто то, что происходит, и мне на самом деле нравится, когда местность становится труднее, потому что тогда это не просто инженерия мирового класса, которая уже достаточно сложна, но вам приходится сочетать ее с исследованиями и наукой мирового класса, что является тем, в чем мы специализируемся, и вдобавок к этому у нас также есть преимущество инфраструктуры мирового класса с нашими TPU и другими вещами, в которые мы много инвестировали в течение долгого времени, и поэтому эта комбинация, я думаю, позволяет нам быть на переднем крае инноваций, а также в части масштабирования, и мы эффективно, вы можете думать об этом так: 50% усилий направлено на масштабирование, 50% — на инновации, и я думаю, моя ставка заключается в том, что вам обоим понадобится, чтобы достичь AGI. >> Я имею в виду, одна вещь, которую мы все еще видим даже в Gemini 3, который является исключительной моделью, — это эта идея галлюцинаций. Так что я думаю, что был один показатель, который сказал, что он все еще может дать ответ, когда на самом деле должен отказаться. >> Я имею в виду, могли бы вы построить систему, где Gemini дает оценку уверенности так же, как AlphaFold? >> Да, я думаю, что да, и я думаю, что нам это нужно. И я думаю, что это одна из недостающих вещей. Я думаю, мы приближаемся. Я думаю, чем лучше модели, тем больше они знают о том, что они знают, если это имеет смысл. И поэтому, и я думаю, тем надежнее мы могли бы полагаться на них, чтобы фактически интроспектировать в некотором роде или больше думать и фактически осознавать для себя, что они неуверены или есть неопределенность в этом ответе. И тогда нам придется выяснить, как обучить его таким образом, чтобы он мог выдать это как разумный ответ. Мы становимся лучше в этом, но иногда он все еще, знаете ли, заставляет себя отвечать, когда, вероятно, не должен. И тогда это может привести к галлюцинации. Так что я думаю, что многие из текущих галлюцинаций такого типа. Так что есть недостающая часть, которую нужно решить. И вы правы, как мы решили ее с AlphaFold, но, очевидно, в гораздо более ограниченном смысле. >> Потому что, предположительно, за кулисами есть какая-то мера вероятности того, каким может быть следующий токен. >> Да, есть вероятность следующего токена. Так все и работает. Но это не говорит вам о всей общей картине: насколько вы уверены в этом факте или в этом утверждении. И я думаю, поэтому вам это понадобится. Я думаю, нам придется использовать шаги мышления и шаги планирования, чтобы пересмотреть то, что вы только что выдали. В данный момент это немного похоже на то, как будто вы разговариваете с человеком, и он просто, знаете ли, когда он в плохом настроении, он просто буквально говорит вам первое, что приходит ему в голову. Большую часть времени это было бы нормально. Но иногда, когда это очень сложная вещь, вы хотели бы остановиться, сделать паузу на мгновение и, возможно, пересмотреть то, что вы собирались сказать, и скорректировать то, что вы собирались сказать. Но, возможно, это происходит все реже и реже в мире сегодня, но это все еще лучший способ вести дискуссию. Так что, я думаю, вы можете думать об этом так. Эти модели должны делать это лучше. >> Я также очень хочу поговорить с вами о симулированных мирах и помещении агентов в них, потому что мы сегодня говорили с вашей командой Genie. >> Расскажите, почему вас волнуют симуляции. Что может сделать мировая модель, чего не может языковая модель? >> Ну, смотрите, это, на самом деле, моя самая давняя страсть — это мировые модели и симуляции, в дополнение к ИИ, и, конечно, все это объединяется в нашей самой последней работе, такой как Genie. И я думаю, что языковые модели способны многое понять о мире, я думаю, на самом деле больше, чем мы ожидали, больше, чем я ожидал, потому что язык на самом деле, вероятно, богаче, чем мы думали, он содержит больше о мире, чем мы, возможно, даже лингвисты, возможно, представляли, и это доказано сейчас этими новыми системами. Но все еще есть много о пространственной динамике мира, знаете ли, как пространственное осознание и физический контекст, в котором мы находимся, и как это работает механически, что трудно описать словами и обычно не описывается в корпусах слов. И многое из этого связано с обучением на опыте, онлайн-опыте. Есть много вещей, которые вы не можете действительно описать, вы должны просто испытать их. Возможно, датчики и так далее очень трудно выразить словами, знаете ли, будь то углы движения и запахи, и, знаете ли, такие датчики. Очень трудно описать это на любом языке. Так что я думаю, что есть целый набор вещей вокруг этого, и я думаю, что если мы хотим, чтобы робототехника работала, или универсальный помощник, который, возможно, сопровождает вас в повседневной жизни, может быть, на очках или, знаете ли, на вашем телефоне, и помогает вам в повседневной жизни, а не только на вашем компьютере, вам понадобится такое понимание мира, и мировые модели лежат в основе этого. Так что то, что мы подразумеваем под мировой моделью, это эта модель, которая понимает причинно-следственные связи и механику мира, интуитивную физику, но как вещи движутся, как вещи ведут себя. Сейчас мы видим много этого в наших видеомоделях, и один из способов показать, как вы тестируете такое понимание, — это можете ли вы генерировать реалистичные миры, потому что если вы можете генерировать их, то в некотором смысле вы должны были понять, система должна была инкапсулировать много механики мира. Поэтому Genie и VO, и эти модели, наши видеомодели и наши интерактивные мировые модели являются действительно впечатляющими, но также и важными шагами к демонстрации того, что у нас есть обобщенные модели, и тогда, надеюсь, в какой-то момент мы сможем применить это к робототехнике и универсальному ассистированию. И, конечно, одна из моих любимых вещей, которую я определенно должен буду сделать в какой-то момент, — это переприменить ее к играм и, знаете ли, игровым симуляциям и создать идеальные игры, что, конечно, возможно, всегда было моим подсознательным планом. >> Все это. >> Да. Все время. Именно так. >> А как насчет науки? Можете ли вы использовать ее в этой области? >> Да, можете. Так что, опять же, я думаю, создание моделей научно сложных областей, будь то материалы на атомном уровне, знаете ли, в биологии, но также и некоторые физические вещи, такие как погода. Один из способов понять эти системы — это построить симуляции, изучить симуляции этих систем из необработанных данных, верно? Так что у вас есть куча необработанных данных, скажем, о погоде, и, очевидно, у нас есть несколько удивительных проектов по погоде, и затем у вас есть модель, которая как бы изучает эту динамику и может воссоздавать эту динамику более эффективно, чем делать это грубой силой. Так что я думаю, что есть огромный потенциал для симуляций и, возможно, мировых моделей, возможно, специализированных для аспектов науки и математики. >> Но также, я имею в виду, вы можете поместить агента в этот симулированный мир тоже, верно? >> Да. Ваша команда Genie 3, у них была эта действительно прекрасная цитата, что почти ни одно крупное изобретение не было сделано с расчетом на это изобретение. И они говорили о помещении агентов в эти симулированные среды и позволении им исследовать, причем любопытство было их основным мотиватором. >> Верно. И это еще одно действительно захватывающее применение этих мировых моделей — мы имеем другой проект под названием Simma. Мы только что выпустили Simma 2. Sim, знаете ли, симулированные агенты, где у вас есть аватар или агент, и вы помещаете его в виртуальный мир. Это может быть обычная, это может быть своего рода коммерческая игра или что-то в этом роде, очень сложная, как No Man's Sky, своего рода космическая игра с открытым миром. И затем вы можете, вы можете инструктировать ее, потому что под капотом у нее Gemini, вы можете просто говорить с агентом и давать ему задачи. Но затем мы подумали, а не будет ли весело, если мы подключим Genie к Simma и как бы поместим Simma, агента Simma, в другой ИИ, который создавал мир на лету. Так что теперь два ИИ как бы взаимодействуют в умах друг друга. Так что Simma, знаете ли, агент Simma пытается ориентироваться в этом мире, а Genie, насколько это касается Genie, это просто игрок и аватар, ей все равно. Это другой ИИ. Так что он просто генерирует мир вокруг того, что пытается сделать Sim. Так что, так что удивительно видеть, как они оба взаимодействуют вместе. И я думаю, что это может быть начало интересного цикла обучения, где у вас почти бесконечные примеры обучения, потому что все, что пытается изучить агент Simma, Genie может фактически создавать на лету. Так что я думаю, что вы можете представить себе целый мир, где вы устанавливаете и решаете задачи, просто миллионы задач автоматически, и они становятся все более и более сложными. Так что мы можем попытаться настроить такой цикл. А также, конечно, агенты Simma могут быть отличными компаньонами в играх. Также некоторые вещи, которые они изучают, могут быть полезны и для робототехники. >> Да. Конец скучных NPC, по сути. >> Именно так. Это будет потрясающе для этих игр. Да. >> Миры, которые вы создаете, как вы убеждаетесь, что они действительно реалистичны? Я имею в виду, как вы гарантируете, что вы не получите физику, которая выглядит правдоподобно, но на самом деле неправильна? >> Да, это отличный вопрос, и это может быть проблемой. Это, по сути, снова галлюцинации. Так что некоторые галлюцинации хороши, потому что вы также можете создать что-то интересное и новое. Так что на самом деле иногда, если вы пытаетесь создавать творческие вещи или заставляете свою систему создавать новые вещи, новаторские вещи, немного галлюцинаций может быть полезно, но вы хотите, чтобы это было намеренно, верно? Так что вы как бы включаете галлюцинации сейчас, верно? Или творческое исследование. Но да, когда вы пытаетесь обучить агента Simma, вы не хотите, чтобы Genie галлюцинировала неправильную физику. Так что на самом деле то, что мы делаем сейчас, это мы почти создаем физический бенчмарк, где мы можем использовать игровые движки, которые очень точны в физике, чтобы создать много простых вещей, вроде того, что вы делали бы на уроках физики в 11 классе, верно? Например, катать маленькие шарики по разным траекториям и смотреть, как быстро они движутся, и так далее, действительно разбирая на очень базовом уровне, как законы движения Ньютона, как они инкапсулированы, будь то VO или Genie, эти модели инкапсулировали физику этого на 100% точно, и сейчас они не так, они являются приближениями, и они выглядят реалистично, когда вы просто случайно смотрите на них, но они не точны, они не достаточно точны, чтобы полагаться на них, скажем, для робототехники. Так что теперь у нас есть эти действительно интересные модели. И с физикой, я думаю, это, вероятно, потребует генерации множества, множества реальных данных. Простые видео маятников, знаете ли, что происходит, когда два маятника движутся друг вокруг друга, но затем очень быстро вы доходите до задач трех тел, которые все равно не решаемы. Так что я думаю, это будет интересно. Но что уже удивительно, когда вы смотрите на видеомодели, такие как VO, и просто на то, как они обрабатывают отражения и жидкости, это уже невероятно точно, по крайней мере, для невооруженного глаза. Так что следующий шаг — это выйти за пределы того, что может воспринимать любитель, и действительно ли это выдержит эксперимент физического уровня? Я знаю, что вы давно думаете об этих симулированных мирах, и я вернулся к стенограмме нашего первого интервью, и в ней вы сказали, что вам очень нравится теория о том, что сознание было следствием эволюции. >> Что, знаете ли, в какой-то момент в нашем эволюционном прошлом было преимущество в понимании внутреннего состояния другого, а затем мы как бы повернули его на себя. >> Это делает вас любопытным к запуску, своего рода, агента в эволюции внутри симуляции? Конечно. >> Я имею в виду, я бы хотел провести этот эксперимент в какой-то момент. Как бы заново прожить эволюцию, заново прожить, почти социальную динамику. Например, Санта-Фе раньше проводил много классных экспериментов в маленьких сетчатых мирах. Мне очень нравились некоторые из них, но они в основном были экономистами, и они пытались, знаете ли, запускать, как маленькие искусственные общества, и они обнаружили, что всевозможные интересные вещи были изобретены, если позволить агентам работать достаточно долго с правильными структурами стимулов. Рынки и банки и всевозможные сумасшедшие вещи. Так что я думаю, что это было бы действительно круто, а также просто понять происхождение жизни и происхождение сознания. И я думаю, что это одна из больших страстей, которые у меня были к работе над ИИ с самого начала, потому что я думаю, что вам понадобятся эти инструменты, чтобы действительно понять, откуда мы пришли и что это за явления. И я думаю, что симуляции — это один из самых мощных инструментов для этого, потому что вы можете затем делать это статистически, потому что вы можете запускать симуляцию много раз с контролируемыми немного отличающимися начальными условиями, а затем, возможно, запускать ее миллионы раз, а затем понимать, в чем заключаются небольшие различия в очень контролируемом экспериментальном смысле, что, конечно, очень трудно сделать в реальном мире для любых действительно интересных вопросов, на которые мы хотим ответить. Так что я думаю, что точные симуляции будут невероятным благом для науки. >> Учитывая, что мы узнали о, своего рода, эмерджентных свойствах этих моделей, имея, своего рода, концептуальное понимание, которого мы не ожидали, должны ли вы также быть довольно осторожны при запуске такой симуляции? >> Я думаю, что да, но это тоже приятная сторона симуляций: вы можете запускать их в довольно безопасных песочницах, возможно, в конечном итоге вы захотите их изолировать, и вы, конечно, можете отслеживать, что происходит в симуляции 24/7, и у вас есть доступ ко всем данным. Так что нам могут понадобиться инструменты ИИ, чтобы помочь нам отслеживать симуляции, потому что они будут настолько сложными, и в них будет так много всего происходить. Если вы представите себе множество ИИ, бегающих по симуляции, любому ученому-человеку будет трудно за ними угнаться, но мы, вероятно, могли бы использовать другие системы ИИ, чтобы помочь нам анализировать и автоматически отмечать все интересное или вызывающее беспокойство в этих симуляциях. Я имею в виду, я думаю, мы все еще говорим о среднесрочной и долгосрочной перспективе в плане всего этого. Так что, возвращаясь к траектории, по которой мы идем сейчас. Я также хочу поговорить с вами о влиянии, которое ИИ и AGI окажут на более широкое общество. >> В прошлый раз, когда мы говорили, вы сказали, что думали, что ИИ переоценен в краткосрочной перспективе, но недооценен в долгосрочной. >> И я знаю, что в этом году было много разговоров об ИИ-пузыре. >> Да. >> Что произойдет, если будет пузырь и он лопнет? Что произойдет? Ну, смотрите, я думаю, да, я все еще придерживаюсь мнения, что он переоценен в краткосрочной перспективе и все еще недооценен в среднесрочной и долгосрочной перспективе, насколько преобразующим он будет. Да, сейчас, конечно, много разговоров об ИИ-пузырях. На мой взгляд, я думаю, что это не одна бинарная вещь: есть ли он или нет? Я думаю, что есть части экосистемы ИИ, которые, вероятно, находятся в пузырях. Один из примеров — это, знаете ли, просто начальные раунды для стартапов, которые, по сути, еще даже не начали работать, и они привлекают десятки миллиардов долларов оценки прямо с порога. Интересно посмотреть, как это может быть устойчивым? Знаете, моя догадка, вероятно, нет, по крайней мере, не в целом. Так что есть эта область. Затем люди беспокоятся, конечно, есть оценки крупных технологических компаний и другие вещи. Я думаю, что за этим стоит много реального бизнеса. Но посмотрим. Я думаю, что для любой новой невероятно преобразующей и глубокой технологии, из которых, конечно, ИИ, вероятно, является самой глубокой, вы получите это своего рода перекоррекцию. Так что, когда мы начинали DeepMind, никто в это не верил. Никто не думал, что это возможно. Люди задавались вопросом, для чего вообще нужен ИИ. А теперь, перенесемся на 10-15 лет вперед, и теперь, очевидно, кажется, что это единственное, о чем говорят в бизнесе. И так, но вы получите, это почти чрезмерная реакция на недостаточную реакцию. Так что я думаю, что это естественно. Я думаю, мы видели это с интернетом. Я думаю, мы видели это с мобильными устройствами, и я думаю, мы видим или увидим это снова с ИИ. Я не слишком беспокоюсь о том, пузырь ли это или нет, потому что с моей точки зрения, как вы знаете, возглавляя Google DeepMind, а также, конечно, с Google как и Alphabet в целом, наша работа и моя работа заключается в том, чтобы убедиться, что в любом случае мы выйдем из этого очень сильными, и я думаю, и мы очень хорошо позиционированы, и я думаю, что мы чрезвычайно хорошо позиционированы в любом случае. Так что, если это продолжится так, как сейчас, фантастика, мы продолжим, знаете ли, все эти великие вещи, которые мы делаем, и эксперименты, и прогресс в направлении AGI. Если будет отступление, хорошо. Тогда также, я думаю, мы в отличной позиции, потому что у нас есть наш собственный стек с TPU. У нас также есть все эти невероятные продукты Google и, знаете ли, прибыли, которые все это приносит, чтобы подключить наш ИИ. И мы делаем это с поиском, который полностью революционизирован обзорами ИИ, режимом ИИ, с Gemini под капотом. Мы смотрим на Workspace, на электронную почту, знаете ли, на YouTube. Так что есть все эти удивительные вещи в Chrome. Есть много этих удивительных вещей, которые ИИ, мы уже видим, являются легкой добычей для применения Gemini 2, конечно, а также приложения Gemini, которое сейчас тоже очень хорошо работает, и идеи универсального помощника. Так что есть новые продукты, и я думаю, что они со временем будут очень ценными, но нам не нужно полагаться на это, мы можем просто использовать нашу существующую экосистему. Что, я думаю, произошло за последний год. Мы сделали это действительно эффективным. >> В плане ИИ, к которому люди имеют доступ сейчас, я знаю, вы недавно сказали, как важно не создавать ИИ для максимизации вовлеченности пользователей, чтобы мы не повторяли ошибки социальных сетей. Но я также думаю, что мы уже видим это в некотором роде. Я имею в виду, люди проводят так много времени, разговаривая со своими чат-ботами, что они в конечном итоге как бы спирально скатываются в саморадикализацию. Да. >> Как вы это останавливаете? Как вы создаете ИИ, который ставит пользователей в центр их собственной вселенной, что, по сути, и является целью этого во многих отношениях, но без создания эхо-камер из одного человека? >> Да, это очень, знаете ли, осторожный баланс, который, я думаю, является одной из самых важных вещей, которые мы как индустрия должны сделать правильно. Так что я думаю, мы видели, что происходит с некоторыми системами, которые были чрезмерно подобострастными, или затем вы получаете эти, своего рода, усиления эхо-камер, которые очень плохи для человека. Так что я думаю, что часть этого, и на самом деле то, что мы хотим построить с Gemini, и я очень доволен персоной Gemini 3, над которой работала отличная команда, и я лично тоже помогал, — это своего рода научная личность, которая теплая, полезна, легка, но она лаконична и по существу, и она будет дружелюбно возражать против вещей, которые не имеют смысла. Знаете, вместо того, чтобы пытаться поддержать вас, знаете ли, идею о том, что Земля плоская, и вы сказали это, и это как бы замечательная идея, я не думаю, что это хорошо в целом для общества, если бы это произошло. Но вы должны сбалансировать это с тем, чего хотят люди, потому что люди хотят, чтобы эти системы были поддерживающими, были полезными для их идей и их мозгового штурма. Так что вам нужно найти этот баланс. И я думаю, что мы разрабатываем науку о личности и персоне, о том, как измерять то, что она делает, и где мы хотим, чтобы она была, например, по аутентичности, по юмору, знаете ли, такие вещи. И тогда вы можете представить себе, что есть своего рода базовая личность, с которой она поставляется. И затем у каждого есть свои предпочтения. Знаете, хотите ли вы, чтобы она была более юмористичной, менее юмористичной, или более лаконичной, или более многословной? Людям нравятся разные вещи. Так что вы добавляете этот дополнительный слой персонализации. Но все еще есть основная базовая личность, которую получает каждый, верно? Которая пытается придерживаться научного метода, что и является сутью всего этого. И мы хотим, чтобы люди использовали это для науки, медицины и здоровья и так далее. И поэтому я думаю, что это часть науки о том, как правильно создать эти большие языковые модели. И я вполне доволен направлением, в котором мы движемся в настоящее время. Мы разговаривали с Шейном Ле пару недель назад о AGI в частности, обо всем, что происходит в ИИ в настоящее время, языковых моделях, мировых моделях, знаете ли, и так далее. Что ближе всего к вашему видению AGI? Я думаю, на самом деле это комбинация, очевидно, есть Gemini 3, который, я думаю, очень способен, но также и система Nano Banana Pro, которую мы также запустили на прошлой неделе, которая является продвинутой версией нашего инструмента создания изображений. Что в ней действительно удивительно, так это то, что под капотом у нее также есть Gemini. Так что она понимает не только изображения, она как бы понимает семантику происходящего в этих изображениях. И люди играют с ней всего неделю, но я видел так много классных вещей в социальных сетях о том, для чего люди ее используют. Например, вы можете дать ей изображение комплексной плоскости или что-то в этом роде, и она может пометить все диаграммы всех различных частей плоскости и даже визуализировать ее в виде, как бы со всеми различными частями, выставленными напоказ. Так что у нее есть какое-то глубокое понимание механики и того, что составляет части объектов, какие материалы. Так что это своего рода, и она может рендерить текст очень, очень точно сейчас. Так что я думаю, что это своего рода приближение к AGI для изображений. Я думаю, это своего рода универсальная система, которая может делать все, что касается изображений. Так что я думаю, что это очень захватывающе. И затем достижения в мировых моделях, знаете ли, Genie и Simma, и то, что мы делаем там. И затем в конечном итоге нам придется объединить все эти разные проекты, которые сейчас являются разными проектами, и они взаимосвязаны, но нам нужно объединить их все в одну большую модель, и тогда это может стать кандидатом на прото-AGI. >> Я знаю, что вы довольно много читали об индустриальной революции в последнее время. Есть ли вещи, которым мы можем научиться из того, что там произошло, чтобы попытаться смягчить некоторые из потрясений, которые мы можем ожидать, когда придет AGI? >> Я думаю, есть многому чему научиться. Это то, что вы изучаете в школе, по крайней мере, в Великобритании, но на очень поверхностном уровне. Мне было очень интересно изучить, как это все произошло, с чего это началось, причины экономического обоснования, которым была текстильная промышленность, и тогда первые компьютеры были, по сути, швейными машинами, верно? А затем они стали перфокартами для первых компьютеров Фортран, мейнфреймов. И какое-то время это было очень успешно в Великобритании, она стала центром текстильного мира, потому что они могли производить эти удивительно высококачественные вещи очень дешево благодаря автоматизированным системам. А затем, очевидно, появились паровые двигатели и все остальное. Я думаю, что индустриальная революция принесла много невероятных достижений. Так что детская смертность снизилась, и вся современная медицина, и санитарные условия, разделение труда и как все это работало, было как бы проработано во время индустриальной революции. Но это также принесло много проблем, например, это заняло довольно много времени, примерно столетие, и разные части рабочей силы были вытеснены в определенное время, а затем пришлось создавать новые вещи, новые организации, такие как профсоюзы и другие, чтобы восстановить баланс. Так что было интересно видеть, как все общество со временем адаптировалось, а затем вы получили современный мир. Так что были, я думаю, много очевидных плюсов и минусов индустриальной революции, почему она происходила, но никто бы не хотел, если вы думаете о том, что она сделала в общей сложности, например, изобилие, знаете ли, людей, знаете ли, еды, и в западном мире, и современная медицина, и все эти вещи, современный транспорт, все это было благодаря индустриальной революции. Так что мы не хотели бы вернуться к доиндустриальной революции, но, возможно, мы сможем заранее понять, изучив ее, что это были за сдвиги, и, возможно, смягчить их раньше или более эффективно на этот раз. И нам, вероятно, придется, потому что разница в этот раз в том, что это, вероятно, будет в 10 раз больше, чем индустриальная революция, и это, вероятно, произойдет в 10 раз быстрее. Так что скорее десятилетие, чем столетие. Одна из вещей, которую Шейн рассказал нам, заключалась в том, что нынешняя экономическая система, где вы обмениваете свой труд на ресурсы, фактически, она просто не будет функционировать так же в пост-AGI обществе. Есть ли у вас видение того, как общество должно быть реконфигурировано или может быть реконфигурировано таким образом, чтобы это работало? >> Да, я сейчас больше думаю об этом, и Шейн фактически возглавляет усилия здесь по этому поводу, чтобы подумать о том, как может выглядеть пост-AGI мир и к чему нам нужно подготовиться. Но я думаю, что общество в целом должно уделять этому больше времени. Экономисты и социологи, и правительства, потому что я, как и в случае с индустриальной революцией, знаете ли, весь рабочий мир и рабочая неделя и все остальное изменились по сравнению с доиндустриальной революцией, сельским хозяйством, и я думаю, что это будет на
по крайней мере, такой уровень изменений произойдет снова. Так что это неудивительно. Я бы не удивился, если бы нам понадобились новые экономические системы, новые экономические модели, чтобы, э-э, по сути, помочь этой трансформации и убедиться, например, что выгоды широко распределены, и, возможно, такие вещи, как универсальный базовый доход и тому подобное, являются частью решения. Но я не думаю, что это полное, э-э, я думаю, что это просто то, что мы можем смоделировать сейчас, верно? Потому что это было бы почти дополнением к тому, что у нас есть сегодня. Но я думаю, что могут быть гораздо лучшие системы, где, э-э, больше похоже на системы прямой демократии, где вы можете, знаете ли, голосовать с определенным количеством кредитов или чем-то еще за то, что вы хотите видеть. Это происходит на местном, э-э, общественном уровне. Знаете, вот куча денег. Вы хотите игровую площадку или теннисный корт или дополнительный класс в школе? И тогда вы позволяете сообществу, э-э, как бы проголосовать за это, верно? Итак, а затем, а затем, возможно, вы могли бы даже измерить результаты, а затем, а затем люди, которые, как бы, последовательно голосуют за, за, за вещи, которые, которые в итоге оказываются, э-э, более хорошо принятыми, они, они имеют пропорционально большее влияние на следующий голос. Итак, есть, есть много интересных вещей, которые я слышу, знаете ли, мои друзья-экономисты, которые, которые как бы обдумывают это, и я думаю, что было бы здорово, если бы мы сделали гораздо больше работы в этом направлении. А затем есть философская сторона этого, вроде как, хорошо, так что рабочие места изменятся и тому подобное, но тогда, э-э, но, возможно, у нас будет термоядерный синтез, и тогда у нас будет эта своего рода изобильная бесплатная энергия, так что мы вне дефицита, так что происходит с деньгами, э-э, возможно, все будут лучше, но тогда что происходит с целью, верно? Потому что многие люди получают свою цель от, знаете ли, своей работы и затем обеспечения своих семей, э-э, что является очень благородной целью, так что если это, знаете ли, так что есть много, я думаю, некоторые из этих вопросов смешиваются из экономических вопросов в почти философские вопросы. >> Вы, вы беспокоитесь, что люди, кажется, не обращают внимания или не двигаются так быстро, как вам хотелось бы видеть? Что потребуется, чтобы люди как бы осознали, что нам нужно международное сотрудничество в этом вопросе? Я беспокоюсь об этом, и я хотел бы, и, и снова, в идеальном мире, уже было бы гораздо больше сотрудничества и, в частности, международного, э-э, и гораздо больше исследований и, и, я полагаю, изучения и обсуждения этих тем. Я на самом деле довольно удивлен, что этого не обсуждается больше, учитывая, что, знаете ли, даже наши сроки, которые были, есть некоторые очень короткие сроки, но даже наши 5-10 лет, что недолго для, для, для институтов или тому подобного, чтобы быть построенными для, для решения этого. Um, и одна из моих тревог заключается в том, что существующие институты, они, знаете ли, кажутся очень раздробленными и не очень влиятельными на, на том уровне, который вам нужен. Um, так что, возможно, что, что, что нет подходящих институтов для решения этого в настоящее время. И, конечно, если добавить геополитическую напряженность, которая существует в настоящее время по всему миру, кажется, что сотрудничество, кооперация труднее, чем когда-либо. Um, просто посмотрите на изменение климата и, и, э-э, как трудно достичь какого-либо соглашения по чему-либо, связанному с этим. Так что, э-э, так что посмотрим. Я думаю, что по мере того, как ставки растут и по мере того, как эти системы становятся более мощными, и, возможно, это одно из преимуществ того, что они находятся в продуктах, это, э-э, э-э, знаете ли, обычный человек, который не работает над этой технологией, почувствует увеличение мощности этих вещей и возможностей, и тогда это достигнет правительства, а затем, возможно, э-э, э-э, они поймут смысл, когда мы приблизимся к AGI. >> Как вы думаете, потребуется ли момент, инцидент, чтобы все как бы сели и обратили внимание? >> Я не знаю. Я имею в виду, я надеюсь, что нет. Большинство основных лабораторий довольно, довольно ответственны. Мы стараемся быть максимально ответственными. Знаете, это всегда то, что мы, как вы знаете, если вы следили за нами на протяжении многих лет, это было в основе всего, что мы делаем. Это не значит, что мы все сделаем правильно, но мы стараемся быть максимально вдумчивыми и научными в нашем подходе. Um, я думаю, что большинство крупных лабораторий пытаются быть ответственными. Также есть хорошее коммерческое давление, на самом деле, быть ответственным. Если вы думаете об агентах, э-э, и вы сдаете агента другой компании, скажем, для выполнения чего-либо, э-э, эта другая компания захочет знать, каковы пределы и границы и защитные барьеры этих агентов, знаете ли, в отношении того, что они могут сделать, а не просто испортить данные и все такое прочее. Так что, я думаю, это хорошо, потому что, э-э, более, как бы, недобросовестные операции, они не, э-э, получат бизнес, потому что предприятия не выберут их. Так что, я думаю, капиталистическая система на самом деле будет полезна здесь для усиления ответственного поведения, что хорошо, но тогда будут злоумышленники, э-э, возможно, злонамеренные нации, возможно, злонамеренные организации, э-э, возможно, люди, строящие на основе открытого исходного кода, я не знаю, как, очевидно, очень трудно остановить это, тогда, э-э, что-то может пойти не так, и, э-э, надеюсь, это будет просто, как бы, среднего размера, и тогда это будет своего рода предупредительный выстрел для, для, для человечества по борту, и тогда это может быть момент, чтобы, как бы, выступать за, э-э, международные, э-э, стандарты или международное сотрудничество или сотрудничество, по крайней мере, по некоторым, э-э, высоким, э-э, базовым или, знаете ли, как бы, каковы базовые стандарты, которые мы, мы, мы хотели бы и, и, и согласились бы. Я надеюсь, что это будет возможно >> в долгосрочной перспективе, так что после AGI и, и к ASI, верно, искусственному сверхинтеллекту, вы думаете, есть ли вещи, которые люди могут делать, с которыми машины никогда не смогут справиться? >> Ну, я думаю, это большой вопрос, и я чувствую, что это связано с, как вы знаете, одной из моих любимых тем - машины Тьюринга. Я всегда так думал, что если мы построим GI, а затем используем его как симуляцию разума, а затем сравним его с реальным разумом, мы увидим, каковы различия, и, э-э, потенциально, что является особенным, э-э, и остается в человеческом разуме, верно? Может быть, это творчество, может быть, это эмоции, может быть, это сны. Есть много сознания. Есть много, э-э, гипотез о том, что может быть или не может быть вычислимым. И это возвращает нас к вопросу о машине Тьюринга о том, каков предел машины Тьюринга? И я думаю, что это центральный вопрос моей жизни, на самом деле, с тех пор, как я узнал о Тьюринге и машинах Тьюринга. И, э-э, знаете ли, я думаю, что это, я влюбился в это. Это моя главная страсть. И я думаю, что, э-э, все, что мы делали, было своего рода продвижением понятия о том, что может делать машина Тьюринга, до предела, включая, знаете ли, сворачивание белков, верно? И оказывается, я не уверен, каков предел, может быть, его нет, верно? И, конечно, мои друзья, занимающиеся квантовыми вычислениями, скажут, что есть пределы, и, и вам нужны квантовые компьютеры для квантовых систем, но я действительно не так уверен, и я на самом деле, знаете ли, обсуждал это с некоторыми, некоторыми, некоторыми квантовыми специалистами, и может быть, нам нужны данные из этих квантовых систем, чтобы создать классическую симуляцию. Um, а затем это возвращается к разуму, который заключается в том, является ли это все классическими вычислениями, или происходит что-то еще, знаете ли, как Роджер Пенроуз считает, знаете ли, есть квантовые эффекты в мозге. Если они есть, и это то, что связано с сознанием, то машины никогда не будут иметь этого, по крайней мере, классические машины, нам придется ждать квантовых компьютеров. Um, но если их нет, то, возможно, нет предела, может быть, во всей Вселенной все вычислимо, и поэтому, если смотреть на это правильным образом, и поэтому машины Тьюринга могут моделировать все во Вселенной. Я, я в настоящее время, если бы вы попросили меня угадать, я бы предположил, что, и я работаю на этой основе, пока физика, э-э, не покажет мне обратное. >> Так что нет ничего, что нельзя было бы сделать в рамках этих, как бы, вычислительных >> Ну, нет, никто не сказал так: никто не нашел ничего во Вселенной, что, что не является вычислимым. Так что до сих пор. >> Так что до сих пор, >> верно? И я думаю, что мы уже показали, что вы можете выйти далеко за пределы обычной сложности теории P=MP, касающейся того, что классический компьютер может делать сегодня. Такие вещи, как сворачивание белков и го, и так далее. Так что я не думаю, что кто-то знает, каков этот предел. И это действительно, если свести к тому, что мы делаем в Deep Mind и Google, и что я пытаюсь сделать, это найти этот предел. Но тогда в пределах этого, верно, в пределах этой идеи, это, знаете ли, мы сидим здесь, как бы, тепло света на наших лицах. Мы как бы слышим шум машины на заднем плане. Есть, как бы, ощущение стола под нашими руками. >> Все это может быть >> воспроизведено классическим компьютером. >> Да. Ну, я думаю, в конце концов, мой взгляд на это, почему я тоже люблю K, это все, все, все мои два любимых философских понятия - это конструкция разума. Я думаю, что это правда. И поэтому, да, все эти вещи, которые вы упомянули, они поступают в наш сенсорный аппарат и ощущаются по-разному, верно? Свет, тепло света, ощущение, прикосновение к столу, но в конце концов, это все информация. И мы - информационно-обрабатывающие системы. И я думаю, что это и есть биология. Это то, что мы пытаемся сделать с изоморфным. Именно так, я думаю, мы в конечном итоге вылечим все болезни - думая о биологии, э-э, как об информационно-обрабатывающей системе. И я думаю, что в конце концов это будет, и я работаю в свое свободное время, мои 2 минуты свободного времени, знаете ли, физические теории о, э-э, таких вещах, как информация, являющаяся наиболее фундаментальной единицей, скажем так, Вселенной, не энергия, не материя, а информация. И, э-э, так что может быть, что все это взаимозаменяемо в конце концов, верно? Но мы просто ощущаем это. Мы чувствуем это по-разному. Um, но, знаете ли, насколько нам известно, все эти удивительные датчики, которые у нас есть, они все еще вычислимы машиной Тьюринга. Но именно поэтому ваш симулированный мир так важен, верно? >> Да. Именно. Потому что это был бы один из способов добраться до него. Каковы пределы того, что мы можем симулировать? Потому что если вы можете это симулировать, то в некотором смысле вы это поняли. >> Я хотел бы закончить некоторыми личными размышлениями >> о том, каково это - быть на переднем крае этого. Я имею в виду, не давит ли на вас эмоциональный вес этого когда-нибудь? Не чувствуете ли вы себя иногда довольно одиноким? >> Да. Um, смотрите, я, я очень мало сплю, отчасти потому, что слишком много работы, но также мне трудно спать. Это очень сложные эмоции, с которыми приходится иметь дело, потому что это невероятно волнующе. Um, знаете ли, я, я, по сути, делаю все, о чем когда-либо мечтал. И мы находимся на абсолютном переднем крае науки во многих отношениях, э-э, прикладной науки, а также машинного обучения. И это волнующе, как знают все ученые, это чувство быть на переднем крае и открывать что-то впервые. И это происходит почти ежемесячно для нас. Так что, что удивительно. Um, но затем, конечно, мы, как, и Шейн, и я, и другие, кто занимается этим уже давно, мы понимаем это лучше, чем кто-либо. Um, огромность того, что грядет, и эта вещь о том, что все еще недооценено. На самом деле, что произойдет в более долгосрочной перспективе, примерно 10 лет. Um, включая такие вещи, как, э-э, философские, знаете ли, что значит быть человеком, что в этом важно? Все эти вопросы возникнут. Um, и поэтому это, это, это большая ответственность. Um, но у нас есть удивительная команда, которая думает об этих вещах. Um, но также это то, что, я полагаю, по крайней мере, я тренировался всю свою жизнь. Так что, знаете ли, с самых ранних дней, когда я играл в шахматы, а затем работал над компьютерами и играми и симуляциями и нейронаукой, все это было для, э-э, такого момента. Um, и это примерно то, что я представлял себе. Так что, отчасти поэтому я справляюсь с этим - просто тренировка. >> Есть ли части этого, которые ударили вас сильнее, чем вы ожидали? >> Да, конечно. По пути, я имею в виду, даже матч Alpha Go, верно? Просто видя, знаете ли, как нам удалось, э-э, взломать Го, но Го был этой прекрасной загадкой, и это изменило ее. И так, это было интересно и как-то горько-сладко. Я думаю, даже более недавние вещи, такие как язык, а затем изображения, и, знаете ли, что это значит для творчества, э-э, я, я, имею огромное уважение и страсть к творческим искусствам и, занимаясь дизайном игр сам, и, знаете ли, я разговариваю с режиссерами, и это тоже интересный двойной момент для них. С одной стороны, у них есть эти удивительные инструменты, которые ускоряют прототипирование идей в 10 раз, но с другой стороны, э-э, не заменяет ли это определенные творческие навыки? Так что, я думаю, есть, есть своего рода эти компромиссы, происходящие, э-э, повсюду, которые, э-э, я думаю, неизбежны с такой, э-э, технологией, как мощная и трансформирующая, как ИИ, как в прошлом электричество, и интернет, и мы, знаете ли, мы видели, что это история человечества - мы - животные, создающие инструменты, и это то, что мы любим делать, и по какой-то причине у нас также есть мозг, который может понимать науку и заниматься наукой, что удивительно. но также как бы ненасытно любопытен. Я думаю, что это суть того, что значит быть человеком. И я думаю, что у меня этот вирус был с самого начала. И мое выражение попытки ответить на это - это создание ИИ. >> Когда вы и другие лидеры ИИ находитесь в одной комнате, есть ли между вами чувство солидарности, что это группа людей, которые все знают о ставках, которые все действительно понимают, или же конкуренция разделяет вас? >> Ну, мы все, да, мы все знаем друг друга. Я лажу практически со всеми. Некоторые из других не ладят друг с другом. Э-э, и это трудно, потому что мы также находимся в самой свирепой, э-э, э-э, капиталистической конкуренции, которая когда-либо была, вероятно. Знаете, мои друзья-инвесторы и друзья-венчурные капиталисты, которые, которые были в эпоху доткомов, говорят, что это в 10 раз более свирепо и интенсивно, чем тогда. Во многих отношениях, я люблю это. Я имею в виду, я живу ради конкуренции. Это, это, это, знаете ли, я всегда любил это с дней моих шахмат, но отступив, э-э, я понимаю, я надеюсь, все понимают, что на кону гораздо большее, чем просто, знаете ли, успехи компаний и, и, и, знаете ли, такого рода вещи. >> Когда дело доходит до следующего десятилетия, когда вы думаете об этом, есть ли большие моменты, которых вы лично больше всего опасаетесь? >> Я думаю, что прямо сейчас системы, знаете ли, я, я называю их пассивными системами, вы, вы вкладываете энергию как пользователь, знаете ли, вопрос или задача, а затем они, э-э, эти системы как бы предоставляют вам резюме или ответ. Um, так что очень многое, это, это направлено человеком и человеческой энергией, э-э, и человеческими идеями. Следующий этап - это системы на основе агентов, которые, я думаю, мы начнем видеть. Мы видим их сейчас, но они довольно примитивны. Как в ближайшие пару лет, я думаю, мы начнем видеть действительно впечатляющие надежные системы. И, э-э, я думаю, что они будут невероятно полезны и способны, если вы думаете о них как о помощнике или чем-то подобном, но они также будут более автономными. Так что, я думаю, риски также возрастают, э-э, с такими типами систем. Так что я, я довольно обеспокоен тем, что такие системы смогут делать, возможно, через два, три года, знаете ли. Так что, мы работаем над киберзащитой в подготовке к, э-э, миру, подобному этому, где, возможно, миллионы агентов, знаете ли, бродят по интернету. >> А что насчет того, чего вы больше всего ждете? Я имею в виду, есть ли день, когда вы сможете уйти на пенсию, зная, что ваша работа сделана, или же осталось работы больше, чем на всю жизнь? >> Да, я всегда, ну, я, я определенно мог бы взять отпуск, э-э, и я бы провел его, занимаясь делами. Да, неделя отдыха, даже даже день был бы хорош. Um, но, смотрите, я думаю, что моя миссия всегда заключалась в том, чтобы помочь миру безопасно провести AGI через черту для всего человечества. Так что, я думаю, когда мы достигнем этой точки, конечно, тогда будет сверхинтеллект, и будет пост-AGI, и будут все экономические вещи, которые мы обсуждали, и общественные вещи, и, возможно, я смогу как-то помочь там. Но я думаю, что, э-э, это будет моя основная часть моей миссии, моя жизненная миссия, э-э, будет выполнена, если это, я имею в виду, это всего лишь небольшая работа, знаете ли, просто провести это через черту или помочь миру провести это через черту. Знаете, я думаю, что это потребует сотрудничества, как мы говорили ранее. Um, и я довольно общительный человек. Так что я надеюсь, что смогу, смогу помочь с этим с той позиции, которую я занимаю. >> И тогда вы сможете пойти в отпуск >> И тогда я смогу, я смогу, да, именно так, заслуженный отпуск. >> Да, абсолютно. Дейс, спасибо большое. Полезно, как всегда. >> Ну, на этом все на этот сезон Goo Deep Mind, подкаста со мной, профессором Ханной Фрай. Но обязательно подпишитесь, чтобы быть в числе первых, кто узнает о нашем возвращении в 2026 году. А пока, почему бы не пересмотреть нашу обширную библиотеку эпизодов, потому что мы охватили так много в этом году. От беспилотных автомобилей до робототехники, от мировых моделей до открытия лекарств. Многое, чтобы занять вас. До скорого.