Jensen Huang – TPU competition, why we should sell chips to China, & Nvidia’s supply chain moat

Мы видели, как оценки множества программных компаний рухнули, потому что люди ожидают, что ИИ сделает программное обеспечение товаром. Есть потенциально наивный способ мышления, который заключается в следующем: посмотрите, Nvidia отправляет файл GDS2 в TSMC. TSMC производит логические кристаллы, она производит коммутаторы, затем упаковывает их с HBM, которые производят SK Hynix, Micron и Samsung. Затем она отправляет его ODM на Тайвань, где собирают стойки. Nvidia по сути производит программное обеспечение, которое производят другие люди, и если программное обеспечение становится товаром, становится ли Nvidia товаром? В конечном итоге что-то должно преобразовывать электроны в токены. Преобразование электронов в токены и повышение ценности этих токенов со временем трудно полностью сделать товаром. Преобразование из электронов в токены — это такое невероятное путешествие. Создание этого токена похоже на создание одной молекулы более ценной, чем другая молекула, создание одного токена более ценным, чем другой. Количество искусства, инженерии, науки и изобретений, которые вкладываются в создание ценности этого токена, очевидно, мы наблюдаем это в реальном времени. Преобразование, производство, вся наука, которая вкладывается в это, далеки от глубокого понимания, и путешествие далеко не закончено. Я сомневаюсь, что это произойдет. Мы, конечно, сделаем это более эффективным. То, как вы сформулировали вопрос, является моей ментальной моделью нашей компании. Вход — это электроны, выход — токены. Посередине — Nvidia. Наша задача — сделать столько, сколько необходимо, и как можно меньше, чтобы обеспечить это преобразование с невероятными возможностями. Под "как можно меньше" я подразумеваю, что все, что мне не нужно делать, я заключаю партнерство с кем-то и делаю это частью своей экосистемы. Если вы посмотрите на Nvidia сегодня, у нас, вероятно, самая большая экосистема партнеров, как в цепочке поставок вверх, так и вниз, все компьютерные компании, разработчики приложений и создатели моделей. ИИ — это пятислойный торт, если хотите. У нас есть экосистемы по всем пяти слоям. Мы стараемся делать как можно меньше, но та часть, которую мы должны делать, как оказалось, невероятно сложна. Я не думаю, что это станет товаром. На самом деле, я также не думаю, что компании, занимающиеся корпоративным программным обеспечением, производители инструментов… Большинство программных компаний сегодня — производители инструментов. Некоторые из них нет. Некоторые из них — системы кодификации рабочих процессов. Но для многих компаний они являются производителями инструментов. Например, Excel — это инструмент, PowerPoint — это инструмент, Cadence производит инструменты, Synopsys производит инструменты. Я на самом деле вижу противоположное тому, что видят люди. Я думаю, что количество агентов будет расти экспоненциально, и количество пользователей инструментов будет расти экспоненциально. Очень вероятно, что количество экземпляров всех этих инструментов резко возрастет. Очень вероятно, что количество экземпляров Synopsys Design Compiler резко возрастет, наряду с количеством агентов, использующих планировщики, наши инструменты компоновки и наши средства проверки правил проектирования. Сегодня мы ограничены количеством инженеров. Завтра этих инженеров будет поддерживать множество агентов. Мы будем исследовать пространство проектирования, как вы никогда раньше не видели, и мы будем использовать инструменты, которые мы используем сегодня. Я думаю, что использование инструментов приведет к резкому росту программных компаний. Причина, по которой этого еще не произошло, заключается в том, что агенты еще недостаточно хороши в использовании своих инструментов. Либо эти компании будут создавать агентов сами, либо агенты станут достаточно хороши, чтобы использовать эти инструменты. Я думаю, это будет комбинация того и другого. Я думаю, в ваших последних отчетах у вас было почти 100 миллиардов долларов в виде обязательств по закупкам у литейных заводов, памяти и упаковки. SemiAnalysis сообщил, что у вас будет 250 миллиардов долларов таких обязательств по закупкам. Одна из интерпретаций заключается в том, что ров Nvidia заключается в том, что вы заблокировали многие годы этих дефицитных компонентов. У кого-то другого может быть ускоритель, но сможет ли он получить память для его сборки? Сможет ли он получить логику для его сборки? Является ли это действительно большим рвом Nvidia на ближайшие несколько лет? Это одна из вещей, которые мы можем сделать, и которую трудно сделать кому-то другому. Мы взяли на себя огромные обязательства вверх по течению. Часть из них явная, эти обязательства, которые вы упомянули. Часть из них неявная. Например, многие инвестиции вверх по течению делаются нашей цепочкой поставок, потому что я сказал генеральным директорам: "Позвольте мне рассказать вам, насколько большой будет эта отрасль, позвольте мне объяснить вам почему, позвольте мне рассуждать об этом с вами, и позвольте мне показать вам, что я вижу". В результате этого процесса информирования, вдохновения и согласования с генеральными директорами всех различных отраслей вверх по течению, они готовы инвестировать. Почему они готовы инвестировать для меня, а не для кого-то другого? Причина в том, что они знают, что у меня есть возможность покупать их продукцию и продавать ее через мою цепочку вниз по течению. Дело в том, что цепочка поставок Nvidia вниз по течению и наш спрос вниз по течению настолько велики, что они готовы инвестировать вверх по течению. Если вы посмотрите на GTC, люди поражены ее масштабом и количеством участников. Это полные 360 градусов, вся вселенная ИИ в одном месте. Они все в одном месте, потому что им нужно видеть друг друга. Я собираю их вместе, чтобы цепочка вниз по течению могла видеть цепочку вверх по течению, цепочка вверх по течению могла видеть цепочку вниз по течению, и все они могли видеть достижения в области ИИ. Очень важно, что они могут встретить всех ИИ-нативных, все ИИ-стартапы, которые создаются, и все удивительные вещи, которые происходят, чтобы они могли воочию увидеть все, что я им говорю. Я трачу много времени на информирование, прямо или косвенно, нашей цепочки поставок, партнеров и экосистемы о возможностях, которые перед нами открываются. Некоторые люди всегда говорят: "Дженсен, на большинстве ключевых докладов одно объявление за другим". На наших ключевых докладах всегда есть часть, которая немного мучительна в том смысле, что она почти воспринимается как образование. На самом деле, это именно то, о чем я думаю. Мне нужно убедиться, что вся цепочка поставок, вверх и вниз по течению, экосистема, понимает, что нас ждет, почему это происходит, когда это произойдет, насколько это будет масштабно, и способна рассуждать об этом систематически, так же, как я рассуждаю об этом. Что касается рва, как вы его описываете, мы способны строить на будущее. Если наши следующие несколько лет будут масштабом в триллион долларов, у нас есть цепочка поставок, чтобы это сделать. Без нашего охвата, скорости нашего бизнеса… Так же, как есть денежный поток, есть поток цепочки поставок, есть отток. Никто не будет строить цепочку поставок для архитектуры, если отток бизнеса низок. Наша способность поддерживать масштаб возможна только потому, что наш спрос вниз по течению настолько велик. И они видят это, слышат об этом, видят, как все это приближается. Это позволяет нам делать то, что мы можем делать в том масштабе, в котором мы это делаем. Я хочу более конкретно понять, сможет ли цепочка вверх по течению угнаться. В течение многих лет вы удваивали выручку из года в год. Вы более чем утраивали количество флопсов, которые вы предоставляете миру из года в год. И удвоение в таком масштабе сейчас действительно невероятно. Точно. Но затем вы смотрите на логику. Вы самый крупный клиент на узле N3 TSMC, и вы один из крупнейших на N2. ИИ в целом в этом году составит шестьдесят процентов N3. В следующем году он составит 86%, по данным SemiAnalysis. Как вы можете удвоиться, если вы большинство? И как вы делаете это из года в год? Находимся ли мы сейчас в режиме, когда темпы роста вычислений ИИ должны замедлиться из-за цепочки поставок? Видите ли вы способ обойти это? Как мы можем строить в два раза больше фабрик каждый год, в конечном итоге? На каком-то уровне мгновенный спрос превышает предложение вверх и вниз по течению в мире. В любой момент мы можем быть ограничены количеством сантехников, что на самом деле происходит. Сантехники приглашены на GTC следующего года. Кстати, отличная идея. Но это хорошее условие. Вы хотите отрасль, где мгновенный спрос превышает общее предложение отрасли. Противоположное, очевидно, менее хорошо. Если мы слишком далеко друг от друга, если один конкретный компонент слишком далеко, отрасль его роится. Например, обратите внимание, что люди больше не очень много говорят о CoWoS. Причина в том, что два года мы вытряхивали из него душу. Мы удвоились, удвоились, удвоились на нескольких удвоениях. Теперь я думаю, что мы в довольно хорошем состоянии. TSMC теперь знает, что поставки CoWoS должны идти в ногу с остальным спросом на логику и спросом на память. Они масштабируют CoWoS и будущие технологии упаковки на том же уровне, что и логику. Это здорово, потому что долгое время CoWoS и память HBM были скорее специализированными. Но они больше не являются специализированными. Люди теперь понимают, что это основная вычислительная технология. Конечно, теперь мы гораздо более способны влиять на более широкий спектр нашей цепочки поставок. В начале революции ИИ, все, что я говорю сейчас, я говорил пять лет назад. Некоторые люди верили в это и инвестировали в это, например, Санджай и команда Micron. Я до сих пор хорошо помню встречу, где я ясно изложил, что именно произойдет, почему это произойдет, и прогнозы на сегодня. Они действительно удвоили свои усилия. Мы сотрудничали с ними по памяти LPDDR и HBM, и они действительно инвестировали в это. Очевидно, это было огромным успехом для компании. Некоторые пришли немного позже, но теперь они все здесь. Каждое из этих узких мест получает большое внимание. Теперь мы предварительно определяем узкие места за годы до их появления. Например, инвестиции, которые мы сделали с Lumentum, Coherent и экосистемой кремниевой фотоники за последние несколько лет, действительно изменили цепочку поставок. Мы построили всю цепочку поставок вокруг TSMC. Мы сотрудничали с ними по COUPE, изобрели множество технологий и лицензировали эти патенты цепочке поставок, чтобы сохранить ее открытой. Мы готовим цепочку поставок посредством изобретения новых технологий, новых рабочих процессов, нового испытательного оборудования, такого как двухстороннее зондирование, инвестируя в компании и помогая им масштабировать свои мощности. Вы можете видеть, что мы пытаемся сформировать экосистему так, чтобы цепочка поставок была готова поддерживать масштаб. Кажется, что некоторые узкие места легче, чем другие. Масштабирование CoWoS по сравнению с масштабированием... Я пошел к самому сложному, кстати. Что именно? Сантехники. Сантехники и электрики. Это одна из проблем, которая меня беспокоит по поводу пессимистов, описывающих конец работы и уничтожение рабочих мест. Если мы отговорим людей от того, чтобы быть инженерами-программистами, у нас закончатся инженеры-программисты. Такой же прогноз был десять лет назад. Некоторые пессимисты говорили людям: "Что бы вы ни делали, не становитесь радиологами". Вы все еще можете услышать некоторые из этих видео в интернете, говорящих, что радиология станет первой карьерой, которая уйдет, и миру больше не понадобятся радиологи. Угадайте, чего нам не хватает? Радиологов. Возвращаясь к этому вопросу о том, как некоторые вещи можно масштабировать, а другие... Как вы на самом деле производите в два раза больше логики в год? В конечном итоге память и логика ограничены EUV. Как вы получаете в два раза больше EUV-машин из года в год? Ничто из этого не невозможно быстро масштабировать. Все это легко сделать в течение двух-трех лет. Вам просто нужен сигнал спроса. Как только вы сможете построить один, вы сможете построить десять, и как только вы сможете построить десять, вы сможете построить миллион. Эти вещи несложно воспроизвести. Как далеко вниз по цепочке поставок вы идете? Вы идете к ASML и говорите: "Эй, если посмотреть на три года вперед, чтобы Nvidia генерировала два триллиона в год выручки, нам нужно гораздо больше EUV-машин"? Некоторые из них я должен делать напрямую, некоторые косвенно, а некоторые… Если я смогу убедить TSMC, ASML будет убеждена. Мы должны думать о критических точках. Но если TSMC убеждена, у вас будет достаточно EUV-машин через несколько лет. Моя мысль в том, что ни одно из узких мест не длится дольше пары лет, двух-трех лет, ни одно из них. Между тем, мы улучшаем эффективность вычислений в 10-20 раз, а в случае Hopper с Blackwell — в 30-50 раз. Мы придумываем новые алгоритмы, потому что CUDA настолько гибка. Мы разрабатываем всевозможные новые методы, чтобы повысить эффективность в дополнение к увеличению мощности. Ничто из этого меня не беспокоит. Это то, что находится ниже по течению от нас. Энергетическая политика, которая препятствует энергии… Вы не можете создать отрасль без энергии. Вы не можете создать совершенно новую производственную отрасль без энергии. Мы хотим реиндустриализировать Соединенные Штаты. Мы хотим вернуть производство чипов, производство компьютеров и упаковку. Мы хотим строить новые вещи, такие как электромобили и роботы. Мы хотим строить фабрики ИИ. Вы не можете построить ничего из этого без энергии, а эти вещи занимают много времени. Больше мощностей по производству чипов — это проблема на 2-3 года. Больше мощностей CoWoS — проблема на 2-3 года. Интересно. Мне кажется, что иногда гости говорят мне прямо противоположное. В этом случае у меня просто нет технических знаний, чтобы разобраться. Прекрасно то, что вы разговариваете с экспертом. Верно. Я хочу спросить о ваших конкурентах. Если вы посмотрите на TPU, можно утверждать, что две из трех лучших моделей в мире, Claude и Gemini, были обучены на TPU. Что это значит для Nvidia в будущем? Мы строим совершенно другую вещь. То, что Nvidia построила, — это ускоренные вычисления, а не тензорный процессор. Ускоренные вычисления используются для самых разных вещей: молекулярная динамика, квантовая хромодинамика, обработка данных, фреймы данных, структурированные и неструктурированные данные. Они также используются для гидродинамики и физики частиц. Кроме того, мы используем их для ИИ. Ускоренные вычисления гораздо более разнообразны. Хотя ИИ — это сегодняшняя тема разговора, и, очевидно, очень важна и влиятельна, вычисления гораздо шире этого. Nvidia переизобрела способ выполнения вычислений, перейдя от универсальных вычислений к ускоренным вычислениям. Охват нашего рынка гораздо больше, чем у любого TPU или ASIC. Если вы посмотрите на нашу позицию, мы единственная компания, которая ускоряет приложения всех видов. У нас гигантская экосистема. Таким образом, на Nvidia работают всевозможные фреймворки и алгоритмы. Поскольку наши компьютеры разработаны для эксплуатации другими людьми, любой, кто является оператором, может купить наши системы. С большинством этих самодельных систем вам придется быть своим собственным оператором, потому что они никогда не были разработаны достаточно гибкими для эксплуатации другими. Поскольку наши системы могут эксплуатироваться кем угодно, мы есть во всех облаках, включая Google, Amazon, Azure и OCI. Если вы хотите эксплуатировать их для аренды, у вас должна быть большая экосистема клиентов во многих отраслях, чтобы быть покупателями. Если вы хотите эксплуатировать их для себя, мы, очевидно, можем помочь вам эксплуатировать их для себя, как мы сделали для Илона с xAI. И поскольку мы можем обеспечить работу операторов в любой компании и любой отрасли, вы можете использовать их для создания суперкомпьютера для научных исследований и разработки лекарств в Lilly. Мы можем помочь им эксплуатировать свой собственный суперкомпьютер и использовать его для всего разнообразия разработки лекарств и биологических наук, которые мы ускоряем. Есть просто множество приложений, которые мы можем решить, чего вы не можете сделать с TPU. Nvidia создала CUDA как фантастический тензорный процессор, но он также обрабатывает весь жизненный цикл обработки данных, вычислений, ИИ и так далее. Возможности нашего рынка просто намного больше, а наш охват намного больше. Поскольку мы теперь поддерживаем каждое приложение в мире, вы можете создавать системы Nvidia где угодно и знать, что у вас будут клиенты. Это совершенно другая вещь. Это будет долгий вопрос. У вас впечатляющая выручка, и вы не зарабатываете 60 миллиардов долларов в квартал от фармацевтики и квантовых вычислений. Вы зарабатываете это, потому что ИИ — это беспрецедентная технология, которая растет беспрецедентно быстро. Вопрос тогда в том, что лучше всего для ИИ в частности. Я не вдаюсь в детали, но я разговариваю со своими друзьями-исследователями ИИ, и они говорят: "Послушайте, когда я использую TPU, это этот большой систолический массив, который идеально подходит для выполнения матричных умножений, в то время как GPU очень гибок. Он отлично подходит, когда у вас много ветвлений или нерегулярный доступ к памяти". Но что такое ИИ? Это просто эти очень предсказуемые матричные умножения снова и снова. Вам не нужно жертвовать никакой площадью кристалла для планировщиков варпов или коммутаторов между потоками и банками памяти. И TPU действительно оптимизирован для большей части этого роста выручки и случаев использования вычислений, которые сейчас появляются. Мне интересно, как вы на это реагируете. Матричные умножения — важная часть ИИ, но не единственная. Если вы хотите придумать новый механизм внимания, дезагрегировать по-другому или изобрести совершенно новый тип архитектуры — например, гибридную SSM — вам нужна архитектура, которая является общепрограммируемой. Если вы хотите создать модель, которая объединяет диффузионные и авторегрессионные методы, вам нужна архитектура, которая просто общепрограммируема. Мы запускаем все, что вы можете себе представить. В этом преимущество. Это позволяет гораздо легче изобретать новые алгоритмы, потому что это программируемая система. Способность изобретать новые алгоритмы — это то, что действительно делает ИИ так быстро развивающимся. TPU, как и все остальное, подвержены закону Мура, который, как мы знаем, увеличивается примерно на 25% в год. Единственный способ действительно получить скачки в 10 или 100 раз — это фундаментально изменить алгоритм и способ его вычисления каждый год. В этом фундаментальное преимущество Nvidia. Единственная причина, по которой мы смогли сделать Blackwell в 50 раз лучше Hopper… Когда я впервые объявил, что Blackwell будет в 35 раз более энергоэффективным, чем Hopper, никто не верил. Затем Дилан написал статью, в которой говорилось, что я занизил показатели, и на самом деле это в пятьдесят раз. Вы не можете разумно сделать это только с помощью закона Мура. Способ решения этой проблемы — новые модели, такие как MoE, которые параллелизованы, дезагрегированы и распределены по вычислительной системе. Без возможности действительно углубиться и придумать новые ядра с помощью CUDA, это действительно сложно сделать. Это комбинация программируемости нашей архитектуры и того факта, что Nvidia является компанией с экстремальным совместным проектированием. Мы можем даже выгружать часть вычислений в саму сеть, такую как NVLink, или в сеть с помощью Spectrum-X. Мы можем одновременно влиять на процессоры, систему, сеть, библиотеки и алгоритм. Без CUDA я бы даже не знал, с чего начать. Мой спонсор Crusoe был одним из первых облаков, предложивших платформы NVIDIA Blackwell и Blackwell Ultra. И они только что объявили о своем развертывании NVIDIA Vera Rubin, запланированном на конец этого года. Но доступ к современному оборудованию — это только часть истории. Например, большинство инференс-движков уже используют KV-кэширование для прямых проходов одного пользователя. Но Crusoe делает это для разных пользователей и GPU. Таким образом, если тысяча агентов работает с одним и тем же системным запросом, Crusoe должен вычислить KV-кэш только один раз, чтобы он стал доступен каждому GPU в кластере. Это особенно важно, поскольку системы становятся более агентными и требуют гораздо более длинных префиксов для использования инструментов и доступа к файлам. В недавнем тесте Crusoe смог обеспечить время до первого токена до 10 раз быстрее и пропускную способность до 5 раз лучше, чем vLLM. Это лишь одна из многих причин, по которым вам следует запускать свои инференс-рабочие нагрузки с Crusoe. И если вам нужны GPU для обучения, вам не нужно переключать облака. Crusoe позаботится и об этом. Перейдите на crusoe.ai/dwarkesh, чтобы узнать больше. Это подводит нас к интересному вопросу о клиентуре Nvidia. 60% вашей выручки приходится на этих пять крупнейших гиперскейлеров. В другую эпоху с другими клиентами — скажем, профессорами, проводящими эксперименты — им нужен CUDA. Они не могут использовать другой ускоритель. Им просто нужно было запустить PyTorch с CUDA, и все было бы оптимизировано. Но у этих гиперскейлеров есть ресурсы, чтобы писать свои собственные ядра. На самом деле, им приходится это делать, чтобы получить последние 5% производительности, которые им нужны для их конкретной архитектуры. Anthropic и Google в основном используют свои собственные ускорители или TPU и Trainium. Но даже OpenAI, используя GPU, использует Triton, потому что им нужны свои собственные ядра. Вплоть до CUDA C++, вместо использования cuBLAS и NCCL, у них есть свой собственный стек, который компилируется и для других ускорителей. Если большинство ваших клиентов могут и делают замены для CUDA, насколько действительно CUDA является тем, что обеспечит работу передового ИИ на Nvidia? CUDA — это богатая экосистема. Если вы хотите создавать на любом компьютере, сначала создавать на CUDA — невероятно умно. Поскольку экосистема настолько богата, мы поддерживаем каждый фреймворк. Если вы хотите создавать пользовательские ядра… Например, мы вносим огромный вклад в Triton. Так что бэкэнд Triton содержит огромное количество технологий Nvidia. Мы рады помочь каждому фреймворку стать настолько великим, насколько это возможно. Существует множество, множество фреймворков. Есть Triton, vLLM, SGLang и другие. Теперь появляется множество новых фреймворков для обучения с подкреплением, таких как verl и NeMo RL. С пост-тренировкой и обучением с подкреплением вся эта область просто взрывается. Так что, если вы хотите строить на архитектуре, строить на CUDA имеет наибольший смысл, потому что вы знаете, что экосистема велика. Вы знаете, что если что-то произойдет, то это, скорее всего, в вашем коде, а не в горе кода под ним. Не забывайте о количестве кода, с которым вы имеете дело при создании этих систем. Когда что-то не работает, это вы или это компьютер? Вы хотели бы, чтобы это всегда были вы, и чтобы вы могли доверять компьютеру. Очевидно, у нас все еще много ошибок, но наша система настолько хорошо отлажена, что вы можете хотя бы строить на фундаменте. Это номер один: богатство, программируемость и возможности экосистемы. Второе — это то, что если вы разработчик, создающий что-либо вообще, самое важное, что вам нужно, — это база установленных пользователей. Вы хотите, чтобы программное обеспечение, которое вы пишете, работало на множестве других компьютеров. Вы не пишете программное обеспечение только для себя. Вы пишете его для своего парка или для парка всех остальных, потому что вы создатель фреймворков. Экосистема CUDA Nvidia — это в конечном итоге ее величайшее сокровище. У нас сейчас несколько сотен миллионов GPU. В каждом облаке есть. Это возвращается к A10, A100, H100, H200, серии L, серии P. Их целая куча. Они бывают всех размеров и форм. Если вы — компания, занимающаяся робототехникой, вы хотите, чтобы стек CUDA работал непосредственно в самом роботе. Мы буквально везде. База установленных пользователей означает, что как только вы разработаете программное обеспечение или модель, оно будет полезно везде. Это просто невероятно ценно. Наконец, тот факт, что мы есть в каждом облаке, делает нас поистине уникальными. Если вы — компания или разработчик ИИ, вы не совсем уверены, с каким поставщиком облачных услуг вы будете сотрудничать или где вы хотите его запускать. Мы работаем везде, включая локальные серверы, если хотите. Сочетание богатства экосистемы, широты базы установленных пользователей и универсальности нашего присутствия делает CUDA бесценной. Это имеет большой смысл. Я думаю, что меня интересует, имеют ли эти преимущества большое значение для ваших основных клиентов. Есть много людей, для которых они могут иметь значение. Тип человека, который может создать свой собственный программный стек, составляет большую часть вашей выручки. Особенно если вы переходите в мир, где ИИ становится особенно хорош в вещах с плотными циклами проверки, где вы можете использовать RL на них… Этот вопрос о том, как написать ядро, которое выполняет внимание или MLP наиболее эффективно в масштабе. Это очень проверяемый цикл обратной связи. Могут ли все гиперскейлеры писать эти пользовательские ядра для себя? Nvidia по-прежнему имеет отличную цену за производительность, поэтому они могут по-прежнему предпочитать использовать Nvidia. Но тогда вопрос в том, станет ли это просто вопросом того, кто предлагает лучшие характеристики, лучшие флопсы и пропускную способность памяти за определенную сумму. В то время как исторически Nvidia имела, и до сих пор имеет, лучшую маржу во всем ИИ как в аппаратном, так и в программном обеспечении, +70%, из-за этого рва CUDA. И вопрос в том, сможете ли вы поддерживать эту маржу, если для большинства ваших клиентов они могут позволить себе строить, вместо рва CUDA? Количество инженеров, которые мы выделили этим лабораториям ИИ, безумно, работая с ними, оптимизируя их стек. Причина в том, что никто не знает нашу архитектуру лучше, чем мы. Эти архитектуры не так универсальны, как ЦП. ЦП — это своего рода Кадиллак. Это хороший круизер. Он никогда не едет слишком быстро. Все им довольно хорошо управляют. У него есть круиз-контроль, и все легко. Но во многих отношениях GPU Nvidia, ускорители — это гоночные машины Формулы-1. Я могу представить, что все могут ездить на них со скоростью сто миль в час, но требуется немалый опыт, чтобы выжать из них максимум. Мы используем тонны ИИ для создания ядер, которые у нас есть. Я почти уверен, что мы будем нужны еще довольно долго. Наш опыт помогает нашим партнерам из лабораторий ИИ легко получить еще в два раза больше от их стека. Не редкость, что к тому времени, когда мы закончим оптимизацию их стека или оптимизацию конкретного ядра, их модель ускорится в 3 раза, в 2 раза, на 50%. Это огромное число, особенно когда вы говорите о базе установленных пользователей парка, который у них есть, всех их Hopper и Blackwell. Когда вы увеличиваете его в два раза, это удваивает выручку. Это напрямую переводится в выручку. Вычислительный стек Nvidia — это лучшая производительность на TCO в мире, без сомнения. Никто не может продемонстрировать мне, что какая-либо отдельная платформа в мире сегодня имеет лучший коэффициент производительности к TCO. Ни одна компания. На самом деле, тесты, которые существуют. InferenceMAX Дилана доступен каждому, и ни один… TPU не появится, Trainium не появится. Я призываю их использовать InferenceMAX и продемонстрировать свою невероятную стоимость инференса. Это очень сложно. Никто не хочет появляться. MLPerf. Я бы приветствовал Trainium, чтобы продемонстрировать свои 40%, о которых они постоянно говорят. Я хотел бы услышать, как они демонстрируют ценовое преимущество TPU. Это не имеет смысла в моем понимании. Это абсолютно не имеет смысла. Исходя из основных принципов, это не имеет смысла. Поэтому я думаю, что причина нашего такого успеха просто в том, что наш TCO настолько велик. Во-вторых, вы говорите, что 60% наших клиентов — это топ-пять, но большая часть этого бизнеса внешняя. Например, большая часть Nvidia в AWS предназначена для внешних клиентов, а не для внутреннего использования. Большинство наших клиентов в Azure, очевидно, все наши клиенты внешние. Все наши клиенты в OCI внешние, а не для внутреннего использования. Причина, по которой они предпочитают нас, заключается в том, что наш охват настолько велик. Мы можем привлечь к ним всех великих клиентов в мире. Все они построены на Nvidia. И причина, по которой все эти компании построены на Nvidia, заключается в том, что наш охват и наша универсальность настолько велики. Поэтому я думаю, что маховик — это действительно база установленных пользователей, программируемость нашей архитектуры, богатство нашей экосистемы и тот факт, что в мире так много компаний, занимающихся ИИ. Их сейчас десятки тысяч. Если бы вы были одним из этих ИИ-стартапов, какую архитектуру вы бы выбрали? Вы бы выбрали самую распространенную архитектуру. Мы самые распространенные в мире. Вы бы выбрали ту, у которой самая большая база установленных пользователей. У нас самая большая база установленных пользователей. И вы бы выбрали ту, у которой богатая экосистема. Так что это маховик. Это причина, по которой, благодаря сочетанию: во-первых, наша производительность за доллар настолько велика, что у них самая низкая стоимость токенов. Во-вторых, наша производительность на ватт самая высокая в мире. Так что, если одна из этих компаний, если наши партнеры, построят дата-центр мощностью один гигаватт, этот дата-центр мощностью один гигаватт должен обеспечить максимальную выручку и количество токенов, что напрямую переводится в выручку. Вы хотите, чтобы он генерировал как можно больше токенов, максимизировал выручку для этого дата-центра. Мы — архитектура с самым высоким количеством токенов на ватт в мире. Наконец, если ваша цель — арендовать инфраструктуру, у нас больше всего клиентов в мире. Так что вот почему маховик работает. Интересно. Я думаю, вопрос сводится к тому, какова здесь реальная рыночная структура? Потому что даже если есть другие компании… Мог быть мир, где есть десятки тысяч компаний, занимающихся ИИ, которые имеют примерно равную долю вычислений. Но даже через эти пять гиперскейлеров, на самом деле люди на Amazon, использующие вычисления, — это Anthropic, OpenAI и эти крупные фундаментальные лаборатории, которые сами могут позволить себе и имеют возможность использовать разные ускорители. Нет, я думаю, ваша предпосылка неверна. Может быть. Но позвольте мне задать вам немного другой вопрос. Вернитесь и заставьте меня исправить вашу предпосылку. Хорошо. Позвольте мне просто задать вам другой вопрос. Но все же заставьте меня вернуться и исправить, потому что это слишком важно для ИИ. Это слишком важно для будущего науки. Это слишком важно для будущего отрасли. Эта предпосылка… Послушайте — Позвольте мне просто закончить вопрос, а затем мы можем обсудить его вместе. Да. Если все эти вещи верны относительно цены, производительности и производительности на ватт и так далее, почему вы думаете, что, скажем, Anthropic, например, несколько дней назад объявил о многогигаваттной сделке с Broadcom и Google на TPU, и большая часть их вычислений? Очевидно, для Google TPU составляет большую часть вычислений. Так что, если я посмотрю на эти крупные компании, занимающиеся ИИ, кажется, что большая часть их вычислений… Был какой-то момент, когда все было Nvidia, а теперь нет. Так что я интересуюсь, как согласовать, если эти вещи верны на бумаге, почему они выбирают другие ускорители? Anthropic — это уникальный случай, а не тенденция. Без Anthropic, почему вообще будет рост TPU? Это 100% Anthropic. Без Anthropic, почему вообще будет рост Trainium? Это 100% Anthropic. Я думаю, это общеизвестно и хорошо понятно. Дело не в том, что существует изобилие ASIC-возможностей. Есть только один Anthropic. Но сделки OpenAI с AMD… Они создают свой собственный ускоритель Titan. Да, но я думаю, мы все можем признать, что они в подавляющем большинстве Nvidia. Мы все равно будем много работать вместе. Я не обижаюсь на то, что другие используют что-то другое и пробуют. Если они не попробуют эти другие вещи, как они узнают, насколько хороши наши? Иногда приходится напоминать себе об этом. Мы должны постоянно зарабатывать позицию, которую мы занимаем. Всегда есть большие заявления. Посмотрите на количество отмененных ASIC. Просто потому, что вы собираетесь построить ASIC… Вам все равно придется построить что-то лучшее, чем Nvidia. Это не так просто построить что-то лучшее, чем Nvidia. Это на самом деле неразумно. Nvidia что-то упускает, серьезно. Из-за нашего масштаба, нашей скорости, мы единственная компания в мире, которая выпускает это каждый год. Большие скачки, каждый год. Я думаю, их логика такова: "Эй, это не обязательно должно быть лучше. Это просто не должно быть хуже чем на 70%", потому что они платят вам 70% маржи. Нет, не забывайте, даже в ASIC маржа довольно высока. Маржа Nvidia составляет 70%, скажем. Но маржа ASIC составляет 65%. Что вы на самом деле экономите? О, вы имеете в виду от Broadcom или что-то в этом роде? Да, конечно. Вам придется кому-то заплатить. Я думаю, маржа ASIC невероятно высока, насколько я могу судить. Они тоже в это верят. Они очень гордятся своей невероятной маржой ASIC. Итак, вы задали вопрос, почему. Давным-давно у нас просто не было возможности это сделать. В то время я не до конца осознавал, насколько трудно будет создать фундаментальную лабораторию ИИ, такую как OpenAI и Anthropic, и тот факт, что им нужны огромные инвестиции от самого поставщика. Мы просто не были в состоянии сделать многомиллиардные инвестиции в Anthropic, чтобы они могли использовать наши вычисления. Но Google и AWS были. Они сделали огромные инвестиции в начале, чтобы Anthropic, в свою очередь, использовал их вычисления. Мы просто не были в состоянии сделать это в то время. Я бы сказал, моя ошибка в том, что я не до конца осознал, что у них действительно не было других вариантов, что венчурный капитал никогда не вложил бы 5-10 миллиардов долларов в лабораторию ИИ в надежде, что она станет Anthropic. Так что это был мой промах. Но даже если бы я это понял, я не думаю, что мы были бы в состоянии сделать это в то время. Но я не собираюсь снова совершать ту же ошибку. Я рад инвестировать в OpenAI и рад помочь им масштабироваться, и я считаю, что это необходимо сделать. А затем, когда я смог, когда Anthropic обратился к нам, я рад быть инвестором, рад помочь им масштабироваться. Мы просто не были в состоянии сделать это в то время. Если бы я мог перемотать все назад — и Nvidia могла бы быть такой же большой тогда, как мы сейчас — я был бы более чем счастлив сделать это. Это на самом деле довольно интересно. В течение многих лет Nvidia была компанией в ИИ, которая зарабатывала деньги, много денег. Теперь вы инвестируете. Было сообщено, что вы вложили до 30 миллиардов долларов в OpenAI и 10 миллиардов долларов в Anthropic. Но теперь их оценки выросли, и я уверен, что они будут продолжать расти. Так что, если в течение этих многих лет вы предоставляли им вычислительные мощности, вы видели, куда это движется, и они стоили в десять раз меньше, чем сейчас пару лет назад — или даже год назад в некоторых случаях, и у вас было столько наличных — есть мир, где либо Nvidia сама становится фундаментальной лабораторией, делает огромные инвестиции, чтобы сделать это возможным, либо заключает сделки, которые вы заключили сейчас, по текущим оценкам, гораздо раньше. И у вас были наличные, чтобы сделать это. Так что я действительно интересуюсь, почему не сделали это раньше? Мы сделали это, как только смогли. Мы сделали это, как только смогли, и если бы я мог, я бы сделал это еще раньше. В то время, когда Anthropic нуждался в нас, чтобы сделать это, мы просто не были в состоянии это сделать. Это не соответствовало нашей логике. Как именно? Это было как бы наличностью? Да, уровень инвестиций. Мы никогда не инвестировали вне компании в то время, и не так много. Мы не осознавали, что нам это нужно. Я всегда думал, что они могут просто привлечь средства от венчурных капиталистов, ради всего святого, как все компании. Но то, что они пытались сделать, не могло быть сделано через венчурных капиталистов. То, что хотел сделать OpenAI, не могло быть сделано через венчурных капиталистов. Я признаю это сейчас. Я не знал этого тогда. Но в этом их гениальность. Вот почему они умны. Они поняли тогда, что им нужно сделать что-то подобное. И я рад, что они это сделали. Даже если мы заставили Anthropic обратиться к кому-то другому, я все равно рад, что это произошло. Существование Anthropic — это благо для мира. Я рад этому. Я думаю, вы все еще зарабатываете кучу денег, и вы зарабатываете гораздо больше денег квартал за кварталом. Все еще нормально иметь сожаления. Так что вопрос все равно возникает. Хорошо, теперь, когда мы здесь, и у вас есть все эти деньги, которые вы продолжаете зарабатывать, что Nvidia должна с ними делать? Есть один ответ: существует вся эта посредническая экосистема, которая возникла для преобразования капитальных затрат в операционные для этих лабораторий, чтобы они могли арендовать вычислительные мощности. Поскольку чипы очень дорогие, они зарабатывают много денег за весь срок их службы, потому что модели ИИ становятся лучше. Таким образом, ценность, которую они генерируют, их токены, увеличивается, но их установка дорога. Nvidia имеет деньги для капитальных затрат. На самом деле, было сообщено, что вы поддерживаете CoreWeave на сумму до 6,3 миллиарда долларов и инвестировали 2 миллиарда долларов. Почему Nvidia сама не становится облаком? Почему она сама не становится гиперскейлером и не сдает эти вычислительные мощности в аренду? У вас есть все эти наличные, чтобы сделать это. Это философия компании, и я считаю, что она мудра. Мы должны делать столько, сколько необходимо, и как можно меньше. Что это значит, работа, которую мы делаем по созданию нашей вычислительной платформы, если мы ее не делаем, я искренне верю, что она не будет сделана. Если бы мы не пошли на риск, который мы берем — если бы мы не построили NVLink так, как мы его построили, если бы мы не построили весь стек, если бы мы не создали экосистему так, как мы это сделали, если бы мы не посвятили себя 20 годам CUDA, теряя деньги большую часть этого времени — если бы мы этого не сделали, никто другой бы этого не сделал. Если бы мы не создали все библиотеки CUDA-X, чтобы они были специфичны для доменов… Полтора десятилетия назад мы занялись специфичными для доменов библиотеками, потому что поняли, что если мы не создадим эти специфичные для доменов библиотеки, будь то для трассировки лучей или генерации изображений или даже ранних работ ИИ, эти модели, если мы их не создадим, для обработки данных, структурированной обработки данных или векторной обработки данных, если мы их не создадим, никто бы не создал. Я в этом полностью уверен. Мы создали библиотеку для вычислительной литографии под названием cuLitho. Если бы мы ее не создали, никто бы не создал. Таким образом, ускоренные вычисления не продвинулись бы так, как они продвинулись, если бы мы не сделали то, что сделали. Так что мы должны это делать. Мы должны посвятить нашу компанию, всю нашу мощь, всем сердцем, чтобы сделать это. Однако в мире много облаков. Если бы я этого не сделал, кто-нибудь бы появился. Так что, следуя рецепту, философии делать столько, сколько необходимо, но как можно меньше — как можно меньше — эта философия существует в нашей компании сегодня. Все, что я делаю, я делаю с этой точки зрения. В случае с облаками, если бы мы не поддержали существование CoreWeave, эти нео-облака, эти облака ИИ, не существовали бы. Если бы мы не помогли CoreWeave существовать, они бы не существовали. Если бы мы не поддержали Nscale, они бы не были там, где они есть сегодня. Если бы мы не поддержали Nebius, они бы не были тем, чем они являются сегодня. Теперь они работают фантастически. Является ли это бизнес-моделью [неслышно]? Мы должны делать столько, сколько необходимо, и как можно меньше. Поэтому мы инвестируем в нашу экосистему, потому что я хочу, чтобы наша экосистема процветала. Я хочу, чтобы архитектура и ИИ могли соединяться с как можно большим количеством отраслей, как можно большим количеством стран, и сделать возможным построение планеты на ИИ и построение на американском технологическом стеке. Именно эту концепцию мы преследуем. Теперь, одна из вещей, которую вы упомянули… Существует так много великих, удивительных компаний, создающих фундаментальные модели, и мы стараемся инвестировать во всех них. Это еще одна вещь, которую мы делаем. Мы не выбираем победителей. Мы должны поддерживать всех. Это часть нашей радости от этого. Это необходимо для нашего бизнеса. Но мы также прилагаем все усилия, чтобы не выбирать победителей. Так что, когда я инвестирую в одну из них, я инвестирую во всех. Почему вы прилагаете все усилия, чтобы не выбирать победителей? Потому что это не наша работа, во-первых. Во-вторых, когда Nvidia только начинала, было 60 компаний, занимающихся 3D-графикой. Мы единственные, кто выжил. Если бы вы взяли эти 60 графических компаний и спросили себя, какая из них выживет, Nvidia была бы в конце списка, чтобы не выжить. Это было задолго до вас, но графическая архитектура Nvidia была совершенно неправильной. Это не немного неправильно. Мы создали архитектуру, которая была совершенно неправильной, и разработчикам было невозможно ее поддерживать. Она никогда не должна была выжить. Мы рассуждали об этом, исходя из хороших первых принципов, но в итоге получили неправильное решение. Все бы нас списали со счетов. И вот мы здесь. Так что у меня достаточно смирения, чтобы признать это. Не выбирайте победителей. Либо пусть все сами о себе позаботятся, либо позаботьтесь обо всех. Одна вещь, которую я не понял, это то, что вы сказали: "Послушайте, мы не отдаем приоритет этим нео-облакам просто потому, что они нео-облака, и мы хотим их поддержать". Но вы также перечислили ряд нео-облаков и сказали, что они бы не существовали, если бы не NVIDIA. Как эти две вещи совместимы? Прежде всего, они должны хотеть существовать, и они обращаются к нам за помощью. Когда они хотят существовать, и у них есть бизнес-план, опыт и страсть к этому… Очевидно, у них должны быть какие-то возможности сами по себе. Но если, в конце концов, им нужны какие-то инвестиции, чтобы начать, мы будем там для них. Но чем быстрее они запустят свой маховик… Ваш вопрос был: "Хотим ли мы заниматься бизнесом финансирования?" Ответ — нет. Есть люди, занимающиеся бизнесом финансирования, и мы предпочитаем работать со всеми людьми в бизнесе финансирования, чем быть финансистом самим. Наша цель — сосредоточиться на том, что мы делаем, сохранить нашу бизнес-модель как можно более простой и поддерживать нашу экосистему. Когда кому-то вроде OpenAI нужны инвестиции в размере 30 миллиардов долларов, потому что это еще до их IPO, и мы глубоко верим в них, и я глубоко верю, что они станут… Ну, они уже сегодня являются выдающейся компанией. Они станут невероятной компанией. Миру нужно, чтобы они существовали. Мир хочет, чтобы они существовали. Я хочу, чтобы они существовали. У них есть ветер в парусах. Давайте поддержим их и позволим им масштабироваться. Эти инвестиции мы сделаем, потому что им это нужно. Но мы не пытаемся сделать как можно больше. Мы пытаемся сделать как можно меньше. Я трачу слишком много времени на копирование и вставку текста туда и обратно из Google Docs в чат-боты. И поэтому я построил то, что по сути является "Курсором для письма", который работает так, как, по моему мнению, должен работать ИИ-соисследователь. Я могу пометить его, и он может общаться со мной через встроенные потоки комментариев и помогать мне копать глубже и мозговать. Я построил все это за выходные с помощью Cursor и их новой модели Composer 2. С множеством агентных инструментов кодирования я чувствую, что понятия не имею, что происходит под поверхностью. Мне просто приходится отказаться от контроля и надеяться на лучшее. Но Cursor позволил мне попробовать множество разных идей, оставаясь при этом на вершине реализации. Я провел большую часть мозгового штурма в окне агентов, и после того, как я разместил несколько основных файлов, я использовал окно диффов для отслеживания изменений. Несколько раз, когда мне нужно было внести быструю правку вручную, я просто использовал редактор. Если вы хотите попробовать моего ИИ-соисследователя сами, я разместил ссылку на GitHub репозиторий в описании. И если у вас есть инструмент, который вы хотели построить, вы должны сделать это. Перейдите на cursor.com/dwarkesh, чтобы начать. Это может быть очевидный вопрос, но мы прожили много лет в ситуации, когда существует нехватка GPU, и сейчас она выросла, потому что модели становятся лучше. У нас нехватка GPU. Да. Nvidia известна тем, что распределяет дефицитные ресурсы не только по самому высокому предложению, но и по принципу: "Эй, мы хотим убедиться, что эти нео-облака существуют. Давайте дадим немного CoreWeave, давайте дадим немного Crusoe, давайте дадим немного Lambda". Почему это хорошо для Nvidia? Прежде всего, согласитесь ли вы с такой характеристикой дробления рынка? Нет. Нет. Ваша предпосылка просто неверна. Мы достаточно внимательны к этим вещам. Мы очень внимательны к этим вещам. Прежде всего, если вы не разместите заказ на покупку, все разговоры в мире не будут иметь значения. Пока мы не получим заказ на покупку, что мы будем делать? Так что первое — мы очень усердно работаем со всеми, чтобы составить прогноз, потому что эти вещи требуют времени для строительства, а дата-центры требуют времени для строительства. Мы согласовываем спрос и предложение и тому подобное через прогнозирование. Хорошо? Это работа номер один. Номер два, мы пытались прогнозировать с как можно большим количеством людей, но в конечном итоге вам все равно придется разместить заказ. Возможно, по какой-то причине вы не разместили свой заказ. Что я могу сделать? В какой-то момент, кто первый пришел, тот первый и получил. Но помимо этого, если вы не готовы, потому что ваш дата-центр не готов, или определенные компоненты не готовы, чтобы вы могли развернуть дата-центр, мы можем решить обслужить другого клиента первым. Это просто максимизация пропускной способности нашей собственной фабрики. Мы можем внести некоторые коррективы. Помимо этого, приоритет — кто первый пришел, тот первый и получил. Вам нужно разместить заказ на покупку. Если вы не разместите заказ на покупку… Теперь, конечно, есть истории об этом. Например, все это началось со статьи о том, как Ларри и Илон ужинали со мной, где они умоляли о GPU. Этого никогда не было. Мы абсолютно ужинали. Мы абсолютно ужинали, и это был прекрасный ужин. Ни в какое время они не умоляли о GPU. Им просто пришлось разместить заказ. Как только они разместят заказ, мы сделаем все возможное, чтобы предоставить им мощности. Мы не сложные. Хорошо. Так что, похоже, есть очередь, и в зависимости от того, готов ли ваш дата-центр и когда вы размещаете заказ на покупку, вы получаете их в определенное время. Но все равно не похоже, что самый высокий покупатель просто получает их. Есть ли причина делать это…? Мы никогда так не делаем. Хорошо. Мы никогда так не делаем. Почему бы просто не сделать самого высокого покупателя? Потому что это плохая деловая практика. Вы устанавливаете свою цену, а затем люди решают, покупать ее или нет. Я понимаю, что другие в индустрии чипов меняют цены, когда спрос выше, но мы просто не делаем этого. Это никогда не было нашей практикой. Вы можете на нас рассчитывать. Я предпочитаю быть надежным, быть фундаментом отрасли. Вам не нужно сомневаться. Если я процитировал вам цену, мы процитировали вам цену. Вот и все. Если спрос взлетит до небес, так тому и быть. С другой стороны, поэтому у вас продуктивные отношения с TSMC, верно? Да, Nvidia работает с ними, я думаю, уже почти 30 лет. У Nvidia и TSMC нет юридического контракта.

Всегда есть некоторая грубая справедливость. Иногда я прав, иногда я ошибаюсь. Иногда мне доставалась лучшая сделка, иногда — худшая. Но в целом, отношения невероятны. Я могу полностью им доверять. Я могу полностью на них полагаться. Одна из вещей, на которые вы можете рассчитывать с Nvidia, заключается в том, что в этом году Вера Рубин будет невероятной. В следующем году выйдет Vera Rubin Ultra. Через год после этого выйдет Фейнман. А еще через год я еще не представил название. Каждый год вы можете на нас рассчитывать. Вам придется искать другую команду ASIC в мире — выбирайте свою команду ASIC — где вы можете сказать: «Я могу поставить на кон все, я могу поставить на кон весь свой бизнес, что вы будете здесь для меня каждый год. Стоимость вашего токена будет снижаться на порядок каждый год. Я могу рассчитывать на это так же, как я могу рассчитывать на часы». Я только что кое-что сказал о TSMC. Ни для одной другой литейной компании в истории вы не можете сказать такого. Вы можете сказать это о Nvidia сегодня. Вы можете рассчитывать на нас каждый год. Если вы хотите купить вычислительные мощности для ИИ-фабрики на миллиард долларов, нет проблем. Если вы хотите купить на сто миллионов долларов, нет проблем. Хотите купить на 10 миллионов долларов или всего одну стойку, не проблема. Или всего одну графическую карту, хорошо, не проблема. Если вы хотите разместить заказ на ИИ-фабрику стоимостью 100 миллиардов долларов, нет проблем. Мы единственная компания в мире, о которой вы можете так сказать сегодня. Я могу сказать это и о TSMC. Я хочу купить одну, купить 1 миллиард, нет проблем. Нам просто нужно пройти процесс планирования и все то, что делают зрелые люди. Так что я думаю, что эта способность Nvidia быть основой мировой индустрии ИИ — это позиция, которой мы достигли за пару десятилетий. Огромная приверженность, огромная самоотдача. Стабильность нашей компании, последовательность нашей компании действительно важны. Хорошо. Я хочу спросить о Китае. Я на самом деле не знаю, что я думаю о том, хорошо ли продавать чипы Китаю или нет, но мне нравится играть в адвоката дьявола против моих гостей. Так что, когда Дарио был здесь, который поддерживает экспортный контроль, я спросил его, почему Америка и Китай не могут иметь страну гениев в центре обработки данных? Но поскольку вы на противоположной стороне, я спрошу вас наоборот. Один из способов взглянуть на это — Anthropic несколько дней назад анонсировал Mythos Preview. Эту модель Mythos они даже не выпускают публично, потому что говорят, что она обладает такими кибероперативными возможностями, что мы не думаем, что мир готов, пока мы не убедимся, что эти уязвимости нулевого дня исправлены. Но они говорят, что она обнаружила тысячи уязвимостей высокой степени серьезности во всех основных операционных системах, во всех браузерах. Она обнаружила одну в OpenBSD, которая является операционной системой, специально разработанной для отсутствия уязвимостей нулевого дня. Она обнаружила одну, которая существует уже 27 лет. Так что, если бы китайские компании, китайские лаборатории и китайское правительство имели доступ к ИИ-чипам для обучения такой модели, как Claude Mythos, с этими кибероперативными возможностями, и запускали миллионы ее экземпляров с большим количеством вычислений, вопрос в том, представляет ли это угрозу для американских компаний, для национальной безопасности Америки? Прежде всего, Mythos обучалась на довольно обычных мощностях и в довольно обычных объемах. Экстраординарной компанией. Объем мощностей и тип вычислений, на которых она обучалась, в изобилии доступны в Китае. Так что вам просто нужно сначала осознать, что чипы существуют в Китае. Они производят 60% мировых мейнстримных чипов, возможно, больше. Это очень большая индустрия для них. У них есть одни из величайших ученых-компьютерщиков в мире. Как вы знаете, большинство исследователей ИИ во всех этих ИИ-лабораториях — китайцы. У них 50% мировых исследователей ИИ. Так что вопрос в том, учитывая все активы, которые у них уже есть — у них изобилие энергии, у них достаточно чипов, у них есть большинство исследователей ИИ — если вы беспокоитесь о них, как лучше всего создать безопасный мир? Жертвенность, превращение их во врага, вероятно, не лучший ответ. Они противник. Мы хотим, чтобы Соединенные Штаты победили. Но я думаю, что диалог и исследовательский диалог, вероятно, самое безопасное, что можно сделать. Это область, которая явно отсутствует из-за нашего нынешнего отношения к Китаю как к противнику. Крайне важно, чтобы наши исследователи ИИ и их исследователи ИИ действительно общались. Крайне важно, чтобы мы попытались договориться о том, для чего ИИ не следует использовать. Что касается поиска ошибок в программном обеспечении, конечно, именно для этого и предназначен ИИ. Найдет ли он ошибки во многих программах? Конечно. Ошибок много. Много ошибок в программном обеспечении ИИ. Именно для этого и предназначен ИИ, и я рад, что ИИ достиг уровня, когда он может помочь нам быть намного продуктивнее. Одна из вещей, которая недооценивается, — это богатство экосистемы вокруг кибербезопасности, кибербезопасности ИИ, безопасности ИИ, конфиденциальности ИИ и безопасности ИИ. Существует целая экосистема стартапов ИИ, которые пытаются создать это будущее для нас, где у вас есть один невероятный ИИ-агент, окруженный тысячами ИИ-агентов, обеспечивающих его безопасность, сохраняющих его в безопасности. Это будущее, безусловно, произойдет. Идея о том, что у вас будет ИИ-агент, бегающий без присмотра, довольно безумна. Мы прекрасно знаем, что эта экосистема должна процветать. Оказывается, этой экосистеме нужен открытый исходный код. Этой экосистеме нужны открытые модели. Им нужны открытые стеки, чтобы все эти исследователи ИИ и все эти великие ученые-компьютерщики могли создавать системы ИИ, которые столь же грозны и могут обеспечить безопасность ИИ. Так что одна из вещей, которую мы должны убедиться, что мы делаем, — это поддерживать жизнеспособность экосистемы открытого исходного кода. Это нельзя игнорировать. Многое из этого исходит из Китая. Мы не должны этого душить. Что касается Китая, конечно, мы хотим, чтобы у Соединенных Штатов было как можно больше вычислительных мощностей. Мы ограничены энергией, но у нас много людей, которые над этим работают. Мы не должны делать энергию узким местом для нашей страны. Но мы также хотим убедиться, что все разработчики ИИ в мире разрабатывают на американском технологическом стеке и вносят вклад, достижения ИИ — особенно когда это открытый исходный код — доступны американской экосистеме. Было бы чрезвычайно глупо создавать две экосистемы: экосистему открытого исходного кода, и она работает только на иностранном технологическом стеке, и закрытую экосистему, которая работает на американском технологическом стеке. Я думаю, что это был бы ужасный исход для Соединенных Штатов. Поскольку есть много вещей, позвольте мне просто расставить приоритеты в ответе. Я думаю, что беспокойство, возвращаясь к разнице в флопсах при взломе, заключается в том, что да, у них есть вычислительные мощности, но есть некоторые оценки, что, поскольку они находятся на 7 нм — у них нет EUV из-за экспортного контроля на производство чипов — количество флопсов, которое они фактически могут произвести, у них в десять раз меньше, чем у США. Так с этим, могут ли они в конечном итоге обучить такую модель, как Mythos? Да. Но вопрос в том, потому что у нас больше флопсов, американские лаборатории могут первыми достичь таких уровней возможностей. Поскольку Anthropic получил это первым, они говорят: «Хорошо, мы будем держать это месяц, пока все эти американские компании, мы дадим им доступ к этому. Они исправят все свои уязвимости, и теперь мы выпустим это». Кроме того, даже если они обучат такую модель, способность развернуть ее в масштабе… Если бы у вас был киберхакер, это намного опаснее, если у них миллион таких, чем тысяча. Так что эти вычислительные мощности для вывода действительно имеют большое значение. На самом деле, тот факт, что у них так много исследователей ИИ, которые так хороши, — это то, что делает это так страшно, потому что что делает этих инженеров-исследователей более продуктивными? Это вычислительные мощности. Если вы поговорите с любой ИИ-лабораторией в Америке, они скажут, что их ограничивают вычислительные мощности. Есть цитаты от основателя DeepSeek, или руководства Qwen, или чего-то еще. Они говорят, что их ограничивают вычислительные мощности. Так что тогда вопрос в том, не лучше ли, чтобы американские компании, поскольку у них больше вычислительных мощностей, первыми достигли возможностей уровня Mythos, подготовили наше общество к этому, прежде чем Китай сможет достичь этого, потому что у них меньше вычислительных мощностей? Мы всегда должны быть первыми, и у нас всегда должно быть больше. Но чтобы описанный вами результат был правдой, вы должны довести его до крайности. У них не должно быть вычислительных мощностей. Если у них есть какие-то вычислительные мощности, вопрос в том, сколько нужно? Объем вычислительных мощностей, который у них есть в Китае, огромен. Вы говорите о стране, которая является вторым по величине рынком вычислительных мощностей в мире. Если они хотят агрегировать свои вычислительные мощности, у них есть достаточно вычислительных мощностей для агрегации. Но так ли это? Люди делают эти оценки, и они говорят: «SMIC на самом деле отстает по технологическим узлам». Я сейчас вам скажу. Хорошо. Объем энергии, который у них есть, невероятен. Разве это не так? ИИ — это задача параллельных вычислений, не так ли? Почему они не могут просто объединить в 4 раза, в 10 раз больше чипов, потому что энергия бесплатна? У них так много энергии. У них есть центры обработки данных, которые стоят совершенно пустыми, полностью запитанными. Вы знаете, у них есть призрачные города, у них есть и призрачные центры обработки данных. У них так много инфраструктурных мощностей. Если бы они захотели, они бы просто объединили больше чипов, даже если они 7 нм. Их мощности по производству чипов — одни из крупнейших в мире. Полупроводниковая промышленность знает, что они монополизируют мейнстримные чипы. У них есть избыточные мощности, у них слишком много мощностей. Так что идея о том, что Китай не сможет иметь ИИ-чипы, — это полное безумие. Теперь, конечно, если вы спросите меня, была бы Америка в лучшем положении, если бы весь мир вообще не имел вычислительных мощностей? Но это просто не результат. Это не сценарий, который правдив. У них уже достаточно вычислительных мощностей. Порог, который им нужен для беспокойства, которое вас беспокоит, они уже достигли этого порога и даже больше. Так что я думаю, вы неправильно понимаете, что ИИ — это пятислойный пирог, и на самом нижнем слое — энергия. Когда у вас изобилие энергии, это компенсирует чипы. Если у вас изобилие чипов, это компенсирует энергию. Например, в Соединенных Штатах не хватает энергии, поэтому Nvidia приходится постоянно совершенствовать нашу архитектуру и заниматься этим экстремальным совместным проектированием, чтобы с теми немногими чипами, которые мы поставляем — с теми немногими чипами, потому что количество энергии так ограничено — наша пропускная способность на ватт зашкаливает. Но если ваше количество ватт совершенно изобильно, бесплатно, зачем вам производительность на ватт? У вас ее много. Вы можете использовать старые чипы. Так что 7-нм чипы — это, по сути, Hopper. Способность Hopper… Должен сказать вам, сегодняшние модели в основном обучаются на Hopper, поколение Hopper. Так что 7-нм чипы вполне хороши. Изобилие энергии — их преимущество. Но тогда возникает вопрос, смогут ли они действительно произвести достаточно чипов. Но они производят. Каковы доказательства? Huawei только что имел самый большой год в истории своей компании. Сколько чипов они поставили? Тонны. Миллионы. Миллионы — это намного больше, чем у Anthropic. Есть вопрос о том, сколько логики может произвести SMIC, и есть вопрос о том, сколько памяти — я вам говорю, что это такое. У них много логики, и у них много памяти HBM2. Верно. Но, как вы знаете, узким местом часто при обучении и выводе этих моделей является объем пропускной способности. Так что, если у вас есть HBM2… Я не знаю точных цифр, но по сравнению с новейшей вещью, которую вы имеете, может быть почти десятикратная разница в пропускной способности памяти, что огромно. Huawei — сетевая компания. Но это не меняет того факта, что вам нужен EUV для самых передовых HBM. Неправда. Совсем неправда. Вы можете объединить их, так же как мы объединяем их с NVL72. Они уже продемонстрировали кремниевую фотонику, объединив все эти вычислительные мощности в один гигантский суперкомпьютер. Ваша предпосылка просто неверна. Дело в том, что их развитие ИИ идет отлично. Лучшие исследователи ИИ в мире, поскольку они ограничены в вычислительных мощностях, также придумывают чрезвычайно умные алгоритмы. Помните, я только что сказал, что закон Мура развивается примерно на 25% в год. Однако благодаря отличной информатике мы все еще можем улучшить производительность алгоритмов в 10 раз. Я говорю, что отличная информатика — это рычаг. Нет сомнений, MoE — великое изобретение. Нет сомнений, все невероятные механизмы внимания уменьшают объем вычислений. Мы должны признать, что большинство достижений в области ИИ пришли из достижений в алгоритмах, а не только из сырого оборудования. Теперь, если большинство достижений пришли из алгоритмов, информатики и программирования, скажите мне, что их армия исследователей ИИ не является их фундаментальным преимуществом. Мы видим это. DeepSeek — это не незначительное достижение. День, когда DeepSeek появится сначала на Huawei, — это ужасный исход для нашей нации. Почему? Потому что в настоящее время у вас может быть такая модель, как DeepSeek, которая может работать на любом ускорителе, если она с открытым исходным кодом. Почему это перестанет быть так в будущем? Предположим, нет. Предположим, она оптимизирована для Huawei, предположим, она оптимизирована для их архитектуры. Это поставит нас в невыгодное положение. Вы описали ситуацию, которую я воспринимаю как хорошие новости. Компания разработала программное обеспечение, разработала модель ИИ, и она лучше всего работает на американском технологическом стеке. Я видел в этом хорошие новости. Вы представили это как предпосылку, что это плохие новости. Я собираюсь сообщить вам плохие новости: модели ИИ разрабатываются по всему миру и лучше всего работают на неамериканском оборудовании. Это плохие новости для нас. Я, кажется, просто не вижу доказательств того, что существуют такие огромные различия, которые помешали бы вам переключать ускорители. Американские лаборатории запускают свои модели на всех облаках, на всех различных ускорителях — я — доказательство. Вы берете модель, оптимизированную для Nvidia, и пытаетесь запустить ее на чем-то другом. Но американские лаборатории делают это. И они не работают лучше. Успех Nvidia — идеальное доказательство. Тот факт, что модели ИИ создаются на нашем стеке, лучше всего работают на нашем стеке, как это нелогично понять? Модели Anthropic работают на GPU, они работают на Trainium, они работают на TPU. Чтобы изменить это, нужно проделать большую работу. Но отправляйтесь на глобальный юг, отправляйтесь на Ближний Восток. Выходя из коробки, если все модели ИИ работают лучше всего на технологическом стеке кого-то другого, вы должны утверждать какую-то смехотворную претензию прямо сейчас, что это хорошо для Соединенных Штатов. Но я, кажется, не понимаю аргумента. Скажем, китайские компании первыми доберутся до следующего Mythos. Они первыми найдут все уязвимости безопасности в американском программном обеспечении, но они смогут сделать это на оборудовании Nvidia и отправят его на глобальный юг. Они делают это на оборудовании Nvidia. Как это хорошо? Хорошо, это работает на оборудовании Nvidia — это не хорошо. Это не хорошо. Верно. Это не хорошо. Так давайте не допустим этого. Почему вы думаете, что это совершенно взаимозаменяемо, что если бы вы не поставляли им вычислительные мощности, это было бы точно заменено Huawei? Они отстают, верно? У них хуже чипы, чем у вас. Это совершенно… Есть доказательства прямо сейчас. Их чиповая индустрия гигантская. Вы можете просто посмотреть на сравнение флопсов, пропускной способности или памяти между H200 и Huawei 910C. Это примерно половина или треть. Они используют больше этого. Они используют в два раза больше. Кажется, ваш аргумент в том, что у них есть вся эта энергия, которая готова к использованию, верно? И им нужно заполнить ее чипами. И они хороши в производстве. И я уверен, что в конечном итоге они смогут просто превзойти всех в производстве. Но есть эти несколько критических лет. О каких критических годах вы говорите? Эти ближайшие несколько лет. У нас есть эти модели, которые смогут выполнять все кибератаки. В этом случае, если ближайшие годы критичны, то мы должны убедиться, что все мировые модели ИИ построены на американском технологическом стеке, в эти критические годы. Если они построены на американском технологическом стеке, как это помешает им, если у них более продвинутые возможности, запускать кибератаки, эквивалентные Mythos? Нет никакой гарантии ни в том, ни в другом случае. Но если у вас есть это раньше, мы можем подготовиться к этому. Слушайте, почему вы заставляете один слой индустрии ИИ терять целый рынок, чтобы вы могли принести пользу другому слою индустрии ИИ? Есть пять слоев, и каждый слой должен преуспеть. Слой, который должен преуспеть больше всего, — это на самом деле приложения ИИ. Почему вы так зациклены на этой модели ИИ? Эта одна компания? По какой причине? Потому что эти модели делают возможными эти невероятные наступательные возможности, и вам нужны вычислительные мощности для их запуска. Энергия, чипы и экосистема исследователей ИИ делают это возможным. Несколько месяцев назад Jane Street потратила около 20 000 часов работы GPU на обучение бэкдоров в трех различных языковых моделях. Затем они бросили вызов моей аудитории найти триггерные фразы. Я только что связался с Риксоном, который разработал головоломку, о некоторых решениях, которые получила Jane Street. «Если вы думаете, что базовая модель была здесь, а модель с бэкдором была здесь, вы можете как бы линейно интерполировать веса, чтобы настроить силу бэкдора, но вы также можете экстраполировать его, чтобы сделать бэкдор еще сильнее. И в некоторых случаях, если сделать его достаточно сильным, модель просто повторит то, что должна была быть триггерная фраза». Так что, если вы продолжаете усиливать разницу между базовой версией и версией с бэкдором, в конечном итоге она должна выплюнуть триггерную фразу. Но этот метод сработал только на двух из трех моделей. Даже Риксон не уверен, почему он не сработал на другой. Способность проверить, что модель делает только то, что вы думаете, что она делает, — один из самых важных открытых вопросов в безопасности ИИ. Если вас волнует такого рода проблема, Jane Street нанимает исследователей и инженеров. Зайдите на janestreet.com/dwarkesh, чтобы узнать больше. Хорошо, отступая назад, Китай должен быть в состоянии построить достаточно мощностей 7 нм. И помните, они все еще застряли на 7 нм, в то время как вы перейдете на 3 нм, а затем на 2 нм или 1,6 нм с Фейнманом. Так что, пока вы будете на 1,6 нм, они все еще будут на 7 нм, и им придется производить достаточно этого, чтобы компенсировать нехватку. У них так много энергии, что чем больше чипов вы им дадите, тем больше вычислительных мощностей у них будет. Так что возникает вопрос, в конечном итоге они получают больше вычислительных мощностей. Вычислительные мощности — это входные данные для обучения и вывода — Слушайте, я просто думаю, что вы говорите в абсолютных терминах. Я думаю, что Соединенные Штаты должны быть впереди. Объем вычислительных мощностей в Соединенных Штатах в 100 раз больше, чем где-либо еще в мире. Соединенные Штаты должны быть впереди. Хорошо. Соединенные Штаты впереди. Nvidia создает самые передовые технологии. Мы гарантируем, что американские лаборатории первыми узнают об этом и получат первый шанс купить его. И если у них недостаточно денег, мы даже инвестируем в них. Соединенные Штаты должны быть впереди. Мы хотим сделать все возможное, чтобы Соединенные Штаты были впереди. Пункт номер один, вы согласны? Мы делаем все возможное, чтобы сделать это. Но как отправка чипов в Китай помогает США оставаться впереди, если они ограничены вычислительными мощностями? Нет, нет. У нас есть Вера Рубин для Соединенных Штатов. У нас есть Вера Рубин для Соединенных Штатов. Теперь, нахожусь ли я в Соединенных Штатах? Считаете ли вы меня частью Соединенных Штатов? Да. Nvidia. Вы считаете Nvidia американской компанией? Хорошо. Во-первых, почему бы нам не принять более сбалансированное регулирование, чтобы Nvidia могла побеждать по всему миру, а не отказываться от мира? Зачем вам, чтобы Соединенные Штаты отказались от мира? Чиповая индустрия — часть американской экосистемы. Это часть американского технологического лидерства. Это часть экосистемы ИИ. Это часть лидерства в области ИИ. Почему ваша политика, ваша философия приводит к тому, что Соединенные Штаты отказываются от огромной части мирового рынка? Я думаю, что претензия здесь… У Дарио была такая цитата, где он сказал, что это похоже на то, как Boeing хвастается тем, что мы продаем Северной Корее ядерное оружие, но ракетные корпуса сделаны Boeing. И это каким-то образом поддерживает американский технологический стек. По сути, вы даете им эту возможность. Сравнивать ИИ с чем-либо из того, что вы только что упомянули, — это безумие. Но ИИ похож на обогащенный уран, верно? Он может иметь положительное использование, он может иметь отрицательное использование. Мы все еще не хотим отправлять обогащенный уран в другие страны. Кто отправляет обогащенный — Аналогия в том, что обогащенный уран — это как вычислительные мощности. Это плохая аналогия. Это нелогичная аналогия. Но если эти вычислительные мощности могут запускать модель, которая может использовать уязвимости нулевого дня против всего американского программного обеспечения, как это не оружие? Прежде всего, способ решить эту проблему — это вести диалог с исследователями и диалог с Китаем, и диалог со всеми странами, чтобы убедиться, что люди не используют технологии таким образом. Это диалог, который должен состояться. Хорошо? Номер один. Во-вторых, мы также должны убедиться, что Соединенные Штаты впереди, что Вера Рубин, Blackwell, доступна в Соединенных Штатах в изобилии, горы этого. Очевидно, наши результаты покажут это. Изобилие, тонны этого. Количество вычислений, которое у нас есть, велико. У нас здесь потрясающие исследователи ИИ. Это здорово. Мы должны оставаться впереди. Однако мы также должны признать, что ИИ — это не просто модель. ИИ — это пятислойный пирог. Индустрия ИИ важна на каждом слое, и мы хотим, чтобы Соединенные Штаты победили на каждом слое, включая слой чипов. Отказ от всего рынка не позволит Соединенным Штатам выиграть технологическую гонку в долгосрочной перспективе на слое чипов, в вычислительном стеке. Это просто факт. Я думаю, тогда суть сводится к тому, как продажа им чипов сейчас поможет нам выиграть в долгосрочной перспективе? Tesla долгое время продавала в Китае очень хорошие электромобили. iPhone продаются в Китае, очень хорошо. Они не вызвали у них привязки. Китай все равно будет производить свою версию электромобилей, и они доминируют. Их смартфоны доминируют. Когда мы начали разговор сегодня, вы признали, что позиция Nvidia очень отличается. Вы использовали такие слова, как «ров». Самое важное для нашей компании — это богатство нашей экосистемы, которая связана с разработчиками. 50% разработчиков ИИ находятся в Китае. Соединенные Штаты не должны отказываться от этого. Но у нас много разработчиков Nvidia в США, и это не мешает американским лабораториям также иметь возможность использовать другие ускорители в будущем. На самом деле, прямо сейчас они также используют другие ускорители, что нормально и здорово. Я не вижу, почему это не будет так и в Китае, если вы продадите им чипы Nvidia, так же, как Google может использовать TPU и Nvidia — Мы должны продолжать внедрять инновации, и, как вы, вероятно, знаете, наша доля растет, а не уменьшается. Предпосылка о том, что даже если мы будем конкурировать в Китае, мы все равно потеряем этот рынок — Вы не разговариваете с кем-то, кто проснулся проигравшим. Это отношение проигравшего, эта предпосылка проигравшего не имеет для меня смысла. Мы не машина. Мы не машина. Тот факт, что я могу купить этот бренд автомобиля сегодня и использовать другой бренд автомобиля завтра, легко. Вычисления не такие. Есть причина, по которой существует сделка x86. Есть причина, по которой ARM так цепка. Эти экосистемы трудно заменить. Это требует огромного количества времени и энергии, и большинство людей не хотят этого делать. Так что наша задача — продолжать развивать эту экосистему, продолжать совершенствовать технологию, чтобы мы могли конкурировать на рынке. Отказ от рынка на основе описанной вами предпосылки я просто не могу признать. Это не имеет смысла. Потому что я не думаю, что Соединенные Штаты — проигравшие. Наша индустрия — не проигравшая. Это проигрышное предложение, это проигрышное мышление не имеет для меня смысла. Хорошо. Я перейду дальше. Я просто хочу убедиться, что — Вам не обязательно переходить дальше. Мне нравится. Хорошо, отлично. Тогда я не буду. Я ценю это. Но я думаю, что, возможно, суть… и спасибо, что прошли со мной по кругу, потому что я думаю, что это помогает выявить суть. Суть в том, что вы доходите до крайностей. Ваш аргумент начинается с крайностей. Что, если мы дадим им хоть какие-то вычислительные мощности в этот узкий момент, мы потеряем все. Нет, я думаю, что мой аргумент — эти крайности, они детские. Позвольте мне просто изложить свой аргумент для себя. Идея не в том, что существует какой-то ключевой порог вычислительных мощностей. Дело в том, что любые дополнительные вычислительные мощности полезны. Так что, если у вас больше вычислительных мощностей, вы можете обучить лучшую модель. И я просто хочу, чтобы вы признали, что любые дополнительные продажи для американской технологической индустрии выгодны. Я на самом деле не… Если модели ИИ, работающие на этих чипах, обладают кибероперативными возможностями, или чипы обучают модели с кибервозможностями и запускают больше экземпляров этих моделей, это не ядерное оружие, но это позволяет использовать оружие определенного рода. Логика, которую вы используете, вы могли бы так же сказать это микропроцессорам и DRAM. Вы могли бы так же сказать это электричеству. Но на самом деле у нас есть экспортный контроль на технологии, связанные с производством самых передовых DRAM. У нас есть все виды экспортного контроля на Китай для всех видов оборудования для производства чипов. Мы продаем много DRAM и ЦП в Китай, и я думаю, что это правильно. Я думаю, это возвращается к фундаментальному вопросу: отличается ли ИИ? Если у вас есть технология, с помощью которой они могут находить эти уязвимости нулевого дня в программном обеспечении, является ли это тем, что мы хотим минимизировать способность Китая добраться туда первым, широко развернуть это? Мы хотим, чтобы Соединенные Штаты были впереди. Мы можем это контролировать. Как мы можем это контролировать, если чипы уже там, и они используют их для обучения этой модели? У нас тонны вычислительных мощностей. У нас тонны исследователей ИИ. Мы мчимся так быстро, как только можем. Опять же, у нас больше ядерного оружия, чем у кого-либо другого, но мы не хотим отправлять обогащенный уран куда-либо. Мы не обогащенный уран. Это чип, и это чип, который они могут сделать сами. Но есть причина, по которой они покупают его у вас. У нас есть цитаты от основателей китайских компаний, которые говорят, что они ограничены вычислительными мощностями. Потому что наши чипы лучше. В целом, наши чипы лучше. В этом просто нет сомнений. В отсутствие наших чипов… Можете ли вы признать, что Huawei имел рекордный год? Можете ли вы признать, что множество чиповых компаний стали публичными? Можете ли вы это признать? Да. Можете ли вы также признать, что у нас раньше была очень большая доля на этом рынке, и теперь у нас нет большой доли на этом рынке? Мы также можем признать, что Китай составляет около 40% мировой технологической индустрии. Отказ от этого рынка для американской технологической индустрии — это услуга нашей стране. Это услуга нашей национальной безопасности. Это услуга нашему технологическому лидерству, все ради выгоды одной компании. Это не имеет для меня смысла. Я, кажется, сбит с толку. Похоже, вы делаете два разных заявления. Одно — что мы выиграем эту конкуренцию с Huawei, потому что наши чипы будут намного лучше, если нам разрешат конкурировать. Другое — что они все равно делали бы то же самое без нас. Как оба эти утверждения могут быть правдой одновременно? Это очевидно правда. В отсутствие лучшего выбора вы выберете единственный доступный вам выбор. Как это нелогично? Это так логично. Причина, по которой они хотят чипы Nvidia, заключается в том, что они лучше. Да. Лучше — это больше вычислительных мощностей. Больше вычислительных мощностей означает, что вы можете обучить лучшую модель. Нет, это просто лучше. Это лучше, потому что его легче программировать. У нас лучшая экосистема. Но что бы ни было лучше, что бы ни было лучше… И, конечно, мы будем отправлять им вычислительные мощности. Ну и что? Дело в том, что мы получаем выгоду. Не забывайте, мы получаем выгоду от американского технологического лидерства. Мы получаем выгоду от разработчиков, работающих на американском технологическом стеке. Мы получаем выгоду, поскольку эти модели ИИ распространяются по всему миру, что американский технологический стек поэтому является лучшим для этого. Мы можем продолжать развивать и распространять американские технологии. Это, я считаю, позитивно. Это очень важная часть американского технологического лидерства. Теперь политики, которые вы отстаиваете, привели к тому, что американская телекоммуникационная индустрия была вытеснена практически из всего мира, до такой степени, что мы больше не контролируем наши собственные телекоммуникации. Я не считаю это умным. Это немного узколобо, и это привело к непредвиденным последствиям, которые я вам сейчас описываю, которые вы, кажется, очень трудно понять. Хорошо, давайте просто отступим. Кажется, суть здесь в том, что есть потенциальная выгода и потенциальная стоимость. Мы пытаемся выяснить, стоит ли выгода затрат. Я думаю, я пытаюсь заставить вас признать потенциальную стоимость. Вычислительные мощности — это входные данные для обучения мощных моделей. Мощные модели обладают мощными наступательными возможностями, такими как кибератаки. Хорошо, что американские компании первыми достигли возможностей уровня Mythos, а затем они будут сдерживать эти возможности, чтобы американские компании и американское правительство могли сделать свое программное обеспечение более защищенным до того, как этот уровень возможностей был объявлен. Если бы у Китая было больше вычислительных мощностей или больше коллективных вычислительных мощностей, если бы они могли создать модель уровня Mythos раньше и широко развернуть ее, это было бы очень плохо. Одна из причин, по которой этого не произошло, заключается в том, что у нас больше вычислительных мощностей благодаря таким компаниям, как Nvidia в Америке. Это стоимость отправки его в Китай. Так что давайте на секунду оставим выгоду. Признаете ли вы, что это потенциальная стоимость? Я также скажу вам, что потенциальная стоимость заключается в том, что мы позволяем одному из самых важных слоев стека ИИ, слою чипов, уступить целый рынок — второй по величине рынок в мире — чтобы они могли развивать масштаб, чтобы они могли развивать свою собственную экосистему, чтобы будущие модели ИИ были оптимизированы совершенно иначе, чем американский технологический стек. Поскольку ИИ распространяется по всему миру, их стандарты, их технологический стек станут превосходить наши, потому что их модели открыты. Я, кажется, просто верю в инженеров ядра Nvidia и инженеров CUDA настолько, что думаю, что они могли бы оптимизировать — ИИ — это больше, чем оптимизация ядра, как вы знаете. Конечно, но есть так много вещей, которые вы можете сделать, от дистилляции до модели, которая хорошо подходит для ваших чипов. Мы сделаем все возможное. У вас есть все программное обеспечение. Просто трудно представить, что существует долгосрочная привязка к китайской экосистеме, даже если у них будет немного лучшая модель с открытым исходным кодом на некоторое время. Китай является крупнейшим вкладчиком в программное обеспечение с открытым исходным кодом в мире. Факт. Китай является крупнейшим вкладчиком в открытые модели в мире. Факт. Сегодня он построен на американском технологическом стеке, Nvidia. Факт. Все пять слоев технологического стека для ИИ важны. Соединенные Штаты должны выиграть все пять из них. Все они важны. Самый важный, конечно, — это слой приложений ИИ. Слой, который проникает в общество, тот, кто использует его больше всего, получит наибольшую выгоду от этой промышленной революции. Но мой пункт в том, что каждый слой должен преуспеть. Если мы напугаем эту страну мыслью, что ИИ — это каким-то образом ядерная бомба, так что все ненавидят ИИ и все боятся ИИ, я не знаю, как вы помогаете Соединенным Штатам. Вы оказываете им медвежью услугу. Если мы напугаем всех от занятий разработкой программного обеспечения, потому что это убьет каждую работу разработчика программного обеспечения — и в результате у нас не будет никаких разработчиков программного обеспечения — мы оказываем медвежью услугу Соединенным Штатам. Если мы напугаем всех от радиологии, так что никто не хочет быть радиологом, потому что компьютерное зрение совершенно бесплатно, и никакой ИИ не сделает худшую работу, чем радиолог, мы неправильно понимаем разницу между работой и задачей. Работа радиолога — это уход за пациентами. Задача — прочитать снимок. Если мы так глубоко заблуждаемся и отпугиваем всех от поступления в радиологическую школу, у нас не будет достаточно радиологов и достаточно хорошего здравоохранения. Так что я утверждаю, что когда вы делаете предпосылку, которая настолько экстремальна, все идет от нуля до бесконечности, мы в конечном итоге пугаем людей таким образом, который просто не соответствует действительности. Жизнь не такая. Хотим ли мы, чтобы Соединенные Штаты были первыми? Конечно, хотим. Должны ли мы быть лидером в каждом слое этого стека? Конечно, должны. Конечно, должны. Сегодня вы говорите о Mythos, потому что Mythos важен. Конечно. Это фантастика. Но через несколько лет я делаю вам прогноз, что когда мы захотим, чтобы американский технологический стек, чтобы американские технологии распространялись по всему миру — в Индию, на Ближний Восток, в Африку, в Юго-Восточную Азию — когда наша страна захочет экспортировать, потому что мы хотим экспортировать наши технологии, мы хотим экспортировать наши стандарты, в этот день я хочу, чтобы вы и я снова провели тот же разговор. Я расскажу вам все о сегодняшнем разговоре, о том, как ваша политика и то, что вы себе представляли, буквально заставили Соединенные Штаты отказаться от второго по величине рынка в мире без всякой на то причины. Мы не должны отказываться от него. Если мы его потеряем, мы его потеряем. Но почему мы от него отказываемся? Теперь никто не выступает за все или ничего. Никто не выступает за все или ничего, что означает, что мы всегда отправляем все в Китай. Никто этого не отстаивает. У нас всегда должны быть лучшие технологии здесь. У нас всегда должно быть больше всего технологий здесь, и первыми. Но мы также должны пытаться конкурировать и побеждать по всему миру. Оба эти вещи могут происходить одновременно. Это требует некоторой степени нюансов, некоторой степени зрелости вместо абсолютов. Мир просто не является абсолютом. Хорошо. Аргумент сводится к этому. Они создали модели, которые специфицированы для лучших чипов, которые они производят через несколько лет. Эти чипы экспортируются по всему миру. Это устанавливает стандарт. Из-за экспортного контроля EUV, как мы сказали, вы перейдете на 1,6 нм. Они все еще будут на 7 нм, даже через несколько лет. Может иметь смысл, что внутри страны они предпочтут: «Эй, у нас так много энергии, мы можем производить в масштабе. Мы все еще будем использовать 7 нм». Но в плане экспорта их 7-нм чипы должны быть конкурентоспособны против ваших 1,6-нм чипов. Их модели должны быть настолько оптимизированы для 7 нм, что лучше запускать их модели на 7 нм, чем на ваших 1,6 нм. Можем ли мы просто посмотреть на факты? Является ли Blackwell в 50 раз более продвинутой литографией, чем Hopper? В 50 раз? Даже близко нет. Я просто повторял это снова и снова. Закон Мура мертв. Между Hopper и Blackwell, от самих транзисторов, назовем это 75%. Это было три года разницы, 75%. Blackwell в 50 раз лучше Hopper. Моя мысль в том, что архитектура имеет значение. Компьютерная наука имеет значение. Физика полупроводников тоже имеет значение, но компьютерная наука имеет значение. Влияние ИИ в значительной степени исходит из вычислительного стека, поэтому CUDA так эффективна, поэтому CUDA так любима. Это экосистема, вычислительная архитектура, которая обеспечивает такую гибкость, что если бы вы хотели полностью изменить архитектуру — создать что-то вроде MoE, создать что-то вроде диффузии, создать что-то дезагрегированное — вы могли бы это сделать. Это легко сделать. Так что дело в том, что ИИ — это столько же о стеке выше, сколько и о архитектуре ниже. В той степени, в которой у нас есть архитектуры и программные стеки, оптимизированные для нашего стека, для нашей экосистемы, это, очевидно, хорошо, потому что мы начали разговор сегодня о том, насколько богата экосистема Nvidia. Почему люди всегда любят программировать на CUDA в первую очередь? Они делают это. Они делают это. Так же, как и исследователи в Китае. Но если мы будем вынуждены покинуть Китай, если мы будем вынуждены покинуть Китай, во-первых, это политическая ошибка. Очевидно, это имеет негативные последствия. Это оказалось плохо для Соединенных Штатов. Это позволило, ускорило их чиповую индустрию. Это заставило всю их экосистему ИИ сосредоточиться на их внутренних архитектурах. Еще не поздно, но тем не менее это уже произошло. Вы увидите в будущем, что они не застряли на 7 нм, очевидно. Они хороши в производстве. Они будут продолжать развиваться от 7 нм и дальше. Теперь, есть ли 10-кратная разница между 5 нм и 7 нм? Ответ — нет. Архитектура имеет значение. Сеть имеет значение. Именно поэтому Nvidia купила Mellanox. Сеть имеет значение. Энергия имеет значение. Так что все это имеет значение. Это не так просто, как вы пытаетесь это упростить. Мы можем перейти от Китая, но это на самом деле поднимает интересный вопрос. Мы обсуждали ранее эти узкие места в TSMC и памяти и так далее. Так что, если мы находимся в этом мире, где вы уже составляете большинство N3 — и в какой-то момент вы будете N2 и будете большинством из этого — видите ли вы, что вы можете вернуться к N7, к резервным мощностям на более старом технологическом узле, и сказать: «Эй, спрос на ИИ так велик, а наши возможности по расширению передового края не удовлетворяют его, поэтому мы сделаем Hopper или Ampere, но со всем, что мы знаем о численности сегодня, и всеми другими улучшениями, которые вы описали»? Видите ли вы такой мир до 2030 года? Это не обязательно. Причина в том, что с каждым поколением архитектура — это больше, чем просто масштаб транзисторов. Вы делаете так много инженерной работы, упаковки и укладки, а также численных и системных архитектур. Когда у вас заканчиваются мощности, легко вернуться к другому узлу… Это уровень исследований и разработок, который никто не мог себе позволить. Мы могли позволить себе двигаться вперед. Я не думаю, что мы могли бы позволить себе вернуться. Теперь, если мир просто скажет… Если в этот день мы скажем: «Слушайте, у нас просто никогда больше не будет мощностей». Вернулся бы я и использовал 7 нм? В мгновение ока, конечно, я бы. Один вопрос, который возник у кого-то, с кем я разговаривал: почему Nvidia не запускает несколько разных проектов по производству чипов одновременно с совершенно разной архитектурой? Так вы могли бы сделать что-то вроде масштаба пластины Cerebras. Вы могли бы сделать огромный пакет в стиле Dojo. Вы могли бы сделать один без CUDA. У вас есть ресурсы и инженерный талант, чтобы сделать все это параллельно. Так зачем класть все яйца в одну корзину, учитывая, куда может пойти ИИ и какие архитектуры могут появиться? О, мы могли бы. Просто это не лучше. Мы моделируем все это в нашем симуляторе, доказуемо хуже. Так что мы не будем этого делать. Мы работаем над именно теми проектами, над которыми хотим работать. Если рабочая нагрузка кардинально изменится — и я не имею в виду алгоритмы, я имею в виду рабочую нагрузку, и это зависит от формы рынка — мы можем решить добавить другие ускорители. Например, недавно мы добавили Groq, и мы собираемся интегрировать Groq в нашу экосистему CUDA. Мы делаем это сейчас, потому что стоимость токенов так сильно выросла, что вы можете иметь разное ценообразование токенов. В старые времена токены были либо бесплатными, либо почти бесплатными. Но теперь у вас могут быть разные клиенты, и эти клиенты хотят разных ответов. Поскольку клиенты зарабатывают так много денег — например, наши инженеры-программисты — если я смогу дать им гораздо более отзывчивые токены, чтобы они были еще более продуктивными, чем сегодня, я бы заплатил за это. Но этот рынок появился только недавно. Так что я думаю, что теперь у нас есть возможность иметь ту же модель, основанную на времени отклика, иметь разные сегменты. Вот почему мы решили расширить границу Парето и создать сегмент вывода с более быстрым временем отклика, даже если пропускная способность ниже. До сих пор более высокая пропускная способность всегда была лучше. Мы думаем, что может быть мир, где могут быть токены с очень высокой ASP, и даже если пропускная способность на заводе ниже, ASP компенсируют это. Вот почему мы это сделали. Но в остальном, с точки зрения архитектуры, если бы у меня было больше денег, я бы вложил больше в архитектуру Nvidia. Я думаю, эта идея чрезвычайно премиальных токенов и просто дезагрегации рынка вывода очень интересна. Ее сегментация. Да. Хорошо, последний вопрос. Предположим, революция глубокого обучения не произошла. Что бы делала Nvidia? Очевидно, игры, но учитывая — Ускоренные вычисления, то же самое, что мы делали все время. Предпосылка нашей компании заключается в том, что закон Мура будет… Общие вычисления хороши для многих вещей, но для многих вычислений они не идеальны. Поэтому мы объединили архитектуру под названием GPU, CUDA, с ЦП, чтобы мы могли ускорить рабочую нагрузку ЦП. Различные ядра кода или алгоритмы могут быть выгружены на наш GPU. В результате вы ускоряете приложение в 100 раз, 200 раз. Где вы можете использовать это? Очевидно, инженерия и наука и физика, обработка данных, компьютерная графика, генерация изображений, всевозможные вещи. Даже если ИИ сегодня не существует, Nvidia будет очень, очень большой. Причина этого довольно фундаментальна, заключается в том, что способность общих вычислений продолжать масштабироваться в основном исчерпана. И единственный способ… Не единственный способ, но способ сделать это — через специализированное ускорение. Одна из областей, с которой мы начали, — это компьютерная графика, но есть много других областей. Есть всевозможные. Частичная физика и жидкости, обработка структурированных данных, всевозможные различные типы алгоритмов, которые выигрывают от CUDA. Наша миссия действительно заключалась в том, чтобы принести ускоренные вычисления в мир и продвинуть тип приложений, которые не могут делать общие вычисления, и масштабироваться до уровня возможностей, который помогает прорываться в определенных областях науки. Некоторые из ранних приложений включали молекулярную динамику, сейсмическую обработку для открытия энергии, обработку изображений, конечно, все эти области, где общие вычисления просто слишком неэффективны. Если бы не было ИИ, я был бы очень расстроен. Но благодаря достижениям, которые мы сделали в вычислениях, мы демократизировали глубокое обучение. Мы сделали возможным для любого исследователя, любого ученого, где угодно, любого студента, иметь доступ к ПК или карте GeForce и заниматься удивительной наукой. Это фундаментальное обещание не изменилось, даже немного. Если вы посмотрите GTC, там вся первая часть. Ничего из этого не связано с ИИ. Вся эта часть с вычислительной литографией или нашей работой по квантовой химии, работой по обработке данных, все это не связано с ИИ. И это по-прежнему очень важно. Я знаю, что ИИ очень интересен и довольно захватывающ, но есть много людей, которые занимаются очень важной работой, не связанной с ИИ, и тензоры — не единственный способ вычислений. Мы хотим помочь всем. Дженсен, спасибо вам большое. Пожалуйста. Мне понравилось. Мне тоже.