Transcription
Существует огромный спрос на сетевые технологии. Это создает огромный спрос на инфраструктуру повсюду. Я даже не до конца понимаю, насколько велик будет спрос, и архитектура должна будет кардинально измениться, и архитектура безопасности должна будет измениться, и требования к задержке должны будут измениться, потому что безопасность не может быть полностью отделена от сети. Реальность такова, что если есть одна контринтуитивная мысль, которую я вам дам сегодня, то это то, что, по моему мнению, мы не только не находимся в пузыре в области инфраструктуры и строительства дата-центров. Я думаю, мы недооцениваем объем необходимой мощности. >> Привет всем, Дэвид Бамбл снова с удивительным ДжиТи. ДжиТи, рад снова видеть тебя на шоу. >> Дэвид Бамбл, твое шоу становится все больше и больше. Ты сейчас огромный успех. >> Большое спасибо. Я ценю это. >> Знаменитость на YouTube. >> Ну, я не знаю насчет этого, но всегда есть кто-то больше, как Мистер Бист и так далее. Но я ценю это. ДжиТи, во время основной речи ты сделал заявление, которое я слышал что-то похожее: "сетевые технологии — это сексуально". Почему ты так сказал? >> Я думаю, инфраструктура снова стала сексуальной, и инфраструктура снова стала сексуальной, потому что она стала самым востребованным товаром в эту эпоху ИИ, где причина, по которой у OpenAI не 1,6 миллиарда пользователей, а только 800 миллионов пользователей, заключается не в том, что нет достаточного спроса на 1,6 миллиарда. А в том, что недостаточно инфраструктуры, чтобы эффективно обслуживать 1,6 миллиарда пользователей. И поэтому то, что начинает происходить, — это инновации, которые происходят в инфраструктуре в областях энергоэффективности, производительности, пропускной способности и безопасности, и наблюдаемости, на самом деле беспрецедентны. И поэтому это становится очень крутым рынком. Лучшие таланты стекаются туда. И, знаете, круто быть в инфраструктуре, чего не случалось долгое время. >> Я собирался сказать, я говорю уже давно, что сетевые технологии не были крутыми, но они снова стали крутыми, но инфраструктура крутая, верно? >> И когда я думаю о сетевых технологиях, вы знаете, если вы думаете о главном ограничении, это мощность. >> Да. >> То, что происходит прямо сейчас, это то, что дата-центры строятся везде, где есть доступность электроэнергии. Так что, если главное ограничение — это мощность, а главный актив — это ГПУ, то сеть — это мультипликатор силы, потому что если у вас есть тысяча ГПУ, которые не связаны между собой, они вам не принесут никакой пользы. Да. >> Они должны быть связаны через сеть, и поэтому сеть является мультипликатором силы для того, чтобы действительно использовать это. >> Вы также упомянули, я думаю, это называется масштабирование вверх, масштабирование вширь, масштабирование по горизонтали. Что это значит? >> Итак, как это началось, эти модели были достаточно малы, чтобы поместиться на одном ГПУ для обучения. Да. И тогда модели стали больше. Да. И поэтому они сказали: "Ну, один ГПУ не сможет поместиться. У него недостаточно памяти. У него недостаточно вычислительной мощности. Поэтому мы возьмем четыре-восемь ГПУ в сервере и сделаем их когерентно связанными. Когерентно связанными означает, что они все работают в унисон друг с другом. >> И поэтому у вас появился этот сервер, который стал следующим шагом. Ну, угадайте, что произошло? Модели стали достаточно большими. Они не поместились на четыре-восемь ГПУ. Да. Так что вы начали ставить стойки этих, я имею в виду, несколько из этих серверов в стойку. Да. >> И вы начали подключать стойку, и вы знаете, у Nvidia есть NVL72, который имеет огромное количество ГПУ, более 500 ГПУ в этой стойке, а затем вы говорите: "Хорошо, этого недостаточно", и это была стойка, и вы говорите: "Хорошо, теперь мне нужны кластеры стоек". >> Мне нужны две стойки, которые могут работать вместе, которые действуют как одна когерентная система, и поэтому у вас было две стойки, и у вас было три стойки, и у вас было четыре стойки в пределах одного дата-центра, эта сетевая технология, которая проходила через стойки, это то, что они называют масштабированием по горизонтали. >> Хорошо. >> Затем, что произошло, и я знаю, вы говорили с моим коллегой Мартином. >> Да. >> Верно. И он строит наш кремний, и теперь происходит то, что эти модели стали настолько большими, что они даже не помещаются в несколько стоек в одном дата-центре. Иногда вам может понадобиться несколько дата-центров, которые нужно соединить в ультракластер. И у вас могут быть эти дата-центры на расстоянии сотен километров друг от друга, потому что иногда у вас может не быть всей доступной мощности в одном районе. Иногда у вас может не быть достаточного пространства в одном районе. И так далее. И это масштабирование по горизонтали в сетях. И в каждом из этих случаев способность соединять эти ГПУ в очень когерентную сеть с высокой производительностью, низкой задержкой и очень высокой энергоэффективностью очень важна, потому что каждый киловатт сэкономленной энергии — это киловатт энергии, который вы можете отдать ГПУ, который очень энергоемкий. И это на самом деле то, как вы должны, знаете, начать строить всю архитектуру вашей системы. Я думаю, многие люди, когда думают об ИИ, думают о Nvidia, но Nvidia не может сделать это в одиночку, верно? Есть партнерство между вами и Nvidia, особенно в области инфраструктуры, верно? >> Они отличные партнеры. Я думаю, если вы думаете об общей экосистеме, есть Nvidia, есть AMD, есть мы, есть куча других поставщиков инфраструктуры, и нам нужно убедиться, что мы работаем как открытая экосистема, потому что я думаю, прошли те дни, когда вы могли быть стражем, как вы должны убедиться, что вы работаете со всеми в экосистеме, и, кстати, для всех нас достаточно, потому что это один из самых больших, знаете ли, сдвигов платформы в человеческой истории. И каждая работа в каждой отрасли, в каждой географии и в каждом вертикальном сегменте будет переработана, и это требует огромного количества инфраструктуры. Каждый дата-центр будет переоборудован, и поэтому я думаю, у нас огромный потенциал, и для клиента лучше, если мы все будем работать вместе и сотрудничать, чтобы мы могли быстрее достичь этого результата. Многие люди, знаете ли, думают об ИИ в больших дата-центрах, но Cisco недавно что-то объявила, объясните, почему это существует. >> Мы только что объявили о партнерстве с G42. И вот что происходит в мире дата-центров. Есть огромный, я думаю, большинство людей постоянно спрашивают меня: "Мы в пузыре?" >> Да. >> Верно. И реальность такова, что если есть одна контринтуитивная мысль, которую я вам дам сегодня, то это то, что, по моему мнению, мы не только не находимся в пузыре в области инфраструктуры и строительства дата-центров. Я думаю, мы недооцениваем объем необходимой мощности, и в настоящее время планируется строительство триллионов долларов, десятки гигаватт мощности. Я думаю, мы недооцениваем эту мощность. Я думаю, нам понадобится больше. И это, на мой взгляд, то, что люди еще не полностью осознали. Теперь, вопрос, который вы можете мне задать: почему вы думаете, что нам нужно больше? >> Да, именно так. Потому что каждое приложение, как мы даже не начали, мы даже не разогрелись на предприятии. Мы просто работаем над потребительскими вариантами использования, и сами по себе потребительские варианты использования, у них заканчивается, знаете ли, вычислительная мощность, чтобы обслуживать такие варианты использования, как Sora 2. Как я думаю, есть гораздо больший сигнал спроса на такие варианты использования, чем инфраструктура для его обслуживания. И поэтому я чувствую, что будет продолжаться аппетит к потреблению все большего и большего количества этих вещей, потому что, знаете ли, OpenAI заслуживает большой похвалы за то, что они создали продукты, к которым люди постоянно возвращаются. Они начали, и мы с вами говорили об этом, я думаю, в прошлый раз, когда мы были здесь. Они начали с плана за 20 долларов. >> Да. >> Верно. Они теряли деньги на плане за 20 долларов. Поэтому они перешли на план за 200 долларов. Сколько раз вы знаете компанию, которая увеличивает цену в 10 раз, когда что-то действительно происходит? >> Итак, они сделали 10-кратное увеличение своего плана с более высоким уровнем. Они теряют деньги на этом. >> Моя догадка, что со временем у них будет план за 2000 долларов и план за 20000 долларов, по мере появления этих агентов. И это говорит нам о том, что существует ненасытная потребность в аппетите пользователей к использованию этих систем, но это требует строительства инфраструктуры в масштабах триллионов долларов. >> Итак, Cisco объявила на этой неделе об устройстве для периферийных вычислений. Как это вписывается в это? Потому что я думаю, большинство людей, когда они думают об ИИ, они думают о больших дата-центрах, о которых мы говорили. Это на самом деле очень. Если вы думаете о главной задаче, которую мы выполняем в дата-центре, это генерация токенов, верно? Генерация токенов будет напрямую пропорциональна способности каждой страны иметь хорошую здоровую экономику и высокий растущий ВВП, а также обеспечить, чтобы они могли иметь эффективную национальную безопасность. Так что эти дата-центры генерируют токены. Каждая страна и каждая компания заботятся о том, чтобы у них было достаточно мощностей для генерации токенов. До сих пор большая часть генерации токенов происходила в дата-центрах, и это отлично. Но по мере появления робототехники, по мере того, как устройства IoT становятся более распространенными, по мере того, как вы начинаете видеть большее распространение данных, генерируемых на периферии, и что я имею в виду под периферией? Филиал, производственный цех, магазин, спортивный стадион. Любая из этих областей, где может быть больница, иногда вам может понадобиться генерировать токены там, близко к месту генерации данных, а не фактически передавать данные в дата-центр. >> Да. >> А. И поэтому мы хотели сделать следующее: если это филиал банка, и они хотят выйти и выполнить какую-то задачу, связанную с поддержкой клиентов, и они хотят иметь какие-то возможности на периферии, которые они хотят обрабатывать. Проблема, с которой вы сталкиваетесь в таких периферийных возможностях, заключается в том, что не везде есть хороший надежный IT-персонал. Вы знаете, это сложно. Вы можете купить сетевые решения у одного поставщика, безопасность у другого. Вы можете купить вычислительные мощности у третьего. Вам нужно все это соединить. Провода болтаются. Это действительно беспорядочная ситуация. У вас недостаточно места, где вы это размещаете. Это в каком-то шкафу. У вас недостаточно требований к питанию. Вы знаете, нет требований к охлаждению. Все это становится проблемой. >> Да. >> Верно. И поэтому мы сказали: "Что, если мы сможем сделать инференс массово упрощенным и сделать его plug-and-play для периферии, потому что мы не хотим, чтобы инференс и генерация токенов происходили только в дата-центре. В некоторых случаях вы хотите иметь возможность генерировать токены на периферии. Да. И поскольку вы хотите, чтобы это происходило на периферии, у нас должны быть простые plug-and-play устройства, потому что у вас нет местного персонала, но это устройство должно управляться из центрального местоположения. Так что у вас должно быть правильное программное обеспечение для управления устройствами. И поэтому, по сути, это то, что мы сделали с Cisco Unified Edge: мы предоставили эту платформу. Это не совсем сервер. Это платформа, которая имеет вычислительные мощности, безопасность, сетевые возможности, наблюдаемость и платформу управления, которую вы можете использовать для проведения рабочих нагрузок инференса на периферии или даже общих вычислительных рабочих нагрузок на периферии. Когда мы в последний раз говорили, я думаю, я дал вам викторину и спросил: "Где мы на этой кривой с ИИ?" И вы сказали: "Появляются новые вещи". И я думаю, что агентный ИИ только начался. Как агентный ИИ влияет на сети сегодня и куда он движется? >> Я думаю, если вы верите, что мы собираемся стать свидетелями одного из самых глубоких совокупных увеличений пропускной способности на душу населения и производительности на душу населения. Тогда, если вы верите в это, то вы должны верить, что эти агенты, которые будут работать 7 на 24 >> от нашего имени, будут нуждаться в большом количестве, знаете ли, пропускной способности. >> Да. >> Верно. >> И поэтому будет экспоненциальная кривая сигнала спроса на сетевые технологии, вычислительные мощности и электроэнергию, по сути, инфраструктуру для организаций. И поэтому, по сути, это то, что мы видим: огромный всплеск спроса, и по мере того, как вы видите всплеск спроса, вы знаете, что будет продолжаться необходимость в обеспечении того, чтобы у нас были шаблоны инференса, которые будут меняться, и вот как шаблон инференса будет меняться. Раньше, в эпоху чат-ботов, вы задавали вопрос, получали ответ, и этот шаблон был очень пиковым. Прямо сейчас вы видите гораздо более постоянный, устойчивый шаблон спроса на инференс, потому что эти агенты будут работать 7 на 24. В среднем, у каждого человека будет, возможно, 10, возможно, 100 агентов. Каждый человек будет менеджером агентов, верно? И поэтому, когда у вас есть все эти агенты, которыми управляют эти люди, которые будут работать круглосуточно от нашего имени, просто будет больше требований к мощности инференса, и это не будет пиковым. Это будет относительно постоянным и устойчивым. >> Похоже, существует огромный спрос на сетевые технологии. Это создает огромный спрос на инфраструктуру повсюду. Я не думаю, что мы даже полностью осознаем, насколько велик будет спрос, и архитектура должна будет кардинально измениться, и архитектура безопасности должна будет измениться, и требования к задержке должны будут измениться, потому что вы не можете иметь безопасность, полностью отделенную от сети, когда вы хотите фактически обрабатывать вещи на очень высоких скоростях на линейной скорости, и поэтому эти вещи будут все больше и больше сливаться, и именно здесь у нас в Cisco есть огромное преимущество, потому что мы — компания, которая объединяет сетевые технологии, безопасность и машинные данные. >> Связано ли это с дефицитом доверия, о котором я слышал, как вы говорили? >> Да. Итак, я думаю, дефицит доверия, как я думаю об этом, заключается в том, что мы, эти системы, эти системы ИИ, которые используются прямо сейчас. >> Есть три ограничения, на мой взгляд. Есть первое ограничение — это инфраструктура. Есть второе ограничение — это дефицит доверия, и третье — это пробел в данных. >> Хорошо. >> Дефицит доверия, по сути, говорит вам, что если люди не доверяют этим системам, они не будут их использовать. Верно? Это первый раз, когда безопасность не за счет производительности. Безопасность — это предпосылка для производительности. Если люди хотят использовать ИИ, им нужно будет убедиться, что эти системы безопасны. В противном случае они не захотят их использовать. >> Именно. >> И поэтому я думаю, что есть этот пробел в доверии, который потребители испытывают прямо сейчас, когда они используют ИИ, который должен быть преодолен и должен быть смягчен. И это требует, чтобы у нас были эти модели, которые в основном непредсказуемы в поведении. Мы можем установить для них ограничения после того, как оценим, где они могут вести себя неправильно, и именно это мы делаем с AI Defense. Да. >> Верно. А затем пробел в данных — это третья область. Но прямо сейчас большинство этих моделей обучаются на данных, сгенерированных людьми и общедоступных данных из Интернета. Верно. Со временем, по мере того, как агенты становятся все более и более распространенными, вам нужно будет убедиться, что эти агенты сами генерируют значительное количество данных. Это машинные данные. >> Да. И нам нужно убедиться, что эти машинные данные, по сути, коррелируют с данными, сгенерированными людьми, потому что сегодня машины, и под машинами я подразумеваю журналы, события, метрики, трассировки, все то, что генерирует приложение, которое говорит вам, как ведет себя приложение. Ну, каждый агент — это приложение, верно? И поэтому вам нужно генерировать данные, чтобы просто знать, как все работает. И разве не было бы здорово, если бы эти временные ряды данных, которые в основном используются для обнаружения взломов, выявления, знаете ли, расследования атаки безопасности, которая происходит. Что мы можем сделать с этими машинами данными, чтобы коррелировать их с данными, сгенерированными людьми, чтобы получить лучшие выводы? Большинство компаний считают, что их данные — это их преимущество, но они не знают, как эффективно использовать эти данные с ИИ. И именно здесь у нас есть основная инфраструктура, чтобы сказать: "О, если вы генерируете кучу машинных данных, мы можем предоставить вам Splunk, который дает вам платформу для использования этих машинных данных и их корреляции с человеческими данными, чтобы вы теперь могли получить лучшие выводы". >> Мне это нравится. Я брал интервью у одного из сотрудников Splunk, и это звучит удивительно, как вы также сделали некоторые из этого с открытым исходным кодом. >> Да. Модель временных рядов была моделью с открытыми весами, и причина, по которой мы хотим это сделать, заключается в том, что мы хотим, чтобы сообщество участвовало с нами в создании все большего количества инноваций, а не было закрытой системой. Поэтому мы фактически открыли нашу модель безопасности и нашу модель временных рядов. >> Мы говорили на днях, и вы сказали мне, что много путешествуете. Вы >> К сожалению, я не люблю путешествовать, но я думаю, это часть работы. >> Да. И вы недавно были на Ближнем Востоке. >> Да. Итак, YouTube — это люди имеют мнения о YouTube. У каждого есть мнение, но вы видите, что происходит, и вы много путешествуете и получаете много отзывов от клиентов. Так что вы можете нам рассказать о том, что на самом деле происходит и куда мы движемся? >> Я думаю, это глобальное явление. Куда бы вы ни пошли, тема разговора — ИИ. Куда бы вы ни пошли, тема разговора — как мне нужно убедиться, что я как страна имею правильный уровень мощности для генерации токенов, потому что это будет напрямую пропорционально и напрямую связано с моим экономическим процветанием, и это будет напрямую связано с моей национальной безопасностью. И поэтому каждый политический лидер в мире, каждый бизнес-лидер в мире думает о том, как преодолеть ограничения инфраструктуры, как преодолеть ограничения безопасности и как преодолеть пробелы в данных. И мы были на Ближнем Востоке. Мы были в Саудовской Аравии, а также в ОАЭ. Мы встречались с Его Королевским Высочеством. Я был там три раза за последние 6 месяцев. >> Вау. Я, знаете ли, встречался с людьми в ОАЭ, и я думаю, что они впечатляют тем, что они делают в обеих этих странах, и они строят инфраструктуру в масштабах гигаватт, и, знаете ли, G42 — наш клиент, и у нас очень тесные отношения с ними. >> Humane — это тот, с кем мы очень тесно сотрудничаем. На самом деле, люди, которые работают в Humane. Мы работали с ними раньше. Так что они знают, на что мы способны, потому что мы построили сеть Reliance Geo, и некоторые люди были вовлечены в это, и мы построили и помогли построить сеть Rakutan, и некоторые люди были вовлечены в это. У нас есть немалый опыт в построении устойчивой инфраструктуры, и я чувствую, что наши следующие несколько лет будут действительно захватывающими для того, что это, честно говоря, принесет человечеству. Я имею в виду, дата-центр — это средство для достижения цели, а не сама цель. Какова цель? Цель в том, что мы сможем лечить рак по-другому. Мы сможем обеспечить решение проблем для продления продолжительности жизни человека и улучшения качества жизни, и обеспечить лучшее образование, и обеспечить лучшее здравоохранение, и обеспечить более эффективную работу бизнеса, и эти конечные цели будут достигнуты, и они будут опираться на эту инфраструктуру. Так что то, что мы делаем, на самом деле очень полезно, потому что это действительно фундаментально изменит то, как работает мир. Так другими словами, я часто слышу это: "ИИ отнимет мою работу". Нет будущего, но вы видите это по-другому. >> Это хороший вопрос. Я рад, что вы его задали, потому что я думаю, что существует переоцененный нарратив о том, что ИИ отнимет мою работу. Как я думаю об этом, есть три уровня зрелости в том, как люди думают. >> Уровень один, зрелость. Люди думают, что ИИ отнимет мою работу. Затем они понимают, что ИИ не отнимет мою работу. Человек, который использует ИИ лучше меня, отнимет мою работу. А затем вскоре после этого они понимают: "О, дело не в том, что кто-то отнимет мою работу. Дело в том, что я понимаю, что без ИИ я не смогу выполнять свою работу". И если вы думаете об инновации электронной таблицы, вы думаете об инновации Интернета, можете ли вы представить себе жизнь прямо сейчас без Интернета? >> Да, именно. >> И без браузера, как это было бы очень, очень изнурительно. >> Именно. >> И поэтому я чувствую, что этот переоцененный нарратив о том, что ИИ отнимет мою работу. Все начальные должности исчезнут. Мы никогда больше не будем нанимать никого, кто выходит из колледжа. Я имею в виду, честно говоря, я думаю, что это очень глупый способ смотреть на вещи, потому что то, что мы должны делать, это смотреть на то, как мы продолжаем вводить новый талант, который может принести свежие перспективы в рабочую силу, что затем позволит нам делать разные вещи, как если вы посмотрите на 20-летнего и 30-летнего и сравните, как они работают с ИИ, 30-летний может использовать его очень транзакционно. Я собираюсь выйти и убедиться, что это поисковая система на стероидах. 20-летний использует его как компаньон. О, это здорово. Я могу, я могу, я могу мозговой штурм с ним. Я могу просить идеи, и это не транзакционные отношения. И я думаю, мы как вид многому можем научиться у следующего поколения, которое появляется, потому что у них всегда есть новые идеи, знаете ли, и каждое поколение, на мой взгляд, всегда приносит новые способы подхода и решения проблем. И в тот момент, когда вы фактически останавливаете их от входа в рабочую силу, как вы полезны через некоторое время? Так что это не имеет для меня никакого смысла. И я знаю, что ваша аудитория — это молодые люди, начинающие карьеру. >> Я бы сказал, будьте очень взволнованы, но не сидите в стороне и не владейте своим обучением. Убедитесь, что вы учитесь экспоненциально, потому что то, что сделает ИИ, — это сожмет время, которое нам потребуется для обучения. >> Джи, к сожалению, у нас закончилось время. Мне хотелось бы, чтобы вы остались подольше. Большое спасибо за то, что поделились. Спасибо за позитивное послание. Пожалуйста.