Transcription
Сэм, спасибо, что присоединились к нам. Это кое-что, это как бы намного больше, чем предыдущие школы для стартапов. Да, я имею в виду, стартапы сейчас намного больше, чем когда-либо были. Так что, конечно. Я имею в виду, они стали больше, они больше, чем когда-либо были, благодаря видению, которое у вас было для AGI, которое близко. Я думаю, это будет лучшее время в мире для стартапа, и это будет довольно удивительно видеть.
Итак, я хотел начать с того, что вы были в самой первой группе Y Combinator в 2005 году с компанией по обмену местоположением под названием Looped. Что вы помните об этом и какая у вас была лучшая история о PG Пол Грэм? Думаю, если бы было возможно оказаться так далеко от этого момента, как я могу себе представить, то стартапы были совсем не крутыми. Мы как бы прятались в этом маленьком здании в Кембридже. PG готовил нам ужин. И то, что тогда требовало трех месяцев разработки, что каждая компания строила в течение всего стартапа YC, теперь может быть сделано примерно за семь минут с помощью кодирующего агента. И это было всего лишь, я имею в виду, всего 20 лет назад. И я думаю, разница в том, что возможно для стартапа сейчас, что стартап может взять на себя, я думаю, вы можете либо грустить и говорить: «О, чувак, подсказка кодекса — это целый стартап», либо вы можете сказать: «Я могу начать самую амбициозную сумасшедшую компанию в мире, у меня могут работать эксперты в каждой области, я могу делать эти очень сложные технологические вещи, которые были просто невозможны», и это будет удивительно, но в то время это совсем не так ощущалось, и было очень трудно что-либо сделать. Я думаю, Пол Грэм, вероятно, самая важная сила в стартапах за последние несколько десятилетий, и без сомнения. Да. Без сомнения.
И моя, своего рода, память о Поле Грэме заключается в том, что каждую неделю мы приходили, я думаю, это было по вторникам, и он готовил, он сам готовил нам ужин, и мы все приходили, чувствуя себя очень безнадежными и очень подавленными, и нас было восемь компаний, а потом мы все уходили домой, и он убедил каждого из нас, что наши стартапы вот-вот захватят мир, и мы будем следующими Google или, возможно, Facebook в то время. И эта способность как бы создавать оптимизм, импульс и веру из ничего была настоящей особенностью PG. И в первые дни, когда YC казался ужасной идеей, а стартапы казались плохой идеей, и, конечно, стартапы, которые были молодыми техническими основателями без бизнесменов, казались ужасной идеей, PG просто как бы воплотил это в жизнь. Но также нужен кто-то, кто действительно, я имею в виду, вы, как известно, являетесь образцовым человеком, даже до того, как мы вообще думали об агентах. Я имею в виду, вы просто... Я помню, Пол написал, я имею в виду, это сегодня распространяется по X, что Пол написал в конце 2000-х, что вы были одним из пяти лучших предпринимателей, которых он когда-либо встречал. Это очень мило с его стороны. Я думаю, как и многие 20-летние, у меня было много энергии и много амбиций, но это было как бы очень нецеленаправленно, и я не был уверен, что делать. У Пола была такая вещь, которую он говорил: работа хорошего инвестора в стартапы — это учитель, но это такой учитель, которого мы обычно не используем. Обычно мы думаем об учителе как о ком-то, кто читает лекцию, и вы не можете сильно помочь кому-то, читая лекцию о стартапе. Есть другой тип учителя, который похож на инструктора по полетам. человек, который сидит рядом с вами и говорит: сделай это, не делай этого, это работает, это... вы пропустили это или вы совершаете эти ошибки, и я просто поговорю с вами об этом, и такой очень практический подход... вот куда направить эту энергию, подобную энергии «коричневого в движении». Это было очень важно для меня.
Да. Я думаю, позже вы стали президентом YC, и вы привнесли именно ту же энергию во множество основателей YC на протяжении многих лет. Было ли что-то, что вас поразило в то время, связанное с тем, как взять эту сырую энергию кого-то очень, очень умного и, возможно, немного нецеленаправленного, а затем направить их больше к действию. Да. Во-первых, я люблю стартапы. Я думаю, не всем, они не для всех, но я думаю, стартапы — это самое крутое во всем бизнесе. Я думаю, стартапы — это действительно главная вещь, которая не дает экономике стать застойной. Я думаю, компании просто дрейфуют к унынию, а стартапы будут оставаться важными навсегда. На самом деле, если мы правы в том, что ИИ станет таким большим изменением, стартапы будут гораздо важнее для обеспечения того, чтобы сила этой технологии была широко распределена по всей экономике и обществу, а не просто сосредоточена в нескольких компаниях или моделях. Так что я думаю, стартапы — это такая невероятно крутая, веселая, чрезвычайно болезненная и трудная, но замечательная вещь. И я думаю, большая часть работы по управлению YC — это то, что вы как бы неофициальный знаменосец движения стартапов. Знаете, есть много стартапов. Есть много способов сделать стартап. Вам, очевидно, не нужен YC, но он всегда был огромной помощью для компаний и очень мощной силой. И поэтому, начиная с PG, а затем все мы, вы знаете, мы должны сделать YC успешным, но я думаю, мы действительно должны бороться за то, почему стартапы важны и почему люди должны рассматривать стартапы, и помочь передать относительно больше власти в руки основателей и поощрить больше людей начинать их. И это действительно хорошо сработало. Я думаю, вспоминая ранние дни YC, у основателя было очень мало рычагов по сравнению с инвестором, и этот сдвиг, я думаю, даже пошел на пользу инвесторам. Я думаю, это просто намного лучше для всей экосистемы стартапов. Так что в основном я пытался сделать в YC — это просто продвигать больше стартапов и поощрять людей думать о стартапах и выяснять, что мы можем сделать, чтобы помочь основателям и сделать стартапы и экосистему стартапов как можно лучше. Определенно частью этого было направление людей к большей амбиции и более крупным замахам. Но это ощущается как младшие лиги по сравнению с тем, что есть сейчас. Я имею в виду, я думаю, вы были одним из людей, которые действительно привнесли хард-тек в YC в очень грандиозном смысле. И тогда одна из вещей, которые мы видим сейчас в YC, заключается в том, что это число было, знаете ли, может быть, 5-10% в течение многих лет, а затем теперь мы достигаем 15-20-25%. Я бы сказал, благодаря тому, насколько проще использовать агентов и снижению затрат.
Я думаю, что амбициозные стартапы всегда потрясающие, а стартапы хард-тек привлекают многих людей, но они трудные или были трудными. Они все еще будут трудными. Но то, что вы можете сделать сейчас, чтобы взяться за действительно амбициозный проект, так же, как вы можете сделать стартап, который занял нам 3 месяца безостановочной работы за 17 секунд с тремя месяцами работы и множеством агентов, вы можете делать невероятные вещи. Так что я думаю, мы увидим золотой век стартапов, когда люди будут говорить: «Знаете что, я буду делать вещи, которые стартапу было бы совершенно невозможно даже мечтать год назад в рамках YC». Я имею в виду, это действительно большое переосмысление. Я имею в виду, есть, вероятно, люди даже в этой комнате, которые могут беспокоиться о том, что, ну, интеллект по запросу означает, что, знаете ли, они могут смотреть на Loop или мой стартап Posterous, и они говорят: «Ну, я больше не могу начать эту компанию», но, чувак, это было давно, на самом деле, чувак, есть этот мем, который ходит, который гласит: «Вам нужно присоединиться к пограничной лаборатории, иначе вы станете членом постоянного низшего класса», потому что это так глупо. Потому что будет, знаете ли, стартапы закончились, и нет никакой экономической ценности. Это неправда. Я имею в виду, если бы это было правдой, мир был бы полностью [ __ ] и это очень плохое место. Но я бы поспорил, что средние стартапы, созданные сегодня, будут... Я бы поспорил, что в этой комнате сидит будущий триллионер, и я бы поспорил, что стартапы, созданные сегодня, будут намного ценнее, намного более влиятельными, чем стартапы прошлого. И я думаю, люди это немного больше видят сейчас. Я имею в виду, был этот период, когда... ИИ просто сломает всю экономику, и я думаю, люди в основном преодолели шоковую реакцию на это. Но было, да, определенно время, я бы, знаете ли, приходил на каждую партию YC, и мне было бы интересно посмотреть, как уровень тревоги по сравнению с амбициями менялся, и казалось, что он прошел через эту большую впадину, где люди говорили: «Знаете, все кончено, модели просто съедят все», а теперь это снова: «Давайте сделаем это».
Какие есть практические вещи? Я имею в виду хард-тек, например. Я слышал, знаете ли, на одном из перерывов кто-то спрашивал: «Стоит ли мне получить докторскую степень? Насколько важны учетные данные?» Как бы вы на это ответили? Особенно для людей, которые хотят заниматься этими более сложными технологиями. Ну, как общее наблюдение, во-первых, я думаю, стартапы обычно выигрывают, когда технологический ландшафт очень быстро меняется, когда затраты снижаются, когда время цикла короткое, и все это происходит прямо сейчас. Так что, если вы посмотрите на то, когда в прошлом были большие скопления стартапов, знаете ли, был бум Интернета в 998-99 годах, когда стали возможны новые вещи. Была еще одна версия, мини-версия людей, создающих приложения для Facebook. Затем была еще одна большая версия, когда запустился App Store iPhone. Но великие стартапы имеют тенденцию концентрироваться, когда экосистема меняется, и существующие компании теряют большую часть своего преимущества. А также когда у вас есть это изменение затрат и времени цикла. Я думаю, этот момент очень важен для этих вещей. Он также имеет эту другую вещь, о которой вы говорили, что многие традиционные вещи, в которых было трудно получить экспертизу, знаете ли, возможность нанять отличных людей, которые могли бы делать конкретные вещи, которые вам нужны. Это действительно изменилось, и за последние несколько месяцев я видел много людей, которые просто выросли, используя ИИ в последние несколько лет, которые говорят: «Я могу автоматизировать целый стартап агентов, и нас четверо, и весь этот вычислительный ресурс», и я думаю, мы увидим гораздо больше этого. Я явно понимаю вкус и способность действовать и понимание, своего рода, физики бизнеса, как построить ценный бизнес, как думать о том, что такое хороший сетевой эффект или хороший ров, в отличие от фальшивого. Но я бы поспорил, что это в целом будет противоречить многолетнему опыту в пользу людей, которые очень хорошо владеют инструментами.
Я думаю, мы перейдем к началу OpenAI, и на самом деле это началось как YC Research, изучающее эту идею. Я имею в виду, довольно сумасшедшая идея, что вы и разношерстная команда решили: «Мы посвятим свою жизнь созданию AGI», но сегодня это звучит окончательно, верно? Да. Но на самом деле так не ощущалось, когда вы начинали. Это действительно трудно, потому что теперь это единственное, о чем люди хотят говорить. Очень трудно вспомнить, каким это было. Даже мне трудно вспомнить это без поиска заметок десятилетней давности, когда все говорили: «Мало того, что они ошибаются, говоря, что они думают, что возможно построить AGI, но они собираются в одиночку вызвать еще одну зиму ИИ». Они ошибаются, безответственны и плохи. И, возможно, мой высший или мой высший совет всем вам — найдите вещи, в которых вы можете развить разумную уверенность, в которых люди решают, что общепринятое мнение ошибочно. И будьте готовы к тому, что это займет много времени, и люди будут очень, очень разочаровывающе ошибаться и пренебрегать вами. Годами в OpenAI казалось, что мы знали самый большой секрет в мире. Все называли нас идиотами. И у нас были все больше и больше данных, чтобы убедить себя, что мы не бредим. И это было очень разочаровывающе. Это было чрезвычайно разочаровывающе. Но, оглядываясь назад, это был невероятный подарок, потому что у нас не было этих массовых конкурентов, и у нас было время для исследований, создания наших вещей и построения нашей компании. И с тех пор я заметил, что это так для многих компаний в разных формах. Они в конечном итоге делают что-то, что другие люди, эксперты в этой области или отрасли, убеждены, что это очень плохая идея. А с другой стороны, если вы начинаете тот же стартап, что и все остальные, вы получаете много шумихи и можете привлечь много денег, но это как бы... это гораздо реже большие возможности, большие результаты. Так что, если бы я был вами, я бы выяснил, что такое действительно большая новая вещь, которая возможна сейчас, но не была возможна несколько лет назад. В нашем случае, ИИ действительно не работал, а затем произошло волшебство глубокого обучения, и мир не обновился достаточно. Мир. Это еще один отличный афоризм PG. Мир не понимает, как интуитивно воспринимать экспоненты, и поэтому они упустили этот. Должны формироваться новые экспоненты прямо сейчас. Я не знаю, какие они. Но если вы сможете их выяснить и развить постоянную уверенность, основанную на большем количестве данных, будьте благодарны, что мир не понимает. Они в конечном итоге поймут. Это как огромная суперсила.
Похоже, в вашем путешествии было несколько разных вещей, которые сложились. Возможно, первое было даже то, что AGI можно было построить, и вы нашли других людей, которые в это верили. Знаете, не имело значения, что многие люди не думали, что это возможно, имело значение, что вы нашли действительно, действительно умных людей, которые верили в это. Да. Мы шутили, что только 50 человек в мире верили, что AGI возможен, но это было нормально, потому что 45 из них работали в OpenAI. И я думаю, это правда. Вам не нужно много людей. И на самом деле, произнесение еретической вещи, вероятно, было причиной того, что эти люди хотели быть вместе. Так что, опять же, я думаю, что действительно выяснить, во что вы верите, быть готовым к тому, что вас долго не будут понимать, и собрать команду изгоев, которые в это верят. Это также было похоже на YC в первые дни. Одна из вещей, о которых, вероятно, думают люди в комнате, это: «Ну, я верю в это, но я еще не нашел своих людей». Это как бы бред? Знаете что? Является ли это на самом деле даже воротами, которые вы предлагаете людям? Это как бы, ну, вам нужно найти, знаете ли, пять человек, которые могут в это верить, или даже одного, как соучредителя, знаете ли, люди, возможно, это одно из объяснений, почему мы так сильно любим соучредителей в YC.
Да, я думаю, если вы не можете найти никого другого, кто разделяет ваши убеждения, вам следует обратить на это внимание. И также очень трудно вести стартап в одиночку, и очень одиноко. Но я не думаю, что вам нужно находить много людей. И на самом деле, если все в это верят, это тоже плохой знак. Вопрос, я не знаю, остается ли это тем, что, по ощущениям, ограничивает больше стартапов. Но пять или десять лет назад то, что, казалось, ограничивало количество хороших стартапов, которые YC мог финансировать, — это выяснение того, как решить проблему подбора соучредителей. Много действительно талантливых людей, и они просто не могли найти свое племя. Они не могли найти своих людей. Знаете, раньше было очень еретично, что YC говорил людям, что они должны переехать в Сан-Франциско. И, оглядываясь назад, это было явно правильно. Я думаю, я не знаю, будет ли это по-прежнему верно в течение следующих 10 лет. Я подозреваю, что будет, но лучшее, что вы могли сделать, если бы вы хотели найти своих людей для стартапа, — это переехать в район залива. Просто произошло волшебство. Вы получили много удачных шансов и столкновений. Я все еще думаю, что это, вероятно, хороший совет, хотя я чувствую, что у меня меньше интуиции по этому поводу сейчас. Я также думаю, что я могу сказать это, Гэри, вероятно, не может. Я думаю, премия за прохождение YC сейчас больше, чем когда-либо прежде. Расстояние между YC и вторым местом увеличилось. И это напоминание о силе сетевых эффектов. И поэтому поиск сетей, частью которых вы можете быть, которые помогают вам просто встретить этих людей, людей, с которыми я основал OpenAI, я встречал много-много лет в некоторых случаях до основания OpenAI, и я как бы узнавал их на протяжении долгого карьерного пути, и это происходит снова и снова, поэтому чем раньше вы сможете поставить себя в поток, где вы встретите людей, которые станут вашими будущими соучредителями для стартапа или следующего, или чего-либо еще, я думаю, тем лучше. Требуется много времени, чтобы накопить.
Я думаю, я цепляюсь за то, что вы только что сказали, а именно: некоторые люди, с которыми вы в итоге начали, вы знаете, все эти разные вещи, вы не обязательно знали, для чего это, или что это будет полезно в сетевой среде вообще. Вы просто собирали крутых, интересных людей. Я думаю, вы это делаете. Я думаю, Питер Кил делает это очень, очень хорошо. Что бы вы сказали комнате людей, которые только начинают и выясняют, кто их люди? Просто ваш самый уверенный совет здесь — просто найдите способ быть немного полезным многим людям. Это весело делать. Вы увидите много интересного. Это как бы приятно быть полезным. Но знаете ли, даже тот пример, о котором вы только что говорили, я встретил Грега Брокмана, моего соучредителя OpenAI, потому что я был очень ранним инвестором в Stripe, когда мне было около 22 лет, и они сказали: «Это было до того, как у них были настоящие инвесторы, которые могли бы им действительно помочь». И они сказали: «Мы пытаемся закрыть наш первый найм. Вы не могли бы поехать в Пало-Альто сегодня вечером и поужинать с этим парнем, чтобы убедить его, что он должен бросить учебу и присоединиться к Stripe, которым является Грег Брокман». А потом, через восемь лет, мы вместе начали компанию. Так что, и я мог бы, знаете ли, мы могли бы провести остальное время, просто рассказывая такие истории, которые были совершенно непредсказуемы, но в итоге оказались важными в больших масштабах. Так что, мне весело это делать, и я думаю, вам стоит делать это по своей причине или ради себя, но просто помогать людям очень много, это очень помогает в том, чтобы эти вещи сошлись позже.
Я думаю, это действительно важное сообщение. Знаете, один из мемов сейчас — я вижу его на X — это ролевая игра в реальном времени. Это одна из вещей, которые люди говорили на X. Я имею в виду, я не могу понять, почему они это делают, потому что мне это просто кажется неправильным. Я имею в виду, одна из вещей, которые мы действительно любим в YC, например, — это искренность. И также слова имеют значение. Так что эта идея, что мы пытаемся сделать ролевую игру в реальном времени, мне как бы глубоко оскорбительна. На самом деле. Простите, ребята, пожалуйста, не делайте этого. Они говорят это конкретно о YC. Нет, люди, просто присутствующие в этой комнате, писали об этом в Твиттере, и мы хотели бы, чтобы они прекратили. Что они утверждают? В чем утверждение? Я думаю, это просто немного сарказм, и знаете ли, сарказм — это как бы противоположность тому, что я думаю, что вы и я любим. Потому что мы любим искренность, мы как бы действительно пытаемся что-то сделать здесь.
Я скажу вам еще кое-что. Могу я немного поворчать? Хорошо. Ворчите сколько угодно. G, одна из раздражающих вещей, я могу сказать это для Гэри, потому что он не может сказать это сейчас, но вы знаете, он скажет это для следующего парня. Одна из многих раздражающих вещей в управлении YC — это то, что вам просто приходится иметь дело с этими хейтерами в Твиттере все время. Это так разочаровывает. Вам приходится сидеть и быть государственным деятелем. Ну, вы лучше справляетесь. Я как бы часто поддавался на провокации. И вам просто хочется спорить с ними. И то, что я в конечном итоге понял, и возьмите из этого все, что хотите, — это очень трудно управлять YC или управлять стартапом, или создавать что-то ценное в мире. Очень легко нападать в Твиттере и делать саркастические комментарии, получать много лайков и чувствовать, что вы делаете что-то действительно важное и наносите удар по системе и говорите: «Гэри, ха-ха, я тебя достал, идиот». И это отравит вашу душу. Это морально банкротное дело. И это плохо очень коварным образом. Я полностью понимаю, что нужно выпустить пар и повеселиться, но не ставьте себе более высокую планку, чем эта. Не... Так легко нападать на людей, которые пытаются делать трудные вещи и пытаются строить компании, и вы увидите какого-нибудь, знаете ли, ребенка с плохой идеей для стартапа, пытающегося воодушевиться тем, что он делает в Твиттере. Так легко сделать саркастический комментарий и получить 10 000 лайков и почувствовать: «Черт возьми, я действительно получил свои интернет-очки сегодня». Но это повлияет на вас. И когда я размышлял о годах троллей в Твиттере, которые говорили злые вещи о YC и стартапах, пока я управлял YC, я думал: «Я уверен, что было много дней, когда они действительно чувствовали, что меня достали». И за десятилетие ни один из них не смог. И вам следует вложить всю свою энергию в создание вещей и сопротивляться легким ударам.
Я действительно люблю это как контраст. Я имею в виду, мне нравится это как контраст с историей, которую вы только что рассказали о помощи Патрику с Грегом Брокманом. Я имею в виду, знаете ли, помощь... есть люди в этой комнате, которые станут друзьями на всю жизнь, и они будут делать это друг для друга, а затем произойдут эти волшебные связи, как знаете ли, это уже самый редкий набор людей, а затем, когда вы присоединяетесь к YC, это еще более редкий, а затем есть набор людей, которые... они амбициозны. Знаете, кто-то в этой... кто-то в этой комнате встретит кого-то еще, с кем вы начнете компанию, и кто-то встретит кого-то, кто познакомит вас с вашим супругом. Все эти вещи произойдут, а затем произойдет куча неочевидных вещей, которые займут десятилетие или два, чтобы разобраться, и каким-то образом один из вас поможет другому сейчас, что превратится в что-то удивительное новое. Я думаю, это огромная часть того, что сделало YC успешным, и более широкая экосистема стартапов. Я думаю, это для всех негативных сторон культуры района залива, это своего рода свободная сеть и дух взаимопомощи, и этот очень долгосрочный взгляд были потрясающей вещью.
Хорошо, давайте вернемся к надвигающемуся AGI. Я думаю, у вас была... у нас всех была насыщенная неделя с Hugging Face. Мне интересно, что вы можете нам об этом рассказать. И я думаю, что это действительно большой момент для людей, включая меня, которые, знаете ли, в прошлом я был известен своим скептицизмом в отношении безопасности ИИ, но с другой стороны, это настоящая... мы вступаем в новый момент в том, что происходит с этими пограничными моделями. Да. Это реальная сделка. И я думаю, любой, кто не воспринимает это всерьез и, по крайней мере, немного напуган или смирен, многое из этого. Но по крайней мере немного, не воспринимает это достаточно серьезно. Знаете, долгое время поле говорило об инцидентах безопасности ИИ такой формы, и это не большой инцидент. Я также не хочу преувеличивать и говорить, что это реальный инцидент потери контроля, и это то, что... Но если бы вы спросили большинство людей, когда мы начинали 10 лет назад, где в спектре от ничего до сверхинтеллекта вы бы сказали, что система ИИ вырвалась из своей песочницы и взломала другую компанию и как бы... сделала то, что произошло. Я думаю, люди сказали бы, что это довольно далеко от точки сверхинтеллекта. Теперь цели сместились, и легко сказать: «Ну, вот как это произошло, и вот ошибки, которые допустил OpenAI», и мы, конечно, допустили некоторые большие, но эти системы стали невероятно способными. Так что я думаю, это сбой согласования. Я думаю, это сбой безопасности. Я думаю, это очень серьезная вещь, даже несмотря на то, что это не самый большой пример последствий. И я думаю, это реальное напоминание о ставках того, что происходит, и о том, что несчастные случаи с потерей контроля не являются полностью теоретическими вещами. Я думаю, мы научимся, мы, все поле, OpenAI, многому из этого и сможем решить это. Но... знаете ли, есть все эти вещи о кибербезопасности и биобезопасности, но эта другая категория вещей, которые, возможно, были просто за пределами общественного окна Овертона: «Очень важно, чтобы у нас не было несчастного случая с потерей контроля с ИИ». Очень важно, чтобы власть не была слишком сконцентрирована в небольшом количестве моделей или компаний, а была распределена по всей экономике, чтобы люди могли защитить себя, как я... знаете ли, очень важно, чтобы человеческие ценности направляли эти системы на каждом шагу. Да, я думаю, мы в настоящей, настоящей фазе этого.
Я действительно люблю, как вы думаете как о концентрации, так и о том, чтобы рассматривать OpenAI как утилиту, что на самом деле является очень важным сообщением, потому что не все говорят это сообщение, знаете ли, есть много поводов для беспокойства с точки зрения концентрации власти. Я думаю, концентрация власти была плохой практически в каждый момент человеческой истории, в разной степени, конечно, но у меня есть настоящий дух, и я думаю, это часть духа стартапа, думать, что мир, экономика, общество лучше всего, когда власть широко распределена, и когда любой с отличной идеей может начать компанию или создать отличный арт-проект, или баллотироваться на пост, или делать все, что он хочет. И я могу представить миры, где ИИ приведет к самому большому распределению власти, которое мы когда-либо видели. И я также могу представить миры, где ИИ концентрирует власть до степени, которую мы никогда не видели. И одна компания или человек или модель, имеющая больше власти, чем все остальное на Земле вместе взятое, независимо от того, что говорили научно-фантастические истории, я думаю, это ужасно. И действительно, возможно, мы получим некоторую краткосрочную выгоду от безопасности, но долгосрочную катастрофу. Я не думаю, что кто-либо из нас должен быть заперт в моральном мировоззрении одного ИИ или одного человека или одной компании. Я думаю, стартапы играют очень важную роль здесь. Один из способов, которым это происходит, — это слишком большая экономическая концентрация в одной компании или одной модели ИИ, и я думаю, что стартапы, благодаря тому, о чем мы говорили ранее, будут естественно очень хорошо подходить для обеспечения того, чтобы это было широко распределено. Но мы хотим дать возможность как можно большему количеству стартапов, компаний, людей. И это означает, что мы должны, знаете ли, быть довольно сдержанными в том, чтобы не навязывать наше мировоззрение о том, что, по нашему мнению, люди должны или не должны делать с ИИ, или даже о том, что, по нашему мнению, являются хорошими идеями, при этом гарантируя, что мы можем обеспечить достаточный уровень безопасности, чтобы такие вещи, как инцидент с Hugging Face, не происходили.
Одна из вещей, знаете ли, это комната, полная людей, которые сделают удивительные вещи. Они часто находятся в самом начале своей карьеры, и они могут посмотреть на безопасность ИИ или концентрацию власти и сказать: «Ну, я не могу этого сделать, это должны делать лаборатории», как бы... есть что-то, что они могут сделать. Я имею в виду, вы можете помочь с проблемой концентрации власти, просто начав успешный стартап, это единственное, что вы делаете, и экономика продолжает работать, и магия капитализма и наличие этой экосистемы, которая работает вместе, продолжается. Это само по себе будет огромным вкладом. Но посмотрите, я думаю, очень естественно в начале карьеры сомневаться в себе и не предполагать, что вы можете сделать что-то удивительное. Я, конечно, через это прошел, я уверен, вы тоже прошли через это. Вы учитесь по ходу дела, вы можете делать все больше и больше. Будет гораздо больше... Я думаю, что, возможно, создание сверхинтеллекта будет самым важным событием в истории бизнеса или человеческого общества, и также то, что оно померкнет по сравнению с каким-то новым стартапом, который, надеюсь, кто-то из вас сделает. И поэтому эта ловушка, как бы «это конец истории, это конец экономики», явно неверна. И я думаю, правильный подход заключается в том, что вы теперь можете сделать три месяца работы за 17 минут, но вам лучше просто сделать три месяца работы за три месяца работы. Каким бы ни был новый порог для этого.
Я, наверное, был бы неправ, если бы спросил, какой альфа-утечкой вы можете поделиться о том, что нового, насколько более потрясающими будут модели, в той мере, в какой вы можете сказать. Я думаю, будет... Я думаю, что следующие шесть месяцев будут похожи на последние два года прогресса моделей, что-то вроде того. Так что я думаю, мы пройдем через очень крутой... мы пройдем через очень крутой период, когда опять же, никогда не было лучшего времени для стартапа, чем прямо сейчас. Я надеюсь, мы сможем говорить это каждый год с этого момента, но это, безусловно, верно для этого момента в истории.
Давайте посмотрим. Если у кого-то здесь есть идея, которая кажется слишком амбициозной, что бы вы им сказали? Я бы хотел услышать эту презентацию. Да. Я, вероятно, был бы очень заинтересован в этом. Да. Отправьте мне электронное письмо. Да, похоже, это будет... это будет иметь схожую форму с созданием OpenAI, и как бы... готовы ли вы к тому, что люди будут нападать на вас или пренебрегать вами? Определенно. Я имею в виду, если вы делаете что-то значимое в мире, многие люди будут называть вас идиотом или просто пренебрегать вами. Чем больше вы делаете, тем лучше вы делаете, тем больше они будут нападать на вас. Чем больше вы угрожаете существующему положению дел, тем больше это будет эскалировать. Одна вещь, которую я заметил во многих лучших идеях, — это то, что видение ясно. Мы хотели построить AGI, но первые шаги были очень неясны. Мы не знали, что станем продуктовой компанией. Мы начали эту некоммерческую исследовательскую лабораторию по многим причинам, но одна из них заключалась в том, что нам действительно не приходило в голову, что мы будем производить продукт, за который люди смогут платить. Это было... прошло много лет, прежде чем мы придумали идею ChatGPT, API. И поэтому я думаю, что если как бы... самое высокое видение ясно, но первые несколько шагов очень неясны, это не плохо. Это часто случается с очень амбициозными идеями, и я бы не позволил этому заставить вас отступить. Теперь вам все равно придется сделать несколько шагов вперед, пусть и несовершенных, и наши, конечно, были очень несовершенными. Так что есть еще один случай неудачи, когда у вас есть эта блестящая большая идея, и вы как бы никогда не можете добиться никакого прогресса. В какой-то момент вам придется просто получить новые данные.
Что, по вашему мнению, произойдет с инференсом? Мне очень нравится твит Руна об этом. Это как бы... вы либо умираете как компания-модель, либо живете достаточно долго, чтобы продать инференс, что является очень смешным твитом Руна. Я думаю, что он имел в виду этим твитом, это... знаете ли, если вы в конечном итоге упадете с пограничной линии моделей, вы можете, по крайней мере, продать инференс, даже не обучающий вычислительный ресурс. Вычислительный ресурс настолько ценен, что если вы покупаете много вычислительных ресурсов в качестве... AI-лаборатории, вы будете в порядке, потому что вы можете перепродать его кому-то другому. Но отдельно, я бы предположил, что мировой спрос на инференс субъективно растет в 10 раз в год в течение следующих многих лет. Я имею в виду, может быть, я не знаю, по нашим подсчетам внутри YC, это может быть 90 000 раз. Я имею в виду, что мир не сможет поддерживать столько лет тысячекратного роста подряд. Ну, хорошо. Но мы постараемся изо всех сил. Мы что-нибудь придумаем. Я имею в виду, мощность, я думаю, это просто функция того, насколько больше ваши амбиции в отношении интеллекта, и как бы... если вы сделаете гораздо больше, я думаю, мы никогда не будем испытывать дефицита вычислительных ресурсов. Я никогда не видел такого товара, но мне кажется, что спрос на достаточно высококачественный интеллект по достаточно низкой цене практически не ограничен. Спрос на электричество, безусловно, растет по мере снижения цены, но в какой-то момент становится труднее придумывать дополнительные вещи, которые можно делать с электричеством. По крайней мере, исторически это так. Но знаете ли, есть много вещей, которые можно делать с дополнительным интеллектом. Вы можете просто продолжать делать вещи лучше для вас. Это напоминает мне некоторые цитаты из ранней компьютерной революции, когда люди говорили: «Никому не нужно больше 640K ОЗУ или чего-то еще в своем компьютере». Оказывается, нужно. Мы просто продолжаем думать о большем и лучшем. И я думаю, что это произойдет с ИИ, и на самом деле, возможно, статистика, которая мне очень нравится. Шесть с половиной лет назад мировым лидером по токенам был сотрудник OpenAI, использующий около 100 000 токенов в месяц. И это казалось нелепым в то время. Средний мировой показатель на душу населения составлял около нуля. Сейчас средний мировой показатель токенов в месяц, который, я думаю, токены — это самая глупая метрика, но это то, что у нас есть, составляет около 100 000, а мировой лидер по токенам в OpenAI использует сотни миллиардов. Если это повторится, что, я думаю, вероятно, произойдет, то через еще шесть с половиной лет средний человек будет использовать, скажем, 500 миллиардов токенов в месяц, а лидер по токенам будет использовать сотни триллионов или квадриллионы токенов в месяц. И я думаю, что это просто станет ожиданием.
Итак, все эти вещи происходят, они сбываются, прошло 10 лет. Какова лучшая версия этого через 10 лет с полностью доступным интеллектом, сверхинтеллектом здесь. И мы справимся. Общество справится. Я думаю, если каждый год люди будут иметь больше свободы и возможности тратить больше времени на то, что им нравится делать, и они будут чувствовать, что качество жизни и качество их времени растет год за годом, мы, вероятно, будем в порядке. Мы избежим как бы сумасшедшей концентрации власти или экономического коллапса. Мы неизбежно избежим крупного инцидента безопасности. Мы избежим слишком больших изменений за единицу времени. И знаете ли, есть одна антиутопия, которой я особенно обеспокоен через 10 лет: мы перереагируем на безопасность ИИ. И поэтому мы скажем: «Слушайте, все, вы получите лекарство от рака. Вы получите материальное изобилие, но у вас не будет свободы. У вас не будет возможности действовать. Это будет идеальное государство наблюдения. Не будет никакой конфиденциальности. И вот что вы получите. Вы получите большой комфорт, но у вас не останется ничего в мире, что вы могли бы по-настоящему делать. Ничего, что действительно имеет значение. Вы просто будете жить на службе ИИ, который дает вам материальное богатство». Я бы очень хотел этого избежать. И я думаю, легко принимать временные компромиссы. Так что, если мы скажем, что каждый год свобода и возможность действовать должны расти, люди должны больше контролировать свое время и делать больше того, что они хотят. И больше долгосрочного удовлетворения, я думаю, это было бы очень хорошо.
Позвольте мне вернуть вас на второй курс Стэнфорда. Вы идете в YC. Если бы вы могли дать себе сообщение в бутылке тому Сэму Альтману, что бы вы ему сейчас сказали? Я просто... все будет хорошо. Я имею в виду, это было... это как бы сумасшедшая и очень стрессовая вещь — запустить стартап, и мой первый стартап не очень хорошо сработал, и это было как бы трудное время в моей жизни, но одна из вещей, которую, я думаю, многие люди говорят, когда они смотрят на раннюю часть своей карьеры: вы можете совершить много ошибок, вы можете потерпеть неудачу. Техническая индустрия, в частности, очень снисходительна к этому. И я бы просто... я хотел бы, чтобы я мог сказать себе, чтобы у меня был весь драйв и амбиции, но просто быть немного счастливее по пути и доверять, что в конечном итоге все будет хорошо, потому что в данный момент это кажется таким трудным, пугающим и болезненным.
Ну, я не могу придумать лучшего способа закончить Startup School 2026. Сэм Альтман, большое вам спасибо. Спасибо.