Transcription
Привет, ребята, я собираюсь рассказать вам о некоторых проблемах, которые люди, только начинающие заниматься исследованиями в области ИИ, могут не понять сначала или могут не осознать или не увидеть. Это моя большая языковая модель, Blueberry LLM, по которой я пишу свою диссертацию, свою научную работу по ИИ. Первое, на что стоит обратить внимание, это то, что исследования в области ИИ на самом деле довольно одиноки. Итак, сначала кажется, что люди публикуют статьи в LinkedIn, в X. Они получают много просмотров, много лайков. Но это так редко. И даже если вы получите эти просмотры и лайки, это не настоящее общение. Так что исследования в области ИИ для меня кажутся очень одинокими. Теперь вам это может показаться не таким одиноким, потому что я на самом деле довольно экстраверт. Так что, если взять 100 случайных людей с улицы, возможно, только один или два будут более экстравертными, чем я. Итак, вот как я справляюсь с этой проблемой одиночества в исследованиях ИИ. Итак, каждый день я должен выходить на несколько часов на улицу, в город. Итак, я сейчас живу в Будапеште, Венгрия. Это большой город. Здесь много иностранцев, много туристов. Так что очень легко заводить новых друзей. Теперь проблема с выходом с вашими существующими друзьями в том, что у них может не быть времени. Они могут не захотеть идти туда, куда хотите пойти вы. Так что для меня я просто выхожу в город. Здесь много туристических мест. Я могу легко, э-э, разговаривать с людьми, заводить новых друзей, и я также изучаю иностранные языки, такие как мандаринский. Это делает мне еще легче заводить друзей. И преимущество этого метода в том, что я могу идти, когда захочу. Я могу вернуться, когда захочу. Я могу идти куда угодно, в отличие от того, чтобы идти с другом, что я всегда, что я иногда делаю. Но им обычно не хочется разговаривать или подходить к случайным людям, что на самом деле довольно, э-э, интересно и захватывающе для меня. Так что это один из способов справиться с этим одиночеством, которое может возникнуть в исследованиях ИИ. если вам не особенно нравится сидеть дома весь день, и ваши социальные потребности не будут удовлетворяться исследованиями ИИ, даже если вы известный или состоявшийся исследователь. Так что я всегда упоминаю этих двух людей в своих видео в качестве примеров, э-э, состоявшихся или успешных исследователей. Это Ян Линь и Судиан Линь. Так что я уверен, что, хотя они уже известны в этой области и состоялись, э-э, их социальные потребности не будут удовлетворяться их исследованиями. Теперь я не знаю, любят ли они общаться или нет, но я могу гарантировать вам, что даже если вы станете таким же состоявшимся или успешным, вам все равно придется выходить и общаться, и решать эту проблему общения отдельно, потому что она не будет исходить из исследований ИИ. Но занятия исследованиями ИИ, инженерией или математикой или подобными вещами могут сделать людей более заинтересованными в вас, когда вы идете и встречаете новых друзей, потому что у вас есть цель, у вас есть цель, у вас есть эти знания и навыки, и все это. Так что, помимо одиночества, которое вы можете испытывать и с которым можете справляться по-другому, есть вторая вещь: это занимает десятилетия. Так что я вернусь к Сузиану, и если вы зайдете сюда, в его блог, он публикуется с 2009 года, блоги, записи в блогах, и теперь он весьма успешен. Так что я считаю, что его записи в блогах принесли хорошие позитивные изменения. Так что он работает в Kim, но это заняло 16 лет. Так что это займет 5, 10, 15, 20 лет и для вас, и это просто долгий путь. Так что, э-э, вам нужно четко определить свои причины для занятий исследованиями в области ИИ, и это не будет социальное признание или общение. Это должно быть что-то другое. Так что вы можете быть заинтересованы в понимании реальности, мира, ИИ, математики, или вы хотите помочь создать эту технологию, передовую технологию для всех, и знайте, что это займет, э-э, много-много лет или десятилетий. И когда вышел Kim K2, он считался одной из лучших моделей ИИ в мире. Так что мне было интересно, сколько из этого было Сузиан Линь. Э-э, и я написал в Твиттере, и он сказал, что его вклад незначителен по сравнению с вкладом всех остальных, если смотреть в широком масштабе. И я забыл упомянуть, что он изобретатель rope. Так что вращающиеся позиционные вложения, они используются повсюду. Но это вышло из одного или двух десятилетий исследований этого, написания блогов, э-э, несколько раз в месяц. Так что это просто очень долгий путь. И даже несмотря на то, что он изобрел rope, как я уже упоминал ранее, эта слава не удовлетворит социальные потребности человека. Слава в интернете или то, что люди знают о вас, не может сравниться с тем, что вы просто разговариваете с кем-то в течение 20 минут. Выход и разговор с кем-то в течение 20 минут, тусовка — это настоящий способ общаться. И это не заменяется этой интернет-славой или лайками или чем-либо еще. Так что просто помните об этом, когда вы решаете заняться этой областью, и вы можете попробовать сами, и вы поймете, особенно если вы новичок, что погоня за лайками, просмотрами и подписчиками и подобными вещами не сравнится с тем, чтобы просто выйти и поговорить с людьми и пообщаться, а лайки и просмотры забудутся завтра. Тогда вы поймете, вы будете искать долгосрочные вещи. Вы начнете спрашивать себя: хорошо, эта интернет-слава, x, просмотры и лайки, это очень быстро уходит. Так что же я изобрету, что люди будут читать через 300 лет? Вот что вы начнете спрашивать себя. А затем другой пример — Ян Сонг, и она известна тем, что пытается найти лучшие, более эффективные механизмы внимания. Сначала кажется, что эта работа заключается только в линейном внимании, но на самом деле, если вы занимаетесь этими исследованиями, вам нужно понимать математику, основы, трансформеры. Так что специализация в чем-то подобном позволяет вам глубоко понять всю область или будущее ИИ, будущее LLM, будущее трансформеров, и это хороший пример того, как может выглядеть успешный карьерный путь. Вы выберете что-то, а затем углубитесь в это. Но опять же, просто потому, что вы специализируетесь на чем-то одном, это не значит, что вы знаете только это. Я уверен, что если вы сделаете что-то подобное, вам нужно будет знать все о трансформерах и о том, как превзойти трансформеры к следующей архитектуре. Так что это гораздо более общие знания, которые вы получите, чем просто линейное внимание, как кажется на первый взгляд, и вам решать, что вы хотите делать. Так что в настоящее время я на самом деле так не уверен, должны ли это быть LLM или что-то еще. Я понятия не имею. Это как 50/50, как будто, является ли LLM будущим, должен ли я сосредоточиться на LLM, или это будет что-то другое, как Japa или какой-то другой механизм, но что бы я ни делал, даже если это как LLM, я все еще учусь об оптимизаторах, о размере пакета, скорости обучения, всех этих основах, которые будут легко перенесены на любую другую архитектуру, которая появится после LLM, так что не пугайтесь и просто следуйте своему любопытству, следуйте своему интересу, и вы сами найдете свой путь вперед. И последнее, что я слышал большую часть времени, ваши эксперименты будут проваливаться. Так что это не будет так радостно большую часть времени, но затем вы в конечном итоге что-то обнаружите, и именно так вы достигаете научного прогресса. Если вы заинтересованы в том, чтобы стать исследователем ИИ, вы можете посмотреть мой трехчасовой курс на YouTube. Это вся ваша дорожная карта, которую вам нужно изучить. И как только вы освоите эти концепции, вы сможете, э-э, читать научные статьи по ИИ, понимать их и продолжать исследования на их основе. А затем вы также можете присоединиться к моей школе. У нас есть все эти, э-э, уроки, курсы, занятия, и всего за 9 долларов в месяц вы станете исследователем ИИ с 7-дневной бесплатной пробной версией. Так что вы можете увидеть, хотите ли вы этого или нет. Ссылка под видео. Я также рекомендую это видео, Adam Optimizer. Оно научит вас шаг за шагом этому самому известному оптимизатору, и вы поймете основы других оптимизаторов. Эта дорожная карта исследований ИИ научит вас всему, что вам нужно знать, э-э, чтобы стать исследователем ИИ, чтобы иметь возможность понимать научные статьи по ИИ и продолжать исследования на их основе.