Transcription
Если вы используете Claude Code, вы наверняка слышали о новом плагине под названием Graphify, который, по сути, является решением для памяти для всех пользователей ИИ. Я уже сделал полный разбор самого Graphify, поэтому, если вы еще не видели этого, пожалуйста, посмотрите сначала здесь. Но этот плагин уже имеет более полумиллиона загрузок всего за несколько недель после его создания. И, черт возьми, у меня есть угощение для вас сегодня. Вам придется простить некоторые аудио-недоразумения, но создатель этого плагина здесь со мной в прямом эфире. И вместе в этом видео я собираюсь задать ему много тех же вопросов, которые у вас на уме об этом плагине. Это будет в стиле интервью. Мы рассмотрим его лучшие варианты использования, его вдохновение, почему он создал этот плагин, и выясним правду о том, может ли этот плагин действительно сэкономить вам 70 раз на токенах. Итак, без лишних слов, возьмите свою чашку Джо, возьмите закуску, и приступим.
Хорошо, ребята. У меня здесь Сафи. Он создатель Graphify. И сегодня мы рассмотрим некоторые распространенные вопросы, своего рода раскроем намерения и вдохновение, стоящие за созданием этого потрясающего плагина. Итак, Софи, я бы хотел, чтобы вы дали нам краткое описание. У меня есть несколько вопросов с моей стороны, так что вы можете увидеть, как я смотрю в сторону. Но дайте нам краткое описание, TL;DR того, что вы делаете в настоящее время и как эта работа привела к созданию Graphify.
>> Привет, ребята, Софи здесь, создатель Graphify. Итак, я инженер по ИИ, работаю над графами знаний уже более двух лет. У меня есть две исследовательские работы по графовым сетям и гибридным системам, которые объединяют векторные базы данных с графовыми архитектурами, и я работал над увеличением систем оперативной памяти больших языковых моделей, и именно здесь Graphify стал связующим звеном между моими исследованиями и моим опытом в области инженерии ИИ. Да. Итак, Graphify на самом деле начался как ссылка из поста Андрея Карпати. Он написал в Твиттере о структуре, когда вы можете использовать необработанные файлы данных, а затем извлекать их позже, чтобы минимизировать использование токенов вашими помощниками по кодированию, и именно тогда идея, вся идея щелкнула из моего опыта работы с графами. Я реализовал эту функцию в течение двух дней после идеи Карпати на X, и вот так все и началось, и вот мы здесь с более чем 500 тысячами загрузок на PyPI и почти 43 43 тысячами звезд на GitHub.
>> Это абсолютно дико, как все это произошло. То, что я пытаюсь понять сейчас, это: ожидали ли вы такого внимания, когда вы, ребята, когда вы изначально запустили этот продукт? Было ли это ожидаемо, или вы были действительно удивлены?
>> О, я полностью смирен этим, полностью. Я думал, что он превысит 10 тысяч звезд, возможно, потому что это был инструмент, который был нужен в час, и время было совершенно правильным, а затем сразу после поста Карпати я ожидал, что он немного взорвется, но не настолько, и я полностью смирен этим. Предложения людей, и люди используют это и публикуют это публично, как они используют мое программное обеспечение Graphify, они делают посты в LinkedIn, они делают посты в X, и, в общем, что мы можем сказать, я в дилемме, потому что это что-то, чего я никогда раньше не испытывал, и я очень взволнован этим.
>> Да, это ключевой момент. Знаете, я думаю, что перед честью приходит смирение, и сохранение смирения всегда является ключом. Это то, что делает нас привлекательными, и, насколько я знаю вас, я знаю вас за этот прошлый месяц, вы очень скромный парень, и я думаю, вы заслуживаете всего, что вас ждет. И глядя на то, что мы смотрим, глядя на то, откуда все пришло.
>> Пройдитесь по нам, ну, пока не по этой части. Что я хочу вас спросить, это когда вы смотрели на это, это было лично для вас? Вы решали личную проблему, когда создавали это? Было ли это нацелено на определенную категорию? Было ли у вас что-то на уме при создании этого, или это было больше похоже на то, что вы увидели проблему, решили ее и как бы тестировали свои навыки? Расскажите немного о том, как это выглядело.
>> Все началось как личное, как вы сказали, как я вам сказал, я инженер по ИИ. Я работаю в этой системе уже более двух лет. Так что я сталкивался с той же проблемой, что и терял контекст, как только переключался с одной сессии на другую. И ИИ-лаборатории, такие как Anthropic и OpenAI, постоянно работают над решением этой проблемы контекста при переключении с одной сессии на другую, и они также предоставляют функцию компактного разговора. Вы, должно быть, видели. И вся причина, по которой я придумал эту идею, заключалась в том, чтобы сделать что-то с этим, придумать хорошую функцию, хорошее программное обеспечение, которое может решить эту проблему не только для меня, но и для других. Это необходимо, и я придумал идею с открытым исходным кодом, чтобы сделать это, а затем, в конечном итоге, когда я увидел, что люди подхватывают мой инструмент, я полностью отдался этому, а затем начал выпускать как можно быстрее, начал интегрировать больше функций, провел некоторые исследования, а затем перешел в производство после этого. Он работает довольно хорошо на данный момент. Прошел уже месяц, и я получил приличный, приличный отклик от аудитории.
>> Да, вы определенно получили действительно хороший отклик. Итак, теперь, когда у меня есть немного больше понимания, которое я получаю, потому что именно там обычно все начинается, и рыночный спрос был там. Вы знаете, мы все это знали. Память — это огромная проблема. Это то, что многие пользователи ИИ пытаются решить прямо сейчас. Никто еще не решил ее полностью. Я хотел перейти к чему-то, что, я думаю, очень интересует многих из нас, потому что есть новички, есть средний уровень, вы знаете, пользователи ИИ, а затем есть более продвинутые. И я хочу знать, если бы вам пришлось выделить три лучших варианта использования этого продукта, возможно, для владельца бизнеса, для обычного студента колледжа, вы знаете, как разные категории людей, какие, по вашему мнению, три лучших варианта использования Graphify в вашей голове?
>> Да. Итак, скажем так, основной критерий Graphify заключается в том, что он отлично работает с вашими помощниками по кодированию. Допустим, у вас есть новый подрядчик, сотрудник, который собирается прийти в вашу компанию в качестве старшего инженера, и он хочет пройти через весь кодовую базу всей архитектуры кодовой базы вашей компании. Так что, если бы ему пришлось глубоко погрузиться во всю архитектуру, это заняло бы у него два-три дня и множество сообщений в Slack предыдущему работодателю или что-то в этом роде. Чтобы предотвратить весь этот сценарий, чтобы он возник, Graphify делает следующее: он создает карту всей кодовой базы, используя абстрактные синтаксические деревья, библиотеки. Это бесплатно, в нем не участвуют никакие LLM, поэтому он создает карту, создает узлы-боги и затем соединяет различные части кодовой базы вместе, и тогда вы можете довольно легко понять их за один раз. Это экономит вам время, экономит вам деньги. Допустим, вы нанимаете кого-то за 150 долларов в час, чтобы он просмотрел вашу кодовую базу, и вы можете сделать это бесплатно за несколько минут, и это большая рентабельность инвестиций только от инструмента. Во-вторых, скажем, вы работаете на предприятии, и у вас есть заявка на вашем бэкенде, некоторые пользователи сталкиваются с проблемой, и вам нужно исправить эту заявку как можно скорее. Что вы собираетесь делать? Возможно, один из ваших инженеров будет сидеть и исправлять это целый день или два, или придет с решением через 3 дня, верно? Чтобы сократить время, все, что вам нужно сделать, это иметь мозг здесь, у вас есть карта всей кодовой части, вы просто ищете зависимость и видите, как зависимость связана со всеми другими файлами в той же кодовой базе, и это один раз, это бум, у вас есть все решение оттуда, вы можете легко найти решение из узлов-богов всей архитектуры. В-третьих, Graphify — это не только кодовые базы. Он также предназначен для создания постоянной памяти. Итак, мы создаем карту ваших документов, ваших изображений, ваших ссылок на YouTube, ваших аудио с помощью Whisper. Итак, я преобразую все эти видео и аудио в транскрипты, а затем создаю эти тексты из этих транскриптов в виде графа, и вы можете получить практически все. Допустим, у вас была лекция, или вы хотите увидеть, вы хотите запросить лекцию Стэнфорда, скажем так, и тогда вы просто вставляете эту ссылку, получаете транскрипцию лекции, а затем у вас есть карта лекции с каждым разделом лекции, разделенным на различные графы, и вы можете получить практически все оттуда. Это экономит вам много времени, вместо того чтобы просматривать все видео, вы запрашиваете все видео за один раз. Так что это экономит вам время и деньги, и дает вам постоянную память. Вы можете продолжать добавлять контекст к тому же графу время от времени с меньшим количеством токенов, вместо того чтобы заставлять агента по кодированию проходить через весь корпус или вызывать его несколько раз для простой задачи, затем идти один раз, а затем отправлять вам окончательный ответ.
>> Правильно. И то, что я вижу, что меня действительно очень волнует, — это возможность создавать семантические отношения, то есть скрытый смысл между различными активами, что очень важно, потому что когда я что-то ищу в своих файлах Claude, это как: как этот файл действительно связан с этим файлом? Вы знаете, Claude может искать и находить разные имена файлов, но я думаю, что действительно хороший важный вариант использования, особенно номер три, для обычных повседневных пользователей. Это сопоставление на основе отношений абсолютно огромно. Теперь мы смотрим на локальную систему RAG. Вы знаете, это база данных. Это способ просмотреть всю эту информацию. И теперь с развитием всех этих различных плагинов, таких как GSD, вы знаете, вы, возможно, видели некоторые вещи, которые мы создали внутри нашей стороны Paul и Seed, у вас есть неинженеры, неразработчики, создающие, вы знаете, фактически разрабатывающие продукты. Это также способ для людей использовать эти плагины и эти уровни оркестрации для создания продуктов, сопоставления их с чем-то, что позволяет им более эффективно просматривать свои кодовые базы с меньшим количеством токенов и иметь эти отношения, связанные вместе, создавая гораздо более эффективный и даже веселый, я имею в виду, использование этих инструментов — это так весело.
>> Просто экспоненциально увеличивая нашу производительность и наши возможности. В связи с этим позвольте мне снова открыть свои вопросы. Итак, мы понимаем.
>> Я должен кое-что сказать здесь. Это лучший вариант использования. Слишком много ИИ-мусора поступает. Люди быстро выпускают продукты, используя ИИ, и они на самом деле знают, что они выпускают код. Там много мусорного кода. Так что, если вы сопоставите мусорный код, а затем вы сможете увидеть, что не так с вашим кодом, просто используя небольшой инструмент кодирования, Graphify. Так что он может помочь не-кодерам без технического образования также извлекать и исправлять проблемы со своими кодовыми базами. И это один из вариантов использования, который я забыл ранее.
>> Да, там определенно много ИИ-мусора, чувак. Итак, этот вопрос как бы связан с моим следующим вопросом, так что, возможно, мне не придется углубляться в него, но, возможно, есть конкретная рентабельность инвестиций, которую вы можете описать. Вы знаете, для большинства владельцев бизнеса, большинства моих клиентов, вы знаете, это парни, которые зарабатывают как минимум четверть миллиона долларов в год в своем бизнесе, и они хотят знать, вы знаете, потому что мы выпустили Charlie OS, и это, вы знаете, установка в один клик для Claude Code. Вы знаете, фреймворки, файловая структура, насколько важна файловая структура при использовании Claude Code внутри. Если это не настроено правильно, все остальное будет просто беспорядком. Вам нужны правильные фреймворки. Так что для тех владельцев бизнеса, которые могут это смотреть, или для кого-либо, кто хочет начать бизнес, есть ли что-нибудь, что вы могли упустить в плане Graphify, как это сэкономило? Мы знаем, как это экономит время, но есть ли что-нибудь, что вы могли упустить в том, что вы сказали о конкретной финансовой рентабельности инвестиций для бизнеса в данном случае? Есть ли что-нибудь, что вы хотели бы развить?
>> Да, как предприятие, скажем так, вы наняли нового человека, и, в общем, вся концепция заключается в цифровом мозге. Итак, мы создаем цифровую копию всей вашей компании. Допустим, контекст не сохраняется надолго. Либо он остается в вашей голове, либо он остается в сообщениях Slack. Люди забывают, о чем говорили вчера. Так что Graphify обладает способностью предоставлять вам постоянную цифровую копию всего вашего корпуса, которую вы можете извлечь в любой момент времени, вместо того чтобы тратить свое время и деньги, нанимая кого-то для поиска вещей для вас или выполнения задач для вас, которые вы можете сделать, просто используя своего собственного помощника по кодированию. Таким образом, вы сэкономите много ненужных денег, потраченных на сотрудников, выполняющих очень тривиальные задачи для вас, когда у вас есть своя цифровая копия, весь мозг вашей компании работает. Также Graphify имеет функцию инкрементного обновления, которая автоматически обновляет весь граф при каждом новом введении документов. Так что это интеллектуальный корпоративный мозг, который становится умнее со временем. Я также работаю над новым уровнем Graphify, который сделает весь мозг умнее с помощью слоя самообучения, который я собираюсь реализовать. Так что мозг Graphify будет адаптироваться к сценарию использования пользователя, например, к определенной области, скажем, вы работаете в юридических технологиях или, скорее, вы работаете в сфере недвижимости, так что весь граф начнет адаптироваться в соответствии с вашими собственными требованиями, и это мое предстоящее видение, будущее видение — помогать предприятиям на более крупных уровнях.
>> Да, мне нравится, как вы взволнованы этим продуктом, потому что многие парни, которых я встречал в этом путешествии, публикуя в социальных сетях, это всего лишь около 5 месяцев для меня, но встреча с вами и видение того, как этот продукт продвигается далеко, особенно одно видео, которое я сделал, имеет чуть менее полумиллиона просмотров. Это было огромное достижение для меня. Так что, благодаря вам и вашему продукту, я смог этого добиться. Так что, знаете, очень интересно слышать о новых разработках. Я знаю, что вы очень взволнованы корпоративным решением, и я думаю, что с правильным толчком и, надеюсь, ребята, если вы смотрите это, и это получит достаточно трафика, обязательно поставьте лайк видео. Если мы получим более тысячи лайков под этим видео, он еще не обещал снять еще одно видео со мной, но если это получит более тысячи лайков, он может быть соблазнен снять еще одно со мной, чтобы мы могли глубже изучить рабочие процессы и посмотреть, что у него есть. Итак, в любом случае, первая версия, которая вышла, верно, а затем мы перейдем к чему-то, о чем, вероятно, многие из вас любопытны, как новый пользователь будет использовать это, если вы начинаете с нуля? Мы разберемся с этим. Но я хочу спросить вас: по сравнению с первой версией, которая вышла, и тем, что у вас есть сейчас, какие ключевые отличия вы внесли в новую версию, которые делают ее еще лучше, чем когда она только вышла?
>> Да, теперь есть множество отличий. Итак, я также предоставил доступ к локальной серверной системе. Так что вы можете использовать бэкенд Olama. Раньше вы просто использовали облачные LLM, которые предоставлялись вашими помощниками по кодированию, такими как модели GPT или другие модели, или модели Opus. Они вызывали много проблем у пользователей с точки зрения сжигания токенов. Однако теперь вы можете использовать локальную модель SLM через свой бэкенд, и это довольно экономично. И у меня также есть более 27 языков. Раньше мы начинали с более чем 50 языков, так что мы прошли более 26 языков. Вы можете извлечь множество языков программирования. Итак, серверная система с локальными SLM или LLM, а затем с большим количеством языков программирования. В-третьих, я выпустил еще одну функцию. Вы можете подключить свои Google Workspace или даже свои модели AWS Bedrock к Graphify. Теперь это большое решение для предприятий, которые они искали. Так что вы можете даже собирать свои документы из Google Workspace напрямую в Graphify, создавать карту этих документов, а затем извлекать все, что хотите. Смотрите отношения на вашем сервере, если хотите. Это более интерактивно.
>> Это безумие.
>> И визуально привлекательно.
>> Да. Я использую GWS CLI. Он использовал термин SLM. Мне придется исследовать это. Я знаю, что такое LLM. Что это такое?
>> Малая языковая модель.
>> Да. Хорошо, это имеет смысл. Так что, по сути, большие языковые модели не помещаются в меньший объем ОЗУ. Вам нужно больше ОЗУ или графических процессоров, таких как ядра CUDA, чтобы поместить их. Так что вместо того, чтобы использовать LLM, вы можете просто использовать SLM. И SLM — это будущее, кстати, потому что все становится локальным, и именно это интересует людей. Так что их данные не передаются облачным LLM в будущем. И это мое видение на данный момент.
>> Да. Хорошая новость в том, что малая языковая модель, локальный материал не хуже.
>> Да, это локальная система памяти ИИ. Вот чем Graphify будет в ближайшие дни или месяцы. Практически ни один из ваших файлов не будет передаваться облачным LLM. Все будет работать локально на вашей системе. И это лучший выигрыш для предприятий в ближайшие дни. Да, это именно то, что я вижу. Когда мы достигнем точки, когда большие языковые модели станут лучше, они будут становиться все лучше и лучше, верно? Но побочным продуктом будет то, что эти малые локальные модели, это худшее, что они когда-либо будут, и они будут становиться только лучше. Так что через год малая локальная модель может быть такой же хорошей, как Opus 4.6, или, возможно, через два года. Я не знаю. Что бы вы сказали, когда у нас будет локальная модель, такая же мощная, как, скажем, Opus 4.6. шесть или 4.7, каково ваше мнение по этому поводу?
>> Возможно, через год, учитывая темпы, с которыми мы движемся, я думаю, мы скоро получим довольно умные SLM. Так что, по сути, я доработал SLM для своего случая использования, и они работают довольно хорошо, как и большие языковые модели. Так что это похоже на то, как вы можете доработать свои SLM для своего случая использования.
>> Итак, что я хочу спросить вас сейчас, это я хочу посмотреть, какой будет лучший способ для нового пользователя, который никогда раньше этого не использовал, эффективно настроить это? Потому что я знаю, что самое большое для меня было то, что я настроил это, и оно прошло через мой дневной лимит, а затем я потратил еще около 25 или 30 долларов, а я нахожусь на ежемесячном плане в 100 долларов с Claude. Как лучше всего эффективно запускать это, не убивая весь свой лимит и просто не превышая его? Что бы вы рекомендовали? Вы бы сказали, что один из джентльменов, с которым я проводил ознакомительный звонок до этого, он сказал: «Должен ли я, по сути, сказать определенное количество файлов, создать передачу, сделать остальное, или просто использовать всю свою базу данных?» И готов ли я вообще запускать Graphify для нового пользователя? Эффективно ли для них делать это с пустым кодом, особенно если они не разрабатывают вещи? Это много, я только что бросил вам, но имеет ли этот вопрос смысл?
>> Основная проблема, если вы вызываете LLM для разбора вашей кодовой базы, не имеет никакого смысла. Я дал, у нас есть там. Так что вам не нужно вызывать облачную LLM, вместо этого это бесплатно. Вызов бесплатный. Нет никаких вызовов API для LLM. Так что это работает довольно хорошо для кодовых баз. Вам нужно вызвать бэкенд LLM только для ваших документов. Абстрактные синтаксические деревья. Это бесплатная библиотека Python, которая может соединять различные части кодовой базы, такие как функции и все эти разделы кода, вместе и создавать между ними отношения в разных файлах, даже в нескольких репозиториях. Так что это бесплатно. Так что, по сути, вам нужно сделать, это с новой функцией, которую я добавил в Graphify, с серверной системой, это Olama. Так что у вас есть Lama, а также бэкенд, который также бесплатен. У вас есть локально работающие LLM или SLM для вас или с использованием API Olama. Так что вам нужно сделать, это вызвать кодовую базу, используя то, что хорошо работает для моих даже исполнителей на данный момент, а затем, если у вас есть какие-то документы, вы можете использовать LLM. Который создает семантическое извлечение корпуса из фрагментов в документе, и вот как вы можете сэкономить много денег. Во-вторых, когда вы запрашиваете граф, карту, убедитесь, что вы сначала спрашиваете, вы просите дать вам узлы-боги из всего корпуса, прежде всего. Так что, если у вас большое количество узлов-богов, это означает, что что-то пошло не так с когезией или, возможно, с вашей кодовой базой. Если вы ищете извлечение вашей кодовой базы, и если у вас есть приличное количество узлов-богов, возможно, и для документов, все работает хорошо, и тогда у вас есть вся архитектура, готовая прямо перед вашими глазами, даже ваших документов, даже вашей кодовой базы, просто запрашивая узлы-боги, и во-вторых, из узлов-богов вы можете легко увидеть, где вам нужно запрашивать и писать, чтобы минимизировать как можно больше токенов. В-третьих, также, когда вы вводите больше данных, убедитесь, что вы используете слово "обновить" также "Graphify update", чтобы он не начинал с нуля, вместо этого я использовал стратегию хеширования h 256 здесь, так что он начнет с того места, где остановился, и тогда у меня также есть некоторые методы дедупликации, так что будет очень мало совпадений сущностей в одном документе или нескольких документах, так что я позаботился обо всем. Все, что вам нужно сделать, это следовать правильным тактикам для правильных хуков, которые я поместил в файл README, или, возможно, вы можете просто попросить Claude Code объяснить, как лучше всего использовать Graphify, в качестве первоначального шага, а затем вы работаете оттуда, а также как рабочий процесс для ваших общих случаев использования.
>> Да, это имеет смысл.
>> Да. Итак, всегда помните: для кодовых баз, LLM для документов, извлечение бэкенда с использованием Llama, или если вы хотите сэкономить, или если вы хотите использовать все ваши облачные LLM, вы можете выбрать Cloud Code, Gemini, OpenAI, любую из моделей GPT. И после этого всегда выбирайте узлы-боги, и оттуда вы можете работать над чем угодно. Также убедитесь, что вам не нужно, когда вы запрашиваете граф, не просите LLM пройти через весь граф, а просите LLM извлечь из графа. Так что граф — это память, граф — это контекст. Так что всегда убедитесь, и вы можете немного поработать, и я видел, как люди, нет потолка или пола в экономии токенов. То, что у меня есть 71,5 в моем README, относится к репозиторию, который я протестировал, и я полностью упомянул, что я видел людей, которые получают снижение токенов в 90 раз при их извлечении, и есть люди, которые получают снижение токенов в 20 раз при их извлечении. Так что это полностью зависит от корпуса, и здесь нет потолка или пола.
>> Знаете, что интересно? У меня много ненависти в комментариях, и я уверен, что вы видели это. О, 70 раз, вы с ума сошли? Я говорю: "Чувак, расслабься". Все эти разные ситуации обстоятельны. Это как из того, что вы говорите, верно?
>> Вы, и позвольте мне, позвольте мне просто, позвольте мне попробовать объяснить это простыми словами, потому что, знаете, вы очень умный парень. Для меня многое из того, что вы говорите, я читаю между строк. Я слышу большие слова, и я списываю это на то, что он просто говорит, как для кода. Так что, если GSD создает приложение, хорошо, это идеально подходит. Так что в девятом классе, если бы вам пришлось объяснить это девятикласснику, как бы он смотрел на кодовую базу, отлично. Используя, вы сказали, использовать для ваших документов.
>> И вы упомянули.
>> А.
>> Llama бэкенд для документов, который также бесплатен. Так что это дает вам локальную модель, работающую на вашей собственной ОЗУ, на вашей собственной машине, вместо того, чтобы вызывать облачную LLM.
>> И я знаю, что большая часть этого уже интегрирована в Graphify. Так что, если у вас есть какие-либо вопросы по этому поводу, вы можете оставить комментарий ниже. И я бы посоветовал, чтобы получить лучшее использование или получить лучшее из этого, взять транскрипцию видео. Чего вы ждете? Подключите его к своему Claude Code, и когда вы будете настраивать или использовать Graphify, это будет идеально для вас, и я думаю, что это будет отлично для всех, кто хочет использовать Graphify. Итак, в связи с этим, я не хочу занимать слишком много вашего времени. Я знаю, что вы взволнованы ростом. Вы знаете, я могу перейти к маркетинговой стороне. Я не думаю, что вам нужна помощь с маркетингом прямо сейчас. Это взрывается само по себе с помощью охвата создателей. Итак, мы немного поговорили, может быть, нет, о будущем ИИ-памяти. Итак, есть еще два вопроса, которые я хочу задать вам. И были некоторые вопросы от моих реальных подписчиков и пользователей школы, которые имели конкретные вопросы, и это на самом деле не очень длинно. Но прежде чем я перейду к этим двум вопросам, я просто хочу развить то, что он сказал, потому что он сказал здесь кое-что очень важное. Софи, Сафи, Софи говорила, что каждая из этих ситуаций, когда вы используете Graphify, обстоятельна. Нет ни пола, ни потолка. Так что теперь, когда вы используете этот инструмент, это зависит от того, как вы его используете.
>> Так вы начнете видеть экономию. Так что, если вы не следуете этому руководству, вы знаете, он говорит о узлах-богах. Это как высокоуровневые узлы, узлы-боги, верно? Если вы, ребята, не используете это и не знаете, как это вводить при использовании Claude, он может работать и смотреть на все конкретные узлы. Так что, если вы хотите информацию высокого уровня, вы можете как бы скальпелем проникнуть в граф и получить нужную информацию с этими семантическими отношениями. Так что правильное понимание и контекст, и то, что он говорит о 70-кратном использовании, является ключом к пониманию того, действительно ли это действительна или нет. Так что я просто хочу оставить это здесь и перейти к следующим двум вопросам, прежде чем мы перейдем к вопросам пользователей. Куда мы видим будущее ИИ-памяти? И я просто хочу услышать ваши мысли там, и я хочу понять, после того как вы поделитесь этим, какой самый главный вывод вы хотите дать пользователю, который смотрит это видео? Какой самый главный вывод вы можете дать им, который увеличит их использование в 20 раз с их языковыми моделями, скажем, Claude Code? Итак, два вопроса там.
>> Да, текущее будущее ИИ-памяти всегда будет проблемой, честно говоря, если вы работали со всей структурой того, как настроены нейронные сети и как работают системы извлечения. Так что, по сути, есть люди, стартапы, которые работают над той же проблемой, например, Super Memory, они базируются в SF, Hydrab. И есть еще одна вещь под названием Gbrain от Гэри Тана, который также работает над той же проблемой больших контекстов для LLM, и рынок очень яркий в системах персональной памяти, и я считаю, что в ближайшие три года произойдет слишком много событий, и проблема никогда не будет решена, если у нас не будет новой архитектуры, кроме трансформеров, которые являются основой NLM в данный момент, потому что всегда будет галлюцинация, всегда будет потеря контекста, и они никогда не будут на 100% эффективны, как человек, и это то, что всегда будет существовать и сохраняться, но вы всегда можете оптимизировать с помощью правильных инструментов, с помощью правильных методов, как я сказал, Graphify — один из таких инструментов. Если вы оптимизируете его правильным образом, вы всегда можете иметь постоянную память вашей кодовой базы, ваших документов с инкрементными обновлениями и функциями.
>> Хорошо, теперь я вас понял. Я думаю, как мы используем вещи, будет расти, как и расход топлива в машине, мили на галлон. Мы никогда не получим неограниченный расход миль на галлон, но мы всегда можем поднять этот потолок. Мы можем изменить источник газа, вы знаете, источник энергии с газа на батарею. Мы можем продлить эти мили с помощью различной инфраструктуры и настроек. Так что я вижу, куда вы клоните, и я совершенно не возражаю. Так что, какой будет ваш самый главный вывод для всех, кто смотрит это? Что вы хотите, чтобы они знали, что находится в вашем мозгу, что позволит им использовать Graphify и полностью изменить, как бы, полностью изменить игру, используя Graphify? Каким будет этот вывод?
>> Вывод будет следующим: прежде всего, вы должны знать, что вы вкладываете в всю систему, и если вы вкладываете кодовую базу, вы должны всегда знать, что Graphify имеет это в виду. Так что вам придется потратить свои токены, чтобы получить кодовую базу. Так что играйте умно. И тогда вы можете получить много экономии. Для документов, возможно, используйте, как я уже говорил ранее в интервью, вы можете использовать SLM, работающий для вас с помощью Llama. И это также бесплатно, вместо того, чтобы использовать облачную LLM, которая стоит дорого. Во-вторых, вы можете разделить свой репозиторий или свои документы, а затем вы можете повторно ввести их таким образом, чтобы они просто добавлялись наилучшим образом, вместо того, чтобы вводить весь блок документов за один раз. Так что, по сути, мы говорим, что у Claude есть 1 миллион контекста, и все стремятся к максимальным миллионам контекста за один сеанс, верно? Но это не имеет никакого смысла. Чем больше контекста, тем выше вероятность галлюцинации или размытия в рассуждениях, и именно здесь вы проигрываете, и именно здесь возникает вся система Graphify. Так что Graphify не просто поддерживает нейронные сети, он дает начало нейросимволическим системам ИИ, где у вас есть карта или символы для поддержки нейронных сетей, чтобы дать ответ. И это все видение графа — нейросимволический ИИ.
>> Нейросимволический ИИ. Мне это нравится. Это способ упростить язык обрабатываемых данных таким образом, чтобы он был эффективным и более понятным. Нет.
>> Не совсем. Да. Итак, нейронные сети, верно? И тогда нейронные сети тоже могут галлюцинировать. Так что все извлечение, все эти пути могут галлюцинировать любой ответ. Так что, чтобы сделать эту проблему решаемой, у нас есть символы. Так что символы представлены в виде графовых структур, и тогда, если вы углубитесь в эту теорию графов, вы узнаете о нейросимволических системах ИИ, и даже графы могут дать вам возможность кластеризовать различные сообщества там, чего другие инструменты, такие как Obsidian, никогда не смогут дать вам. Я видел, как некоторые люди спрашивают, не можем ли мы просто заставить Obsidian делать это и то, и это не возможно вообще. Obsidian не может кластеризовать для вас, Obsidian не может взаимодействовать между сообществами. Он просто даст вам визуализацию, которая выглядит довольно хорошо, но нет ничего достоверного, что вы могли бы извлечь оттуда. Так что вам всегда нужна нейросимволическая структура или инструмент, который может решить это для вас за один раз, и именно здесь Graphify.
>> Да, мне это нравится, потому что это именно то, что говорили мне многие мои парни, чувак, они говорят: "Ну, могу ли я просто использовать Obsidian сам по себе?" Но это, по сути, ставит это в понятную форму, когда это в Graphify, это просто то, что уже существует, по сравнению с организацией и просеиванием с помощью вашего инструмента. Так что мне это нравится. Я думаю, вы попали в точку. И то, что я хочу посмотреть, вы знаете, мы кратко поговорили сейчас о.
>> Я работаю над еще одним исследованием для Graphify, но я буду заниматься гиперболическими вложениями, используя теорию шара, которая является довольно известной проблемой в математике с 2002 года. Это решит проблему иерархического извлечения. Так что, по сути, когда наверху есть узлы-боги, внизу есть детские узлы, а затем, когда вы спускаетесь по дереву, всегда происходит дрейф контекста. Вы теряете контекст, чем глубже вы идете в дерево. И чтобы решить эту проблему, я работаю над гиперболическими вложениями, которые дадут вам экспоненциальный нисходящий поток в граф, в дерево без потери контекста. И я думаю, что я реализую все это исследование, которое я делаю, в кодовой базе Graphify, что поможет и расширит возможности использования моих пользователей на стороне открытого исходного кода.
>> Да. Что нам придется сделать, чувак, это когда вы приедете в Штаты, нам придется встретиться. Я бы хотел сделать, даже если это, возможно, я буду во Флориде в то время, я не знаю, когда вы приедете, но если у нас будет что-то на севере штата Нью-Йорк или что-то в Нью-Джерси, мы можем спланировать заранее. Мы можем пригласить людей. Мы можем арендовать место, чтобы привлечь внимание.
>> В следующем месяце, потому что я выиграл хакатон на прошлой неделе, и они везут меня в Сан-Франциско, возможно, в июне или июле.
>> Хорошо. Да. Ну, когда бы вы ни приехали, чувак, нам придется разобраться с этим, потому что я определенно хочу провести несколько местных встреч. Но чтобы завершить это, у меня есть несколько основных вопросов. Мы кратко говорили о пересечении с Obsidian. Это не жесткая зависимость. Мы знаем, что это, я бы сказал, приличная рекомендуемая пара, потому что она визуальная.
>> Да. Контактные люди, очевидно, я думаю, это приличный способ визуализации ваших вещей. И тогда это делает их более интерактивными, чем просто просмотр всего на файлах и извлечение вещей.
>> Да. Да, я согласен с этим. Мы знаем, что Obsidian сам по себе не позволит получить лучшее из их данных. Итак, я хочу спросить вас: мы говорили о токеномике, это был большой вопрос. Что-то, что мой школьный учитель спросил, почему Graphify не поддерживает скрипты?
>> Оболочечные скрипты очень плоские, я думаю, и они очень неразборчивы. Я добавлю их в будущем, но пока, если хотите, вы можете просто передать их LLM. Так что LLM сделает следующее: вместо того, чтобы идти с A, что в настоящее время невозможно для оболочечных скриптов, вы можете просто поместить их как документы, а затем позволить LLM выполнить семантическое извлечение оболочечного скрипта, и он сможет извлечь все узлы оттуда. Это исправление на данный момент, временное исправление. Я разберусь с этим, возможно, в будущих выпусках, так что у вас могут быть и оболочечные скрипты. Но для меня оболочечные скрипты немного плоские, и именно поэтому я не включил их в начале. Если это требование, это жесткое требование, я обязательно включу это, и я более открыт для предложений PR и проблем, отправленных в репозиторий GitHub. Я исправляю их вовремя, и я очень активен на данный момент.
>> Чувак, я знаю, ты всегда в движении. Каждый раз, когда я с тобой разговариваю, ты всегда в движении. Итак, мы как бы кратко коснулись, верно? Что бы вы сделали в первые три минуты использования Graphify с совершенно новой клиентской кодовой базой, которую вы никогда не видели? Какие представления или запросы вы сначала используете, чтобы решить, является ли архитектура разумной или минным полем?
>> Да, вы говорите о кодовой базе, верно?
>> Угу. Допустим, у вас есть новый сотрудник, как я уже говорил вам в начале, который никогда не видел архитектуру, и тогда вы запускали Graphify на своей собственной кодовой базе, даже на нескольких репозиториях всей вашей компании, где он инкрементально обновлял узлы и даже узлы-боги, даже детские узлы, и даже кластеризовал их, даже объединял или соединял различные сообщества вместе, как они зависят от различных зависимостей в кодовой базе. Так что новому сотруднику или, возможно, новому контрактному старшему инженеру, который хочет взглянуть на кодовую базу и увидеть всю архитектуру за один раз, это довольно просто.
>> Верно. И я думаю, что это довольно самоочевидно, когда это запущено. Это как если бы вы лучше всего просто запустили его и посмотрели на вывод. Я имею в виду, если у вас есть подписка, это не так, как вы платите за API-вызовы. Так что да, это был отличный ответ. Токеномика мы прошли. Для людей, которые спрашивали, почему они не видят никакой экономии токенов, это из-за того, как вы его используете. Мы обсуждали это ранее в этом видео. Так что я думаю, что токеномика, практический первый запуск, пересечение с Obsidian, мы прошли. И последний вопрос: каков ваш текущий рабочий процесс? Что вы делаете, используя этот инструмент? Как выглядит ваш день с Graphify для себя?
>> Текущий рабочий процесс таков: как я уже сказал, я использовал локальные LLM с ранних дней, но дело в том, что я не включал их, так как я проводил некоторое серьезное тестирование, будут ли локальные работать хорошо или нет, и я видел, что после некоторого тестирования это работает довольно хорошо. Так что для документов, как я уже упоминал ранее, вы используете локальную LLM, а затем можете извлечь информацию оттуда. Кстати, я также добавляю коннектор к различным, даже к вашему OneNote, даже к вашему Slack, я работаю над коннекторами. Так что вы можете подключить свои сообщения Slack, а затем у вас будет карта, как и сейчас, в будущих выпусках, даже ваши сообщения Slack, даже ваши встречи, транскрипты встреч, все будет в мозге, и вы сможете работать как предприятие, это будет извлечение за один раз. Так что мой текущий рабочий процесс таков: как я уже сказал, локальная LLM для извлечения, а затем всегда сначала переходите к узлам-богам, а затем начинайте извлекать оттуда и убедитесь, что вы запрашиваете граф, а не LLM, чтобы пройти через весь корпус еще раз, и это одна вещь. Также я добавляю некоторые функции, чтобы агент был жестко закодирован или жестко сконфигурирован для прохождения через граф первым, прежде чем делать что-либо еще. Что, если, что касается того, что вы запрашиваете, когда Graphify активен в сеансе, и это то, чего я тоже с нетерпением жду.
>> Да, я думаю, что найти способ правильно заставить его работать, возможно, через хук или, возможно, в Cloud MD эти инструкции с ним эффективно, как если бы был способ интегрировать это с оптимизированным потоком для экономии токенов, и это работало бы отлично, это было бы феноменально. Я думаю, что для меня, по крайней мере, сейчас это как любая статическая информация, информация в вашей кодовой базе или для меня, использующая ее как операционный центр, мои клиенты, мои данные, все, что я делаю, у меня есть инструменты CLI MCP, но мои активы устаревают со временем, так что процесс запоминания, чтобы ухаживать за вашими данными и проходить через многое из этого становится для большинства людей ограничением. Так что я хотел бы видеть, как многие из этих вещей, которые вы делаете со временем, решаются.
>> Всегда еще одна вещь, которая только что пришла мне в голову: всегда убедитесь, что вы обновляете, вы также вводите "Graphify update", когда вы вводите новые файлы или кодовые базы или документы. Так что убедитесь, что он получает правильное введение, а не когда вы задаете вопрос, ему не придется проходить через весь код еще раз. Так что вам придется обновить его. Некоторые из техник. Возможно, я могу поделиться с вами файлом, а затем вы можете поделиться им со своей аудиторией. Например, лучший способ использования Graphify был бы очень полезен, как я делаю от самого создателя.
>> Что я хочу сделать, и я не упоминал этого раньше, но он выпускает книгу или уже выпустил вашу новую книгу.
>> Да, она вышла на Gumroad. Она называется "Слой памяти". Так что она рассказывает о всем путешествии, как я работал над графами, а также рассказывает вам о том, как графы были в компьютерных науках. Вы можете узнать о графах знаний и теории графов, спектральной теории графов, матрицах, лапласовских матрицах и всем остальном, стратегиях обнаружения сообществ с использованием алгоритмов кластеризации, ведущих в низкоуровневом пространстве. Так что вся теория о графах там, и я думаю, что это очень важно, что вы можете получить.
>> Ссылка будет в описании ниже. И если у вас есть дополнительный PDF или руководство, которое вы составили, я могу разместить его на своем веб-сайте. Так что, если вы, ребята, посмотрите описание, книга будет там. У меня может быть ресурс, в зависимости от того, хочет ли он его выпустить или нет. Но я знаю, Софи, Софи, я знаю, что ты занята, и ты ответила на так много вопросов для меня лично. Я возьму эту транскрипцию и загружу ее в свой Claude, чтобы я мог самосовершенствоваться. Мне нравится, что вы делаете, это соединение различных транскриптов Grid AI, или вы извлекаете Slack и создаете узлы для этого, и вы собираетесь создать это на корпоративном уровне. Я думаю, что это абсолютно огромно, и я думаю, что будет много способов для нас сотрудничать в будущем. Но я не хочу вас задерживать. Так что, если есть что-то, что вы хотите добавить, что вы хотите оставить людям, прежде чем мы закончим это, я бы хотел, чтобы вы поделились своими последними словами еще раз. Я знаю, что вы заняты, так что вам слово.
>> Так что другим коллегам-разработчикам я могу сказать только одно: вы можете просто делать вещи, и если у вас есть лучшая решимость, то это все. Вы можете просто делать вещи.
>> Да, мы можем просто делать вещи с Claude теперь, лучше всего сказать. Итак, ребята, если вы можете, пожалуйста, поставьте лайк видео. Подпишитесь, если вам нравится контент, который вы здесь видите. И мы с Софи попытаемся снять еще несколько видео вместе, если у него будет время. Но я также оставлю ссылки на его социальные сети ниже. Мы оставим ссылку на Graphy. Но опять же, ребята, просто оставьте комментарий ниже. Поблагодарите его за то, что он присоединился к нам сегодня, потому что он очень занят, он делает много великих дел в области ИИ-памяти, и вы должны запомнить его имя. Вы должны запомнить этого парня. Он далеко пойдет. Так что Сафи, спасибо, что присоединился к нам, брат. Очень ценю тебя.
>> Большое спасибо, Чарльз, что пригласил меня сюда.
>> Хорошо, брат.