Transcription
Google только что выпустил нечто, что делает создание систем поиска настолько простым, что вся игра изменилась. Я говорю о генерации с дополненной выборкой (rag). И если вы сейчас управляете каким-либо бизнесом, вам нужно обратить на это внимание, потому что то, что раньше требовало от вашей команды недель инженерной работы и тысяч долларов на инфраструктуру, теперь может быть сделано с помощью нескольких строк кода. Позвольте мне показать вам, что именно произошло и почему это важно для вашего бизнеса. Посмотрите, я работаю в сфере ИИ уже около 2 лет и помог более чем 30 компаниям внедрить системы автоматизации на базе ИИ. И одним из самых больших узких мест, которые я постоянно вижу, является это. Компаниям нужен ИИ, чтобы понимать их специфические данные, их документы, их процессы. Но создание системы, которая может это сделать. Это был абсолютный кошмар, потому что новый инструмент поиска файлов Gemini от Google только что превратил эту инженерную головную боль в один вызов API. И если вы управляете каким-либо бизнесом, который работает с документами, любыми клиентскими данными или любыми внутренними базами знаний, вам нужно понять, что только что изменилось. Так вот, вот что никто не обсуждает. Большие языковые модели, такие как CHBT или даже Claude, невероятны. Они могут писать, они могут кодировать, они могут даже объяснять сложные концепции, но у них есть один огромный слепой пятно. Они не знают всего о вашем мире. Так что внутренние документы вашей компании, данные ваших клиентов, заметки по вашим проектам, ваши СОП, ничего из этого. Нет никакой видимости. И да, вы можете внедрить память в LLM и даже настроить проекты и загрузить в нее некоторые файлы. Но по многим причинам это определенно не лучшая форма использования rag. И для всех, кто создает ИИ-решения для бизнеса, это было самой большой проблемой. Как заставить ИИ действительно понимать специфическую частную информацию? В то время как традиционное решение называется rag, генерация с дополненной выборкой. Но вот что большинство людей не осознают: создание rag с нуля — это многоэтапный инженерный кошмар, который требует от вас настройки векторных баз данных, управления вложениями и даже создания систем выборки, а также поддержания всей этой инфраструктуры. Так что то, на что вы смотрите, это дни, если вы технически подкованы, и недели разработки, если нет, с постоянными расходами на обслуживание и огромной технической сложностью. Теперь большинство компаний, которые хотят внедрить ИИ-решения, сталкиваются с этой стеной. Они понимают, что их ИИ должен понимать их конкретные документы и все их данные. И внезапно они видят перед собой огромный технический проект, который требует специализированных разработчиков, дорогостоящей инфраструктуры и, в конечном итоге, просто месяцев работы, чтобы запустить что-то базовое. И даже после того, как вы его создали, вам придется его поддерживать. Вам придется масштабировать его и поддерживать его работу. Это кошмар, который сделал мощные возможности ИИ недоступными для большинства компаний. Итак, позвольте мне показать вам, что только что выпустил Google, и почему это так важно. Итак, Gemini API от Google, они только что выпустили инструмент поиска по файлам. И что это делает, это дает вам полностью управляемый rag в масштабе и по цене, которая абсолютно разрушительна. Итак, позвольте мне показать вам, что я имею в виду. Итак, вот пример реализации, который демонстрирует, как это работает. Итак, вот что происходит, когда вы загружаете документ. В данном случае это просто руководство по эксплуатации автомобиля Hyundai i10. В тот момент, когда вы нажимаете "Загрузить", система автоматически выполняет семантическое разбиение, разбивая документ на осмысленные абзацы или абзацы. А затем она выполнит вложение документов, преобразовав весь этот текст просто в числовые векторы. А затем она выполнит индексацию векторов, организовав все в поисковые карты. А затем она выполнит многоуровневую выборку. Так что все эти шаги, которые обычно занимают дни или даже недели только для настройки. Они происходят автоматически всего за несколько секунд. И вот что здесь сумасшедшее: вам не нужно создавать систему rag. Вам не нужно настраивать векторную базу данных. Вам не нужно настраивать какую-либо из этих инфраструктур, потому что Gemini API делает все это за вас. И теперь вы можете задавать такие вопросы, как "Где я могу найти информацию об устранении распространенной ошибки?". И тогда он будет искать в документе, извлекать соответствующую информацию и давать вам ответ с надлежащей цитатой, показывающей, где именно он нашел ответ, как профессиональная система rag. Только вам не нужно ничего из этого создавать. И это работает не только с одним типом файлов. Я имею в виду, мы говорим о PDF, документах Word, текстовых файлах, JSON, даже файлах распространенных языков программирования. И помимо этого, вы можете создать комплексную базу знаний, используя любые форматы файлов, которые фактически использует ваш бизнес, и все это просто работает. Прежде чем мы продолжим, я хотел бы быстро упомянуть, что я делюсь полным разбором этой технологии, включая примеры кода и руководства по реализации, в моем бесплатном сообществе школы. Так что у нас там уже более 15 000 предпринимателей и владельцев бизнеса, которые просто учатся тому, как фактически внедрять ИИ в свой бизнес или управлять своим собственным ИИ-бизнесом. Ссылка будет внизу в описании. Опять же, это совершенно бесплатно. Но вернемся к видео. Итак, теперь позвольте мне просто объяснить, почему это так революционно. Итак, во-первых, чтобы это произошло, вам нужно понять, как на самом деле выглядело создание rag старым способом. Итак, традиционный процесс rag состоял из трех различных этапов. Выборка, дополнение и генерация. Звучит довольно просто, не так ли? Это не так. Итак, вот что вам на самом деле пришлось сделать. Во-первых, вам пришлось найти и разбить все на части. Так что вам пришлось разбить ваши документы на идеально подходящие части. Слишком большие, и вы теряете релевантность. Слишком маленькие, и вы теряете контекст, и это одно требует тщательной настройки и тестирования, чтобы действительно получить правильный результат. Во-вторых, создание вложений. Так что вам пришлось использовать отдельную модель для преобразования этих частей в числовые представления. Так что это означает управление еще одной моделью ИИ, оплату вызовов API и координацию всего. В-третьих, управление векторной базой данных. Так что вам пришлось настраивать, управлять и оплачивать специализированную базу данных, такую как Pine Cone или Weeviate, просто для хранения и поиска всех этих вложений. И эти базы данных мощные, но их сложно настроить и дорого запускать в масштабе. В-четвертых, создание систем выборки и ранжирования для фактического поиска и приоритизации наиболее релевантной информации. Так что вам нужно написать код, который ищет в базе данных, а затем ранжирует результаты по релевантности, а затем передает правильный контекст обратно в вашу языковую модель. Теперь каждый из этих шагов — это довольно большой инженерный проект. Так что это огромный барьер, который не позволял этой мощной технологии попасть в руки большинства разработчиков, ну, может быть, не разработчиков, но определенно бизнеса и владельцев бизнеса, особенно. И даже если вы все это наладили, вам все равно пришлось поддерживать, отслеживать и оптимизировать это, и платить за эту инфраструктуру каждый месяц. И именно поэтому большинство компаний, которые хотели, чтобы ИИ понимал их документы, либо просто сдались, либо заплатили десятки тысяч долларов агентствам, чтобы те построили его для них, как они сделали для нас. Итак, вот как поиск по файлам на самом деле работает за кулисами. Он разбит на два ключевых этапа. Итак, во-первых, будет процесс офлайн-индексации. Это то, где происходит основная работа. Так что, когда вы загружаете файл, он не просто где-то хранится. Поиск по файлам использует семантический поиск, что означает, что он фактически понимает смысл вашего текста, а не просто сопоставление ключевых слов. Так что подумайте о разнице. Традиционный поиск ищет точные слова. В семантическом поиске он понимает, что "машина не заводится" и "проблемы с зажиганием автомобиля" говорят об одном и том же. И в этом сила системы. Она автоматически разбивает ваши документы на части, а затем преобразует их во вложения, используя передовую модель вложений Gemini. А также она сохраняет их в специализированной базе данных, которую поиск по файлам управляет для вас. Так что весь этот поток от документов до вложений до базы данных — это однократный шаг индексации, который происходит автоматически. Так что вам не нужно ничего настраивать. Вам не нужно настраивать какие-либо параметры. Это просто работает для вас. А затем будет процесс запросов в реальном времени. Так что, когда пользователь задает вопрос, Gemini сначала решает, будет ли внешнее знание полезным. Если нет, он генерирует ответ из своего обучения. Но если ответ находится в ваших файлах, он идет по пути "да". Так что модель просто генерирует оптимизированные поисковые запросы и преобразует эти запросы во вложения. А затем она ищет в базе данных наиболее релевантные части текста, а затем просто передает этот контекст обратно в финальную модель, которая генерирует точный, обоснованный ответ. И весь этот сложный цикл, который вы видите здесь, полностью управляется для вас Gemini API. Так что опять же, вам не нужно ничего трогать. И вот что очень мощно, так это то, что он также выполняет параллельные запросы. Так что он ищет по нескольким разным документам одновременно и объединяет результаты менее чем за две секунды. Так что один из разработчиков раннего доступа, компания под названием Beam, которая фактически создает платформы для генерации игр на базе ИИ, ежедневно выполняет тысячи поисков по более чем 3000 файлам. И поиск по файлам справляется со всем этим бесперебойно. И вот что делает его действительно меняющим правила игры: посмотрите, насколько прост код. Это действительно всего три шага. Итак, сначала вы создаете хранилище файлов одним вызовом API. Во-вторых, вы загружаете и импортируете свой файл в этот поиск по файлам. Этот единственный вызов API запускает весь процесс офлайн-индексации. Так что разбиение, вложения, все обрабатывается автоматически. В-третьих, вы делаете запрос. Последний вызов запускает процесс запросов в реальном времени, и вы просто указываете модели на ваше хранилище, и она может сгенерировать ответ для вас. Вот и все. Так что от горы сложной инженерии до нескольких строк кода, и все разбиение и настройка автоматически обрабатываются для вас всеми этими инструментами. Так что опять же, вам не нужно об этом беспокоиться. Плюс, он предоставляет цитаты "из коробки". Так что после загрузки всех ваших файлов он автоматически предоставляет цитаты, как вы и ожидали бы от профессиональной системы rag. Так что каждый ответ включает ссылки на то, какие части ваших документов были использованы для генерации ответа. Теперь это критически важно для бизнес-приложений, где вам нужно проверять информацию и поддерживать доверие. Но опять же, это делается автоматически для вас. Вы не пишете код для отслеживания цитат. Вы даже не создаете системы для ссылки на какие-либо исходные документы. Все встроено. И кстати, если вы владелец бизнеса, который хочет, чтобы мы внедрили это для вас, или просто хотите трансформировать свой бизнес с помощью ИИ, чтобы в конечном итоге увеличить свою прибыль, сэкономить команде часы каждую неделю и фактически расти и получить преимущество над конкурентами, то вы можете перейти по ссылке внизу в описании, чтобы запланировать звонок с нашей командой, чтобы узнать больше. И мы работали с более чем 30 различными компаниями, либо обеспечивая им значительный рычаг, либо просто увеличивая их доход и позволяя им эффективно масштабироваться. Так что, если вы заинтересованы в росте своей компании, то опять же, ссылка будет внизу в описании. Это совершенно бесплатный звонок. Но с учетом сказанного, давайте вернемся к делу. Итак, теперь позвольте мне рассказать о трех самых больших прорывах, которые это фактически обеспечивает для вашего бизнеса. Итак, номер один, это будет скорость разработки. Поскольку это доступно через простой API, вы можете перейти от идеи к рабочему прототипу за часы, а не за недели. Так что мы говорим о 10-кратном сокращении времени разработки для приложений на основе rag. И то, что раньше требовало команды разработчиков, работающих неделями, теперь может сделать один человек за полдня. И это не преувеличение. Это реальность того, что изменилось. Номер два — это ценовой барьер. Он практически полностью разрушен. И это критически важный момент, который вам нужно услышать. Так что послушайте эти модели ценообразования. Хранение данных полностью бесплатно. Создание вложений во время запроса также бесплатно. Вы будете платить только за индексацию ваших файлов при их первой загрузке. И это 15 центов за 1 миллион токенов. Чтобы поставить это в перспективу, большинство документов будут стоить вам копейки для индексации. Типичный бизнес-документ, это может быть несколько тысяч токенов. Так что вы можете индексировать сотни документов буквально менее чем за доллар. После этой первоначальной индексации вы просто платите стандартные тарифы Gemini за фактическую генерацию, когда кто-то задает вопрос системе. Так что, когда вы сравниваете это с запуском собственной векторной базы данных, где вы платите ежемесячные расходы на хостинг, управляете собственными моделями вложений с, знаете ли, расходами за запрос и поддерживаете всю эту инфраструктуру, вы смотрите на потенциально сотни долларов в месяц только на расходы на инфраструктуру. Теперь с поиском по файлам вы можете запускать полную систему rag менее чем за стоимость, я бы сказал, утреннего кофе. Теперь экономия затрат здесь, очевидно, абсолютно огромна. Эта модель ценообразования буквально меняет то, кто может позволить себе создавать такие системы. Теперь номер три — вы не должны жертвовать мощностью ради простоты. Вы по-прежнему получаете поддержку для десятков типов файлов "из коробки". Так что PDF, DOCAX, TXT, JSON, даже распространенные файлы языков программирования. Вы по-прежнему получаете такое же качество результатов с их передовой моделью вложений Gemini. Вы по-прежнему получаете все встроенные цитаты и проверку. Вы просто не управляете никакой сложностью. И вот что важно: вы получаете возможности rag корпоративного уровня без сложности или стоимости корпоративного уровня. Теперь, очень быстро, позвольте мне дать вам понять, что это на самом деле означает для вашего бизнеса. Так что в течение многих лет возможность создавать ИИ, который действительно понимает ваши частные данные, была заперта за этой огромной стеной сложности и стоимости. И эта стена только что рухнула. И вот что вам нужно понять: это не просто облегчение работы для разработчиков. Это демократизация доступа к мощным возможностям ИИ, которые могут трансформировать то, как на самом деле работает ваш бизнес. Так что подумайте о своей команде поддержки клиентов, которая тратит часы на поиск документации, чтобы ответить на вопросы. Теперь, с поиском по файлам, вы можете создать систему, где они задают вопрос на естественном языке и могут мгновенно получить ответ с цитатами из вашей точной документации. Или, возможно, даже подумайте о своей команде продаж, которая вручную копается в прошлых предложениях и контрактах, чтобы найти информацию о ценах или условиях, которые вы предлагали аналогичным клиентам. Вместо этого вы можете создать систему, где они за секунды запрашивают всю вашу базу данных контактов. Или подумайте о своей операционной команде, которая пытается извлечь информацию из сотен различных внутренних документов, СОП и руководств по процессам. Вместо этого вы теперь можете создать внутренний помощник по знаниям, который фактически понимает ваши конкретные процессы и может мгновенно отвечать на любые вопросы. И вам не нужна команда инженеров, чтобы это сделать. Вам просто нужен кто-то, кто может фактически понимать ваши конкретные процессы и знает, как фактически соединить точки с такими инструментами. И это буквально именно то, что я говорю уже несколько месяцев. Технический барьер для внедрения ИИ рушится. Ценность больше не в том, чтобы знать, как создавать эти системы с нуля. Ценность буквально в том, чтобы знать, какие проблемы решать и как интегрировать эти решения в реальные рабочие процессы бизнеса. И компании, которые будут выигрывать в ближайшие 12-24 месяца, это не те, у кого самые большие команды ИИ. Это те, кто достаточно хорошо понимает свой бизнес, чтобы знать, где применять эти инструменты для максимального эффекта. И теперь, когда техническая сложность обрабатывается для вас, единственный вопрос: понимаете ли вы свой бизнес достаточно хорошо, чтобы знать, где на самом деле находятся узкие места или болевые точки. Так что, если вы дошли до этого момента, просто оставьте комментарий ниже и дайте мне знать, что вы планируете создать с помощью этой технологии. Я действительно искренне заинтересован услышать, о каких приложениях вы думаете. И если вы нашли ценность в этом разборе, пожалуйста, нажмите кнопку "Нравится" внизу и подпишитесь на канал, чтобы не пропустить видео, где я буду рассказывать о большем количестве инструментов ИИ, систем, фреймворков, которые фактически трансформируют бизнес прямо сейчас. Но с учетом сказанного, спасибо вам за просмотр, и я увижу вас в следующем.