Transcription
Вы наверняка слышали про Квен, семейство LLM моделей от Alibaba Cloud. Они показывают очень хорошие результаты. Я лично достаточно много с Quenter поигрался и остался доволен. Они стоят ощутимо дешевле. Допустим, Cloud SNT 4, которые мне нравится больше, но при этом уходят в гораздо большие суммы.
А сейчас самое подходящее время, чтобы с Квен семейством, ивенкоer в особенности, познакомиться и познакомиться бесплатно. Дело в том, что Alibaba Cloud от лица Qulm выпустил Quen Code. Qen Code как приложение, как ассистент для AI разработки мне не очень понравился. Он достаточно малофункциональный. Kill code. R code умеют делать гораздо больше. Но а Code имеет на сегодняшний день очень-очень хороший фриer, бесплатный уровень: 2.000 запросов в день, 60 запросов в минуту. Всё это по нулевой стоимости для индивидуальных пользователей. В общем, прекрасное предложение.
Сегодня мы поставим Qн Code, но использовать мы его не будем, а использовать мы будем Kill Code, который настроен для совместной работы с Нкоode. Таким образом, мы получим все преимущества бесплатного Freier от, но при этом использовать будем знакомый и гораздо более мощный инструмент, сохраняя все преимущества бесплатного уровня.
Настроить кила или рукоуд на работу с квеном. Можно сн как провайдер можно двумя способами. Либо через Openouter, либо напрямую используя Qucode. Через Open Router проще настроить, но там могут быть нюансы. Openroutter как проксивис может добавлять свои собственные задержки, свои собственные какие-то ограничения и так далее. И если я не ошибаюсь, при подключении через Openутер там будет только 1.000 запросов в день. Всё равно должно быть достаточно. А, но гораздо интереснее, конечно, получить все преимущества бесплатного уровня напрямую.
Давайте посмотрим, как всё это настраивается. Там на самом деле всё достаточно просто. Значит, первое, что нам понадобится, нам понадобится, чтобы у нас была установлена нода, а версии 20 или больше. У меня установлено версией 2019. Соответственно, вам понадобится что-то там 20+. Как устанавливать ноду, я рассказывать не буду. Надеюсь, сами знаете. Если не знаете, полно мануалов в интернете. Ссылочку на установку ноды добавлю в описании видео.
Теперь следующее, что нас интересует, нас интересует установка самого Quode. Устанавливать мы его будем при помощи npm. И устанавливать мы его будем глобально. Делается это как обычно команда npm install - g, чтобы установить его глобально. Quн code. Quen cod latest последняя версия. Всё отлично. Квен установился, и по умолчанию он не будет доступен, потому что эта сессия у меня ещё про него не знает. Я перезапущу сессию. Можно просто открыть, закрыть окно. И после этого Квен становится доступен. Соответственно, мы можем посмотреть его версию и убедиться, что он версией 008, что показывает, что наши китайские и китайские друзья понятия не имеют о семантическим версионированием. Ну ничего, бывает. А нам это использовать преимущество Квен не помешает.
Соответственно, следующее, что нас интересует - это непосредственно запуск. Квен пытается предложить нам задавать вопросы, редактировать файлы и всё остальное. Но первое, что нам нужно сделать, нам нужно аутентифицироваться. Нас интересует Quen OA авторизация не через Open AI, но через Quen OAV, потому что это создаст нам необходимые конфигурационные файлы, которые нам потом позволят Kill Code или Rкоode настроить на работу с этим провайдером. Кстати, когда я записываю это видео, если я не ошибаюсь, такой способ подключения доступен только через килокод. В рукоуд он должен попасть, ну, не знаю, может быть, несколько дней, может быть, неделю спустя.
А, всё отлично. Здесь консоль начинает сходить с ума. А нужно сходить вот по этой ссылке или засканировать QR-код внизу. Я просто скажу по этой ссылке. Интересно, как его так перекособачило, но ссылка, я надеюсь, откроется. Да, ну бывает, бывает. Ничего, я попробую до ссылки добраться. Во, отлично, отлично открывается. Открыл я эту ссылку. Прекрасно. Ээ, теперь нужно создать аккаунт на AI. Я просто законнекчусь с Гуглом. Всё отлично. А, да, я хочу залогиниться, как Алекс Волочнев. А, access. Так, ээ, slide to verify. Отлично. Заслайдили. Сейчас я залогинен. Да, я хочу залогиниться в Que. Confirm. А вот нотификация успешная. Go to command line interface and use quen code. А, отлично. Я думаю, что я могу вернуться. Вот всё, Квен уже попустила, и он выглядит более человекоподобным. Сам квен использовать у меня сейчас большого интереса нет. Я хочу просто проверить, что оно вообще работает. Так, Hello, how can I assist you today? Ну что, кажется, работает. Значит, я пока отсюда выйду. Так интересно, как мне, кстати, предлагается отсюда выйти? Стандартный. А, Ctrl D два раза. Всё отлично. Да, мы видим статистику работы. А, два запроса, 12.000 токенов. А, всё должно быть полностью бесплатно. Ну, скажем так, никаких кредитных карт я не регистрировал, естественно, на, как вы только что видели. Соответственно, всё бесплатно.
А что меня теперь интересует? Меня интересует, нам должна была появиться специальная папочка Квен. И в папочке должна была должен был появиться вот такой вот файл CRATS Jon. Сам я этот файл вам показывать не буду, потому что там будет мой API токен. А, но необходимые данные там наверняка есть, судя по тому, что система работает.
Теперь, что я хочу сделать? Я запущу ээ Visual Studio Code. Отлично. И у меня уже установлен здесь Qлокод. В килокоде я обычно использую Cloud Sunet 4, но это денег стоит. Поработать побольше с Quпю от его создателей. Это интересно, это хорошо. Соответственно, продолжаем настраивать. Обратите внимание, выбор модели вот здесь вот QU 3 Quent Recorder- это будет не совсем тот Quentкоoder, который нам нужен. А таким образом мы будем работать через килокод, через Openраутер. Соответственно, нам это не интересно, мы хотим работать через QuнC. Соответственно, я иду в настройки, в провайдеры, создаю новый профиль для упрощения. А, ну, я его так и назову. Qu code. API провайдера. Здесь устанавливаю как QuдE приходится пролистать немножко вниз. Если у вас такого провайдера нет, значит плагин ещё у вас не обновился. Сходите, обновите плагин. Это спылу сжару нововведения конца прошлой недели. Соответственно всё code. И он спрашивает for он спрашивает где credentials puff. Это домашняя папка. Готово. То есть мне даже менять ничего не надо. Всё замечательно, всё хорошо.
Теперь я могу выбрать модель, с которой я хочу работать. На сегодня доступны модели Quenter Plus и Quenter Flash. Флш будет побыстрее, а плюс будет поумнее. Ну, допустим, я хочу плюс. Контекстное окно 1 млн токенов. Это хорошо, это дорого, богато, потому что у других inference провайдеer это окно значительно меньше, когда я последний раз проверял, проверял буквально вчера. Объясню, в чём фишка. Quenter - это open sourceная модель. Её теоретически можете вы сами у себя на домашнем компьютере запустить и продавать друзьям соседям. А тот, кто так делает, то есть запускает openсоourceную модель у себя и продаёт доступ к ней, а окружающим, он называется Inference Provider, и он может брать за это какие-то свои деньги, соответственно, и от его железа, от его инфраструктуры определяется, какое будет контекстное окно. Так вот, до сих пор Квентри контекстное окно, которое я видел у разных инференспровайдеров, было примерно 200.000 токенов. Здесь в пять раз больше. Прекрасно, очень хорошо, очень замечательно. А в Advanced Settings ничего особо интересного я не вижу пока, поэтому останавливаться на Advanced Settings я не буду. Всё, скажем. Скажем. А, и по идее у меня Qode подключен и настроен.
Мы можем попробовать, а, задать ему, например, какой-нибудь вопрос. Quant recoder. Нет, почему default? Я не хочу default. Я хочу code. Вот. Отлично. И я могу ему сказать: "What is project about?" Запрос пошёл. отвечает очень шустренько. Опять-таки, у меня был достаточно неприятный опыт работы с Quent Recorder до этого, используя Inference Providers, которые отвечали очень туго и медленно. Соответственно, мы видим, что он отбомбил у нас очень быстро, очень хорошо. Вопросов никаких нет. И, а, если вы обратили уже внимание, может быть, у нас здесь нигде не указана никакая цена. Почему? Потому что для нас это бесплатно. Мы используем фритир, не платим ни копейки, можем пользоваться, можем работать. Собственно говоря, всё.
Большое спасибо за внимание. В комментариях под видео расскажите м что, собственно говоря, как у вас опыт SquНCer, получилось ли всё установить, настроить и как вообще дела. Если если хотите поговорить за это более подробно, то в описании видео есть ссылка на наш Telegram-чат. Буду очень рад ответить на вопросы вживую. просто поболтать. Удачной установки и приятного кодинга.