📱

Get Our Mobile App

Take your business learning on the go!

Download on the App StoreGet it on Google Play

Your Free AI Workstation : Run Powerful LLMs in VS Code Using Google Colab GPU (No Setup Needed!)

Bhavesh Bhatt4:38

Transcription

Мы все любим кодировать в VS Code. Всё настраивается: от тем до расширений, и кодирование просто кажется лёгким. Но бывают моменты, особенно в области науки о данных, когда мы запускаем тяжёлые модели или задачи с большими данными. Наши локальные машины начинают тормозить. Включается вентилятор, производительность падает, и внезапно прогресс замедляется. Вот тогда мы обращаемся к Google Colab. Он лёгкий, мощный и даёт нам доступ к бесплатным GPU, лёгкому сотрудничеству и нулевой настройке. Это как иметь суперкомпьютер, готовый в вашем браузере. Но опять же, переключение между Colab и VS Code может быть немного хлопотным, верно? Что, если бы вы могли получить лучшее из обоих миров? Комфорт и гибкость VS Code и облачная мощь Google Colab. Ну, теперь вы можете с новым расширением Google Colab для VS Code. Вы можете напрямую подключаться к Colab, беспрепятственно запускать ноутбуки и ускорять свой рабочий процесс. Давайте посмотрим, как это работает. Это наш любимый VS Code. У меня есть ранний доступ к расширению Google Colab. Но прежде чем мы двинемся дальше, я хочу показать вам точную версию, на которой я нахожусь, с точки зрения VS Code. Я сейчас на версии 1.105.1. 105.1, когда вы будете смотреть это видео, Colab будет доступен как расширение для поиска. У меня есть расширение в виде файла V6. Так что я установлю из файла, который у меня есть. Теперь установка завершена. Первое, что я сделаю, это создам простой Jupyter-ноутбук. Я назову его demo.ipb. Файл IPYB. Теперь я выберу ядро. Ядро, которое я выбрал, это collab, и я нажимаю автоподключение. В первый раз, когда вы используете это, расширение попросит вас войти в Google. Так что вам придётся разрешить это, дать доступ к вашему профилю, и это всё. Как только вы это сделаете, вы выберете Python в качестве ядра. И это всё. Теперь, когда я начинаю печатать import numpy as np, import pandas as pd. И когда я запускаю это, вы, по сути, используете серверы, доступные на Google Colab. И вот так вы как бы выполняете код. Верно? Теперь, когда я запускаю команду nvidia smi, она говорит мне, что команда не найдена. Почему? Потому что по умолчанию вы создали экземпляр CPU. Теперь, что, если я хочу экземпляр GPU на Google Colab? Ну, вы можете сделать это из самого VS Code. Позвольте мне показать вам, как. Я нажимаю на ядро Python 3. Я нажимаю новый сервер Colab. Я нажимаю GPU. Я нажимаю T4 и нажимаю Enter. Вот и всё. Теперь, когда я выполняю import numpy as np и import pandas pd, это выполняется в экземпляре GPU. Технически это выполняется и на CPU, но отличающаяся команда — Nvidia Smi. Когда я запускаю это, здесь вы можете увидеть, что у вас есть доступ к GPU Tesla T4. Теперь я могу перейти дальше и создать простое решение для анализа настроений, чтобы проверить, всё ли работает нормально. Позвольте мне начать с импорта pipeline из transformers. Это работает. Затем я создаю конвейер анализа настроений и передаю device equal to zero, чтобы эта модель находилась на GPU. Я создаю переменную под названием text to analyze, которая гласит: collab на VS Code — это потрясающе. И, наконец, когда я вызываю конвейер, передавая входной текст, он даёт мне, что метка — положительная. Я запускаю простую модель на основе bird для анализа настроений на Google Colab, используя VS Code. Нет никаких странных расширений. Это стандартное официальное расширение Colab, которое доступно прямо сейчас. Я настоятельно рекомендую всем вам использовать его, потому что, если вам нужен вычислительный ресурс в случае разработки LLM, то Google Colab — это то, что вам определённо следует использовать, и вы можете делать это локально через ваше приложение VS Code. Это всё, что я хотел вам показать. Я хотел показать вам, как вы можете объединить мощь VS Code с Google Colab и создавать потрясающие LLM-приложения в облаке. Спасибо за просмотр видео. Подпишитесь на больше таких потрясающих видео об AI и LLM.