Transcription
Добрый вечер. Как меня слышно, видно? Дайте, пожалуйста, обратную связь, напишите в чате.
У нас уже 20:00 по Москве, и мы с вами будем начинать наш сегодняшний открытый урок на тему: "Как запустить и продукт с нуля". А начиная от гипотезы и заканчивая конечными первыми результатами, которые вы можете получить с помощью использования а данной технологии.
Спасибо большое за обратную связь. Вижу плюсики в чате. Нас пока всего здесь девять человек. Я думаю, народ потихонечку подтянется. А, и давайте приступать. Я рад вас приветствовать на нашем открытом уроке в рамках курса управления АИМ продуктом. Давайте знакомиться, давайте смотреть. Про плюсики я вижу, что вы уже написали. А, полностью всё замечательно, связь хорошая. Если будут возникать какие-то проблемы или что-то будет, а, там, проблемы со звуком, с видео, всякое бывает, пожалуйста, пишите в чате. Будем всё смотреть. Надеюсь, всё будет в порядке.
Итак, давайте кратко представлюсь, расскажу про себя, а чем я занимаюсь и почему именно я буду сегодня с вами в течение ближайших часа полтора. Меня зовут Игорь Зуриев. Я являюсь руководителем IT-проектов по внедрению искусственного интеллекта, аэ, в различные бизнес-процессы. В настоящее время мы с командой реализуем амбициозные продукты в рамках аэропорта Шереметьева, других структур, а, и полностью стараемся внедрить эти интересные технологии в существующие бизнес-процессы. И это касается не только обычных нейросетей, которые доступны практически каждому. Это касается и машинному обучению с нуля. А это касается того, когда мы берём модельку в открытом доступе, они есть на Hugan Face, дообучаем, проводим так называемый файнтюнинг и внедряем бизнес-процессы.
В целом я уже 12 лет в сфере IT, в сфере управления проектами. Из них на протяжении ближайших 6 лет а активно также занимаюсь преподавательской деятельностью. Это моя параллельная вторая, так сказать, а активность. и создаю различные программы, обучающие по направлению Product, project management и, конечно же, искусственный интеллект, нейросети. Также делюсь своим опытом в части бизнес-аналитики и системной аналитики. А на протяжении ближайших 4-5 лет уже активно использую нейросети в своих бизнес-процессах и, конечно же, внедряю это всё, а, в рамках своих проектов. Здесь также вы видите мои контакты и QR-код на мой авторский Telegram-канал про искусственный интеллект и нейросети. А ближе к концу, когда мы будем завершать, я даже прямо скину вам уже ссылку сюда на канал, если вам интересно. А, подписывайтесь, присоединяйтесь, будем вместе развиваться в этом направлении.
Итак, давайте посмотрим на правила нашего вебинара. А любые вопросы, которые у вас возникают, не стесняйтесь, прямо пишите в чат. Я его вижу, он у меня открыт, поэтому я буду своевременно стараться на них отвечать по мере того, как буду останавливаться, завершать логическую мысль и, конечно же, если у вас уместные вопросы, ответим сразу, всё разберём, чтобы мы далеко с вами не уходили. Запись вебинара будет, пройдёт она на почту, но лучше смотреть в онлайн-формате, потому что таким образом вы сможете получить ответы как можно быстро, как можно быстрее, точнее говоря, и, конечно же, своевременно, своевременно получить всю обратную связь, которая вам, а, потребуется по итогу просмотра нашего сегодняшнего занятия. Вот такие вот достаточно простые, незамысловатые правила нашего вебинара.
Теперь давайте познакомимся с вами. Напишите, пожалуйста, какая у вас актуальная должность и работаете ли вы или, может быть, работали с МL продуктами. То есть это продукты по искусственному интеллекту, по внедрению искусственного интеллекта либо по машинному обучению. То есть есть два таких ветвления, там где можно использовать классические алгоритмы. Это machine learning. Есть светление, где вот прямо искусственный интеллект в виде лэмок, в виде моделей встраивается в продукт, и он выполняет какую-то функцию. Есть вообще проекты, где с помощью иишек создаются такие продукты, то есть это вайп-кодинг. Уже есть продукты автоматизации, например, это что-то, когда вы делаете на базе Nмен, NAM, по-разному его называют, но суть одна и та же. Поэтому напишите, пожалуйста, какая у вас актуальная должность и работали ли вы с похожими продуктами. Может быть, даже что-то уже удалось вам сделать, внедрить, потрогать, пощупать, так сказать, в рамках своих проектов. Давайте познакомимся.
Так, жду ваших сообщений в чате. Так, прекрасно. PM сделал solo GPT п N сервис сводного прайса. Работаю а над автоматизацией продаж автозапчастей. GPT плюс кодекс. Интересное решение. Ээ, согласен. Может быть, уже даже клод-код использовали. Тоже хорошее, интересное решение для создания продукта, особенно написания кода. Конечно, кодекс он более такой, я бы сказал, гуманный в части своих лимитов, нодкод тоже делает интересные вещи. Так, хорошо. Остальных ждём буквально пару сообщений и будем начинать.
Пока вы пишите, давайте познакомимся вообще с платформой OTUS. Что это такое? А чем мы с вами занимаемся? И вообще немножко введу вас курс дела того, чем занимается OTUS. На самом деле OTUS - это интересная достаточно онлайн-платформа для обучения, для прохождения различных курсов по разным направлениям. Мы создаём авторские онлайн-курсы для IT-специалистов абсолютно разных уровней. Это может быть джуниор, midle, lead, а, senior. То есть в зависимости от того, какая у вас позиция, какой у вас уровень развития на текущей позиции, вы можете подобрать актуальный курс по вашему направлению, по прокачке ваших скилов. В основном это хардскилы. А, пожалуйста, у нас достаточно большой выбор. Есть образовательная лицензия, то есть по окончанию образовательных программ мы выдаём удостоверение о повышении квалификации и, конечно же, дипломы о профессиональной переподготовке благодаря тому, что имеется образовательная лицензия. Направление курсов очень разнообразные, то есть порядка более 130 курсов, даже уже доходит до 150 курсов. Это и программирование, и безопасность, игде, и анализ, аналитика, датааналитика, бизнес-аналитика, системная аналитика, архитектурные решения, инфраструктура, управление проектами, искусственный интеллект, нейросети, и governance, а, очень много направлений. То есть вы можете более детально ознакомиться со всеми этими направлениями курсов прямо на платформе OTUS. А, вижу, вижу пока только от вас сообщение. Хотел клодкод, но вовремя подъехал кодекс. Хорошо, не вопрос. На самом деле, и там, и там есть свои плюсы и минусы. И то, и другое решение достаточно крутое. В принципе, справляется с основными задачами. Я вижу, что пока больше никто не представился. Решили остаться анонимными и а не писать кратко о себе. Ну, всё же я жду, потому что это очень интересно, и это поможет нам в дальнейшем с вами и структурировать диалог, и, конечно же, аа, получать вам обратную связь по вашим вопросам с учётом того, чем вы занимаетесь, то есть больше информации.
Давайте приступать. У нас сегодня тема: как запустить и продукт с нуля, то есть, что необходимо, чтобы это всё реализовать. На самом деле тема очень обширная, и уместить всё буквально, а, в 1 час, потому что, ну, 1-то часа, у нас с вами такой тайминг на сегодня будет не так-то просто, но я думаю, что основную концепцию, основные мысли мы точно с вами сегодня сформулируем. И, конечно же, вы уйдёте с практической ценностью, а, по крайней мере, с пищей для размышления, которую вы уже сможете применить в рамках своих проектов, посмотреть, подумать и, возможно, что-то интересное уже начать создавать. Мы с вами закончили с необходимой вводной частью. Давайте приступать.
А здесь сразу, конечно же, хотелось бы обозначить маршрут нашего вебинара, то есть про что мы будем говорить. А, итак, перед нами данный слайд. Он представляет основные пункты нашего сегодняшнего с вами вебинара.
Первый шаг. Мы с вами поговорим про то, как выбрать идею для и продукта, проверить её на реальную бизнес-ценность. То есть мы начнём с самого важного. Это самый важный первый шаг. Ни в коем случае не выбор модели, не выбор нейросети, не покупка видеокарт. Надо начать с поиска ответа на вопрос: зачем? То есть, по статистике, около 80% и инициатив в больших корпорациях, да и даже в малом бизнесе умирают на стадии пилота. Почему? Потому что, ну, то есть не потому, что алгоритмы плохие, да, или неправильно выбрали модель, нет, а потому, что они решают порой несуществующую проблему, надуманную, потому что глубинная проблема, она не лежит на поверхности. И мы с вами разберём, как отсеивать вот эти вот галлюцинации стейкхолдеров, грубо говоря, да, а заинтересованных сторон проекта и, а, отделять их от реальных болей бизнеса, то есть от реальных проблем, которые существуют в бизнесе.
В рамках второго шага мы с вами поговорим о том, какие данные нужны для того, чтобы стартовать, и как вообще оценить качество этих данных. То есть, допустим, мы нашли крутую идею, а мы приходим к разработчикам, говорим: "Ребята, делаем". Они смотрят на нас и спрашивают: "А на чём обучать модель?" А данные - это нефть. Нефть для искусственного интеллекта - это топливо, на котором оно на котором он держится. И если у вас нет данных, то, по сути дела у вас нет продукта. А если ваши данные грязные, ваш продукт будет выдавать полный бред. Это сразу нужно определить. И мы с вами научимся проводить как раз-таки такой быстрый аудит до того, как потратим, а первые инвестиции на разработку.
В рамках третьего шага мы поговорим про то, как собирается MVP, а для и продукта, то есть как выбирается модель, архитектура, инструменты. Мы перейдём к тому самому железу, к архитектуре, потому что MVP как минимальный жизнеспособный продукт в мире искусственного интеллекта имеет свою очень такую интересную специфику. Мы поговорим о том, когда стоит использовать готовые решения, а, например, по апе прокидывать модельки от OpenI, Яндекса, Сбера, Квена, Дипсика и так далее. А когда нужно разворачивать модель локально, ну и, соответственно, что выбирать?
А в рамках четвёртого шага мы будем говорить про основные ошибки, которые очень часто совершают при запуске и продукта. Мы с вами поговорим про то, как их избежать. А потому что ошибки анализировать, изучать - это очень хорошо. А желательно не просто изучать, анализировать, а желательно, конечно же, не допускать в своих проектах.
Ну и пятый шаг. Мы поговорим про курс, про то, чему мы обучаем в рамках нашего направления. А курс у нас достаточно интересный, я более детально расскажу.
Итак, цель нашего вебинара сегодня - это, конечно же, во-первых, аа, ну, давайте чётко так сформулируем. Первое - это поговорить про успешный запуск продуктов, как вообще не пладить кучу различных речев, research and development. А потому что в Data Science очень часто есть огромный соблазн уйти именно в бесконечное улучшение продуктов, бесконечное улучшение метрик. Датасаентист, он может полгода выжимать, не знаю, там ещё полпроцента точности из модели. А в бизнесе это не так важно порой. То есть ваш смысл порой сказать стоп, нам достаточно, не знаю, там 85% точности для минимальной версии продукта. Мы идём там в продакшн, собираем обратную связь, смотрим и при необходимости корректируем. Поэтому, когда вы управляете проектом, вы являетесь таким голосом бизнеса аа в команде разработчиков.
Второй момент - это, конечно же, избегать типовых ошибок. А вы изначально должны стать таким своеобразным счетом для бюджета вашей компании, вашего проекта. То есть, когда стейк, а, прибегает с горящими глазами, кричит: "Давайте сделаем там свой чат GPT, крутую модель для бухгалтерии". Именно вы должны оценить, насколько хорошая эта идея. А, например, у вас может не быть оцифрованной базы знаний, аренда серверов с ГПУ для того, чтобы там обучить модель с нуля, будет стоить дорого. Например, там обойдётся в 5 млн руб. в месяц. Экономика будет не сходиться. То есть порой очень крутая идея, она стоит дорого, но выхлоп от неё будет небольшим.
Третий момент - это, конечно же, эффективно управлять командой, командой Data Science. Это вообще отдельный вид такого искусства, потому что управлять классическими там разработчиками, а порой бывает даже сложно, да, но там хотя бы есть детерминированность. То есть написал функцию, она работает. В data Science результат вероятностный. То есть модель может обучиться хорошо, может плохо, может время занять на обучение модели неделя, а может даже и больше. И по итогу можете получить вообще мусор. А мы с вами посмотрим, как от этого от всего уйти, как с этим работать. И, конечно же, смысл в чём? для того, чтобы правильно, успешно выстраивать стратегию по запуску своих и продуктов с нуля, избегать, конечно же, типовых ошибок и эффективно управлять командой Data Science.
Первый момент - это хайп или реальность. А здесь, а, очень интересно, мы сейчас в самом пике так называемого цикла хайпа. То есть помните двадцать третий год, когда выходит чат GPT, мир сходит с ума, говорит: "Вау, просто супер". То есть был такой "Вауфкт". И у инвесторов появляется фома, а то есть страх упущенной выгоды. Каждую неделю там на различных ресурсах появляются сотни новых и стартапов. Все кричат отовсюду, что это круто, это замечательно, давайте что-то делать, давайте что-то внедрять. А, да, действительно круто, но, к сожалению, не всегда это применимо. А, и да, да, PM не даст выжимать полпроцента. Согласен с вами. А, смотрите, теперь давайте посмотрим в правый блок. У нас здесь указана реальность. В реальности что происходит? 90% тех стартапов там за двадцать третий год, аа, которые представляли собой просто красивую обёртку, м, они умерли. То есть они сожгли инвестиции, они закрылись. Почему? Потому что, грубо говоря, сам по себе чат GPT или там любая другая -модель под капотом не делает ваш продукт успешным. Доступ к продвинутым лмкам сейчас есть у всех. все могут что-то сделать, а это больше не какое-то такое конкурентное преимущество. Это просто уже базовый базовый именно инструмент, да, как электричество, как облачный хостинг. Вы там не хвастаетесь же инвестором, смотрите, наш продукт работает на электричестве. То же самое с AI. А что происходит сейчас? Реальность такова, что искусственный интеллект в успешном продукте, он решает очень узкую, конкретную задачу и делает это бесшовно. Почему? Потому что, если мы возьмём общедоступные нейронки, они обучены на большой базе знаний. У неё, у любой такой эллэмки, есть информация, есть знания обо всём практически, да? То есть по чуть-чуть из каждой области, из каждой сферы. С одной стороны, хорошо, она универсальная, она, так сказать, мультимодальная, но с другой стороны, она не может решать конкретную узкую задачу. И вот специфика создания сейчас продуктов - это как раз-таки решить какую-то очень узкую задачу, сделать это максимально дёшево, быстро и эффективно. А, например, система для врачей, да, которые анализируют рентгеновские снимки. Ожидание. Ожидание заключается в том, что искусственный интеллект будет ставить диагноз, назначать лечение, выписывать там рецепты. Реальность совсем иная. Искусственный интеллект просто подсвечивает, грубо говоря, там красным контуром какую-нибудь подозрительную область на снимке, чтобы, ну, так сказать, уставший врач или неопытный врач, а, мог быстренько заметить вот эти аномалии. Более того, искусственный интеллект, он требует, э, я бы сказал, бесшовной интеграции в бизнес-процессы. То есть, если вашему там менеджеру по продажам нужно открыть отдельную вкладку, скопировать туда текст, а письмо клиенту написать, то есть поработать в разных инструментах, порой это усложняет процесс. Ему гораздо быстрее это сделать вручную самостоятельно. Поэтому искусственный интеллект, он должен быть внутри вашего продукта незаметен. То есть функционал визуальный тот же самый, под капотом движок - это и модель. И тогда вы будете решать необходимую задачу.
А теперь у нас с вами есть идея. Идея - это всегда хорошо, а, но важно искать и отвечать не на вопрос, где применить искусственный интеллект, а отвечать на вопрос, какую проблему нужно решить. То есть звучит банально, да? А тем не менее, вы не представляете, сколько там умных, образованных людей с NBA совершают эту ошибку раз заразом. И я вас уверяю, что даже когда вы начинаете внедрять искусственный интеллект у себя там в процессах, у себя в компании, а первое, с чем к вам прибегает руководство, а давайте внедрим Ии. А внедрим и куда? Зачем? На этот вопрос ни у кого порой нет ответа. А ни в коем случае нельзя, допустим, просто внедрять и ради того, чтобы он был, потому что это порой будет и дорого, и сложно, и вы не получите ожидаемого результата. Как мыслить с точки зрения правильно продуктовой команды, продуктового такого подхода? Не надо думать об и на старте. А когда вы подходите с точки зрения продукта, вам нужно идти в поля к своим пользователям, к своим сотрудникам, а, и как раз-таки искать те самые проблемные моменты, те самые места, где компания теряет деньги, теряет время, что-то делает не так. А, то есть, допустим, вы идёте и смотрите, что ваши операторы там техподдержки первой линии тратят в среднем 20 минут на обработку одной входящей заявки, в рамках которой, а, не знаю, там задаётся очень такой банальный простой вопрос. А из-за этого копится бэклок, клиенты ждут на линии по полчаса, NPS как индекс лояльности будет падать, и, естественно, мы вынуждены там нанимать новых операторов, да, раздувая штат. Это проблема, она оцифрована. То есть мы видим 20 минут на обработку заявки. У неё есть бизнес-последствия. Это падение лояльности, это ростзатрат. Вот именно в этот момент, когда проблема чётко сформулирована, мы открываем, грубо говоря, наш чемоданчик с инструментами и смотрим, а как её решить. И порой бывает так, что её можно решить и с помощью искусственного интеллекта, и с помощью обычного программного продукта. Всё зависит от цели. Что вы хотите сделать? Мы анализируем вот эти 20 минут, смотрим, на что они уходят у службы поддержки. Оказывается, к примеру, там в 15 минут оператор, а, не знаю, читает длинную переписку клиента, чтобы понять всю суть, ищет ответ во внутренней какой-то базе знаний. Вот, соответственно, мы находим нашу проблему. Это значит суммаризация текста, семантический поиск по базе. А это, допустим, идеальная такая задача для современных лмок. То есть те самые рак, а retrieval augmented generation. Всё, мы нашли. Значит, нам нужно идти туда, решать и сокращать вот это время обработки заявки.
А давайте подумаем, где искусственный интеллект реально создаёт какую-то ценность. А очень важно подходить именно с точки зрения ценности. А первая наша первый наш блок - это снижение издержек. Это самое понятное, самое легко считываемая и поэтому самая популярная сфера для внедренияшки в корпорациях. Аа ваша задача здесь сделать так, чтобы компания тратила меньше денег на рутину, например, автоматизировать службу поддержки, там анализ юридических документов, когда нейросеть буквально там за 3 секунды вычитывает пятидесятистраничный договор и даёт вам какой-то результат того, что там написано, есть ли какие-то риски и прочие аспекты. И таким образом вы не тратите достаточно дорогое время юриста на то, чтобы он это выполнял, обычную рутинную задачку.
Второй пункт - это рост выручки. А здесь искусственный интеллект помогает нам зарабатывать больше денег, больше денег на тех же ресурсах. То есть это теория классического машинного обучения, которая на самом деле существовала уже очень много лет, но именно сейчас она переживает вот эту вот свою эпоху Ренессанса, да, возрождения. Это рекомендательные системы. То есть почему вот, допустим, вы сидите в какой-нибудь платформе в той же самой YouTube до 3:00 ночи? Элементарно, потому что вы аэ или почему вы в маркетплейсе в корзину добавляете определённые товары? Потому что очень хорошо работает эта рекомендательная система. Она показывает именно релевантные вам товары, именно релевантные вам а видеоролики, которые вам интересны. То есть под капотом MLритм, алгоритм машинного обучения, который анализирует миллионы паттернов поведения, вашего поведения в интернете и подсовывает вам именно то, что будет вам релевантно. И это круто для бизнеса, то есть увеличение а вот этой вот выручки, когда бизнес правильно продаёт вам товар.
Третий пункт - это новый UX - это пользовательский опыт. Это самая творческая и самая рискованная зона. Почему? Потому что здесь искусственный интеллект напрямую он, ну, не просто оптимизирует что-то старое, он создаёт что-то принципиально новое, принципиально новые возможности, принципиально новые такие киллерфичи. Например, генерация контента, да? Аа возьмём тот же самый Notion AI, который дописывает за вас там абзацы текста или может быть платформа до Lingo Max, где вы можете вести диалог с виртуальным персонажем на каком-нибудь иностранном языке. То есть раньше, как мы привыкли, идём к преподавателю, общаемся с живым человеком, а сейчас можно, грубо говоря, вот в таких задачах заменять людей на и на искусственный интеллект. Или же умный семантический поиск. Когда раньше вы писали в техподдержку, вам отвечал человек, а теперь вам отвечает робот, который смотрит всё самостоятельно, максимально быстро в базе знаний и даёт вам релевантные ответы. И, конечно же, очень важно понимать, что если ваш искусственный интеллект не экономит деньги компании, не зарабатывает новые деньги, не даёт пользователю какую-то киллерфичу, то, по сути, а этот искусственный интеллект, скорее всего, вам и не нужен. То есть он не решает никакую вашу задачу.
Возникает вопрос, как формулировать и гипотезу, чтобы она была релевантна с бизнесовой задачей. Мы нашли проблему, а мы поняли, что она лежит, допустим, в плоскости. Пускай будет это снижение издержек или наоборот там роста выручки. Что делать дальше? Дальше мы с вами должны это всё перевести с языка эмоций, с языка, так сказать, бизнеса на очень строгий язык инженерии. То есть мы должны сформулировать гипотезу. А, например, если мы используем технологию искусственного интеллекта, то есть мы фиксируем инструмент, мы показываем, какую модельку, lлэмку, простой классический ML используем, а или рекомендательную систему или ещё что-то, для чего мы используем? Для решения такой-то задачи, то мы сможем достичь определённого бизнес-результата, что отразится на метрике такой-то. То есть должны быть очень чёткие, измеримые цели использования и а в рамках наших бизнес-процессов. Аа, например, как вот здесь вот указано, если мы используем lm для суммаризации транскриптов звонков, мы сократим время заполнения карточки в CRМ на 50%. То есть бизнес-результат есть, что увеличит количество исходящих звонков одного менеджера на 20% в день. То есть есть метрика. То есть мы не говорим, давайте сделаем умную сире, а мы очень чётко показываем, что мы достигнем, какую бизнес-проблему решим и как это будет измеряться.
Теперь очень часто во многих стартапах есть так называемый игрушечный искусственный интеллект. Это такая суровая правда жизни. То есть представьте себе, вы с командой берёте, не знаю, там API чаata GPT или Клода, накидываете какой-нибудь простенький интерфейс в Telegram, пишете системный промт, а, например, там делаете это всё на базе найтена, а ты помощник по выбору пиццы или ещё что-то в этом роде. Аа и вы показываете там демку друзьям. Да, выглядит круто, круто, но это ещё не продакш решение. То есть, по сути дела, у вас дьявол кроется в деталях. Ваша демка работает в 80% случаев на так называемых тепличных, идеальных условиях. Но как только этот продукт, этот бот попадает в реальную жизнь реальным пользователям, начинается проблема. Пользователь пишет с ошибками. Пользователь пишет, что у него там аллергия на, не знаю, глютен, да, добавьте ананасы, ещё что-то. Бот должен уметь обрабатывать этот человеческий язык. Конечно, мы должны с точки зрения продукта максимально обеспечивать снижение возможных ошибок, которые могут допускаться в таком боте. То есть это уже приближение к реальности, к реальному продукту. Реальный продукт, он должен решать задачу пользователя от и до. То есть мы должны в какой-то этот этап обстроить иишку, чтобы она решала определённую задачу. То есть реальный продукт должен иметь защиту от ошибок. А это критически важное понятие, потому что что будет, если там сервера Open упадут или ваша локально развёрнутая модель упадёт? То есть ваш бизнес может остановиться просто. И наконец-таки самое больное место - это рентабельность и юнитэкономика. Почему? Потому что игрушечный и продукт он очень тепличный, то есть вопросы задаются правильно. Вы там положили 10 долларов на счёт ОНАИ, чтобы получить Аключ или на любую другую там нейронку. А, и она, в принципе, ну, хватает. А люди будут писать по-разному. Они будут по-разному формулировать свои запросы, будет разное количество токенов. Вы должны, естественно, это просчитать, ограничить, посмотреть, насколько это рентабельно. То есть юнит экономика у вас по-любому должна быть. И, конечно же, аа, да, вижу, спасибо. Спасибо. Обязательно посмотрим сейчас. Евгений, а матрица приоритизации идей. В чём заключается смысл того, как вообще управлять этим всем и куда идти? Какой продукт взять? То есть, допустим, вы вышли в поля, вы вышли к вашим реальным пользователям, к вашим сотрудникам в компании, собрали их боли, прогнали там через формулу гипотезы, отсеяли какие-то откровенные, так называемые, игрушки и перед и теперь перед вами 10 проектов, 10 крутых идей для внедрения искусственного интеллекта. Возникает вопрос: за что хвататься? За что хвататься в первую очередь? Потому что ресурсы они всегда ограничены, разработчиков не хватает, бюджета не так много. И это, понятное дело, так бывает абсолютно всегда на любом проекте. И вот здесь нам на помощь приходит такая классическая матрица, а, классический продуктовый инструмент, который адаптирован под реалии искусственного интеллекта, под реалии внедрения этого. И за что хвататься в первую очередь? Аэ, у нас есть две оси. Первое - это влияние на бизнес, и вторая - это сложность реализации. Вертикальная ось у нас, соответственно, влияние на бизнес и горизонтальная - это сложность реализации. Влияние на бизнес - это сколько денег это принесёт или сэкономит. Сложность реализации - это ответ на вопрос, есть ли у нас данные, готова ли у нас инфраструктура, нужно ли обучать модель, а с нуля или достаточно какого-нибудь готового API. Давайте разберёмся. У нас есть левый верхний угол, быстрые победы, то есть высокое влияние на бизнес, низкая сложность -
Это то, чем вам нужно заняться в первую очередь. Почувствовать первый вкус победы, то есть сладость этой победы, да?
Например, использование готового LLM через API, готовый LLM через API для классификации входящих писем от клиентов: там жалобы, вопрос, возврат и так далее. И маршрутизация их на нужные отделы. Делается быстро, экономит сотни часов ручного труда, вы показываете готовый результат, получаете доверие и бюджет на следующие шаги.
Правый верхний угол - это стратегические проекты. Они всегда сложные, а-а, по технике реализации, но они приносят высокое влияние, высокий результат. Эти проекты, а их они вообще в целом могут изменить суть даже бизнеса, но они потребуют месяц работы, упорной работы, сбора уникальных датасетов, найма дорогих инженеров, например, создание собственной рекомендательной системы с нуля для маркетплейса, э, которая будет учитывать сотни параметров, мм, сотни параметров пользователей в реальном времени. Конечно, это реализовать быстро не получится. Сюда надо идти, когда у вас уже будет есть будет опыт в реализации более мелких, более простых проектов.
При этом у нас есть ещё левый нижний угол. Тут у нас заполнители. Они оказывают низкое влияние на бизнес, но при этом у них также низкая сложность. Это приятные мелочи. Например, там сделать генерацию каких-нибудь прикольных аватарок для внутренних пользователей, сотрудников. А, делается за пару дней, там бизнесу денег не приносят, но в целом интересно, прикольно поиграться или ещё какую-то идею реализовать в рамках там вашей структуры корпоративной.
Есть правый нижний угол, то, что делать не надо. А где у нас низкое влияние, но при этом высокая сложность? Это ловушка, в которую попадают многие. А туда зачастую попадают именно технические команды. Почему? Потому что "а давайте обучим свою собственную LLM с нуля на наших внутренних документах, чтобы она отвечала там на вопросы про отпуска". Ну, сложность большая. Берём с нуля все алгоритмы, обучаем на данных, что-то там делаем, придумываем. Зачем? Когда есть готовые решения, готовые лэмки, их надо просто немножко дофайнтюнить и всё.
Или же, а, вот интересные такие проекты по внедрению искусственного интеллекта в предиктивную аналитику. То есть, если кратко говорить, у нас есть оборудование, оно ломается с определённой периодичностью, и нам нужно прикрутить искусственный интеллект, который будет предсказывать поломки такого оборудования, и мы сможем вовремя, а, проводить техническое обслуживание. Это реальные проекты из промышленности, которыми как раз-таки я тоже занимаюсь.
Возникает вопрос: круто. Нам нужна модель, нам нужны камеры, датчики, нам нужно компьютерное зрение. А и мы ещё должны обучить, показать модели, как должно работать в нормальном состоянии оборудования, как оно должно работать в случае, если возникают какие-то поломки или, ну, там предстоящие поломки. Собрать огромные датасеты. Дальше смотрим. А стоит это условно там 15 млн. Потом смотрим на стоимость оборудования. Там оборудование, которое мы хотим предсказывать по поломкам, стоит миллион. А плюс нужно оценивать, насколько часто оно ломается. Плюс нужно оценивать, насколько оно редкое. Может, мы можем просто пойти на рынок, купить новое или там купить определённое количество запасных частей и всё, поломалось, заменил и не паришься.
А есть оборудование, которое стоит десятки миллионов долларов, и оно, допустим, обеспечивает бизнес-процессы. Например, в рамках Нефтегаза это там определённые насосы, перекачивающие, э, которые устанавливаются и в скважинах, и в других различных элементах. И они очень дорогие, их достать очень сложно. а, санкционное ограничение и вот там внедрять ИИшку, которая будет предиктивно проводить анализ аа такого оборудования на предмет того, насколько быстро оно сломается, насколько часто его нужно, а, по нему проводить техобслуживание. Вот там это имеет место быть, это имеет смысл, это имеет бизнесовое направление, конечно же. А вот эти вот такие, грубо говоря, затратные проекты, которые не имеют экономической выгоды, лучше не делать, лучше от них отказаться.
Теперь, как проверить гипотезу без кода? А, допустим, мы выбрали идеальную гипотезу из нашего квадранта предыдущего "Быстрые победы". Что делаем дальше? Бежать к разработчикам, писать код? Да не надо. А сейчас очень часто к продукт-менеджерам выставляют требования того, чтобы они умели вайп-кодить. А, и это не значит, что они заменят разработчиков и один продукт-менеджер или там руководитель проекта будет сам всё пилить. Не будет такого. Но а когда у тебя есть гипотеза и когда тебе нужно протестировать эту гипотезу порой или даже хотя бы объяснить разработчику, что ты хочешь от него, порой лучше показать наглядный пример, чем там тысячу документов собрать, написать кучу текста. Это не поможет.
А, допустим, вам нужно сделать лендинг. Делается легко. Lovable, Clot v0, полно инструментов вам нужно, а, допустим, там имитировать какую-то автоматизацию Nat, Clotcode, в общем, инструментов для создания таких блоков, таких MVPшек, даже я бы сказал не MVPшек, а прототипов очень много. И вы можете быстро посмотреть, насколько хорошо это удобно, что вы хотите увидеть. И у вас даже будет база, которую потом можно будет отдать разработчикам, чтобы они уже адаптировали под специфику вашей системы и интегрировали это туда.
То есть, по сути, искусственный интеллект в таком прямом использовании, если мы говорим про общедоступные модельки, он открывает перед нами возможность быстрого создания прототипов, быстрого создания, а, каких-то таких уникальных штук, которые можно протестировать буквально там за несколько дней и не тратить на их разработку огромное количество времени.
Но если мы всё же идём в серьёзную разработку, серьёзное внедрение ИИшки в бизнес-процессы, нам потребуются данные. Зачем? Допустим, мы успешно провалидировали нашу идею, люди готовы платить, мы переходим там ко второму глобальному блоку нашего э с вами этапа разработки продуктов. Здесь мы сталкиваемся с суровой реальностью. Мы знаем, что данные - это топливо для ИИ. Любая модель - это движок. Будь то GPT, Clot, Deep, Quen - это движок. Он обучен на всём, всё знает по чуть-чуть. Нам нужно файнтюнить его. Нам нужно дообучать эту модель. Либо обычный файнтюнинг, либо прямо полноценное дообучение, чтобы менять веса модели. Это тоже можно сделать. И здесь встаёт вопрос: на каких данных обучать её? А в мире data science, в мире искусственного интеллекта есть такое правило: "мусор на входе равно мусор на выходе". А на самом деле всё зависит от того, на каких данных вы добучите модель или обучите её с нуля. В современных ИИ-продуктах 80% успеха - это не выбор модели, это не техническое решение, это именно а те самые данные, на которых модель должна быть дообучена или обучена с нуля. Вот именно это решает успех.
Какие данные нужны для старта? Мм, у нас есть два направления. Слева у нас классический ML, классический machine learning. Аа это, в принципе, то, что работало уже давно, э, работает в крупных корпорациях, работает там, где нам с вами нужна максимальная точность. Потому что классическое машинное обучение - это алгоритм, который работает по определённым правилам. А, допустим, мы хотим создать систему, которая будет предсказывать поломку насоса на на нефтеперерабатывающем заводе, а или там скоринговую модель, которая решает, выдать человеку кредит или нет. Что нам нужно? Нам нужны массивы исторических данных, тысячи, десятки тысяч строк, даже, я бы сказал, миллионы строк с данными, в которых есть какая-то история. Прикрепляем туда алгоритм. Ну, это я условно говорю, прикрепляем. На самом деле нужно будет провести несколько таких технических, а, итераций. И мы получаем продукт на базе алгоритма классического машинного обучения, который закрывает нашу задачу. Нам мало просто собрать эти данные. Эти данные должны быть чистыми. Их нужно посмотреть, чтобы там не было дублирования, чтобы там не было всяких таких нюансов.
Что происходит сейчас? Сейчас у нас, конечно же, на передний край выходит эпоха LLM, то есть больших языковых моделей. Почему? Потому что это удобно с точки зрения человека. Ты написал словами, что ты хочешь, модель тебе сделала, да? А вам не нужно писать код, вам не нужно ничего делать. Мы общаемся простым языком с вот этим крутым инструментом, от которого получаем результат. Что нужно от нас, как от продуктовой команды? Качественная база знаний, контекст, в рамках которой будет вращаться эта LLM. И, конечно же, промты. То есть промт-инженеринг - это очень-очень важный момент. А, ну то есть это означает то, что время вывода продукта на рынок, оно существенно сокращается.
Классический ML, он уже достаточно доступный, известный, всё супер. Он, в принципе, работает с более высокой точностью. в отличие от LLM, от NLP технологий, от Natural Language Processing. Почему? Потому что там алгоритм, алгоритм, который работает по определённым правилам. Если мы говорим про LLM, Deep, а любые LLM, которые есть, а, Open, CL, они все вероятностные. То есть это модель, которая с определённой долей вероятности даёт вам ответ. Например, 85%, 90% уверенности. Точности в этой модели есть, но это не значит, что она когда-то вам выдаст стопроцентный результат, качественный сразу. Такого не бывает, потому что технология вероятностная.
Хорошо, мы взяли движок, мы взяли данные, как нам оценить качество данных, как нам оценить доступность этих данных, потому что это первый шаг, который нам нужно сделать, прежде чем идти в data science, в обучение модели на своих данных и так далее. Первый пункт, на что мы смотрим - это доступность. Может быть, у нас, ну, такая колоссальная, классная идея, но данных для обучения модели у нас могут, может быть, и нет вообще. А звучит смешно, но это самая частая причина провала корпоративных проектов, потому что там, не знаю, приходит директор по маркетингу, говорит: "Сделайте мне систему на базе ИИ, которая будет предсказывать отток клиентов". Вау, круто, давай сделаем. Идём к команде разработчиков. Они говорят: "Ну супер, давайте посмотрим историю. Нам же нужны паттерны". А смотрим. А история-то толком и не собиралась, и не хранилась. Она вся разрозненная в разных системах. Значит, её надо собрать, валидировать, проверить, а, очистить эти данные. Только после этого на этих данных обучать модель.
Второй момент - это структурированность. То есть история-то может и быть, данные могут и быть, но вдруг они вообще не в цифровом виде, знаете? Это так бывает. Вот мы пришли внедрять систему, которая будет предиктивно, ну, предсказывать поломки оборудования. И нам нужны были журналы, информация с датчиков этого оборудования. А что мы увидели? Мы думали, сейчас придём, там будут таблички, там будут выгрузки, там будет всё электронное. А нам говорят, у нас за прошлые 5 лет всё велось в журналах. В журнале записывали показатели ручкой. Кто-то записал, кто-то не записал, кто-то коряво цифру написал, кто-то нормально написал. Вот вам данные, пожалуйста, давайте. И, соответственно, у нас добавляется ещё один этап, где нужно эти данные оцифровать. Оцифровать, перевести в цифру, использовать CV, а, использовать технологию YOLO для компьютерного зрения, перевода этого всего дела в цифру и потом только на этих данных обучать. А ещё там неизвестно, насколько эти данные корректные, правильные. Кто-то ошибся, может, кто-то просто написал. И это, соответственно, влечёт к тому, что в данных могут быть пропуски, могут быть ошибки. Это вот третий пункт нашего аа с вами вот этого чек-листа.
И, конечно же, даже если мы очистим, вычистим эти данные, получим качественный результат, у нас есть ещё сомнения в смещении данных. Смещение данных - это bias - это предвзятость. То есть это уже следующий уровень. А, допустим, это не всегда применимо. Если мы говорим про технические какие-то проекты, может быть, там это и не применимо, в принципе. Но если ваши проекты, ваши продукты затрагивают человека, а то вот вам такой элементарный пример. Допустим, компания решает сделать ИИшку для отбора там резюме программистов или любых других специалистов. Обучают модель на исторических данных своих сотрудников, кто им нравится, какой профиль у сотрудника должен быть. Там, допустим, в основном преобладают мужчины, да, женщин мало. Модель обучилась, затем её отпускают в продакшн, и она начинает всем женщинам отказывать, потому что она запомнила определённые паттерны и всё. А паттерны просто по половому признаку. Поэтому в зависимости от того, какой у вас продукт, вы ещё должны думать о смещении, о bias, о предвзятости работы модели.
Это всё хорошо, когда данные есть. Где брать? А как же быть, если данных нет? Вот вы не знаете, где их брать. Первое, первый источник, конечно же, открытые датасеты, это open source решения, это Kaggle, а как такой большой ресурс, где можно достать данные для дообучения модели. Но там тоже не всё хорошо, потому что там очень много данных, которые некорректно размечены, неправильно размечены, есть пропуски, там тоже много мусора. Есть Hugging Face, это агрегатор моделей, где лежат все, так сказать, локальные модели, которые можно запустить у себя на сервере, на компьютере и прочих таких историях. Там лежат интересные модели. Там есть DeepSeek на 680 с чем-то миллиардов параметров. Очень крутая модель. Там есть GPT-NeoX, это продукт EleutherAI на 120 млрд параметров. То есть чем чем больше миллиардов параметров, тем умнее модель, тем больше в ней, так сказать, базы, на которой она обучалась.
Второй источник для поиска данных - это парсинг. Самый простой парсер, который ходит по открытым сайтам, по открытым источникам, собирает нужную вам информацию.
Третий источник - это синтетика. А синтетические данные - это абсолютный тренд последних нескольких лет. Почему? Потому что, ну, не по всем вопросам у нас есть достаточное количество данных. Элементарный пример. Мы хотим внедрить систему, которая будет с помощью ИИшки определять брак, бракованную продукцию. У нас есть большое количество там фотографий, данных, как выглядит качественная продукция. Но брака на производстве всего там 3%. И у нас есть существенный перекос: 97% фотографий с качественной продукцией, 3% с некачественной. Для того, чтобы модель научилась выявлять вот эти 3% некачественной продукции, нам нужно сделать баланс. То есть нужно, чтобы было 50 на 50: 50% в обучающей выборке качественных фотографий, точнее фотографий с качественной продукцией, 50% фотографий с некачественной продукцией. Как достать, если всего брака на производстве 3%? Из этих 3% с помощью другой модели синтезировать вариации, а, бракованной продукции, разбавить, создать, сгенерировать, грубо говоря. Вот и всё.
И четвёртый момент - это пользователи. А это самая, я бы сказал, правильная, долгосрочная бизнес-стратегия, когда вы выпускаете на рынок какой-нибудь MVP, собираете обратную связь, собираете данные от пользователей. Она, допустим, умеет решать какую-то задачу на самом таком базовом уровне. Но в интерфейсе вы делаете отдельные кнопки, где там человек может поставить лайк, дизлайк, написать комментарий, насколько нравится ему, не нравится работа вашего MVP. Вы собираете обратную связь, смотрите и, так сказать, в продакшене тестируете уже, а, все свои идеи того, насколько интересен этот продукт, в чём у него ошибки, что хотели бы видеть ещё ваши пользователи.
С данными мы разобрались, но помимо данных мы ещё, как всегда, упираемся в деньги. И здесь нам нужно будет оценить ресурсы. Ресурсы для проекта. Они не однозначны с обычными ресурсами, которые мы используем в рамках IT-проектов. Почему? Потому что первое - это инфраструктура. Искусственный интеллект требует вычислительных мощностей. У вас есть два пути. Первый путь - использовать готовые API-доступы к моделям и обрабатывать информацию на их серверах. Соответственно, если мы говорим про зарубежные модели, это сразу, если у вас есть какие-то персональные данные, а, и так далее, это 152 Федеральный закон. Если вы используете, допустим, российские модели, тоже круто, тоже можно использовать. Тогда 152 Федеральный закон вы не нарушаете. Но это опять же, если вы используете, обрабатываете персональные данные.
А второй подход - это если вы локально разворачиваете модели у себя на сервере. Но на самом деле два крупных игрока, это Сбер и Яндекс, в настоящее время развернули даже локальные зарубежные модели, а даже такие как GPT-NeoX 120B у себя на серверах и дают вам доступ туда через API, то есть тоже на этом зарабатывают. Аа если у вас нету серверной инфраструктуры, если у вас нет денег, чтобы вложиться в это во всём, вы можете это использовать.
Второй ресурс - это команда. Здесь самые дорогие специалисты - это датасаентисты. Те, кто могут, те, кто может дообучить модель, а, так сказать, настроить правильный пайплайн, чтобы она работала и встраивалась в ваш продукт. Это AI-инженеры, это MLOps, machine learning operations specialists.
И третий момент - это поддержка. Важно понимать, что любая модель на базе искусственного интеллекта может начать галлюцинировать, особенно если она дообучена на каких-то данных, потому что данные могут поменяться, а она может дрейфовать, так сказать, со временем выдавать не совсем релевантные ответы. Поэтому это не про продукт, который вы сделали и забыли. Это, конечно, продукт, который нужно также поддерживать.
Ещё хотелось бы отметить, что когда вы реализуете свои проекты с внедрением искусственного интеллекта, вы сталкиваетесь с определёнными рисками. Это будут риски этического и юридического характера. Если мы говорим про юридический характер, это, конечно же, утечка данных. То есть, допустим, вы работаете в крупном банке, ваш разработчик решил ускорить себе работу, скопировал там кусок кода важного, закинул в публичный чат GPT. Всё. Если у вас крупная компания, она интересна на рынке, мы не знаем, как обрабатывается информация на серверах OpenAI, Anthropic и так далее, может использоваться абсолютно по-разному. И эта информация может даже всплыть в дальнейшем там у какого-нибудь другого пользователя. То есть модель она склонна, если она дообучается на ваших данных, иногда, грубо говоря, выплёвывать ваши данные, обучающую выборку. И этим грешат даже гиганты. А что говорить, если мы будем самостоятельно это реализовывать в рамках там нашей команды?
Второй риск - это галлюцинации и, конечно же, ответственность. То есть зачастую мы думаем, как это же нейросеть, мы свалим всё на неё. Нет, если мы посмотрим на, а, такую юридическую практику, то, конечно же, за галлюцинации, за какие-то ошибки, которые выдаёт наша нейросеть, особенно если она взаимодействует с нашими клиентами, ответственность несём всё-таки мы, потому что у нас должен быть контролируемый IT-продукт, а искусственный интеллект - тот же самый IT-продукт.
Третий риск - это авторские права. А сейчас это самая обсуждаемая тема, потому что и за рубежом, и у нас очень спор, на каких данных можно обучать модель, нужно ли платить за авторство тем, кто разработал эти данные, тем, кто их создал. А потом второй вопрос - это кому принадлежит этот продукт? Вам, провайдеру нейросети искусственного интеллекта. И вообще продукт, который генерирует что-то по итогу, вот этот результат кому тоже принадлежит, непонятно. То есть это пока такие чёрные дыры в законодательстве, они ещё открыты. Это открытые вопросы.
Дальше, когда мы, допустим, порешали всё это с точки зрения рисков, и с точки зрения сбора данных, нам нужно собрать MVP. А, MVP, минимальную версию продукта, цель которой будет не сделать какой-то идеальный алгоритм с максимальной точностью, а цель будет получить обратную связь от пользователя и запуститься там, допустим, за 2-4 недели, ну, условно, там, за месяц. То есть, э, ваша задача - это выкатить достаточно хорошую модель на минималках для реальных людей. То есть хороший продукт там с ИИшкой для реальных людей. А, конечно же, здесь очень часто мы должны, мы прибегаем к такой стратегии, стратегии выбора модели, а, то есть купить её либо собрать с нуля.
Третий уровень. Давайте начнём прямо вот с самого даже я бы сказал, давайте не так, не с третьего уровня, а с первого. Первый уровень у нас - это купить. Это самый простой уровень. Самый простой, самый быстрый, самый популярный. Покупаем API-ключи, подключаемся, интегрируем в свой продукт. Всё. Аа второе - это адаптировать открытое решение. Мы берём Open source модель, разворачиваем её у себя на серверах и дальше уже начинаем её fine-tune, то есть дорабатывать, дообучать, дообучать под себя, под наши данные. И третий уровень - это строить с нуля. Это очень дорого. То есть десятки, иногда даже сотни миллионов долларов. То есть реально, чтобы обучить модель с нуля, сделать её качественной, на это уходит очень много денег. И мы это видим по тому, как это делают и китайцы, и американцы в рамках своих моделей. Но, естественно, мы видим, что они выкатывают модели в open source. Почему? Потому что хотят, чтобы развивался этот рынок. Понятное дело, там не самые крутые, не самые суперские модели. Это такая, грубо говоря, болванка, которую нужно дообучать, а, проводить fine-tuning на своих данных. Но тем не менее это это уже круто, что даётся такая возможность просто бесплатно там на сайте, а-а, сайт называется Hugging Face. Я думаю, что кто связан с разработкой таких решений, кто связан вообще с искусственным интеллектом, я думаю, уже знакомы с этим сайтом. Но на всякий случай я вам его сюда, а, в чатик тоже закину. Посмотрите, обязательно перейдите. А там очень интересно, там есть различные модельки.
Из чего состоит вообще архитектура современного ИИ-приложения, современного ИИ-продукта, я бы сказал? Да, это как раз-таки самое интересное, а, что хотелось бы отметить. Первый шаг - это запрос пользователя. То есть всегда пользователь, допустим, может написать что-то там в ваш чат или зайти в ваш продукт. Второй момент - это оркестратор. То есть запрос не летит сразу в нейросеть, он попадает в ваш бэкэнд, в вашу программу, так сказать, оркестратор, который смотрит на запрос и понимает: "Ага, вот на это, а, на этот вопрос ответить может просто и модель, а вот на этот вопрос нужно позвать человека". Дальше это векторная база данных плюс. Подключается, допустим, ИИшка, если мы отправляем на неё вопрос, и она ищет информацию в рамках векторной базы данных. Ничего не придумывает, ничего не фантазирует, то есть она ограничена вот этой вот базой данных. И потом идёт на четвёртом шаге ответ пользователю. То есть это стандартный такой flow абсолютно любого продукта, куда мы хотим внедрить искусственный интеллект, как движок, который будет обрабатывать информацию, вырабатывать запросы пользователей.
Какие есть инструменты для быстрого прототипирования? На самом деле, здесь, конечно, все из вас слышали про N8N, про Make, про платформы, которые позволяют без кода что-то собрать, либо сейчас уже CodeX, там, Code Interpreter от Google, которые тоже помогают даже код написать просто по промту. А так вот есть ещё помимо этого другие инструменты. Первые - это оркестрация. Это LangChain, это там LlamaIndex. То есть вам не нужно писать сложную логику маршрутизации запросов. Уже есть готовый фреймворк, то есть готовые правила, которые за вас написали. Скачиваете и интегрируете в решение. Векторная база данных - это Pinecone, Weaviate, там Chroma, ещё что-нибудь. А вы можете развернуть такую классическую базу данных Oracle, PostgreSQL. Это там задача для администратора, а она чуть посложнее. А можно взять векторную, поднять её даже облачно за 3 минуты, грубо говоря, и сделать всё там. А интерфейс, а интерфейс можно создавать также с помощью различных решений. Это может быть Lovable, это может быть V0, Bolt, те же самые Code Interpreter, Clotcode, CodeX, в общем, много чего ещё. Ну и, конечно, в самом низу мы видим low-code платформы. То есть low-code платформы - это просто платформа, где вы собираете flow, где вы прокидываете по кубикам, собираете а своё решение и выкатываете, выкатываете свой прототип, с помощью которого тестируете.
Но как тестировать? Тестировать надо с помощью метрик, то есть нужно что-то мерить. MVP собрано, интерфейс работает, всё супер, но аа не надо здесь сразу идти в этап проверки техники, технических каких-то метрик, например, там Accuracy или F1 Score. Это достаточно технические, а, метрики, которые показывают точность модели, которые показывают средневзвешенное между точностью и полнотой ответа модели. А нам надо посмотреть на другое. Нам нужно посмотреть на бизнесовую часть. Мы про неё очень часто забываем. Например, первый момент - это процент успешно решённых задач. Это главная онлайн-метрика. То есть пользователь приходит в продукт с болью: там забронировать столик, найти документ, перевести текст. Нам надо понять, решает ли ИИшка его задачу, получилось ли у него это. Второй момент - это, конечно же, там задержка, время ответа. Пользователь не будет ждать 30 секунд. Ему нужен ответ за 2 секунды. Ему нужен продукт, который быстро решает его проблему. Это сложно, да? В рамках прототипа порой можно даже это и не сделать. Нужен бы нужны будут элементы кода, но тем не менее. И третий момент - это retention, это удержание. То есть насколько человек а-а остаётся в нашем продукте, когда он уйдёт, там на седьмой месяц, на восьмой, на третий, может, на через месяц уйдёт сразу. То есть хайп вокруг мобильных приложений, аа там с какими-нибудь ИИ-аватарками, это всё круто, замечательно, но там люди скачали, поигрались и забыли. А если ваш продукт решает реальную задачу пользователю, то важно понимать, насколько часто он возвращается в этот продукт и что он может внутри него сделать.
На этапе MVP очень часто бывают галлюцинации. А, допустим, наше MVP в продакшене, нам, казалось бы, всё супер, всё замечательно, да, но галлюцинация - это, а, я бы сказал, не ошибка нейросети, это её фундаментальное свойство, потому что это вероятностная модель. LLM - это не калькулятор, который там всегда даёт один и тот же ответ. Это творческий механизм, который на основе вероятностей пытается угадать следующее наиболее подходящее слово. А первый уровень - это смириться. Ну, частично, да, надо быть готовым к этому. Второй уровень - это ограничить температуру модели, то есть заставить её не фантазировать. Температура отвечает за креативность. Обычно от нуля до единицы. Ноль - это менее всего креативности. Желательно, ну, более высокая точность. Единица, там модель может начать фантазировать. Это плохо для нас. А третий уровень
Это добавить валидацию. Что это значит? Это ещё один дополнительный контроль. То есть вы можете написать простой промт или даже использовать другую более лёгкую ИИ-шку, которая будет проверять ответ первый. Чтобы они в паре работали, вам нужно настроить такой workflow, в рамках которого это будет проходить. То есть такой пайплайн, я бы даже сказал, да, аа, который будет находиться в логике вашего продукта.
Ну и, конечно же, по итогу, а мы с вами должны подумать про самую важную часть нашего MVP. Это не генерация ответов, это сбор данных. То есть мы должны собрать данные, обратную связь от пользователей, сохранить все эти запросы, сохранить ответы ИИ-шки, аэ, добавить функционал по оценке ответов ИИ-шки со стороны пользователей. И дальше на основании этого можно будет дообучать нашу модель, улучшать продукт. Вот это самое главное. Это главная цель нашего MVP. То есть это такая машина по производству золотого стандарта по датасету для нас. Мы чисто под себя собираем то, что нам нужно.
Ну и, конечно, на всём этом пути мы сталкиваемся с проблемами. Первая проблема — это чрезмерное усложнение. А когда мы стараемся сразу же с нуля создать крутое решение, а порой очень сложное технически, тратим огромное количество времени, а на рынке уже выходит, не знаю, там ИИ-шки следующего поколения, они творят совершенно что-то безумное.
Вторая ошибка — это, конечно же, проблема. Проблема, когда, допустим, проходит 6 месяцев, бюджет на зарплату команды почти исчерпан, продукт как таковой ещё не готов. И аа здесь м там вся работа команды, все размеченные данные, весь сложный код, они превращаются, ну, просто в мусор, никому не нужны, потому что бюджет кончился, мы ничего не посмотрели, ничего не заработали и, по сути дела, а, всё обесценивается.
Третий момент — это решение. То есть как, как э так сказать, решить эту проблему. Что мы здесь видим? Ваша задача, как управленца, как продакта, не дать команде уйти в науку. То есть не дать. Ваша задача — решать бизнес-проблему самым дешёвым, самым быстрым способом здесь и сейчас, а не делать крутое научное решение.
А многие ещё сталкиваются с такой проблемой, как игнорирование эдж-кейсов. Что это значит? Это вторая такая фатальная ошибка, которая в целом убивает продукты после запуска. Когда мы игнорируем крайние случаи. Что такое вообще тепличные данные, о которых у нас здесь написано? Это когда там разработчик тестирует своего бота, он с ним вежлив, он пишет правильно, он задаёт нормальные вопросы, на которые точно бот найдёт ответы. А потом приходят реальные пользователи. Что они делают? Они пишут там, а, английскими буквами русский текст. Они не ставят запятых, точек, знаков препинания, делают ошибки. Это всё нужно учитывать. Нужно обязательно встраивать э-э защиту от ошибок, не орфографических, а каких-нибудь ошибок, которые может допустить ИИ-шка, то есть перебить её результат и продумывать все вот эти вот моменты.
Третья ошибка — это когда у нас наступает разрыв между дата-саентистом и бизнесом. Когда дата-саентист начинает, а, действительно создавать очень сложное техническое решение, либо бизнес просто не может ему объяснить, что он хочет и как он видит это в продукте. Вот здесь вот нужен как раз-таки руководитель, здесь нужен продукт-менеджер, который будет объединять их.
А теперь четвёртая ошибка. Мы думаем, мы создали, запустили и забыли. Нет, так это не работает в части искусственного интеллекта. У нас с вами есть модификатор — это дрейф или деградация модели. То есть, по сути дела, что это значит? Модель, которую вы обучили — это, ну, слепок реальности на определённый промежуток времени. И мы не знаем, насколько. А, но реальность она может меняться. Точно также модель может деградировать. То есть модель, которая предсказывала, допустим, цены на недвижимость месяц назад, сегодня она уже может быть абсолютно бесполезна, потому что она будет учитывать все факторы, но, допустим, у неё не будет данных о там мировых каких-то геополитических моментах или ещё что-то. Какое решение — это постоянный мониторинг. То есть мы должны выработать метрики, которые мы мониторим. Нужно смотреть и с точки зрения техники, и с точки зрения бизнеса. и настроить вот эти дашборды по мониторингу, то есть организовать так называемый machine learning operation system.
Давайте подведём итоги. А, во-первых, с чего мы начинаем? Сначала мы начинаем с поиска бизнес-боли, бизнес-проблем. Всё начинается оттуда. Потом мы начинаем формулировать гипотезу, то есть приводим на переводим найденную боль на язык инженерии. Потом мы проводим аудит данных и смотрим, есть ли у нас нужные данные для того, чтобы дообучить модель, провести файнтюнинг или обучить её с нуля. Потом мы собираем MVP-шку, запускаем, агрегируем обратную связь, собираем логи, потому что помним, что главная цель нашего MVP — это не обслуживать клиентов, а собрать необходимый датасет для нас и посмотреть, как можно улучшить продукт. То есть зачастую вот MVP-шки даже не стоит ждать каких-то серьёзных там денег, возврата инвестиций.
Ну и, конечно же, шестой шаг — это итерации. Итерировать. Итеративность — это всё. То есть здесь очень-очень важен. А, и проект — это не проект с началом и концом, это бесконечный цикл. Вы собрали данные, дообучили модель, выкатили новую версию, произошёл model drift, вы её исправили, скорректировали, пошли дальше. И, конечно, этот итеративный процесс требует вливаний. Поэтому на самом первом этапе мы должны определить бизнес-боль, с чем мы боремся, что мы хотим решить, и только потом уже идти и делать это.
С чего начинать? Попробуйте поэкспериментировать. После нашего вебинара выпишите три, а, узких места в рамках вашей компании. Вот сядьте, подумайте о своей ежедневной работе, о своём продукте, может быть, который вы делаете. А, и посмотрите, какие есть три узких места. Допустим, я там трачу час в день на разбор входящей почты или наши клиенты постоянно задают одни и те же вопросы или что-то в этом роде.
Второй шаг. Продумайте аспекты ускорения. Допустим, подумайте, как можно ускорить это в два раза. Посмотрите на каждую из этих проблем, задайте себе волшебный вопрос, волшебный промт для своего не искусственного личного интеллекта, а мог бы мне помочь, допустим, какой-нибудь там текстовый, визуальный или аналитический и сделать это в два раза быстрее. Если вы не можете ответить на этот вопрос, привлеките ИИ-шку, задайте ей этот вопрос. Зайдите в чат GPT, зайдите в Claude, Gemini, DeepSeek, наконец-таки, на можно тоже использовать. Посмотрите, что он вам выдаст.
Третий шаг. После этого опишите гипотезу по формуле. По формуле, которую мы с вами сегодня разбирали: "Технология для решения такой-то задачи, то мы сможем там достичь определённого результата в таком процентном соотношении". То есть попробуйте выстроить таким образом описание а своей гипотезы. И тогда, я думаю, вы найдёте точно для себя первые такие проекты, которые вы захотите реализовать, которые вы захотите сделать уже в ближайшее время.
Теперь вопросы. Если есть вопросы, можете писать, можете их задавать.
ть а так физическая безопа вижу Евгений вы представились специалист в области обеспечения безопасно для безопасности очень просто в вашем случае на самом деле на рынке есть решение когда а внедряется система компьютерного зрения то есть это в режиме реального времени камера снимает видеопоток. Он обрабатывается с помощью искусственного интеллекта, происходит детекция людей на видеопотоки, и дальше фотографии этих людей сравниваются с, допустим, базой данных какой-нибудь. То есть проник ли на объект кто-то, не знаю, там несанкционировано. Либо, а есть ещё вариация, когда нужно обнаруживать там на видеопотоке какие-то предметы, оружие, взрывчатку, ещё что-то, какие-то нестандартные моменты. Тоже можно это делать. Можно делать в режиме реального времени. И камеры, продукты уже есть на этот счёт.
Так, для внедрения ещё и знаний и нейросетей. глубинное обучение и так далее нужно или LM готовый модели хватит. Плюс, э, RAG, MCP, скилы и правила. Ну, смотрите, в вашем случае, если мы говорим про там безопасность, про вот такой вот подход, здесь, конечно, нужно будет дообучать модель. А, всё зависит от той задачи, с которой вы будете в дальнейшем работать. А, но опять же, если у вас базовая задача внедрить это на какие-то объекты, посмотрите на готовые решения, потому что уже многие это сделали за вас и, грубо говоря, предоставляют там по подписке, по подключению, это обойдётся дешевле, чем обучать с нуля и прямо самостоятельно это разрабатывать. Обычными нейронками, которые в общем доступе, это сделать будет сложно.
Как-то выпал момент с выбором модели под решаемую задачу. Можно его прокомментировать? Какие аспекты запланированного решения надо в первую очередь анализировать на предмет подбора оптимальных моделей, инструментов для развёртывания и так далее. Смотрите, а во-первых, нужно понять, какая у вас задача, что вы делаете, с чего мы начинаем. Потом мы начинаем смотреть, можно ли туда внедрить LLMку. LLMки бывают абсолютно разные, локально или же по тому, как выбрать под свою задачу модель. То есть она должна генерировать текст, она должна, а, к примеру, там использовать видео, аудиопоток и так далее. И уже исходя из этого вы будете понимать, что за модель вы будете использовать. Дальше нужно понять, нужно ли её дообучать или можно брать в чистом виде. Опять же, смотря какую задачу она решает. А делать это просто по какой-то инструкции, по шаблону невозможно. Вам нужно будет протестировать, то есть создать небольшой прототип и посмотреть, потестить, как это работает. А следующий шаг — подумать, будете ли вы обрабатывать персональные данные или нет. Какую модель вы будете использовать по API или локально? Это будет зарубежная либо отечественная модель. Инструменты для развёртывания, они на самом деле это Llama CPP, это может быть там LM Studio для локальной модельки. Если мы говорим для подключения по API, там всё гораздо проще. Просто API ключ и какой-нибудь интерфейс красивый, которые там могут сделать ваши даже разработчики. Поэтому, по сути дела, если кратко, вот так. Но если более подробно, то там надо детально разбирать ещё. Это буквально даже не вопрос одного часа.
Так, это делается и без ИИ, на порядок дешевле, чем с ИИ. В чём выгода? Не, почему без ИИ это делается C просто. А искусственный интеллект в вашем понимании это просто чат GPT, условно говоря, да, куда ты заходишь и что-то делаешь. Нет, это модель, которая устанавливается там локально на сервер, и она может в режиме реального времени обрабатывать видеопоток. То есть, по сути дела, это а локальная модель для обработки вашего видеопотока и решения конкретной вашей задачи. Но это не простая обычная модель, которая там доступна, куда вы заходите и пишете промт текстом. Здесь модель, которая обрабатывает именно визуальную составляющую картинки и видеопоток. То есть это немножко другой просто профиль. А так это тот же самый искусственный интеллект.
Так, на слайде, где показан общий процесс от запроса пользователя до ответа, и был снизу комментарий про RAG, где документ, а подставляется на на лету. Можно этот момент уточнить. Но по сути дела RAG — это инструкция retrieval augmented generation, точнее аббревиатура. А поиск дополненной реальностью, то есть дополненный форматом, когда ты не просто по ключевым словам ищешь информацию, а модель сканирует твой запрос, берёт твой вопрос, грубо говоря, и, а, соответственно, ищет информацию только в определённой базе знаний. А дальше она выдаёт тебе ответ не только там в формате что обычного ответа, но ещё и может подсвечивать, в каком документе это находится. То есть даёт ссылочку. Это элементарный а пример, как работает тот же самый Notebook LM от Гугла, когда там загружаются источники, задаётся вопрос, и потом уже по итогу, когда модель ответила, она может вам подсветить в каком источнике, в каком документе. А она нашла этот ответ. То есть вы можете удостовериться, что он действительно правильный, корректный. Это очень хорошо работает, когда, допустим, вам нужно создать какого-нибудь умного помощника, который будет консультировать сотрудников по корпоративной базе нормативно-правовой. Там этих документов куча, это может быть там 10.000, условно, таких документов. Она может корректно давать ответ и сразу подсвечивать, где она нашла его. И вы можете самостоятельно удостовериться, проверить. То есть это так называемый explainable AI, предсказуемый искусственный интеллект, когда можно точно понять, что он ничего не придумал.
Хорошо. Но мы ещё не закончили, на самом деле. А вы, конечно, можете уже даже заполнить опрос о нашем занятии. А вот здесь вот в закрепе у вас есть ссылка. Я вам её ещё раз сюда продублирую на всякий случай. Сейчас я расскажу про наш курс. Давайте более подробно рассмотрим, что мы будем изучать. А наш курс называется "Управление AI-продуктом". Вы можете, на самом деле, оставить заявку, э, буквально пройдя просто по данной ссылке. Она у вас есть и в презентации. Презентацию сейчас я вам тоже сюда заброшу, чтобы она у вас осталась. Так, сейчас идёт загрузка. Весит она порядка 9 Мб. Как только загрузится, вы, соответственно, сможете, а, перейти, посмотреть, сохранить её себе. А вот здесь представлена ссылка. Дальше у нас будет, конечно же, QR-код ещё. А, оставлю, покажу. Всё, давайте посмотрим на программу. В рамках данного курса мы рассматриваем продуктовые бизнес-основы того, как управлять AI-продуктами. Мы поговорим про технические основы для project-менеджера, для product-менеджера. Посмотрим, как это работает при запуске, при производстве, так сказать, своего продукта и, конечно, то, как его растить. А поговорим про искусственный интеллект для личной эффективности, потому что это очень важно не только создавать AI-продукты, но ещё использовать ИИ-шку для своей личной эффективности, как product, project-менеджера. И по итогу у нас будет проектная работа. То есть мы рассмотрим с вами все управленческие, технические аспекты, как с этим работать, и создадим проектную работу. Это будет такой проект, который вы сможете взять себе в портфолио и в дальнейшем уже аа с ним работать и, конечно же, предоставлять его даже вашему будущему работодателю или текущему работодателю, чтобы показывать, чему вы научились.
Преподавательский состав вы видите здесь. Также он доступен по ссылке. Аа вы можете ознакомиться, в том числе я тоже преподаю на данном курсе. Руководитель курса Дмитрий Шорджин. А мы уже, соответственно, ведём определённые занятия. Важный момент, если вы принимаете решение об обучении, обучение проходит в живом формате, то есть это не записи. Вы можете точно так же, как сегодня, в онлайн-формате задавать вопросы, а организовывать такой своеобразный нетворкинг с такими же энтузиастами, людьми, которые хотят погрузиться в эту сферу, узнать что-то новое. А все записи у вас остаются, остаются навсегда. И очень важный момент, что вы по итогу создаёте проект, который можно взять себе в портфолио. То есть идёт детальная проработка итогового финального проекта. Программа обучения обновляется каждый раз, каждый запуск. То есть сейчас, если вы принимаете решение о том, чтобы прийти на обучение, то вы получаете самую актуальную программу. И также, учитывая то, что все записи остаются с вами навсегда, а вы получаете доступ к актуальной информации, грубо говоря, а всегда, э, в любой момент. Это, на самом деле, очень круто.
Конечно же, в рамках обучения важно понимать, сколько это будет длиться. Это будет длиться 3 месяца. Старт у нас запланирован на 27 мая. Вот здесь есть QR-код, перейдя по которому, вы, соответственно, можете попасть сразу на страницу и оставить, а, заявку на обучение. С вами свяжется менеджер, может ещё более детально рассказать про программу, про особенности, про все аспекты, которые у нас есть. и ответить на все возникающие у вас вопросы. Но важно понимать, длительность 3 месяца. За 3 месяца два раза в неделю идут занятия. Мы с вами рассмотрим полноценно всю программу, которую сейчас обсуждали.
Давайте подведём итоги занятий. А я надеюсь, что наше сегодняшнее занятие было полезно и интересно вам. А мы постарались раскрыть все эти тематики, поговорить про то, как формулируется гипотеза, как оцениваются данные, как идти, выстроить такой пошаговый план действий, посмотреть, как с этим работать, какие есть риски, как отличать вот такие вот игрушечные AI-продукты от реальных промышленных. И всё это вам необходимо для того, чтобы успешно организовывать процесс, а управления таким AI-проектом, избегать типовых ошибок и, конечно же, налаживать свою работу. А здесь также снова призыв заполнить опрос о мероприятии. Ссылочку я вам скинул чуть выше, буквально, и я вижу, что в чате уже прикрепилась презентация, поэтому обязательно её скачайте, сохраните, там есть вся важная информация, все необходимые ссылки. И, безусловно, мы вас ждём на обучении. Приходите к нам учиться. Как и обещал, скинул ссылку на свой авторский Telegram-канал про искусственный интеллект и нейросети. Если интересно, подписывайтесь, будем с вами на связи. И я думаю, что мы с вами обязательно ещё увидимся в процессе обучения на данном курсе. Поэтому, если приняли решение, welcome, мы вас ждём. Спасибо вам большое за внимание, за активное участие, за вопросы, которые вы писали. А очень важно ещё раз попрошу вас оставить отзыв о нашем занятии, потому что это помогает нам совершенствоваться, делать наши семинары лучше, а отвечать на какие-то интересные вопросы. и, конечно же, в целом развиваться в этом направлении. Поэтому жду вас на обучении. Если было интересно, полезно, пожалуйста, поставьте лайки, заполните опрос о занятии. Вот здесь вот есть возможность понажимать на эти кнопочки замечательные. Желаю вам отличного отдыха и приглашаю к нам учиться на наш курс. Спасибо ещё раз за внимание и всего доброго. Увидимся в процессе обучения.