📱

Get Our Mobile App

Take your business learning on the go!

Download on the App StoreGet it on Google Play

AI tools for Forward Deployed Engineering — Vasuman Moza, Varick Agents

AI Engineer20:23

Transcription

[музыка] Хорошо, прежде всего, огромное спасибо, что пришли. Эм, это был отличный опыт. Знаете, очевидно, общаться среди, э, других гигантов индустрии, таких как Curser и Factory, и Dropm, и я уверен, что вы в основном здесь ради них, но спасибо, что остались на эту беседу. Меня зовут Восс. Я генеральный директор Veric Agents. Мы работаем с одними из крупнейших компаний на планете, трансформируя их изнутри с помощью, э, ИИ и агентов. Эм, и из-за характера нашей работы, которая является высокоиндивидуальной, мы очень глубоко погружаемся в наших клиентов. Это требует большого количества инженеров, развернутых на месте. И этот разговор о том, почему это так важно, как мы подходим к этому в Veric, э, и некоторые из внутренних инструментов, которые мы создали внутри, чтобы позволить нам масштабировать это движение развернутых инженеров без, знаете ли, экспоненциального увеличения штата. И это называется следующим узким местом, потому что я глубоко убежден, что следующим узким местом является то, насколько глубоко вы можете проникнуть в клиента, не увеличивая штат экспоненциально. Как ИИ может выполнить эту работу для вас? Итак, как было сказано ранее, ИИ решает вопросы исполнения работы. Эм, если бы вы оглянулись на пару лет назад, до того, как, знаете ли, агенты мышления и агенты рассуждения стали широко распространенным явлением, и я спросил бы вас, сколько из вас использовали ИИ для решения сквозной задачи. Ответ был бы минимальным или нулевым. Но если бы я задал тот же вопрос всем сегодня, сказав: «Решил ли ИИ для вас сегодня сквозную задачу?» Я уверен, что каждый из вас поднял бы руки. Так что, очевидно, исполнение больше не является основным узким местом. Модели улучшаются до такой степени, что интеллект больше не является ограничением, а инструменты создаются таким образом, что позволяют нам использовать, будь то инструменты для использования в браузере или инструменты API, с очень надежными MCP, которые позволяют нам выполнять работу с почти совершенством. Разница и узкое место, которое все еще существует, заключается в том, насколько хорошо вы можете понять бизнес, потому что каждый бизнес, каждый потребитель отличается. Например, один отдел продаж в медицинской компании работает совершенно иначе, чем отдел продаж в SaaS-компании. И это то, что мы видим в нашей сегодняшней работе в Veric Agents. И если в зале есть какие-либо бизнес-операторы, вы точно знаете, как трудно управлять последними моделями для решения ваших конкретных задач. Очень трудно извлечь этот контекст из ваших, знаете ли, сотрудников и вашей команды, и очень трудно передать это в вызов API или простой вызов модели, который не развалится очень быстро. Так что узкое место заключается в том, сколько вы можете обработать, перепроектировать, сколько вы можете обработать, понять, и это работа, которую мы делаем здесь, в Veric. Итак, в настоящее время операции в основном сосредоточены вокруг человека. В настоящее время работа, которую вы выполняете сегодня, выполняется людьми, будь то поверх программного обеспечения или полностью независимо от программного обеспечения, но в будущем операции будут сосредоточены вокруг ИИ, и это означает не только, знаете ли, предоставление компаниям инструментов ИИ, таких как cursor cloud codeex, таких как factory, таких как любые другие блестящие инструменты ИИ, которые, я уверен, вы используете здесь сегодня, но также и изменение самих операций и процессов, и, по сути, это роль инженера, развернутого на месте: он идет в компанию, понимает, как все работает сегодня, и переосмысливает, как это может выглядеть завтра. И мы считаем, что это наша работа в Veric, и почему инженеры, развернутые на месте, являются такой важной частью того, что мы делаем. Итак, агент, развернутый на месте, что это на самом деле означает? Так зачем нам нужны FTE? Как было сказано ранее, я не собираюсь, знаете ли, слишком много об этом говорить. Я уверен, что вы много слышали об этом сегодня. FTE отвечают за несколько разных вещей. Во-первых, они отображают то, как люди сегодня выполняют свою работу. Итак, как мы делаем это в Veric: несколько инженеров, развернутых на месте, будут напрямую интегрированы с клиентом. Вы можете представить себе крупную компанию с тысячами сотрудников, но мы сузим ее до одного отдела. Например, в финансовом отделе мы посадим их с руководителями процессов по AP, AR, сверке карт, банковскому делу, биллингу, FPNA и т. д. Таким образом, мы будем брать интервью у каждого из этих руководителей процессов, чтобы понять не только, как все работает сегодня, но, что более важно, когда что-то идет не так, что происходит. Знаете, большая часть документации, которая есть у компаний, касается идеального пути и, возможно, одного-двух крайних случаев, но это все еще, по сути, не реальность, потому что, когда мы говорим с клиентами, это много, знаете ли, Сара из AP сегодня обрабатывает рабочий процесс таким образом, но когда что-то идет не так, она фактически передает его Крису, который затем тратит 4 дня на сверку между заказом на покупку и счетом-фактурой. Это реалии, которые: во-первых, уникальны для каждой компании. Способ, которым они обрабатывают вещи, отличается от одной компании к другой, и, во-вторых, реальное узкое место, почему ИИ не может просто работать без контроля и обрабатывать сквозные процессы без той поддержки, которую вы видите сегодня в корпоративном мире. Итак, это первый раздел, который описывает, как люди выполняют работу. Второй — это действительно перепроектирование процесса вокруг ИИ. Так что это значит? Знаете, сегодня много говорят о том, чтобы «приклеить» ИИ к сломанным процессам, и именно поэтому вы не видите ROI в отрасли сегодня. Есть много, знаете ли, полуустаревших, но все еще очень актуальных статистических данных, таких как MIT Review, говорящих, что 95% пилотных проектов генеративного ИИ не достигают стадии производства, или другая статистика, которая была 87%, очень похоже, что большинство пилотных проектов ИИ не приносят измеримого ROI или вообще не доходят до производства. И причина этого в том, что часто ИИ «приклеивается» поверх сломанных процессов таким образом, что ИИ на самом деле не понимает, как что-то делать. Вы видите это на самом простом уровне с кодированием, где инженеру очень трудно, даже с циклами и последними технологиями, просто сказать: «Иди и реши это за меня», и позволить ему переработать целые кодовые базы без некоторой степени человеческого вмешательства. Теперь, если вы экстраполируете это на бизнес-контекст, это очень нетехнические операторы в финансах, продажах, маркетинге, закупках, логистике и т. д. Таким образом, предоставление им этих инструментов ИИ не позволит им получить тот же ROI, который может произвести или создать инженер-программист. Итак, это означает, что вам нужны инженеры, развернутые на месте, чтобы помочь им перепроектировать их текущий процесс вокруг ИИ. Он не должен быть слишком отличающимся, чтобы они не понимали, как работать с системой. Например, если они привыкли к 11-шаговому рабочему процессу, а вы приходите и меняете его на одношаговый, они могут отказаться от него, показатели принятия могут снизиться и т. д. Как упоминалось в предыдущих презентациях. Но в то же время он должен быть достаточно отличающимся, чтобы вы фактически получали ROI. Это означает, что вы говорите: «Хорошо, четыре из этих восьми шагов будут полностью автоматизированы. Остальные три будут выполняться с некоторым вмешательством человека, а один шаг этого процесса будет выполняться человеком, либо потому, что риск слишком высок, либо потому, что он недостаточно уникален для агента, чтобы принести измеримую пользу на этом конкретном этапе процесса». Итак, это второй основной шаг инженера, развернутого на месте. Это причина, по которой они нам нужны. И третье и последнее, и это то, о чем я хочу, чтобы один из наших руководителей инженерии рассказал через мгновение, — это фактическое развертывание этих агентов поверх существующих систем. По сути, в Veric мы считаем, что волна ИИ оставила позади многих корпоративных клиентов. Многие корпоративные клиенты связаны со своими системами учета. Не все, но большинство из них. Они мигрировали на Netsuite, они мигрировали на Dynamics, они мигрировали на SAP и Salesforce. И когда вы предлагаете им решения на базе ИИ, которые живут совершенно отдельно от этих систем, вы игнорируете реальность корпоративного мира. Одна из цитат наших клиентов гласит, что они потратили 5 миллионов долларов и 5 лет на миграцию на Netsuite. Это реальная цитата. Так что, если вы говорите им: «Эй, у меня есть эти модные инструменты ИИ, но, кстати, вам придется отказаться от Netsuite», они скажут вам уйти. У них нет никакого желания делать это. Поэтому мы в Veric верим, что мы будем создавать агентов поверх ваших систем учета, и способ, которым мы это делаем, довольно уникален. У нас есть собственная платформа Veric OS, которая позволяет нам запускать агентов, отслеживать их и т. д. с полным управлением и оценкой, но в то же время она работает поверх ваших систем учета. Так что, если вы используете Salesforce, Netsuite, Dynamics или SAP, мы не попросим вас отказаться от них. И именно здесь корпоративному миру больше всего нужен ИИ, потому что они слишком велики, чтобы двигаться дальше. Так зачем вообще создавать FD-агента? Как упоминалось ранее, я думаю, все говорят, что 2026 год и далее — это год инженера, развернутого на месте. И в некоторой степени мы считаем, что это совершенно верно. Никогда еще не было такой необходимости глубоко погружаться в клиентов, понимать их бизнес-кейсы и помогать им внедрять новейшие инструменты ИИ. Но в то же время мы понимаем, что на самом деле очень трудно найти инженеров, развернутых на месте, которые были бы как технически на высшем уровне, кто действительно способен понимать и говорить на языке ИИ в 10 000 раз лучше, чем средний, знаете ли, корпоративный клиент, но также обладали бы коммуникативными и человеческими навыками, необходимыми для того, чтобы быть, как упоминалось ранее, очень умными, с высоким EQ, извлекать информацию от клиента и встречаться с ними там, где они находятся в режиме реального времени. Знаете, обычно у вас есть консультанты, которых вы затем обучаете технической стороне, или инженеры, которых вы затем обучаете навыкам общения, но очень трудно найти людей, которые являются лучшими в обоих направлениях. Итак, FD-агент — это наша попытка поддержать существующих инженеров, развернутых на месте, которые у нас есть. Например, позволяя одному инженеру, развернутому на месте, или стратегу, развернутому на месте, управлять несколькими клиентскими коммуникациями. Я знаю, что большинство присутствующих здесь — технические специалисты, но очень легко неправильно понять, насколько глубоко вам нужно взаимодействовать с клиентом. Они пишут вам по электронной почте 24/7. Они отправляют вам сотни страниц документации, и каждый руководитель процесса будет тянуть вас в разных направлениях. AP зависит от AR, зависит от сверки, зависит от FPNA, и у каждого из них есть своя версия того, что они считают самым важным. Так что возможность управлять этим контекстом и возможность одинаково обслуживать их всех, не нанимая при этом 50 человек, по сути, очень важна, и именно так мы в Veric избегаем быть, знаете ли, традиционной консалтинговой компанией, предлагая при этом ту ручную поддержку и очень человеческий опыт, человеко-ориентированный подход консалтинга, который, как мы считаем, очень ценен. Итак, в прошлом, в 2024 году и примерно в то время, исполнение работы все еще было узким местом. Это было до того, как модели приобрели интеллект и инструменты получили возможности интеграции, которые позволили им преодолеть узкое место исполнения. Теперь модели ИИ обучены решать задачи исполнения работы, основанной на знаниях. Я бы даже сказал, что работа, основанная на знаниях, почти полностью решена. Разница заключается в том, и это то, что мы сейчас осознаем, что проектирование того, как работа выполняется вокруг ИИ, является следующим узким местом. Это способность глубоко погружаться в клиента, перепроектировать их рабочие процессы, решать, что должно быть автоматизировано, а что нет, и строить это надежным и масштабируемым образом на платформе, которая меняет ситуацию для наших клиентов. Знаете, в отличие от решения одной конкретной задачи, которая обещает трансформировать только одну часть вашего процесса продаж, например, возможно, это поиск потенциальных клиентов. Этот ROI может принести вам 5-10% ROI для вашей функции продаж. То же самое в финансах. Если вы занимаетесь только AP и никакой другой частью вашего отдела, вы можете получить 5-10% ROI. Но в Veric мы осуществляем трансформацию всего отдела, целостно трансформируя весь отдел за раз. И именно так мы получаем ROI, который мы видим для наших клиентов, который составляет 25%, 50%, 75%. Действительно возвращая им, знаете ли, три вещи: увеличение выручки, снижение затрат и снижение рисков, как было так красноречиво заявлено ранее. И AI FDE обучен перепроектировать эти необходимые задачи вокруг ИИ. Итак, я хочу пригласить нашего руководителя инженерии, ДжейДи Пуита, чтобы он вышел и рассказал немного больше о технических деталях нашего FD-агента, потому что я давно не писал ни строчки производственного кода. Итак, вот ДжейДи. >> Хорошо, спасибо. >> И, возможно, если мы сможем включить его микрофон. >> Отлично. Спасибо. Эм, спасибо, Восс. Итак, этот проект по предоставлению инструментов нашим FDE, в основном начался с меня. Я руковожу командой платформы, и мы находимся с одной стороны офиса. Мы тусуемся. Мы отдыхаем. Мы отлично проводим время. Кодексы, Клод, мы все тусуемся. А потом я смотрю на сторону FDE в комнате. Они выглядят напряженными. Они лишены сна. Они чрезвычайно несчастны. Клиенты пишут им по электронной почте 24/7. Я говорю: «Боже мой, вы, ребята, совсем не спали». Итак, я иду и начинаю с ними разговаривать, и я говорю: «Хорошо, как выглядит ваш процесс прямо сейчас? Как вы на самом деле взаимодействуете с этими клиентами?» Ну, мы загружаем около 150 страниц документации в Клод, а затем мы задаем Клоду промпт, а затем мы ждем около 2 минут, а затем мы получаем анализ, а затем он многословен и неверен, и это как-то паршиво, и я сказал: «Хорошо, мы должны это исправить». Итак, мы работаем над FD-агентом, который является кодексом для наших FDE, по сути, и у него три этапа, последний из которых, безусловно, все еще находится в разработке. Первый — это то, что мы называем вовлечением. Первая функция — это агент вовлечения. И, по сути, это улучшенная версия Клода, созданная специально для наших FDE. Это их помощник. У них есть свои заметки. Он синтезирует документацию. Он читает слайды PowerPoint. Он позволяет им задавать вопросы и говорить: «Кто отвечает за этот процесс? Я получил электронное письмо, в котором упоминается Сара, написанная, знаете ли, таким образом. И у меня есть сообщение в Slack с другим написанием. Это одни и те же люди? Потому что это вопросы, которые наши FDE задают весь день, каждый день, и они тратят уйму времени, просто ожидая ответа от Клода. Так что агент вовлечения — это их способ, это их помощник для построения рабочего процесса. Затем есть агент рабочего процесса, и мы взяли нашего агента вовлечения и встроили его в нашу платформу, так что, когда наши FTE идут и фактически создают рабочий процесс, FD-агент находится прямо там, говоря: «О, вы забыли об этом крайнем случае. Вам, вероятно, следует спросить меня, кто владеет этим процессом, чтобы я мог убедиться, что электронное письмо отправлено в нужное место, и оно живет, это, по сути, я могу рассказать больше деталей на следующем слайде, но ой, оно живет, оно живет внутри нашей платформы, оно работает рядом с Клодом или Кодексом, какую бы модель вы ни использовали, и гарантирует, что рабочий процесс, который строит FD, фактически правильно отражает процесс, который мы хотим спроектировать. А затем есть финальная стадия, которой у нас пока нет, — это автономный помощник для FDE, где он получает электронные письма от клиентов, которые говорят: «На самом деле, я хочу изменить, куда отправляется мой отчет о контроле качества. Я хочу изменить его на другой адрес электронной почты и т. д.», и наш агент способен обрабатывать эту информацию, запрашивать понимание компании, которое у нас есть в настоящее время, отправлять автономное изменение в рабочий процесс поверх нашей платформы, и тогда наш FTE никогда не должен вмешиваться, экономя их время для гораздо более ценной работы по сидению, интервьюированию клиентов, действительному пониманию их процесса, и не занимаясь всей мелкой рутиной, которую любой, кто был FTE, может вам сказать, занимает много их времени. Итак, как мы это строим? Первое — это то, что нам нужен какой-то единственный источник истины, какое-то представление о функционировании компании. Есть много разных способов сделать это. Если вы были у стендов внизу сегодня утром, было, знаете ли, пять компаний, пытающихся продать вам графовую базу данных, а вы можете просто использовать Postgress, что угодно. Да, я смотрю на тебя. [кашляет] На самом деле не имеет значения, что вы используете, но суть в том, что мы используем граф зависимостей. Большинство этих рабочих процессов в корпоративном мире удивительно линейны. у них просто много циклов. Но в конце концов, владельцы процессов хотят, чтобы вещи были максимально ориентированы на зависимости. Они не хотят, чтобы человек C в процессе имел дело с чем-то до того, как A и B одобрили это. Так что граф зависимостей — это очень хорошее представление об этом. Затем мы проводим собственное обучение моделей. И есть две части этой проблемы, которую мы пытаемся решить. Первая — это, учитывая извлеченный контекст для FTE, получаем ли мы хороший высококачественный результат, и ответ — с Клодом, честно говоря, нет, что несколько удивительно, но действительно, и я уверен, что вы, ребята, испытали это, когда вы пытаетесь провести длительный анализ, передовые модели чрезвычайно многословны и им не хватает, я бы сказал, я начал верить в консультантов только тогда, когда мы начали нанимать их в Veric. И причина в том, что они так хороши в выяснении того, какая часть детали действительно важна для клиента, а какая часть может быть пропущена. И у передовых моделей нет никакого понятия об этом. Поэтому мы начали пост-обучать наши собственные модели поверх, поверх моделей с открытым исходным кодом. Мы являемся поклонниками Kimmy K26, но многие из них будут работать хорошо, чтобы получить этот хороший баланс между детализацией и ясностью, которого часто не хватает передовым моделям. Итак, это немного о написании хорошего нормализованного потока процессов из извлеченного контекста. Но есть вторая половина проблемы, которая заключается в том, чтобы хорошо перемещаться, извлекать правильный контекст. Итак, у нас может быть этот огромный граф знаний, но его удивительно трудно надежно перемещаться, чтобы найти правильный контекст. Поэтому, как только у нас есть наша пост-обученная модель, мы создаем среду RL, где мы раскрыли наши собственные пользовательские инструменты, специально разработанные для перемещения по нашему графу знаний. Эти инструменты включают в себя: убедитесь, что человек А и человек Б — это действительно один и тот же человек, потому что в каждой компании, с которой мы работаем, есть много Майков, и Клод очень сбивается с толку этим. Вторая вещь может быть чем-то вроде выявления циклов избыточности или нарушений вашего DAG в вашем графе знаний. И поэтому в нашей среде RL мы обучаем очень хорошие инструменты для хорошей работы по перемещению по этому графу для извлечения правильного контекста. Итак, вот как мы решаем две проблемы: написание хорошего анализа из контекста и извлечение правильного контекста в первую очередь. А затем третья часть, к которой мы все еще стремимся, — это агент, который работает автономно для управления рабочими процессами в мелочах, на которых FTE не должен тратить свое время. Думаю, это все, что я хотел сказать. Я передаю слово Воссу. Спасибо, ДжейДи. Итак, где мы находимся? И я хочу поделиться немного больше о Veric. Потому что, очевидно, мы не Cursor, Anthropic или OpenAI мира. Когда мы начинали эту компанию, мы фундаментально верили, что по мере движения шайбы нужно опережать ее и начинать учиться тому, как работает бизнес, и строить с учетом этого. Я думаю, что многие в Кремниевой долине начинают с продукта, продукта, но то, для чего мы строим, не может быть решено только продуктом. Мы начинаем каждое взаимодействие с аудита, где мы фактически отправляем наших инженеров, стратегов, развернутых на месте, в компанию, чтобы они изнутри узнали, как она работает. Я считаю, что это самое большое узкое место. А после этого мы переходим к внедрению. Мы строим агентов на нашей платформе. И да, вам все еще нужны все колокольчики и свистки, и модные технологии, которые позволяют нам, знаете ли, действительно автоматизировать работу в будущем. Но опять же, узкое место — это движение развернутых инженеров, поэтому мы так оптимистичны в Veric относительно наших AI FDE. И если вы заинтересованы в том, чтобы узнать больше об этом, или если вы заинтересованы в присоединении к одному из самых быстрорастущих стартапов в Кремниевой долине, работая с одними из крупнейших клиентов на планете, найдите нас после, и мы поговорим, потому что мы активно нанимаем. И если вы компания, которая хочет понять, как ИИ может действительно изменить ситуацию для вас внутри, вместо того, чтобы просто «приклеивать» передовую модель ко всему и наблюдать, как она ломается в производстве, найдите меня после. Спасибо всем большое за ваше время. Я очень ценю это, и, э, удачи. [аплодисменты] >> [музыка]