Transcription
Слушай, вот здяж самый большой парадокс вообще всего этого внедрения искусственного интеллекта в нашу работу: это то, что технология, которая, ну, по идее, должна была освободить нас от рутины, она как бы парадоксальным образом сделала из нас микроменеджеров.
О, да. То есть вместо того, чтобы просто делегировать и забыть, мы сидим и контролируем каждый шаг.
Именно. И неважно вообще, насколько умными становятся эти языковые модели. Каждый божий день, ну вот каждая новая сессия с агентом начинается с какого-то просто изматывающего ритуала. Тебя нужно заново объяснять какие-то абсолютно базовые вещи.
Да, как день сурка какой-то.
Вот-вот, машине приходится буквально растолковывать специфику проекта, какие-то наши стандарты качества, ну, тон голоса, формат финала. И это дико утомляет. И знаешь, эта проблема ведь не решается просто тем, что мы, ну, накинем больше вычислительных мощностей или там расширим контекстное окно. Это как бы системная ошикай архитектуре взаимодействия.
Угу.
То есть оператор ИИ тратит просто колоссальное количество энергии на калибровку. Я всегда сравниваю это с тем, а как если бы ты управляла гоночным болидом, но перед каждым поворотом тебе нужно было бы заново пересобирать руль.
Слушай, отличная аналогия. И вот в сегодняшнем разборе мы как раз и будем препарировать эту проблему. Мы опираемся на видео и вообще концепцию аналитика Нейтаби Джонса, которая называется Open Skills, то есть открытые навыки.
Да, и миссия нашего сегодняшнего разбора — это как раз понять, как наконец-то найти выход из этого бесконечного цикла настроек, да, и перейти к созданию, скажем так, портативной операционной системы для агентов. То есть такой слой управления, который будет работать на любого специалиста. И вообще неважно, какие нейросети или там интерфейсы сейчас в тренде.
Абсолютно. Но чтобы понять, как это работает, нам нужно сначала провести чёткую границу между двумя типами информации для ИИ: это декларативная и процедурная память.
Ага. Это то, что мы обсуждали до этого, да? Концепция Open Brain.
Точно. Открытый мозг. Эта штука решала проблему контекста, ну, то есть декларативной памяти. Мы даём агенту доступ ко всем данным проекта: там решение прошлой недели, список контактов, брендбук, вот это всё.
Ну и кажется же на первый взгляд, что если дать и всю эту базу знаний, то всё, проблема решена. Типа, агент видит весь репозиторий кода, всю переписку с клиентом. Ну, иди и делай. Да?
Да, звучит логично, но на практике мы ловим огромную слепую зону. Модель-то знает, какими фактами ты располагаешь, но она вообще понятия не имеет, как именно ты с этими фактами привыкла работать. Да-да-да. Я вот, когда готовилась к этому разбору, я подумала про такую аналогию. Это всё равно, что нанять какого-то феноменально гениального шеф-повара, и ты даёшь ему ключи от абсолютно идеальной кухни.
Так.
Там есть вообще любые продукты мира, рецепты. Это как раз наш Open Brain, но у этого повара какая-то жуткая амнезия, и тебе каждое утро приходится заново показывать ему, как именно в твоём конкретном ресторане нужно резать лук.
Ха, 100%! У него есть знания, но нет навыка. В когнитивистике это как раз разница между тем, чтобы просто знать, как устроен велосипед, и реально уметь на нём ездить.
Угу. И вот эта нехватка процедурной памяти рождает то, что в материалах Джонса называется процедурным долгом. И этот долг, он же накапливается, да, и проявляется в очень таких деструктивных формах. Начинается всё, казалось бы, безобидно, с попытки написать идеальный системный промпт.
О, это моя любимая тема: раздувание промптов. Промтблоу, когда мы берём одно поле системных инструкций и начинаем туда пихать вообще всё подряд. Да-да, пиши кратко, но подробно. Не забывай про форматирование, помни про безопасность.
Именно. И туда же пытаемся засунуть костыле от ошибок, которые модель сделала вчера. И этот блок текста просто раздувается до невероятных размеров.
И проблема в том, что это обречено на провал чисто математически. Это связано с механизмом внимания языковых моделей, когда у тебя в гигантском контексте куча противоречивых правил. Ну, там, будь кратким, но приведи три примера. Внимание рассеивается. То есть модель просто начинает усреднять ответы, да, игнорируя половину ограничений, да, потому что вес каждого правила просто математически падает. И это приводит ко второй форме процедурного долга: налогу на повторение, объяснения и фрагментации.
О, да, фрагментация инструкций. Когда мы понимаем, что гигантский промт не работает, мы начинаем дробить правила. Правила для кода у нас лежат в одном репозитории, какие-то гайды по стилю — в заметках, а кастомные инструкции вообще внутри интерфейса бота.
И стоит тебе поменять стандарт в одном месте после какой-нибудь ошибки, всё, в других местах остаются старые версии, система начинает противоречить сама себе.
А ещё вот этот налог на смену инструментов. Допустим, мы настроили процесс в курсор, всё работает, но нам нужно пойти в cloud код или кодекс. И что?
И ты начинаешь всё заново: объясняешь тон голоса, стандарты тестирования. Это вообще не работа, это обслуживание инфраструктуры, которое просто притворяется работой.
Слушай, в итоге мы приходим к самому, ну, бесячему результату. Автоматизация становится какой-то симуляцией. Агент такой: "Я всё сделал". А ты сидишь и вручную проверяешь каждую строчку. Ссылки биты, вёрстка поехала.
Да, машина не сняла нагрузку, она просто перенесла её на этап ручного аудита. И проблема тут в том, что мы даём размытые языковые команды, типа "проверь код на ошибки". Для агента это просто абстракция, у него нет критериев верификации.
И вот тут мы как раз подходим к самому интересному: как из этого выбраться. Архитектура Open Skills — библиотека отчуждаемых многоразовых процедур. И Джонс на старте запустил библиотеку, где 31 навык в семи категориях и семь так называемых ронбуков.
Звучит масштабно. И тут очень важно не запутаться в терминологии, потому что многие, когда слышат слово "навык", они думают: "А, ну это просто текстовый шаблон, типа тех, что на форумах выкладывают".
Да. Да, я сама так сначала подумала: "Ну просто папочка с умными промптами". Но разница же фундаментальная.
Абсолютно. Промпт — это разовая просьба, а навык, который технически является файлом в формате marкdдау — это процедура, исполняемый контракт для ЕИ.
Вот объясни, пожалуйста. Как просто текстовый файлик с расширением Markдаун может заставить агента подчиняться? Почему он его не проигнорирует, как тот же системный промпт?
А потому что это другой уровень архитектуры. Файл навыка не висит постоянно в памяти. Он подтягивается только в момент выполнения конкретного шага. И он содержит жёсткие триггеры: когда его использовать, а когда категорически нельзя.
То есть внимание модели сфокусировано на 100% на узкой задаче.
Именно. И самое главное, там прописаны алгоритмы верификации. Не просто "будь хорошим", а чёткие шаги.
Давай на примерах. Вот в материалах есть классный пример с навыком поиска актуальной информации. Если утверждение свежее, агент не просто галлюцинирует, навык заставляет его идти в живой поиск.
Да и не просто искать, а сравнивать минимум три источника: отделять факты от предположений. И если уверенности нет, навык физически блокирует публикацию и требует позвать человека.
Вот это круто. А ещё мне очень понравился пример с голосом и стилем. Обычно же мы как пишем: "Ну, сохраняй профессиональный, но дружелюбный тон".
И получаем в итоге классический пластиковый и текст со всеми этими клише.
100%. А навык работает иначе. Он заставляет агента читать реальные примеры твоих текстов из папки. Там прописаны стопслова, длина предложений. Агент не угадывает тон. Он проводит математический анализ твоего стиля.
Да, и мой любимый пример — это тестирование в браузере. Когда мы просто просим модель проверить сайт, она читает HTML и говорит: "Всё о'кей". А на деле всё криво. А навык заставляет открыть реальный маршрут. Так?
Да. Запустить браузер в фоне, проверить консоль на ошибке, эмулировать мобильную версию, сделать скриншот и прикрепить его как доказательство.
Вау. Ну хорошо. Вот у нас есть эти навыки. Это примитивы, да, строительные блоки. Но как их объединить для сложной работы, чтобы не случился хаос? И вот тут появляются runбуки.
Runbooks, да. Навык отвечает на вопрос, что умеет агент, а Runbook — что система может надёжно произвести от начала до конца. Это как композиция навыков.
И вот в видео был отличный пример Creator Workflow. Рабочий процесс создателя контента. Как это выглядит?
Это такая цепь. Сначала RНBook запускает навык транскрипции. Он просто переводит аудио в текст. Всё, больше он ничего не делает. Текст идёт в навык обработки потока мыслей, который выкидывает воду и оставляет суть. Потом навык персонального голоса пишет черновик. Затем сборщик HTML всё это верстает.
А потом публикатор выкладывает сайт с правильными метаданными. И слушай, у каждого навыка свой кусок работы. Навыку транскрипции вообще не нужно знать, как тестировать браузер.
Да и тут напрашивается аналогия с заводом.
Точно. Это как конвейер. Вот есть роботизированная рука, которая красит дверь автомобиля. Это наш навык. Ей вообще не нужно знать схему электропроводки двигателя. А сам конвейер, который координирует все эти руки по времени — это Runbook.
Отличное сравнение. Но чтобы этот завод не взорвался, нам нужен контроль масштаба. То, что называется scope.
Ага. Глобальные и локальные навыки.
Да. Глобальные или персональные? Это твой личный голос, твои базовые стандарты. Они работают всегда, а локальные — это правило для конкретного проекта.
Ну да, например, безопасные команды для конкретного репозитория. Мы же не хотим, чтобы агент случайно применил правила очистки тестовой базы данных из домашнего проекта на рабочий корпоративный сервер.
О, это была бы катастрофа. Поэтому ограничение видимости навыка — это база безопасности. И тут же всплывает жёсткая верификация.
Вот. Раньше мы терпели эту, ну, знаешь, размытую уверенность: "вроде кот выглядит красиво, значит, работает". А в парадигме Open Skills мы переходим к жёсткому правилу: "Не называй это готовым, пока не покажешь доказательства". Ссылку, пройденный тест, скриншот.
Это реально превращает автоматизацию из какого-то бремени проверок в реальный рычаг. Но, слушай, у меня всё равно есть такой скептический затык.
Какой?
Ркдаун файлов во вторую работу. Как это всё обновлять?
И вот тут Джонс вводит самую, пожалуй, элегантную фишку: механизм маховика. Библиотека обогащается сама через инструмент, который называется Session to Skill Extractor.
Экстрактор навыков и сессии. Это как ИИ сам рефлексирует над тем, что он только что сделал.
Именно. Представь: вы долго решали какую-то сложную задачу с агентом, бились над ней. И в конце агент спрашивает: "Слушай, мы сейчас выработали новую неочевидную процедуру. Давай я сохраню её как новый навык".
Ого. Если я говорю "да", он сам генерирует этот Markдаdown файл со всеми триггерами и правилами верификации.
Да и твой потраченный час не улетает в небытие истории чатов. Он становится новым инструментом, новым контрактом на будущее.
Это же потрясающе. Получается, если Open Brain просто копит факты, то Open Skills накапливает ценность в виде надёжности процессов. И вот теперь понятно истинное значение слова "open", открытый.
Да, это не значит, что ты должен вываливать свои секретные корпоративные процессы в открытый доступ на GitHub.
Это про практическую портативность, защиту от вендерного рабства, вот этого Vender Loen. Когда выйдет новая сверхмодель через полгода, мне не нужно будет заново учить её, как я работаю.
Точно. Ты просто берёшь свою папку с навыками, свой операционный слой и подключаешь к новой модели. И компании производят движки, но они не должны владеть нашими рабочими процессами.
Это настолько вдохновляет, если честно. Это же реальная инвестиция в свой профессиональный капитал. И для команд это супер полезно. Ты можешь делиться отваженными навыками с коллегами.
Да, когда Open Brain, то есть контекст, встречается с Open Skills, то есть процедурами, мы получаем систему, которая реально готова к будущему, к мультимодельному миру.
Давай тогда немного резюмируем. Мы сегодня разобрали, почему вот эти раздутые промпты и постоянные объяснения базовых вещей только тормозят нас. И что переход к портативным навыкам и рандбукам со строгими правилами — это реальный выход из процедурного долга.
Главный вывод: хватит тратить время на настройку, притворяющуюся работой. Пора собирать свою личную библиотеку процессов. Да, это заставляет задуматься, сколько часов мы сжиграем просто на повторение инструкции. И знаешь, у меня под конец родилась такая довольно провокационная мысль на основе всего этого.
Интересно, давай. Вот если наши личные библиотеки Open Skills будут расти и становиться всё мощнее, может ли так случится, что в ближайшем будущем на собеседовании главным фактором будет не то, что ты там помнишь в своей биологической памяти, а что, а то, насколько мощную, отлаженную библиотеку портативных и навыков ты принесёшь с собой в компанию. То есть твой личний набор ранбуков станет важнее классического резюме.
О, вот это очень сильная мысль. Думаю, нашим слушателям точно будет над чем поразмышлять.
Да, отличная тема для раздумий. Спасибо всем, кто был с нами сегодня в этом разборе. Надеемся, это поможет вам переосмыслить ваши рабочие процессы.
До новых встреч и удачи в создании ваших собственных навыков.