Agentic AI - What is it?

Здравствуйте, я Рам, и это RB Tech. Это второе видео из моей серии «ИИ, что происходит», где я действительно пытаюсь понять, что происходит с ИИ в данный момент. Тема этой недели — агентный ИИ. Итак, это действительно то, где мы находимся в данный момент с ИИ. Да. То есть просто гораздо больше делегирования, гораздо больше автоматизации происходит. И это мой лучший способ понять, что происходит, и взять вас с собой, чтобы мы могли разобраться в этом вместе. Хорошо. Итак, тема этой недели — агентный ИИ. Прежде чем я перейду к этому, я просто немного повторю то, что было рассмотрено на последнем занятии. Итак, последнее занятие называлось «ИИ, что происходит», где я прошел эту временную шкалу с 2017 года до наших дней. Но я углубился в статью под названием «Внимание — это все, что вам нужно». И эта статья действительно изменила правила игры для ИИ и этих больших языковых моделей, как вы их знаете. В статье была предложена архитектура ИИ под названием трансформер. То, что я не упомянул на прошлой неделе, это то, что ключевой частью этой архитектуры является параллельная обработка вместо последовательной. Так что это действительно вместо понимания предложения в хронологическом порядке, был вероятностный способ, которым эта архитектура определяет значение слов, и она делает это посредством параллельной обработки. Эксперименты, проведенные в этой статье, показали хорошие результаты в задачах перевода, очень хорошие результаты на самом деле, и в статье упоминается, что трансформер работает на GPU, что дало толчок продуктам компаний, производящих большие языковые модели, таким как ChatGPT, Claude, Gemini, DeepSeek и т. д., которые действительно получили прибыль от этой модели и искали вдохновение в этой модели. В этих продуктах есть модели, которые со временем обновляются, и вы бы предположили, что они становятся более интеллектуальными по мере появления новых моделей. Так, например, GPT-1 менее интеллектуален, чем GPT-4, который является другой моделью. Nvidia является важной частью этого, потому что они являются поставщиком GPU. они создают после того, как эта статья была создана, они создали эти GPU, специально разработанные для программного обеспечения трансформера, которое может на них работать, и они продают их некоторым из этих компаний, занимающихся ИИ. Я написал здесь «законы масштабирования и расширения вычислений», потому что я услышал это в подкасте, и это действительно идея о том, что чем больше вычислительной мощности у вас есть, тем больше может делать ваша модель ИИ. И из-за этой теории теперь существует спрос на центры обработки данных, где такие компании, как Anthropic и OpenAI, например, теперь испытывают потребность в большом пространстве для этих GPU. И где лучше всего разместить эти GPU в центрах обработки данных, где их можно штабелировать. Они занимают физическое пространство, эти центры обработки данных. Для их работы требуется энергия. Это просто важные вещи, которые стоит отметить. А затем я также упомянул, что есть некоторые инвестиции в Великобритании, и я уверен, что есть инвестиции в другие компании для создания этих центров роста ИИ. И, наконец, компания Nvidia имеет стратегические партнерства с OpenAI, Microsoft и Anthropic. И я думаю, что это важно знать снова, потому что вы можете увидеть направление, в котором движется мир в плане ИИ. Эти крупные компании снова, прежде чем я перейду к агентному ИИ, просто что-то, что, я думаю, важно определить, это типы ИИ, потому что ИИ снова является очень расплывчатым термином и относится ко многим вещам. Это зонтичный термин, и под ним существует множество терминов. Поэтому я считаю важным привлечь ваше внимание к этим трем типам ИИ. Искусственный узкий интеллект, и это определение Google Cloud. ANI — это наиболее распространенный тип ИИ сегодня. Он фокусируется на конкретных задачах, таких как распознавание изображений, обработка естественного языка, например, программное обеспечение для распознавания лиц, используемое в системах безопасности, является приложением ИИ. Да. Хорошо. Итак, вот где мы находимся сегодня с ANI. Так что ChatGPT, Claude и т. д. Мы сейчас находимся в точке этой революции, если хотите, искусственного узкого интеллекта. Теперь вы можете часто слышать об AGI в новостях среди этих очень крупных технологических компаний, а AGI означает искусственный общий интеллект. Итак, у меня есть два определения. Первое — это определение Google Cloud. Искусственный общий интеллект AGI относится к гипотетическому интеллекту машины, обладающей способностью понимать или изучать любую интеллектуальную задачу, которую может выполнить человек. Это тип ИИ, который стремится имитировать когнитивные способности человеческого мозга. Таким образом, AGI теоретически находится на том же уровне человеческого интеллекта. Однако, как вы это измеряете, у меня много вопросов по этому поводу, потому что как измерить человеческий интеллект? И я записал эту цитату, когда слушал подкаст, который вел Деннис Хасс, соучредитель DeepMind от Google. Потому что я думаю, что он действительно хорошо это суммировал, и он сказал: «Система, которая демонстрирует все когнитивные способности, которые есть у человеческого разума, что является отличным определением AGI». Теперь ASI — это то, о чем вы, возможно, даже не слышали, и это искусственный сверхинтеллект. Теперь ASI превосходит человеческий интеллект и потенциально может решать проблемы, которые в настоящее время выходят за рамки возможностей человека. Например, система ASI может потенциально разрабатывать высокоэффективные энергетические системы или разрабатывать новые методы лечения. Однако ASI до сих пор остается в значительной степени теоретическим и предметом споров и спекуляций. Итак, я недавно услышал в подкасте сравнение, представьте, что у вас есть человек и белка, и человек превосходит интеллект белки во многих отношениях. Белка может иметь очень упрощенное представление о том, о чем она может думать. Она может просто жить своей жизнью, добывать пищу, просто следить за своим окружением. Довольно упрощенно по сравнению с человеком, насколько нам известно. Возможно, есть гениальные белки, но хорошо, если вы посмотрите на способность и разницу в разуме между человеком и белкой, вы скажете, что человек намного умнее белки. И есть много вещей, которые мы можем сделать, которые белка даже не сможет понять или иметь возможность хранить в своей памяти. Итак, теперь с ASI представьте, что человек — это белка, а ASI — это человек. Теперь, как человек-белка, есть много вещей, которые мы не можем сделать, которые теоретически ASI-человек способен сделать. Теперь я думаю, что я немного запутываюсь. Так что перейдем к агентному ИИ. Итак, что такое агентный ИИ? Я много исследовал агентный ИИ в последние пару недель. Я немного поигрался с ним, и мне все еще довольно трудно точно определить, что он делает иначе. Я имею в виду, я могу сказать, что он делает иначе, но мне трудно подобрать правильные слова, чтобы точно суммировать, что он делает. Это цитата правительства Великобритании, и я уверен, что есть много других цитат, но я думаю, что это доходит до сути, поэтому я буду использовать эту. Агентный ИИ, что это такое? Агенты искусственного интеллекта (ИИ) — это небольшие специализированные фрагменты программного обеспечения, которые могут принимать решения и работать совместно или независимо для достижения системных целей. Это текущий традиционный ИИ, который мы использовали с ChatGPT и т. д. А теперь агентный ИИ относится к системам ИИ, состоящим из агентов, которые могут вести себя и взаимодействовать автономно для достижения своих целей, для достижения своих целей. Знаете, мне все еще не нравится это определение, и я думаю, что становится довольно трудно определить, что именно происходит, просто этими словами. И я скоро перейду к тому, что нарисовал, но я думаю, что ключевым моментом здесь действительно является то, что относится к системам ИИ, состоящим из агентов, которые могут вести себя и взаимодействовать автономно. Итак, в рамках ИИ теперь у нас есть что-то под названием агентный ИИ, где мы находимся в революции ИИ в данный момент. Существует так много разных терминов и т. д., но давайте постараемся упростить. Итак, чтобы суммировать, я знаю, что существует множество способов суммировать это, но я буду основываться на этой модели, потому что я думаю, что существуют некоторые пересечения между этими типами ИИ. Итак, у вас есть предиктивный ИИ, который похож на систему рекомендаций классификации. На самом деле не имеет никакого рассуждения или автономии. У вас есть генеративный ИИ, большие языковые модели, как мы их знаем сегодня. Это большие языковые модели, обученные на большом количестве текстовых данных, очень хорошо понимающие предложения, слова, документы и производящие вывод. У вас есть инструменты, использующие ИИ, которые, возможно, не привлекают большого внимания СМИ, но это действительно ИИ, используемый в программном обеспечении, таком как PyCharm, которое программисты используют для написания своего кода. И это может делать такие вещи, как помогать вам в некотором роде, да, некоторую помощь. И у меня есть видео, где я использую некоторые инструменты с ИИ, но опять же, есть некоторое пересечение между этим и агентным ИИ, но я думаю, что ключевой момент заключается в том, что он начинает предпринимать действия. Так что я покажу небольшой клип здесь. Хорошо. Хорошо. Хорошо, здесь вы можете видеть, что я нахожусь в IDE PyCharm, где я пишу свое программное обеспечение, и это, я думаю, несколько месяцев назад. Как вы можете видеть, у меня есть этот чат ИИ в правом верхнем углу, где я могу попросить его что-то сделать. Это известная проблема информатики, над которой я работал, называемая проблемой восьми ферзей. Я использовал Juny, ИИ-ассистента, для программирования со мной, и здесь я просто прошу его решить задачу. Вы можете видеть, что я даю подсказки внутри самого программного обеспечения, и оно пишет код для меня. Так что это действительно инструменты, использующие ИИ, и как это работает. Это вроде как помощь в программировании, но я думаю, вы уловите суть. Хорошо. Теперь агентный ИИ — это то, где ИИ начинает вести себя немного более независимо, я бы сказал. Да. У него есть многошаговое выполнение, которое он способен выполнять, этот агентный цикл, где он способен воспринимать, планировать, действовать и размышлять. Он действует гораздо больше, как человеческий ассистент. Итак, у вас есть эта диаграмма. Вы даете ему подсказку что-то сделать. Он собирает контекст, проходит через этот цикл, где он действительно сохраняет вещи в памяти, и способен общаться с вами так, как вы, возможно, взаимодействовали бы с сотрудником или другим человеком. И я приведу пример через минуту, как я могу это использовать, но у вас есть поведение, ориентированное на цель, есть циклы обратной связи, и я думаю, что то, что действительно отличает это от чат-ботов, которые вы, возможно, используете сегодня, таких как подсказки в ChatGPT, если вы находитесь на веб-сайте или в приложении, это действительно больше делегирование задачи, вы можете делегировать больше этому агенту ИИ. И знаете, я даже не буду показывать пример прямо сейчас, я хочу перейти к этому слайду, чтобы вы получили визуальный пример, прежде чем я покажу, как я это использую. Итак, я нарисовал эту диаграмму. Ну, я использовал ИИ, чтобы нарисовать эту диаграмму. Коммуникация агентного ИИ. Итак, Алиса, Боб и Мэллори — это известные имена, используемые в криптографии, когда вы пытаетесь понять основы шифрования или безопасности. Да. Итак, я использовал те же имена, но здесь Алиса — агент-разработчик. То есть, по сути, ИИ, существующий в компьютере. Боб — тестовый агент, другой ИИ, существующий в компьютере. Мэллори — оператор-человек. Так что это могу быть я, например. И я, как Мэллори, буду общаться с ИИ через что-то вроде Claude Code, и я попрошу Алису что-то сделать. Привет, можешь разработать эту функцию? И тогда Алиса ответит мне, а затем перейдет к Бобу. Вы увидите это на следующем слайде. Итак, вот пример того, как может работать это взаимодействие. Итак, Мэллори говорит: «Создай, назначь конечную точку и протестируй ее». И это идет сюда, и это сначала назначается агенту-разработчику. Вот корневой код. Они, вероятно, поработали над этим некоторое время, и, возможно, было больше общения между Алисой и Мэллори, прежде чем это перейдет к Бобу, но затем, возможно, Алиса скажет: «Привет, я закончила с этим. Боб, можешь теперь протестировать это?» И Боб отвечает: «Да, я протестировал это». А затем обратная связь вернется к Мэллори, которая может одобрить происходящее, в зависимости от того, насколько много взаимодействия эти агенты имеют с оператором-человеком. Итак, последнее — это развертывание на этапе тестирования в ожидании одобрения. А затем Мэллори одобрит это и, возможно, продолжит работу над этими функциями. Итак, то, как я сейчас работаю с этим, у меня есть такая установка, где у меня есть агент ИИ, разработчик ИИ и тестировщик ИИ, и они работают таким образом, но я пока не готов делегировать все агентам ИИ, потому что я читаю новости, я читаю эти статьи, и я все еще немного обеспокоен безопасностью. Поэтому я все проверяю. Я убеждаюсь, что мои глаза проходят по коду. Я изолирую ИИ, существующий на моем компьютере, чтобы убедиться, что у него нет доступа ко всем моим файлам. Вот как я сейчас действую. Но я думаю, что одно, что я действительно хочу подчеркнуть здесь, это то, что с агентным ИИ, вероятно, наступит момент, когда будет меньше взаимодействия между оператором-человеком и агентами ИИ, поскольку они становятся умнее, вы знаете, трудно предсказать. Это может произойти не скоро, потому что, как я вижу, это работает сейчас, вы видите, как работа происходит аналогично тому, как работают разработчик-человек и тестировщик, что, к сожалению, не очень хорошо для людей в этих отраслях, но таков ход вещей. Поэтому я считаю, что важно, чтобы мы учились или чтобы да, чтобы мы учились, как это работает. Хорошо. Итак, это просто то, что я сгенерировал на ChatGPT, и это просто для того, чтобы дать примеры того, что представляют собой эти различные типы ИИ. Итак, для предиктивного ИИ у вас есть, например, рекомендации Netflix, ранжирование результатов поиска Google, обнаружение мошенничества, генеративный ИИ, как мы знаем, GPT-4, ChatGPT, Claude и т. д., инструменты, использующие ИИ, GitHub Copilot, JetBrains AI Assistant, который я использовал, Microsoft Copilot, агентный ИИ, Claude Code, Devon, Autograph и CrewAI. На данный момент я использовал только Claude Code, но это другие, если вы хотите их изучить, и вы можете увидеть различия здесь. Фаза один, только распознавание образов. Фаза два, генерация текста, кода, изображений, реакция на подсказки. Фаза три, использование инструментов, IDE, API офисных приложений, выполнение ограниченных действий. И фаза четыре, выполнение многошаговых задач, ориентированных на цель, циклы обратной связи. Итак, как вы можете видеть, чтобы действительно дать обзор этого, по мере того, как мы продвигаемся через эти фазы, ИИ становится умнее, и ИИ способен делать для вас больше. Больше автоматизации. Меньше человеческого взаимодействия, и я думаю, что дальнейшие фазы, фаза пять, шесть, семь, какими бы они ни были, просто усилят это. Да, это то, куда все движется. Взаимодействия будет меньше. Хорошо, я просто пройдусь по быстрому примеру того, как, позвольте мне просто посмотреть, какой у меня следующий слайд. Где мой следующий слайд? Хорошо, давайте сначала пройдемся по этому, а затем я расскажу, как я использую агентный ИИ. Итак, здесь предиктивный ИИ, как я упоминал, может выглядеть примерно так. Вы смотрели, потому что вы смотрели «Оранжевый — хит сезона». Это то, что предлагается. Вау. Возможно, мне придется что-то из этого вычеркнуть. генеративный ИИ. Здесь у вас есть DeepSeek, ChatGPT, Claude, действительно чат-боты. Это пример того, что я использовал, чат-бот 4. Он просто дал мне простую задачу, которую мне нужно выполнить со словарем на Python. Я хотел немного повторить Python, и я дал ему подсказку, и он дал мне ответ. Пример использования инструментов с ИИ. Итак, я уже показывал этот видеоклип, но вы можете видеть здесь, как это работает. У меня был код, над которым я работал, и я давал подсказки ИИ внутри этого чата ИИ, взаимодействуя, и ИИ как бы программировал со мной. Да. Хорошо. Теперь у вас есть агентный ИИ, Claude Code, который сейчас очень популярен в мире ИИ. Извините. Это действительно сейчас очень популярно в индустрии технологий. Я думаю, все его используют. Хорошо. Итак, у меня открыт новый проект. Я просто собираюсь продемонстрировать, как Claude может быть использован в этом проекте. Итак, вы можете видеть здесь, что у меня определены инженер и тестировщик, как я упоминал ранее. Итак, у инженера есть ряд обязанностей. Это инженер-программист на Python, и его обязанности включают соблюдение стандартов PEP, например, и у него есть все эти другие обязанности, которые он должен выполнять, и у него также есть некоторые подсказки, которые он должен учитывать при написании своего кода. И я уверен, что люди углубляются в это гораздо больше, знаете ли, как он должен взаимодействовать с Git, как он должен взаимодействовать с вашим, если вы используете CI/CD, ваш процесс выпуска и т. д. Я уверен, что люди делают это также. Но просто в качестве примера, это агент ИИ, его обязанности и то, что он должен делать. И у меня есть нечто подобное для инженера по обеспечению качества Python. Это его обязанности, и это стандарты тестирования. Итак, это пустой проект прямо сейчас. Что я собираюсь сделать, это я собираюсь попросить инженера написать алгоритм поиска на Python, используя лучшие стандарты, определенные в его инженерном файле. А затем я попрошу тестировщика протестировать его после этого. И это просто действительно демонстрирует, как это работает. Итак, инженер Python, какой алгоритм поиска мы должны сделать? Я просто хочу упростить. Напишите функцию, которая использует алгоритм бинарного поиска, который я могу протестировать на наборах целых чисел. После завершения напишите тесты. Необходимые тесты, чтобы убедиться, что алгоритм работает должным образом. Затем предоставьте мне сводку тестов. Хорошо. Итак, у меня есть два агента, которым я дал инструкции. Я сказал инженеру-программисту написать алгоритм бинарного поиска, а затем я попросил тестировщика написать тесты, чтобы убедиться, что код программиста работает. В Claude Code у меня много этих подсказок, потому что это мой первый раз в этом проекте. Вы можете отключить эти изменения на данный момент. Это просто простая вещь. Итак, я просто хочу убедиться, что он запрашивает у меня. Я уверен, что многие другие люди делегируют большую часть задач самому ИИ. Агент действительно способен делать довольно много. Я еще не исследовал это, потому что я довольно осторожен с тем, что я раскрываю ИИ. Хорошо. И тестировщик предоставил мне отчет о тестировании для этого. Хорошо, подождите. Вот файл. Извините. Вы можете видеть, что файл был сгенерирован здесь. Мне просто нужно обновить. Итак, вот код, который написал агент ИИ. Написал эту функцию, и вот тест, который написал тестировщик. Довольно тщательный на самом деле. Да. А затем он предоставляет мне отчет о тестировании здесь, который я также могу увидеть здесь. Он показывает мне, когда тест был выполнен. что они использовали Pytest. Он показывает мне файл, какой файл был протестирован, сколько тестов, все они прошли, какой охват в файле. Он охватывает все. Какие классы протестированы. Да. Так что это все. И это просто простая демонстрация того, что он способен делать с простой функцией. Но, как вы можете себе представить, это может распространяться на целые проекты. И есть так много всего, что он действительно может сделать. Но это действительно суть того, что он может сделать. Да. Так что это Claude Code. Итак, хорошо, теперь я хочу перейти к типам агентного ИИ, потому что все снова развивается очень быстро. И я думаю, я где-то слышал, не цитируйте меня по номеру, что мы всегда отстаем примерно на 8-9 месяцев от того, над чем на самом деле работают эти компании. Итак, если этот Claude Code — это действительно то, где мы находимся сегодня, или я уверен, что есть другие вещи, о которых я даже еще не слышал, но Claude Code появляется очень часто. Давайте так скажем. Многие люди говорят об этом. Итак, вот где мы сейчас находимся в революции ИИ. И Claude Code имеет элемент надзора, где агент ИИ часто будет запрашивать меня вперед и назад. И есть своего рода надзорный способ общения с этим агентом. Так что это агент задач. По мере того, как вы переходите к автономным агентам, которые я не использовал, но я прочитал статью, где говорилось, что этот агент был прозван Goldman Sachs, которые используют его как ИИ-инженера-программиста, и он полностью автономен. Итак, опять же, я не дал лучшей демонстрации того, как я использую Claude, и, возможно, я добавлю сюда клип, чтобы сделать его немного понятнее, или я дам ссылку на видео только на уровне надзора, который вы можете иметь с Claude, это говорит о том, что этот инженер полностью автономен. Так что вместо того, чтобы я был инженером-программистом, скажем, например, в Goldman Sachs, это ИИ-инженер-программист. Я не прочитал достаточно, чтобы знать, как они с ним общаются, но я представляю, что в будущем это будет, давайте просто назовем этого ИИ-инженера-программиста Алисой, например. Я говорю: «Привет, Алиса, можешь поработать над этой функцией для этого проекта?» И, возможно, гораздо более подробно, так, как я бы действительно говорил с человеческим инженером Алисой, и Алиса займется этой работой так же, как человек. Единственное отличие в том, что у нее нет, она физически не существует, верно? Есть также что-то еще под названием Autog, которое я не изучал. Теперь эти агенты — это в основном одноагентные системы, верно? Так что они могут выполнять одну задачу за раз. Так что представьте, что в системе есть только один агент. Следующий этап — и похоже, что компании уже делают это или продукты уже делают это — это многоагентные системы, которые существуют уже давно. Итак, многоагентная система — это действительно наличие множества агентов в вашей экосистеме ИИ, назовем ее так, где они способны выполнять гораздо больше задач. Итак, хорошо, я упомянул Алису. Теперь у вас есть Алиса, Боб и, скажем, Сэм. Алиса, Боб и Сэм. И они работают над множеством разных вещей. Они взаимодействуют друг с другом. Они способны общаться друг с другом и работать над множеством разных вещей. И да, это действительно то, куда движется будущее, где у вас есть эти виртуальные агенты ИИ, существующие в компьютере, способные взаимодействовать с сетями, способные заботиться о вашей архитектуре системы в компании, например, и действительно делегировать многие из этих задач, и я думаю, что общение друг с другом — это важная вещь. Знаете, как я показал на одном из предыдущих слайдов, Алиса говорит Бобу: «Хорошо, я закончил эту задачу. Боб, можешь теперь протестировать это?» И Боб отвечает: «Да, протестировано». А затем, скажем, у нас здесь есть инженер по выпуску. И этот инженер по выпуску говорит: «Хорошо, я вижу, что X, Y и Z сделано. Готово к развертыванию на этапе тестирования». Возможно, наступит момент, когда не будет человеческого взаимодействия. Я надеюсь, что оно будет какое-то время, но, скажем, его нет. И этот менеджер по выпуску говорит: «Хорошо, развернуть на этапе тестирования, если это полностью автономная многоагентная система». Вот как это может выглядеть. Хорошо. Итак, на этом слайде я хотел привлечь ваше внимание к GPU. Опять же, как я упоминал на последнем занятии, текущая рабочая теория заключается в том, что чем больше у вас GPU, тем больше могут делать ваши модели ИИ. Знаете, Nvidia упоминает кластеры Nvidia. Продаются тысячи GPU, и я думаю, я просто хотел привлечь ваше внимание к этому. Я просто открою это, посмотрю, что здесь происходит. Хорошо, это просто, знаете ли, я оставлю ссылку ниже в описании. Это просто страница Nvidia об агентном ИИ. Итак, она показывает, как он используется. Хорошо, это довольно важно. Специализированные агентные системы нуждаются в огромных высококачественных наборах данных, которые медленно и дорого собирать из реальных источников. Синтетические данные, созданные с помощью симуляций или генеративных моделей ИИ, могут устранить это узкое место, создавая неограниченные сценарии обучения без ограничений конфиденциальности или проблем с качеством. Это обеспечивает более быструю разработку разумных больших языковых моделей, многошаговых решателей и мультимодальных систем ИИ. Знаете, я не знаю. Я, возможно, изучу это немного позже, но, очевидно, Nvidia по-прежнему является большой частью этого. Так что, я думаю, просто хорошо упомянуть это. Я думаю, я упомянул Neotron по какой-то причине. Наборы данных Mo's Tech Power для создания специализированных идентификаторов. Хорошо. Итак, похоже, когда я писал этот слайд, это продукт Neotron, семейство открытых решений, специально разработанных для корпоративного ИИ. Похоже, эти Neotron могут использоваться для многоагентных систем, по сути, агентного ИИ, поскольку мы движемся в этом направлении. Neotron звучит как какой-то трансформер. Это Оптимус Прайм? Хорошо, я проведу небольшое исследование по этому поводу и добавлю больше деталей и ссылок ниже, если вы хотите узнать больше. Хорошо. Итак, стоит упомянуть. Есть одна вещь, которую я как бы избегал в этих разговорах, но я думаю, что это необходимо, очень необходимо привлечь ваше внимание: хорошо, во-первых, я слышал, что была утечка Claude Code, и я постараюсь найти статью где-нибудь, и кто-то упомянул, что это выглядит так, как будто это Vibe Coded, что Vibe Coding, по сути, действительно создание приложения без реального понимания того, как программировать, или просто ввод кода и его сборка, не следуя хорошим практикам и т. д. И был разработчик или кто-то в подкасте, который упомянул, что это выглядит так, как будто это было Vibe-кодировано. Я не смотрел их код. Я знаю, что часть его с открытым исходным кодом, но это немного тревожно для крупной технологической компании, занимающейся ИИ, если это правда. Так что это стоит изучить, потому что тогда возникают вопросы о том, проверяется ли этот код. Теперь, как я использую агентный ИИ, и я довольно новичок в этом, я просто думаю, что все еще очень важно проверять свой код. Я не думаю, что мы находимся в точке, где мы можем полностью делегировать код ИИ и не проверять, что он делает. И знаете, что-то, что я, кажется, не упомянул здесь, я не буду вдаваться в это. Думаю, я упоминаю это на следующем слайде. Да, так что это одна вещь, которую стоит принять с долей соли. Будьте осторожны при использовании этих агентных ИИ или ИИ в целом. Знаете, есть много статей, которые вышли, и я, возможно, перейду к ним позже. Хорошо, «Империя ИИ». Я не читал эту книгу. Я собираюсь попытаться прочитать ее в ближайшие несколько месяцев. Так что, я уверен, если вы слушаете много подкастов или смотрите много видео об ИИ, вы можете услышать, что Сэм Олтман — довольно противоречивая фигура, которая Да. Итак, он соучредитель OpenAI. Он довольно противоречивая фигура в СМИ. Я не проводил большого исследования о нем, но есть этот подкаст, который я смотрел с Карен Хау, которую назвали разоблачителем ИИ, и она делает действительно интересное замечание. Я оставлю ссылку в описании. Она говорит о ложной персоне, ложной персоне, которую представляют некоторые из этих ИИ-олигархов. Сэм Олтман, о котором она была довольно откровенна в этой книге, она пришла на подкаст Стивена Бартлетта и много говорила о безопасности ИИ, и одна вещь, которая запомнилась мне, это то, что она сказала, что страх, который эти компании ИИ представляют, и эти диаграммы, где они говорят, что это отнимет вашу работу, на самом деле приносит им прибыль. Как они получают прибыль от этого нарратива, потому что он создает такой образ мышления, который выгоняет людей с работы, а затем направляет их на такие работы, как, например, аннотация данных, где вам, по сути, платят за то, чтобы вы сами себя выгнали с работы, потому что вы обучаете ИИ через эти работы. И она привела ряд примеров этого. У нее довольно негативное представление о Сэм Олтмане, просто слушая этот подкаст. Опять же, я не читал книгу. И я пытаюсь. Что она сказала точно? Я думаю, она была с ним в университете или что-то в этом роде, или она знала его, и Да. Да. Я не могу точно вспомнить, но у нее нет очень положительного взгляда на него. И я слышал, как другие люди говорили, и я не знаю, относится ли это конкретно к нему, но некоторые из этих лидеров ИИ представляют себя публике одним образом, но затем ведут себя очень иначе за закрытыми дверями. Хорошо. Итак, есть книга под названием «ИИ 2041: 10 видений нашего будущего» Кай Фу Ли и Чен Кана. Надеюсь, я правильно произнес. Это вымышленная книга, я хочу отметить. У меня есть эта книга, и я закончил только первую главу. Но я думаю, что это очень интересно. Потому что я думаю, что сейчас снова время действительно обратиться к художественной литературе, написанной людьми, которые довольно хорошо разбираются в технологиях, потому что от ИИ может быть много хорошего и плохого. Итак, в первой главе этой книги упоминается страховая система, которая действительно злоупотребляется ИИ. Итак, да, представьте себе медицинскую/страховую жизнь, но ИИ контролирует все, но ИИ также влияет на ваши решения, и ИИ влияет на ваши решения, прежде чем вы их примете. И ваша страховка увеличится, если вы будете делать опасные вещи, потому что ИИ имеет доступ ко всему, что вы делаете. Так что это один из сценариев, который он представляет. Например, книга становится немного противоречивой, когда два человека разного происхождения проявляют интерес друг к другу, и система ИИ начинает советовать одному из людей держаться подальше от другого человека, потому что это увеличит вашу страховку, знаете ли. Так что это просто один из многих примеров того, как ИИ может быть запрограммирован для достижения конкретной цели. И если правильные меры предосторожности и законы не будут встроены в саму модель ИИ, то кто может сказать, какие решения и влияния будет оказывать этот ИИ для достижения своей цели. И именно здесь кроется темная сторона ИИ, потому что, как я упоминал, даже с агентным ИИ мы начинаем делегировать больше самому ИИ, и он начинает принимать собственные решения, где вещи не обязательно так контролируются, как раньше. И я очень сомневаюсь, что каждый, кто использует Cord Code или подобный продукт, просматривает весь код и все, что он делает. Хорошо. Итак, недавно я наткнулся на кого-то по имени Тристан Харрис, который, я полагаю, работал в Google? Позвольте мне проверить. Тристан Харрис. Хорошо, он был связан с чем-то в Google. Он ушел из Google в 2015 году и стал соучредителем этой некоммерческой организации, и он снова является сторонником безопасности ИИ, и он упоминает AGI в этом видео. Так что я оставлю ссылку на видео ниже. Возможно, перейдите к этому времени, если хотите посмотреть, но он говорит что-то вроде того, что люди не так уникальны, как думают. Мы можем быть деконструированы на уровне дофамина и эмоций, что означает, что нами можно манипулировать. И, знаете ли, социальные сети действительно являются доказательством этого. Да, я думаю, многие из нас любят думать, что мы невероятно уникальны, но существует эта теория, что нас действительно можно деконструировать. И если вы посмотрите на такие вещи, как TikTok, у которого есть этот невероятный алгоритм, чтобы удерживать ваше внимание, если вы не будете внимательны, вы можете быть очень манипулированы, если вы не будете, да, единственный способ, которым я могу это сказать, это если вы не будете внимательны к тому, что вы потребляете. Так что он довольно интересный человек, чью точку зрения стоит послушать. Я также хочу упомянуть, что один из моих коллег по университету, один из преподавателей университета, недавно опубликовал статью под названием «Ответственные гуманоиды», которая, я думаю, является отличной статьей. Я оставлю ссылку ниже, и он говорит, он из области робототехники, и он говорит об антропоморфизме, необходим ли он вам? То есть, действительно ли нам нужно, чтобы роботы выглядели как люди? А затем статья фокусируется на многих ответственных принципах разработки, таких как подотчетность, кто несет ответственность за определенные вещи, и нарушения конфиденциальности. Я очень рекомендую вам прочитать ее и особенно обратить внимание на ответственные принципы разработки. Они также упоминают в статье такие вещи, как запугивание, ажиотаж вокруг ИИ, который происходит сейчас, и это немного напомнило мне то, о чем Карен Хау говорит в своем подкасте о том, как эти компании получают прибыль от этого образа мышления, который они создают в обществе. Хорошо, будущее ИИ. Итак, мне очень понравился сериал «Другая жизнь» на Netflix. Если вы его не видели, спойлер: я немного расскажу о нем. Так что, возможно, сейчас хорошее время, чтобы выйти из этого видео, или я поставлю, я скажу вам, на какое время перейти, чтобы вы не услышали об этом. Хорошо. Итак, в сериале «Другая жизнь» Уильям — это ИИ. Да, агент ИИ, я бы сказал. У него физическая форма — это ИИ-голограмма. Так что у него нет физического тела. Он просто голограмма там каким-то образом. Давайте просто, не думая о том, как это вообще возможно, просто примем это на минуту. Но является ли он AGI, ASI? Является ли он искусственным общим сверхинтеллектом? Я не знаю. Возможно, это вопрос для вас. Дайте мне знать. Но я думаю, что одна вещь, которая действительно важна в его персонаже, это то, что он действительно предоставляет множество применений. Он психолог для главного героя сериала. Он также пилот. Он пилотирует космический корабль. Он также может быть другом, что сопряжено со своими противоречиями и проблемами. Но он очень интересный персонаж для размышлений об ИИ, потому что он является формой искусственного интеллекта, вы знаете, и он был много обучен, чтобы достичь этого, или люди, которые создали Уильяма, ИИ, обучили множество симуляций, чтобы получить эту конкретную модель ИИ, которая достаточно дружелюбна в общении, они могут делать все, быть психологом и пилотировать космический корабль и т. д. Так что да, очень интересно. И, возможно, будущее будет выглядеть так, если ИИ пойдет в очень позитивном направлении. Возможно, мы увидим такие вещи, где ИИ контролирует. Ну, честно говоря, космические корабли уже, я уверен, что ИИ действительно управляет многими автоматизированными системами и был активно вовлечен в автоматизацию. Как с Артемидой, космическим кораблем, который недавно облетел Луну, ученые НАСА, которые облетели Луну, на 100% уверены, что происходит много автоматизации, которая использует ИИ в той или иной форме, будь то обучение тому, как, я не знаю, следовать определенным траекториям, когда топливо высвобождается, знаете ли, стыковка, ну, они не стыковались в этом полете, но если бы они стыковались или выполняли определенные маневры, я очень уверен, что ИИ используется в них. Хорошо, «Я, робот». Я уверен, что все смотрели этот фильм раньше. Он довольно старый, но я думаю, что он поднимает важный вопрос, где вы видите все больше и больше гуманоидов в мире. Итак, одна вещь, которая мне запомнилась, я не смотрел этот фильм годами, но три закона роботов, идея Айзека Азимова представлена в этом фильме. Я не знаю, сформулировано ли это именно так, но я просто прочитаю это. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человек пострадал. Робот должен подчиняться приказам, отданным ему людьми, кроме случаев, когда такие приказы противоречат первому закону. Робот должен защищать свое собственное существование, если такая защита не противоречит первому или второму закону. Итак, я думаю, причина, по которой я поднимаю это, и это важно, да, эти роботы используют ИИ в той или иной форме, но даже виртуальный ИИ, как я упоминал ранее, нам нужны какие-то законы, подобные этим, и я не проводил исследование, я надеюсь, что эти компании ИИ имеют что-то подобное в своих алгоритмах. Хорошо, антропоморфизм не нужен, я упоминал это раньше, многоагентные системы, более одного агента. Так что, если бы это были многоагентные системы, давайте просто подумаем, может быть, роботы могли бы общаться через Wi-Fi или что-то в этом роде, и они могли бы, если бы этот робот стал эффективным в чем-то вроде каратэ, то другой робот мог бы, потому что у этого есть просто обновление программного обеспечения или что-то в этом роде, я думаю, что-то вроде этого. И это ресурсы. Итак, спасибо большое за то, что вы меня выслушали. Я не уверен, о чем будет следующий разговор, но это будет, да, посмотрим, куда я пойду, потому что сейчас так много всего происходит. Возможно, я углублюсь в темную сторону ИИ. Но я также оставлю эти ресурсы в описании. Большое спасибо за то, что вы меня выслушали. Надеюсь, у вас будут прекрасные выходные, и я увижу вас в следующем видео. Я также сделаю сводное видео об этом когда-нибудь.