Что такое агентный ИИ и как на самом деле работают автономные AI-агенты

Агентный ИИ (agentic AI) — это программное обеспечение, которое может спланировать многошаговую задачу, самостоятельно выбрать инструменты и действовать без одобрения каждого шага человеком. Это разница между чат-ботом, который отвечает на вопрос, и системой, которая идёт и делает работу.

Интерес к термину в поисковых запросах резко вырос за последний год, но если спросить десять человек, что такое агентный ИИ, можно получить десять разных ответов. Одни считают, что это любой чат-бот с плагинами. Другие — что это синоним AGI. Ни то, ни другое не верно.

01Что такое агентный ИИ

Агентный ИИ — это конкретная архитектура: модель ИИ, помещённая в цикл, который позволяет ей наблюдать результат, решать, что делать дальше, и продолжать до тех пор, пока задача не будет выполнена или система не зайдёт в тупик. Этот цикл и есть главная идея. Всё остальное — детали реализации.

Генеративный ИИ выдаёт результат и останавливается. Вы просите ChatGPT написать черновик письма — он пишет черновик, задача на этом заканчивается. Агентный ИИ удерживает цель в памяти и продолжает действовать, пока цель не достигнута: вызывает инструменты, проверяет собственную работу и корректирует действия при сбоях.

Чистый пример — кодинг-агент Devin от Cognition. Получив отчёт об ошибке, он не просто предлагает исправление: он клонирует репозиторий, пишет код, запускает тесты, читает вывод об ошибках и переписывает код снова, если тесты не проходятся. Этот цикл «действие — наблюдение — исправление» и отличает агента от генеративного инструмента.

Генеративная модель — очень способный стажёр, который передаёт вам черновик. Агентная система ближе к подрядчику, который берётся за работу и не возвращается, пока она не сделана — или пока не наткнётся на непреодолимую стену.

Базовая модель в обоих случаях часто одна и та же — большая языковая модель. Меняется обвязка вокруг неё: планировщик, который разбивает цель на шаги; хранилище памяти, отслеживающее, что уже произошло; и набор инструментов (интерпретатор кода, браузер, API, запрос к базе данных), которые модель может вызывать в процессе. Если отбросить маркетинг, агентный ИИ — это просто LLM, которой выдали список задач, набор инструментов и разрешение использовать их многократно.

02Как AI-агенты работают на практике

Под капотом большинство агентных систем выполняют одну и ту же последовательность действий. Сначала модель разбивает высокоуровневую цель на более мелкие подзадачи. Затем выбирает инструмент для следующей подзадачи — будь то поиск в интернете, написание кода или запрос к базе данных. Выполняет действие, считывает результат и решает, успешна ли подзадача. Если да — переходит к следующему шагу. Если нет — пробует другой подход или запрашивает помощь.

Salesforce построила свою платформу Agentforce именно вокруг этого паттерна: агент службы поддержки может найти заказ, проверить политику возврата, оформить возврат средств и передать запрос человеку только в том случае, если политика неоднозначна. Salesforce публично заявляла, что Agentforce обрабатывает большую долю стандартных запросов без участия человека. Это не генеративный ИИ, отвечающий на вопрос. Это агент, завершающий транзакцию.

Этап планирования — самый сложный, и именно здесь расходятся подходы разных вендоров. Одни системы используют одну модель и для планирования, и для выполнения. Другие, например, мультиагентные фреймворки вроде Microsoft AutoGen, распределяют задачу между несколькими специализированными экземплярами модели, которые критикуют работу друг друга до выдачи результата. Чем больше агентов в цикле, тем лучше отлавливаются ошибки — но тем медленнее и дороже выполнение. Бесплатного решения этого компромисса пока нет.

03Где ломаются автономные AI-агенты

Маркетинговые презентации умалчивают: автономные агенты постоянно терпят неудачу, причём так, что это трудно заметить, потому что система всё время звучит уверенно.

Самый наглядный публичный пример — AutoGPT, открытый агент, ставший вирусным в начале 2023 года с обещанием полностью автономного выполнения задач. Пользователи быстро обнаружили, что он сжигает API-кредиты OpenAI в бесконечных циклах: агент исследовал задачу, решал, что нужно ещё исследование, исследовал исследование — и так и не выдавал результат.

AutoGPT не провалился из-за слабой модели. Он провалился, потому что никто не проверял, сходится ли цикл к ответу или просто вращается вхолостую. Это основная проблема агентных систем: накопление ошибок. Если один вызов модели надёжен на 95%, это звучит неплохо, пока вы не соедините двадцать таких вызовов в цепочку — и сквозная успешность упадёт ниже 36%. Каждый дополнительный шаг агента — это новый шанс на неверный вызов инструмента, неправильно прочитанный результат или план, который незаметно отклонился от цели. А поскольку агент описывает свои рассуждения уверенными, хорошо сформулированными предложениями, неверный шаг часто выглядит так же, как правильный, пока кто-то не проверит результат.

Второй тип сбоев — доступ к инструментам. Агент, который может только писать текст, ограничен, но безопасен. Агент с прямым подключением к базе данных, платёжным API или доступом к shell может нанести реальный ущерб из-за одного неверного решения. Универсального защитного механизма, который надёжно перехватывал бы такие ситуации у всех вендоров, пока нет.

Именно поэтому развёртывания агентов, которые действительно работают сегодня (например, ассистент службы поддержки Klarna), действуют в узкой, чётко определённой области с жёсткими границами: ассистент Klarna обрабатывает возвраты и вопросы по заказам, а не открытые запросы, и передаёт задачу человеку, как только запрос выходит за эти рамки. Klarna заявляла, что ассистент выполняет работу примерно 700 штатных сотрудников, но это число справедливо только потому, что задача ограничена. Никто ещё не выпустил универсального автономного агента, которому можно доверить неограниченную задачу без контроля человека.

04Что это значит, если вы строите или покупаете

Если вы основатель, оценивающий агентный ИИ для собственного продукта, вопрос к вендору должен быть не «Какова точность вашей модели?», а «Где именно ваш агент перестаёт быть автономным и передаёт задачу человеку?». Если ответ расплывчат, значит, границы ещё не найдены — и вы станете тем, кто их найдёт.