Agentic AI

Материал из MachineLearning.

(Различия между версиями)
Перейти к: навигация, поиск
(Новая: {{TOCright}} '''Agentic AI''' (от {{lang-en|agentic}} — «действующий», «субъектный»; в русскоязычной литературе также «аген...)
 
(1 промежуточная версия не показана)
Строка 1: Строка 1:
 +
{{well|Статья написана с использованием LLM '''Claude Opus 4.8''' и проверена участником [[Участник:Vladimir Beliaev|Vladimir Beliaev]] 19:03, 13 июля 2026 (MSD)}}
{{TOCright}}
{{TOCright}}
'''Agentic AI''' (от {{lang-en|agentic}} — «действующий», «субъектный»; в русскоязычной литературе также «агентный ИИ», «ИИ-агенты») — направление [[Искусственный интеллект|искусственного интеллекта]], в котором система на основе [[Большие языковые модели|большой языковой модели]] (LLM) не просто отвечает на запрос, а самостоятельно ставит подцели, планирует последовательность действий, вызывает внешние инструменты и корректирует своё поведение по результатам наблюдений — до тех пор, пока задача не будет решена или признана невыполнимой.
'''Agentic AI''' (от {{lang-en|agentic}} — «действующий», «субъектный»; в русскоязычной литературе также «агентный ИИ», «ИИ-агенты») — направление [[Искусственный интеллект|искусственного интеллекта]], в котором система на основе [[Большие языковые модели|большой языковой модели]] (LLM) не просто отвечает на запрос, а самостоятельно ставит подцели, планирует последовательность действий, вызывает внешние инструменты и корректирует своё поведение по результатам наблюдений — до тех пор, пока задача не будет решена или признана невыполнимой.
Строка 4: Строка 5:
Ключевое отличие от [[Генеративные модели|генеративного ИИ]] удобно сформулировать так: генеративная модель отвечает на вопрос «''что сказать?''», а агентная — на вопрос «''что сделать дальше?''». Первая выдаёт текст за один проход; вторая замыкает [[Обратная связь|цикл обратной связи]] со средой и работает столько шагов, сколько потребуется.
Ключевое отличие от [[Генеративные модели|генеративного ИИ]] удобно сформулировать так: генеративная модель отвечает на вопрос «''что сказать?''», а агентная — на вопрос «''что сделать дальше?''». Первая выдаёт текст за один проход; вторая замыкает [[Обратная связь|цикл обратной связи]] со средой и работает столько шагов, сколько потребуется.
-
Термин вошёл в широкий оборот в 2023–2024 годах, но за ним стоит давняя идея [[Интеллектуальный агент|интеллектуального агента]] из классического ИИ: сущность, которая ''воспринимает'' среду и ''действует'' в ней для достижения цели<ref>Russell S., Norvig P. Artificial Intelligence: A Modern Approach. 4th ed. — Pearson, 2020. (Гл. 2, «Интеллектуальные агенты».)</ref>. Новизна в том, что роль «мозга», принимающего решения, впервые взяла на себя языковая модель общего назначения.
+
Термин вошёл в широкий оборот в 2023–2024 годах, но за ним стоит давняя идея [[Интеллектуальный агент|интеллектуального агента]] из классического ИИ: сущность, которая ''воспринимает'' среду и ''действует'' в ней для достижения цели<ref name="russell">Russell S., Norvig P. Artificial Intelligence: A Modern Approach. 4th ed. — Pearson, 2020. (Гл. 2, «Интеллектуальные агенты».)</ref>. Новизна в том, что роль «мозга», принимающего решения, впервые взяла на себя языковая модель общего назначения, обученная на текстах всего человечества, а не узкоспециализированная политика, обученная под конкретную среду.
== Агентность как спектр, а не как ярлык ==
== Агентность как спектр, а не как ярлык ==
Строка 15: Строка 16:
* '''Агенты''' (agents) — LLM сама динамически решает, какие инструменты вызвать и сколько итераций сделать. Граф вызовов заранее неизвестен.
* '''Агенты''' (agents) — LLM сама динамически решает, какие инструменты вызвать и сколько итераций сделать. Граф вызовов заранее неизвестен.
-
Отсюда важный практический вывод, который часто игнорируют: агент — не всегда лучшее решение. Он даёт гибкость ценой предсказуемости, латентности и стоимости. Если задачу можно решить фиксированным рабочим процессом, обычно так и следует поступить; автономию имеет смысл добавлять ровно там, где пространство решений слишком велико, чтобы прописать его вручную.
+
Отсюда важный практический вывод, который часто игнорируют: агент — не всегда лучшее решение. Он даёт гибкость ценой предсказуемости, латентности и стоимости. Если задачу можно решить фиксированным рабочим процессом, обычно так и следует поступить; автономию имеет смысл добавлять ровно там, где пространство решений слишком велико, чтобы прописать его вручную. Это перекликается с общим принципом инженерии: не вводить в систему больше степеней свободы, чем требует задача.
== Анатомия агента ==
== Анатомия агента ==
-
Типовой агент на базе LLM состоит из четырёх взаимодействующих подсистем; языковая модель выступает контроллером, связывающим их воедино.
+
Типовой агент на базе LLM состоит из четырёх взаимодействующих подсистем; языковая модель выступает контроллером, связывающим их воедино. Иногда эту роль LLM метафорически называют «операционной системой» агента: модель не хранит все данные и не выполняет все вычисления сама, а оркеструет внешние ресурсы.
-
; Планирование : Разбиение крупной цели на подзадачи и выбор порядка действий. Здесь работают приёмы пошагового рассуждения — [[Chain-of-Thought|цепочка рассуждений]] (chain-of-thought)<ref name="cot">Wei J. et al. Chain-of-Thought Prompting Elicits Reasoning in Large Language Models // NeurIPS. 2022. arXiv:2201.11903.</ref>, её ветвящееся обобщение [[Tree of Thoughts|дерево мыслей]] (tree of thoughts)<ref>Yao S. et al. Tree of Thoughts: Deliberate Problem Solving with Large Language Models // NeurIPS. 2023. arXiv:2305.10601.</ref> и голосование по нескольким траекториям (self-consistency).
+
; Планирование : Разбиение крупной цели на подзадачи и выбор порядка действий. Здесь работают приёмы пошагового рассуждения — [[Chain-of-Thought|цепочка рассуждений]] (chain-of-thought)<ref name="cot">Wei J. et al. Chain-of-Thought Prompting Elicits Reasoning in Large Language Models // NeurIPS. 2022. arXiv:2201.11903.</ref>, её ветвящееся обобщение [[Tree of Thoughts|дерево мыслей]] (tree of thoughts)<ref name="tot">Yao S. et al. Tree of Thoughts: Deliberate Problem Solving with Large Language Models // NeurIPS. 2023. arXiv:2305.10601.</ref> и голосование по нескольким траекториям (self-consistency).
-
; Использование инструментов : Способность вызывать внешние функции — поиск, интерпретатор кода, API, базы данных. Модель обучается встраивать вызовы прямо в генерируемый текст (''Toolformer''<ref>Schick T. et al. Toolformer: Language Models Can Teach Themselves to Use Tools // NeurIPS. 2023. arXiv:2302.04761.</ref>, ''ToolLLM''<ref>Qin Y. et al. ToolLLM: Facilitating Large Language Models to Master 16000+ Real-world APIs // ICLR. 2024. arXiv:2307.16789.</ref>). Именно инструменты снимают два врождённых ограничения LLM: устаревание знаний и неумение точно считать.
+
; Использование инструментов : Способность вызывать внешние функции — поиск, интерпретатор кода, API, базы данных. Модель обучается встраивать вызовы прямо в генерируемый текст (''Toolformer''<ref name="toolformer">Schick T. et al. Toolformer: Language Models Can Teach Themselves to Use Tools // NeurIPS. 2023. arXiv:2302.04761.</ref>, ''ToolLLM''<ref name="toolllm">Qin Y. et al. ToolLLM: Facilitating Large Language Models to Master 16000+ Real-world APIs // ICLR. 2024. arXiv:2307.16789.</ref>). Именно инструменты снимают два врождённых ограничения LLM: устаревание знаний и неумение точно считать.
; Память : Кратковременная (содержимое [[Контекстное окно|контекстного окна]]) и долговременная (внешнее хранилище с [[Векторный поиск|векторным поиском]], откуда релевантные фрагменты подтягиваются через [[Дополненная генерация|поиск-дополненную генерацию]], RAG).
; Память : Кратковременная (содержимое [[Контекстное окно|контекстного окна]]) и долговременная (внешнее хранилище с [[Векторный поиск|векторным поиском]], откуда релевантные фрагменты подтягиваются через [[Дополненная генерация|поиск-дополненную генерацию]], RAG).
-
; Рефлексия : Механизм самокритики. В подходе ''Reflexion'' агент после неудачи формулирует словесный «разбор ошибок» и кладёт его в память, чтобы не повторять промах в следующей попытке — своего рода [[Обучение с подкреплением|обучение с подкреплением]] без обновления весов<ref>Shinn N. et al. Reflexion: Language Agents with Verbal Reinforcement Learning // NeurIPS. 2023. arXiv:2303.11366.</ref>.
+
; Рефлексия : Механизм самокритики. В подходе ''Reflexion'' агент после неудачи формулирует словесный «разбор ошибок» и кладёт его в память, чтобы не повторять промах в следующей попытке — своего рода [[Обучение с подкреплением|обучение с подкреплением]] без обновления весов<ref name="reflexion">Shinn N. et al. Reflexion: Language Agents with Verbal Reinforcement Learning // NeurIPS. 2023. arXiv:2303.11366.</ref>.
=== Цикл ReAct: как это выглядит внутри ===
=== Цикл ReAct: как это выглядит внутри ===
Строка 39: Строка 40:
Ответ: 47 лет.
Ответ: 47 лет.
-
Внешне тривиально, но именно перемежение ''рассуждения'' и ''действия'' оказалось решающим: рассуждение направляет выбор действия, а наблюдение из среды приземляет рассуждение и не даёт модели «улететь» в [[Галлюцинация (искусственный интеллект)|галлюцинацию]]. Внешний код, который обслуживает этот цикл (парсит вызовы, исполняет инструменты, обрезает контекст), на инженерном жаргоне называют ''обвязкой'' (harness, scaffolding), и её качество влияет на результат не меньше, чем сама модель.
+
Внешне тривиально, но именно перемежение ''рассуждения'' и ''действия'' оказалось решающим: рассуждение направляет выбор действия, а наблюдение из среды приземляет рассуждение и не даёт модели «улететь» в [[Галлюцинация (искусственный интеллект)|галлюцинацию]]. Внешний код, который обслуживает этот цикл (парсит вызовы, исполняет инструменты, обрезает контекст), на инженерном жаргоне называют ''обвязкой'' (harness, scaffolding), и её качество влияет на результат не меньше, чем сама модель. На практике переход от слабого агента к сильному нередко достигается улучшением обвязки при неизменной модели.
== Мультиагентные системы ==
== Мультиагентные системы ==
-
Отдельная ветвь — не один агент, а ''коллектив'' специализированных агентов, обменивающихся сообщениями. Роли распределяются как в команде: «архитектор», «программист», «тестировщик», «критик». Идея восходит к работе Стэнфорда о «генеративных агентах», населявших виртуальный городок и демонстрировавших правдоподобное социальное поведение<ref>Park J. S. et al. Generative Agents: Interactive Simulacra of Human Behavior // UIST. 2023. arXiv:2304.03442.</ref>, и к ''Voyager'' — агенту, который автономно осваивал ''Minecraft'', накапливая библиотеку навыков<ref>Wang G. et al. Voyager: An Open-Ended Embodied Agent with Large Language Models. 2023. arXiv:2305.16291.</ref>.
+
Отдельная ветвь — не один агент, а ''коллектив'' специализированных агентов, обменивающихся сообщениями. Роли распределяются как в команде: «архитектор», «программист», «тестировщик», «критик». Идея восходит к работе Стэнфорда о «генеративных агентах», населявших виртуальный городок и демонстрировавших правдоподобное социальное поведение<ref name="genagents">Park J. S. et al. Generative Agents: Interactive Simulacra of Human Behavior // UIST. 2023. arXiv:2304.03442.</ref>, и к ''Voyager'' — агенту, который автономно осваивал ''Minecraft'', накапливая библиотеку навыков<ref name="voyager">Wang G. et al. Voyager: An Open-Ended Embodied Agent with Large Language Models. 2023. arXiv:2305.16291.</ref>.
-
На практике мультиагентность — палка о двух концах: разделение ролей иногда повышает качество за счёт «разделения труда» и взаимной критики, но чаще увеличивает стоимость и порождает каскадные ошибки, когда неверная реплика одного агента убеждает остальных. Пока нет консенсуса, когда мультиагентная схема действительно бьёт одного хорошо настроенного агента.
+
На практике мультиагентность — палка о двух концах: разделение ролей иногда повышает качество за счёт «разделения труда» и взаимной критики, но чаще увеличивает стоимость и порождает каскадные ошибки, когда неверная реплика одного агента убеждает остальных. Пока нет консенсуса, когда мультиагентная схема действительно бьёт одного хорошо настроенного агента, — и это одна из наиболее спорных тем в области.
== Как измеряют качество ==
== Как измеряют качество ==
Строка 54: Строка 55:
! Бенчмарк !! Что проверяет
! Бенчмарк !! Что проверяет
|-
|-
-
| ''GAIA''<ref>Mialon G. et al. GAIA: A Benchmark for General AI Assistants // ICLR. 2024. arXiv:2311.12983.</ref> || Вопросы для «общего ассистента», требующие поиска, работы с файлами и многошаговых рассуждений; легки для человека, трудны для ИИ
+
| ''GAIA''<ref name="gaia">Mialon G. et al. GAIA: A Benchmark for General AI Assistants // ICLR. 2024. arXiv:2311.12983.</ref> || Вопросы для «общего ассистента», требующие поиска, работы с файлами и многошаговых рассуждений; легки для человека, трудны для ИИ
|-
|-
-
| ''SWE-bench''<ref>Jimenez C. E. et al. SWE-bench: Can Language Models Resolve Real-World GitHub Issues? // ICLR. 2024. arXiv:2310.06770.</ref> || Решение реальных задач из GitHub-репозиториев: агент должен внести правку, проходящую тесты
+
| ''SWE-bench''<ref name="swebench">Jimenez C. E. et al. SWE-bench: Can Language Models Resolve Real-World GitHub Issues? // ICLR. 2024. arXiv:2310.06770.</ref> || Решение реальных задач из GitHub-репозиториев: агент должен внести правку, проходящую тесты
|-
|-
-
| ''WebArena''<ref>Zhou S. et al. WebArena: A Realistic Web Environment for Building Autonomous Agents // ICLR. 2024. arXiv:2307.13854.</ref> || Выполнение задач в реалистичном браузерном окружении (магазин, форум, CMS)
+
| ''WebArena''<ref name="webarena">Zhou S. et al. WebArena: A Realistic Web Environment for Building Autonomous Agents // ICLR. 2024. arXiv:2307.13854.</ref> || Выполнение задач в реалистичном браузерном окружении (магазин, форум, CMS)
|-
|-
-
| ''AgentBench''<ref>Liu X. et al. AgentBench: Evaluating LLMs as Agents // ICLR. 2024. arXiv:2308.03688.</ref> || Восемь разнородных сред — от ОС и SQL до текстовых игр
+
| ''AgentBench''<ref name="agentbench">Liu X. et al. AgentBench: Evaluating LLMs as Agents // ICLR. 2024. arXiv:2308.03688.</ref> || Восемь разнородных сред — от ОС и SQL до текстовых игр
|-
|-
-
| ''τ-bench''<ref>Yao S. et al. τ-bench: A Benchmark for Tool-Agent-User Interaction in Real-World Domains. 2024. arXiv:2406.12045.</ref> || Диалог агента с пользователем и инструментами при соблюдении бизнес-правил
+
| ''τ-bench''<ref name="taubench">Yao S. et al. τ-bench: A Benchmark for Tool-Agent-User Interaction in Real-World Domains. 2024. arXiv:2406.12045.</ref> || Диалог агента с пользователем и инструментами при соблюдении бизнес-правил
|}
|}
Строка 71: Строка 72:
Пусть агент выполняет каждый отдельный шаг верно с вероятностью ''p''. Тогда задача из ''n'' независимых шагов будет решена целиком с вероятностью примерно ''p''<sup>''n''</sup>. Подставим правдоподобные числа: при ''p'' = 0{,}95 и ''n'' = 20 шагов получаем 0{,}95<sup>20</sup> ≈ 0{,}36. То есть агент, почти безупречный на каждом отдельном действии, проваливает ''две трети'' длинных задач.
Пусть агент выполняет каждый отдельный шаг верно с вероятностью ''p''. Тогда задача из ''n'' независимых шагов будет решена целиком с вероятностью примерно ''p''<sup>''n''</sup>. Подставим правдоподобные числа: при ''p'' = 0{,}95 и ''n'' = 20 шагов получаем 0{,}95<sup>20</sup> ≈ 0{,}36. То есть агент, почти безупречный на каждом отдельном действии, проваливает ''две трети'' длинных задач.
-
Этот эффект — а не «интеллект» модели — сегодня главный ограничитель. Бенчмарк ''τ-bench'' специально ввёл метрику '''pass^k''' (вероятность решить задачу успешно ''k'' раз подряд), и она падает катастрофически быстрее, чем привычная pass@1: модель, которая «в среднем справляется», оказывается ненадёжной при повторных запусках. Для продакшена, где важна воспроизводимость, это приговор куда более суровый, чем средняя точность.
+
Этот эффект — а не «интеллект» модели — сегодня главный ограничитель. Бенчмарк ''τ-bench'' специально ввёл метрику '''pass^k''' (вероятность решить задачу успешно ''k'' раз подряд), и она падает катастрофически быстрее, чем привычная pass@1: модель, которая «в среднем справляется», оказывается ненадёжной при повторных запусках. Для продакшена, где важна воспроизводимость, это приговор куда более суровый, чем средняя точность. Практический вывод: надёжного длинного агента строят не только наращиванием «ума» модели, но и сокращением ''числа критических шагов'' — декомпозицией, проверками-контрольными точками и возможностью отката.
== Приложения ==
== Приложения ==
Наиболее зрелая на 2025 год область — ''агенты-программисты'': автономная правка кода, отладка, миграции (на этом построены Claude Code, GitHub Copilot Workspace, OpenAI Codex и др.). Далее идут веб-агенты и «компьютерное управление» (агент видит экран и двигает курсор), исследовательские ассистенты (см. [[ИИ в научных исследованиях]]), агенты поддержки и продаж, а также «глубокий поиск» (deep research), собирающий отчёт из десятков источников. В медицине, финансах и логистике агентные схемы применяют осторожнее — там цена ошибки высока, а требования к аудиту жёстче<ref name="xi-survey">Xi Z. et al. The Rise and Potential of Large Language Model Based Agents: A Survey // Science China Information Sciences. 2025. arXiv:2309.07864.</ref>.
Наиболее зрелая на 2025 год область — ''агенты-программисты'': автономная правка кода, отладка, миграции (на этом построены Claude Code, GitHub Copilot Workspace, OpenAI Codex и др.). Далее идут веб-агенты и «компьютерное управление» (агент видит экран и двигает курсор), исследовательские ассистенты (см. [[ИИ в научных исследованиях]]), агенты поддержки и продаж, а также «глубокий поиск» (deep research), собирающий отчёт из десятков источников. В медицине, финансах и логистике агентные схемы применяют осторожнее — там цена ошибки высока, а требования к аудиту жёстче<ref name="xi-survey">Xi Z. et al. The Rise and Potential of Large Language Model Based Agents: A Survey // Science China Information Sciences. 2025. arXiv:2309.07864.</ref>.
 +
 +
Экономическая логика приложений упирается в ту же надёжность: агент оправдан там, где даже неполная автоматизация экономит дорогой человеческий труд, а ошибки дёшево обнаружить и исправить (код проходит тесты, отчёт проверяет человек). Там, где ошибка необратима и дорога, автономию сознательно ограничивают.
== Ограничения и открытые проблемы ==
== Ограничения и открытые проблемы ==
Строка 83: Строка 86:
* '''Стоимость и латентность.''' Один агентный запуск — это десятки, порой сотни вызовов модели. Экономика многих сценариев пока не сходится.
* '''Стоимость и латентность.''' Один агентный запуск — это десятки, порой сотни вызовов модели. Экономика многих сценариев пока не сходится.
* '''Оценка.''' Бенчмарки быстро «протухают» (попадают в обучающие данные) и плохо переносятся на реальные задачи с открытым концом.
* '''Оценка.''' Бенчмарки быстро «протухают» (попадают в обучающие данные) и плохо переносятся на реальные задачи с открытым концом.
-
* '''Автономия и согласование.''' Чем длиннее горизонт планирования и шире права доступа, тем острее вопросы [[Проблема согласования ИИ|согласования]] целей агента с намерениями человека и контроля над необратимыми действиями<ref name="plaat-survey">Plaat A. et al. Agentic Large Language Models, a Survey // Journal of Artificial Intelligence Research. 2025. Vol. 84. arXiv:2503.23037.</ref>.
+
* '''Автономия и согласование.''' Чем длиннее горизонт планирования и шире права доступа, тем острее вопросы [[Проблема согласования ИИ|согласования]] целей агента с намерениями человека и контроля над необратимыми действиями<ref name="plaat-survey">Plaat A. et al. Agentic Large Language Models, a Survey // Journal of Artificial Intelligence Research. 2025. Vol. 84. arXiv:2503.23037.</ref>. Эта тема прямо смыкается с [[Риски искусственного интеллекта|рисками ИИ]].
== История (кратко) ==
== История (кратко) ==
Строка 90: Строка 93:
* '''2023''' — взрывной интерес после ''AutoGPT'' и ''BabyAGI'', популяризовавших идею полностью автономного цикла; появляются Reflexion, Voyager, Generative Agents, фреймворк LangChain.
* '''2023''' — взрывной интерес после ''AutoGPT'' и ''BabyAGI'', популяризовавших идею полностью автономного цикла; появляются Reflexion, Voyager, Generative Agents, фреймворк LangChain.
* '''2024''' — фокус смещается с «вау-демо» на надёжность и оценку; Anthropic публикует протокол [[Model Context Protocol]] для стандартизации подключения инструментов и разграничивает агентов и рабочие процессы<ref name="anthropic-agents"/>.
* '''2024''' — фокус смещается с «вау-демо» на надёжность и оценку; Anthropic публикует протокол [[Model Context Protocol]] для стандартизации подключения инструментов и разграничивает агентов и рабочие процессы<ref name="anthropic-agents"/>.
-
* '''2025''' — «год агентов» в индустриальной риторике; агенты-программисты выходят в продакшен, множатся обзоры<ref name="luo-survey"/><ref name="plaat-survey"/>.
+
* '''2025''' — «год агентов» в индустриальной риторике; агенты-программисты выходят в продакшен, множатся систематические обзоры<ref name="luo-survey"/><ref name="plaat-survey"/>.
== См. также ==
== См. также ==
Строка 102: Строка 105:
* [[Дополненная генерация]] (RAG)
* [[Дополненная генерация]] (RAG)
* [[Промпт-инжиниринг]]
* [[Промпт-инжиниринг]]
 +
* [[Риски искусственного интеллекта]]
== Примечания ==
== Примечания ==

Текущая версия

Статья написана с использованием LLM Claude Opus 4.8 и проверена участником Vladimir Beliaev 19:03, 13 июля 2026 (MSD)


Содержание

Agentic AI (от Шаблон:Lang-en — «действующий», «субъектный»; в русскоязычной литературе также «агентный ИИ», «ИИ-агенты») — направление искусственного интеллекта, в котором система на основе большой языковой модели (LLM) не просто отвечает на запрос, а самостоятельно ставит подцели, планирует последовательность действий, вызывает внешние инструменты и корректирует своё поведение по результатам наблюдений — до тех пор, пока задача не будет решена или признана невыполнимой.

Ключевое отличие от генеративного ИИ удобно сформулировать так: генеративная модель отвечает на вопрос «что сказать?», а агентная — на вопрос «что сделать дальше?». Первая выдаёт текст за один проход; вторая замыкает цикл обратной связи со средой и работает столько шагов, сколько потребуется.

Термин вошёл в широкий оборот в 2023–2024 годах, но за ним стоит давняя идея интеллектуального агента из классического ИИ: сущность, которая воспринимает среду и действует в ней для достижения цели[1]. Новизна в том, что роль «мозга», принимающего решения, впервые взяла на себя языковая модель общего назначения, обученная на текстах всего человечества, а не узкоспециализированная политика, обученная под конкретную среду.

Агентность как спектр, а не как ярлык

Распространённая ошибка — делить системы на «агентов» и «не-агентов». Полезнее говорить о степени агентности: насколько система сама определяет, какие шаги предпринять, в каком порядке и когда остановиться.

Инженеры Anthropic предложили практичное разграничение, которое стоит держать в голове[1]:

  • Рабочие процессы (workflows) — LLM и инструменты соединены по заранее прописанному сценарию. Разработчик заранее знает граф вызовов. Пример: «извлеки сущности → переведи → положи в базу».
  • Агенты (agents) — LLM сама динамически решает, какие инструменты вызвать и сколько итераций сделать. Граф вызовов заранее неизвестен.

Отсюда важный практический вывод, который часто игнорируют: агент — не всегда лучшее решение. Он даёт гибкость ценой предсказуемости, латентности и стоимости. Если задачу можно решить фиксированным рабочим процессом, обычно так и следует поступить; автономию имеет смысл добавлять ровно там, где пространство решений слишком велико, чтобы прописать его вручную. Это перекликается с общим принципом инженерии: не вводить в систему больше степеней свободы, чем требует задача.

Анатомия агента

Типовой агент на базе LLM состоит из четырёх взаимодействующих подсистем; языковая модель выступает контроллером, связывающим их воедино. Иногда эту роль LLM метафорически называют «операционной системой» агента: модель не хранит все данные и не выполняет все вычисления сама, а оркеструет внешние ресурсы.

Планирование 
Разбиение крупной цели на подзадачи и выбор порядка действий. Здесь работают приёмы пошагового рассуждения — цепочка рассуждений (chain-of-thought)[1], её ветвящееся обобщение дерево мыслей (tree of thoughts)[1] и голосование по нескольким траекториям (self-consistency).
Использование инструментов 
Способность вызывать внешние функции — поиск, интерпретатор кода, API, базы данных. Модель обучается встраивать вызовы прямо в генерируемый текст (Toolformer[1], ToolLLM[1]). Именно инструменты снимают два врождённых ограничения LLM: устаревание знаний и неумение точно считать.
Память 
Кратковременная (содержимое контекстного окна) и долговременная (внешнее хранилище с векторным поиском, откуда релевантные фрагменты подтягиваются через поиск-дополненную генерацию, RAG).
Рефлексия 
Механизм самокритики. В подходе Reflexion агент после неудачи формулирует словесный «разбор ошибок» и кладёт его в память, чтобы не повторять промах в следующей попытке — своего рода обучение с подкреплением без обновления весов[1].

Цикл ReAct: как это выглядит внутри

Идейное ядро большинства агентов — цикл ReAct (Reason + Act), предложенный Яо и соавторами в 2022 году[1]. Он чередует три вида шагов: 

Мысль:      Чтобы узнать возраст режиссёра, сначала найду фильм.
Действие:   Поиск["режиссёр фильма Сталкер"]
Наблюдение: Андрей Тарковский, род. 4 апреля 1932 г.
Мысль:      Теперь вычислю, сколько ему было в 1979 году.
Действие:   Калькулятор[1979 − 1932]
Наблюдение: 47
Мысль:      Ответ получен.
Ответ:      47 лет.

Внешне тривиально, но именно перемежение рассуждения и действия оказалось решающим: рассуждение направляет выбор действия, а наблюдение из среды приземляет рассуждение и не даёт модели «улететь» в галлюцинацию. Внешний код, который обслуживает этот цикл (парсит вызовы, исполняет инструменты, обрезает контекст), на инженерном жаргоне называют обвязкой (harness, scaffolding), и её качество влияет на результат не меньше, чем сама модель. На практике переход от слабого агента к сильному нередко достигается улучшением обвязки при неизменной модели.

Мультиагентные системы

Отдельная ветвь — не один агент, а коллектив специализированных агентов, обменивающихся сообщениями. Роли распределяются как в команде: «архитектор», «программист», «тестировщик», «критик». Идея восходит к работе Стэнфорда о «генеративных агентах», населявших виртуальный городок и демонстрировавших правдоподобное социальное поведение[1], и к Voyager — агенту, который автономно осваивал Minecraft, накапливая библиотеку навыков[1].

На практике мультиагентность — палка о двух концах: разделение ролей иногда повышает качество за счёт «разделения труда» и взаимной критики, но чаще увеличивает стоимость и порождает каскадные ошибки, когда неверная реплика одного агента убеждает остальных. Пока нет консенсуса, когда мультиагентная схема действительно бьёт одного хорошо настроенного агента, — и это одна из наиболее спорных тем в области.

Как измеряют качество

Оценка агентов — отдельная и на удивление трудная проблема: обычные метрики для текста здесь бесполезны, потому что важен результат действий, а не гладкость ответа. Сложился набор бенчмарков, ставший де-факто стандартом:

Бенчмарк Что проверяет
GAIA[1] Вопросы для «общего ассистента», требующие поиска, работы с файлами и многошаговых рассуждений; легки для человека, трудны для ИИ
SWE-bench[1] Решение реальных задач из GitHub-репозиториев: агент должен внести правку, проходящую тесты
WebArena[1] Выполнение задач в реалистичном браузерном окружении (магазин, форум, CMS)
AgentBench[1] Восемь разнородных сред — от ОС и SQL до текстовых игр
τ-bench[1] Диалог агента с пользователем и инструментами при соблюдении бизнес-правил

Прогресс за 2023–2025 годы разителен: доля решённых задач SWE-bench Verified выросла с единиц процентов до порядка 70 % у ведущих моделей. Но именно бенчмарки вскрыли главную болезнь агентов, о которой стоит сказать подробно.

Проблема компаундинга: почему 95 % — это мало

Пусть агент выполняет каждый отдельный шаг верно с вероятностью p. Тогда задача из n независимых шагов будет решена целиком с вероятностью примерно pn. Подставим правдоподобные числа: при p = 0{,}95 и n = 20 шагов получаем 0{,}9520 ≈ 0{,}36. То есть агент, почти безупречный на каждом отдельном действии, проваливает две трети длинных задач.

Этот эффект — а не «интеллект» модели — сегодня главный ограничитель. Бенчмарк τ-bench специально ввёл метрику pass^k (вероятность решить задачу успешно k раз подряд), и она падает катастрофически быстрее, чем привычная pass@1: модель, которая «в среднем справляется», оказывается ненадёжной при повторных запусках. Для продакшена, где важна воспроизводимость, это приговор куда более суровый, чем средняя точность. Практический вывод: надёжного длинного агента строят не только наращиванием «ума» модели, но и сокращением числа критических шагов — декомпозицией, проверками-контрольными точками и возможностью отката.

Приложения

Наиболее зрелая на 2025 год область — агенты-программисты: автономная правка кода, отладка, миграции (на этом построены Claude Code, GitHub Copilot Workspace, OpenAI Codex и др.). Далее идут веб-агенты и «компьютерное управление» (агент видит экран и двигает курсор), исследовательские ассистенты (см. ИИ в научных исследованиях), агенты поддержки и продаж, а также «глубокий поиск» (deep research), собирающий отчёт из десятков источников. В медицине, финансах и логистике агентные схемы применяют осторожнее — там цена ошибки высока, а требования к аудиту жёстче[1].

Экономическая логика приложений упирается в ту же надёжность: агент оправдан там, где даже неполная автоматизация экономит дорогой человеческий труд, а ошибки дёшево обнаружить и исправить (код проходит тесты, отчёт проверяет человек). Там, где ошибка необратима и дорога, автономию сознательно ограничивают.

Ограничения и открытые проблемы

  • Надёжность. Компаундинг ошибок (см. выше) не решается наращиванием размера модели — нужны верификация промежуточных шагов, откаты и человек в контуре.
  • Безопасность. Агент, читающий внешние данные и имеющий доступ к инструментам, уязвим к инъекции промпта: вредоносная инструкция, спрятанная на веб-странице или в письме, может перехватить управление. Это качественно новый класс угроз по сравнению с обычными LLM[1].
  • Стоимость и латентность. Один агентный запуск — это десятки, порой сотни вызовов модели. Экономика многих сценариев пока не сходится.
  • Оценка. Бенчмарки быстро «протухают» (попадают в обучающие данные) и плохо переносятся на реальные задачи с открытым концом.
  • Автономия и согласование. Чем длиннее горизонт планирования и шире права доступа, тем острее вопросы согласования целей агента с намерениями человека и контроля над необратимыми действиями[1]. Эта тема прямо смыкается с рисками ИИ.

История (кратко)

  • 2022 — ReAct формализует чередование рассуждения и действия[1]; выходят работы по chain-of-thought[1].
  • 2023 — взрывной интерес после AutoGPT и BabyAGI, популяризовавших идею полностью автономного цикла; появляются Reflexion, Voyager, Generative Agents, фреймворк LangChain.
  • 2024 — фокус смещается с «вау-демо» на надёжность и оценку; Anthropic публикует протокол Model Context Protocol для стандартизации подключения инструментов и разграничивает агентов и рабочие процессы[1].
  • 2025 — «год агентов» в индустриальной риторике; агенты-программисты выходят в продакшен, множатся систематические обзоры[1][1].

См. также

Примечания


Ссылки

Источник — «http://recognition.su/wiki/index.php?title=Agentic_AI»
Личные инструменты