Agentic AI
Материал из MachineLearning.
(Различия между версиями)
| Строка 1: | Строка 1: | ||
| + | {{well|Статья написана с использованием LLM '''Claude Opus 4.8''' и проверена участником [[Участник:Vladimir Beliaev|Vladimir Beliaev]] 19:03, 13 июля 2026 (MSD)}} | ||
{{TOCright}} | {{TOCright}} | ||
| - | |||
'''Agentic AI''' (от {{lang-en|agentic}} — «действующий», «субъектный»; в русскоязычной литературе также «агентный ИИ», «ИИ-агенты») — направление [[Искусственный интеллект|искусственного интеллекта]], в котором система на основе [[Большие языковые модели|большой языковой модели]] (LLM) не просто отвечает на запрос, а самостоятельно ставит подцели, планирует последовательность действий, вызывает внешние инструменты и корректирует своё поведение по результатам наблюдений — до тех пор, пока задача не будет решена или признана невыполнимой. | '''Agentic AI''' (от {{lang-en|agentic}} — «действующий», «субъектный»; в русскоязычной литературе также «агентный ИИ», «ИИ-агенты») — направление [[Искусственный интеллект|искусственного интеллекта]], в котором система на основе [[Большие языковые модели|большой языковой модели]] (LLM) не просто отвечает на запрос, а самостоятельно ставит подцели, планирует последовательность действий, вызывает внешние инструменты и корректирует своё поведение по результатам наблюдений — до тех пор, пока задача не будет решена или признана невыполнимой. | ||
Ключевое отличие от [[Генеративные модели|генеративного ИИ]] удобно сформулировать так: генеративная модель отвечает на вопрос «''что сказать?''», а агентная — на вопрос «''что сделать дальше?''». Первая выдаёт текст за один проход; вторая замыкает [[Обратная связь|цикл обратной связи]] со средой и работает столько шагов, сколько потребуется. | Ключевое отличие от [[Генеративные модели|генеративного ИИ]] удобно сформулировать так: генеративная модель отвечает на вопрос «''что сказать?''», а агентная — на вопрос «''что сделать дальше?''». Первая выдаёт текст за один проход; вторая замыкает [[Обратная связь|цикл обратной связи]] со средой и работает столько шагов, сколько потребуется. | ||
| - | Термин вошёл в широкий оборот в 2023–2024 годах, но за ним стоит давняя идея [[Интеллектуальный агент|интеллектуального агента]] из классического ИИ: сущность, которая ''воспринимает'' среду и ''действует'' в ней для достижения цели<ref>Russell S., Norvig P. Artificial Intelligence: A Modern Approach. 4th ed. — Pearson, 2020. (Гл. 2, «Интеллектуальные агенты».)</ref>. Новизна в том, что роль «мозга», принимающего решения, впервые взяла на себя языковая модель общего назначения. | + | Термин вошёл в широкий оборот в 2023–2024 годах, но за ним стоит давняя идея [[Интеллектуальный агент|интеллектуального агента]] из классического ИИ: сущность, которая ''воспринимает'' среду и ''действует'' в ней для достижения цели<ref name="russell">Russell S., Norvig P. Artificial Intelligence: A Modern Approach. 4th ed. — Pearson, 2020. (Гл. 2, «Интеллектуальные агенты».)</ref>. Новизна в том, что роль «мозга», принимающего решения, впервые взяла на себя языковая модель общего назначения, обученная на текстах всего человечества, а не узкоспециализированная политика, обученная под конкретную среду. |
== Агентность как спектр, а не как ярлык == | == Агентность как спектр, а не как ярлык == | ||
| Строка 16: | Строка 16: | ||
* '''Агенты''' (agents) — LLM сама динамически решает, какие инструменты вызвать и сколько итераций сделать. Граф вызовов заранее неизвестен. | * '''Агенты''' (agents) — LLM сама динамически решает, какие инструменты вызвать и сколько итераций сделать. Граф вызовов заранее неизвестен. | ||
| - | Отсюда важный практический вывод, который часто игнорируют: агент — не всегда лучшее решение. Он даёт гибкость ценой предсказуемости, латентности и стоимости. Если задачу можно решить фиксированным рабочим процессом, обычно так и следует поступить; автономию имеет смысл добавлять ровно там, где пространство решений слишком велико, чтобы прописать его вручную. | + | Отсюда важный практический вывод, который часто игнорируют: агент — не всегда лучшее решение. Он даёт гибкость ценой предсказуемости, латентности и стоимости. Если задачу можно решить фиксированным рабочим процессом, обычно так и следует поступить; автономию имеет смысл добавлять ровно там, где пространство решений слишком велико, чтобы прописать его вручную. Это перекликается с общим принципом инженерии: не вводить в систему больше степеней свободы, чем требует задача. |
== Анатомия агента == | == Анатомия агента == | ||
| - | Типовой агент на базе LLM состоит из четырёх взаимодействующих подсистем; языковая модель выступает контроллером, связывающим их воедино. | + | Типовой агент на базе LLM состоит из четырёх взаимодействующих подсистем; языковая модель выступает контроллером, связывающим их воедино. Иногда эту роль LLM метафорически называют «операционной системой» агента: модель не хранит все данные и не выполняет все вычисления сама, а оркеструет внешние ресурсы. |
| - | ; Планирование : Разбиение крупной цели на подзадачи и выбор порядка действий. Здесь работают приёмы пошагового рассуждения — [[Chain-of-Thought|цепочка рассуждений]] (chain-of-thought)<ref name="cot">Wei J. et al. Chain-of-Thought Prompting Elicits Reasoning in Large Language Models // NeurIPS. 2022. arXiv:2201.11903.</ref>, её ветвящееся обобщение [[Tree of Thoughts|дерево мыслей]] (tree of thoughts)<ref>Yao S. et al. Tree of Thoughts: Deliberate Problem Solving with Large Language Models // NeurIPS. 2023. arXiv:2305.10601.</ref> и голосование по нескольким траекториям (self-consistency). | + | ; Планирование : Разбиение крупной цели на подзадачи и выбор порядка действий. Здесь работают приёмы пошагового рассуждения — [[Chain-of-Thought|цепочка рассуждений]] (chain-of-thought)<ref name="cot">Wei J. et al. Chain-of-Thought Prompting Elicits Reasoning in Large Language Models // NeurIPS. 2022. arXiv:2201.11903.</ref>, её ветвящееся обобщение [[Tree of Thoughts|дерево мыслей]] (tree of thoughts)<ref name="tot">Yao S. et al. Tree of Thoughts: Deliberate Problem Solving with Large Language Models // NeurIPS. 2023. arXiv:2305.10601.</ref> и голосование по нескольким траекториям (self-consistency). |
| - | ; Использование инструментов : Способность вызывать внешние функции — поиск, интерпретатор кода, API, базы данных. Модель обучается встраивать вызовы прямо в генерируемый текст (''Toolformer''<ref>Schick T. et al. Toolformer: Language Models Can Teach Themselves to Use Tools // NeurIPS. 2023. arXiv:2302.04761.</ref>, ''ToolLLM''<ref>Qin Y. et al. ToolLLM: Facilitating Large Language Models to Master 16000+ Real-world APIs // ICLR. 2024. arXiv:2307.16789.</ref>). Именно инструменты снимают два врождённых ограничения LLM: устаревание знаний и неумение точно считать. | + | ; Использование инструментов : Способность вызывать внешние функции — поиск, интерпретатор кода, API, базы данных. Модель обучается встраивать вызовы прямо в генерируемый текст (''Toolformer''<ref name="toolformer">Schick T. et al. Toolformer: Language Models Can Teach Themselves to Use Tools // NeurIPS. 2023. arXiv:2302.04761.</ref>, ''ToolLLM''<ref name="toolllm">Qin Y. et al. ToolLLM: Facilitating Large Language Models to Master 16000+ Real-world APIs // ICLR. 2024. arXiv:2307.16789.</ref>). Именно инструменты снимают два врождённых ограничения LLM: устаревание знаний и неумение точно считать. |
; Память : Кратковременная (содержимое [[Контекстное окно|контекстного окна]]) и долговременная (внешнее хранилище с [[Векторный поиск|векторным поиском]], откуда релевантные фрагменты подтягиваются через [[Дополненная генерация|поиск-дополненную генерацию]], RAG). | ; Память : Кратковременная (содержимое [[Контекстное окно|контекстного окна]]) и долговременная (внешнее хранилище с [[Векторный поиск|векторным поиском]], откуда релевантные фрагменты подтягиваются через [[Дополненная генерация|поиск-дополненную генерацию]], RAG). | ||
| - | ; Рефлексия : Механизм самокритики. В подходе ''Reflexion'' агент после неудачи формулирует словесный «разбор ошибок» и кладёт его в память, чтобы не повторять промах в следующей попытке — своего рода [[Обучение с подкреплением|обучение с подкреплением]] без обновления весов<ref>Shinn N. et al. Reflexion: Language Agents with Verbal Reinforcement Learning // NeurIPS. 2023. arXiv:2303.11366.</ref>. | + | ; Рефлексия : Механизм самокритики. В подходе ''Reflexion'' агент после неудачи формулирует словесный «разбор ошибок» и кладёт его в память, чтобы не повторять промах в следующей попытке — своего рода [[Обучение с подкреплением|обучение с подкреплением]] без обновления весов<ref name="reflexion">Shinn N. et al. Reflexion: Language Agents with Verbal Reinforcement Learning // NeurIPS. 2023. arXiv:2303.11366.</ref>. |
=== Цикл ReAct: как это выглядит внутри === | === Цикл ReAct: как это выглядит внутри === | ||
| Строка 40: | Строка 40: | ||
Ответ: 47 лет. | Ответ: 47 лет. | ||
| - | Внешне тривиально, но именно перемежение ''рассуждения'' и ''действия'' оказалось решающим: рассуждение направляет выбор действия, а наблюдение из среды приземляет рассуждение и не даёт модели «улететь» в [[Галлюцинация (искусственный интеллект)|галлюцинацию]]. Внешний код, который обслуживает этот цикл (парсит вызовы, исполняет инструменты, обрезает контекст), на инженерном жаргоне называют ''обвязкой'' (harness, scaffolding), и её качество влияет на результат не меньше, чем сама модель. | + | Внешне тривиально, но именно перемежение ''рассуждения'' и ''действия'' оказалось решающим: рассуждение направляет выбор действия, а наблюдение из среды приземляет рассуждение и не даёт модели «улететь» в [[Галлюцинация (искусственный интеллект)|галлюцинацию]]. Внешний код, который обслуживает этот цикл (парсит вызовы, исполняет инструменты, обрезает контекст), на инженерном жаргоне называют ''обвязкой'' (harness, scaffolding), и её качество влияет на результат не меньше, чем сама модель. На практике переход от слабого агента к сильному нередко достигается улучшением обвязки при неизменной модели. |
== Мультиагентные системы == | == Мультиагентные системы == | ||
| - | Отдельная ветвь — не один агент, а ''коллектив'' специализированных агентов, обменивающихся сообщениями. Роли распределяются как в команде: «архитектор», «программист», «тестировщик», «критик». Идея восходит к работе Стэнфорда о «генеративных агентах», населявших виртуальный городок и демонстрировавших правдоподобное социальное поведение<ref>Park J. S. et al. Generative Agents: Interactive Simulacra of Human Behavior // UIST. 2023. arXiv:2304.03442.</ref>, и к ''Voyager'' — агенту, который автономно осваивал ''Minecraft'', накапливая библиотеку навыков<ref>Wang G. et al. Voyager: An Open-Ended Embodied Agent with Large Language Models. 2023. arXiv:2305.16291.</ref>. | + | Отдельная ветвь — не один агент, а ''коллектив'' специализированных агентов, обменивающихся сообщениями. Роли распределяются как в команде: «архитектор», «программист», «тестировщик», «критик». Идея восходит к работе Стэнфорда о «генеративных агентах», населявших виртуальный городок и демонстрировавших правдоподобное социальное поведение<ref name="genagents">Park J. S. et al. Generative Agents: Interactive Simulacra of Human Behavior // UIST. 2023. arXiv:2304.03442.</ref>, и к ''Voyager'' — агенту, который автономно осваивал ''Minecraft'', накапливая библиотеку навыков<ref name="voyager">Wang G. et al. Voyager: An Open-Ended Embodied Agent with Large Language Models. 2023. arXiv:2305.16291.</ref>. |
| - | На практике мультиагентность — палка о двух концах: разделение ролей иногда повышает качество за счёт «разделения труда» и взаимной критики, но чаще увеличивает стоимость и порождает каскадные ошибки, когда неверная реплика одного агента убеждает остальных. Пока нет консенсуса, когда мультиагентная схема действительно бьёт одного хорошо настроенного агента. | + | На практике мультиагентность — палка о двух концах: разделение ролей иногда повышает качество за счёт «разделения труда» и взаимной критики, но чаще увеличивает стоимость и порождает каскадные ошибки, когда неверная реплика одного агента убеждает остальных. Пока нет консенсуса, когда мультиагентная схема действительно бьёт одного хорошо настроенного агента, — и это одна из наиболее спорных тем в области. |
== Как измеряют качество == | == Как измеряют качество == | ||
| Строка 55: | Строка 55: | ||
! Бенчмарк !! Что проверяет | ! Бенчмарк !! Что проверяет | ||
|- | |- | ||
| - | | ''GAIA''<ref>Mialon G. et al. GAIA: A Benchmark for General AI Assistants // ICLR. 2024. arXiv:2311.12983.</ref> || Вопросы для «общего ассистента», требующие поиска, работы с файлами и многошаговых рассуждений; легки для человека, трудны для ИИ | + | | ''GAIA''<ref name="gaia">Mialon G. et al. GAIA: A Benchmark for General AI Assistants // ICLR. 2024. arXiv:2311.12983.</ref> || Вопросы для «общего ассистента», требующие поиска, работы с файлами и многошаговых рассуждений; легки для человека, трудны для ИИ |
|- | |- | ||
| - | | ''SWE-bench''<ref>Jimenez C. E. et al. SWE-bench: Can Language Models Resolve Real-World GitHub Issues? // ICLR. 2024. arXiv:2310.06770.</ref> || Решение реальных задач из GitHub-репозиториев: агент должен внести правку, проходящую тесты | + | | ''SWE-bench''<ref name="swebench">Jimenez C. E. et al. SWE-bench: Can Language Models Resolve Real-World GitHub Issues? // ICLR. 2024. arXiv:2310.06770.</ref> || Решение реальных задач из GitHub-репозиториев: агент должен внести правку, проходящую тесты |
|- | |- | ||
| - | | ''WebArena''<ref>Zhou S. et al. WebArena: A Realistic Web Environment for Building Autonomous Agents // ICLR. 2024. arXiv:2307.13854.</ref> || Выполнение задач в реалистичном браузерном окружении (магазин, форум, CMS) | + | | ''WebArena''<ref name="webarena">Zhou S. et al. WebArena: A Realistic Web Environment for Building Autonomous Agents // ICLR. 2024. arXiv:2307.13854.</ref> || Выполнение задач в реалистичном браузерном окружении (магазин, форум, CMS) |
|- | |- | ||
| - | | ''AgentBench''<ref>Liu X. et al. AgentBench: Evaluating LLMs as Agents // ICLR. 2024. arXiv:2308.03688.</ref> || Восемь разнородных сред — от ОС и SQL до текстовых игр | + | | ''AgentBench''<ref name="agentbench">Liu X. et al. AgentBench: Evaluating LLMs as Agents // ICLR. 2024. arXiv:2308.03688.</ref> || Восемь разнородных сред — от ОС и SQL до текстовых игр |
|- | |- | ||
| - | | ''τ-bench''<ref>Yao S. et al. τ-bench: A Benchmark for Tool-Agent-User Interaction in Real-World Domains. 2024. arXiv:2406.12045.</ref> || Диалог агента с пользователем и инструментами при соблюдении бизнес-правил | + | | ''τ-bench''<ref name="taubench">Yao S. et al. τ-bench: A Benchmark for Tool-Agent-User Interaction in Real-World Domains. 2024. arXiv:2406.12045.</ref> || Диалог агента с пользователем и инструментами при соблюдении бизнес-правил |
|} | |} | ||
| Строка 72: | Строка 72: | ||
Пусть агент выполняет каждый отдельный шаг верно с вероятностью ''p''. Тогда задача из ''n'' независимых шагов будет решена целиком с вероятностью примерно ''p''<sup>''n''</sup>. Подставим правдоподобные числа: при ''p'' = 0{,}95 и ''n'' = 20 шагов получаем 0{,}95<sup>20</sup> ≈ 0{,}36. То есть агент, почти безупречный на каждом отдельном действии, проваливает ''две трети'' длинных задач. | Пусть агент выполняет каждый отдельный шаг верно с вероятностью ''p''. Тогда задача из ''n'' независимых шагов будет решена целиком с вероятностью примерно ''p''<sup>''n''</sup>. Подставим правдоподобные числа: при ''p'' = 0{,}95 и ''n'' = 20 шагов получаем 0{,}95<sup>20</sup> ≈ 0{,}36. То есть агент, почти безупречный на каждом отдельном действии, проваливает ''две трети'' длинных задач. | ||
| - | Этот эффект — а не «интеллект» модели — сегодня главный ограничитель. Бенчмарк ''τ-bench'' специально ввёл метрику '''pass^k''' (вероятность решить задачу успешно ''k'' раз подряд), и она падает катастрофически быстрее, чем привычная pass@1: модель, которая «в среднем справляется», оказывается ненадёжной при повторных запусках. Для продакшена, где важна воспроизводимость, это приговор куда более суровый, чем средняя точность. | + | Этот эффект — а не «интеллект» модели — сегодня главный ограничитель. Бенчмарк ''τ-bench'' специально ввёл метрику '''pass^k''' (вероятность решить задачу успешно ''k'' раз подряд), и она падает катастрофически быстрее, чем привычная pass@1: модель, которая «в среднем справляется», оказывается ненадёжной при повторных запусках. Для продакшена, где важна воспроизводимость, это приговор куда более суровый, чем средняя точность. Практический вывод: надёжного длинного агента строят не только наращиванием «ума» модели, но и сокращением ''числа критических шагов'' — декомпозицией, проверками-контрольными точками и возможностью отката. |
== Приложения == | == Приложения == | ||
Наиболее зрелая на 2025 год область — ''агенты-программисты'': автономная правка кода, отладка, миграции (на этом построены Claude Code, GitHub Copilot Workspace, OpenAI Codex и др.). Далее идут веб-агенты и «компьютерное управление» (агент видит экран и двигает курсор), исследовательские ассистенты (см. [[ИИ в научных исследованиях]]), агенты поддержки и продаж, а также «глубокий поиск» (deep research), собирающий отчёт из десятков источников. В медицине, финансах и логистике агентные схемы применяют осторожнее — там цена ошибки высока, а требования к аудиту жёстче<ref name="xi-survey">Xi Z. et al. The Rise and Potential of Large Language Model Based Agents: A Survey // Science China Information Sciences. 2025. arXiv:2309.07864.</ref>. | Наиболее зрелая на 2025 год область — ''агенты-программисты'': автономная правка кода, отладка, миграции (на этом построены Claude Code, GitHub Copilot Workspace, OpenAI Codex и др.). Далее идут веб-агенты и «компьютерное управление» (агент видит экран и двигает курсор), исследовательские ассистенты (см. [[ИИ в научных исследованиях]]), агенты поддержки и продаж, а также «глубокий поиск» (deep research), собирающий отчёт из десятков источников. В медицине, финансах и логистике агентные схемы применяют осторожнее — там цена ошибки высока, а требования к аудиту жёстче<ref name="xi-survey">Xi Z. et al. The Rise and Potential of Large Language Model Based Agents: A Survey // Science China Information Sciences. 2025. arXiv:2309.07864.</ref>. | ||
| + | |||
| + | Экономическая логика приложений упирается в ту же надёжность: агент оправдан там, где даже неполная автоматизация экономит дорогой человеческий труд, а ошибки дёшево обнаружить и исправить (код проходит тесты, отчёт проверяет человек). Там, где ошибка необратима и дорога, автономию сознательно ограничивают. | ||
== Ограничения и открытые проблемы == | == Ограничения и открытые проблемы == | ||
| Строка 84: | Строка 86: | ||
* '''Стоимость и латентность.''' Один агентный запуск — это десятки, порой сотни вызовов модели. Экономика многих сценариев пока не сходится. | * '''Стоимость и латентность.''' Один агентный запуск — это десятки, порой сотни вызовов модели. Экономика многих сценариев пока не сходится. | ||
* '''Оценка.''' Бенчмарки быстро «протухают» (попадают в обучающие данные) и плохо переносятся на реальные задачи с открытым концом. | * '''Оценка.''' Бенчмарки быстро «протухают» (попадают в обучающие данные) и плохо переносятся на реальные задачи с открытым концом. | ||
| - | * '''Автономия и согласование.''' Чем длиннее горизонт планирования и шире права доступа, тем острее вопросы [[Проблема согласования ИИ|согласования]] целей агента с намерениями человека и контроля над необратимыми действиями<ref name="plaat-survey">Plaat A. et al. Agentic Large Language Models, a Survey // Journal of Artificial Intelligence Research. 2025. Vol. 84. arXiv:2503.23037.</ref>. | + | * '''Автономия и согласование.''' Чем длиннее горизонт планирования и шире права доступа, тем острее вопросы [[Проблема согласования ИИ|согласования]] целей агента с намерениями человека и контроля над необратимыми действиями<ref name="plaat-survey">Plaat A. et al. Agentic Large Language Models, a Survey // Journal of Artificial Intelligence Research. 2025. Vol. 84. arXiv:2503.23037.</ref>. Эта тема прямо смыкается с [[Риски искусственного интеллекта|рисками ИИ]]. |
== История (кратко) == | == История (кратко) == | ||
| Строка 91: | Строка 93: | ||
* '''2023''' — взрывной интерес после ''AutoGPT'' и ''BabyAGI'', популяризовавших идею полностью автономного цикла; появляются Reflexion, Voyager, Generative Agents, фреймворк LangChain. | * '''2023''' — взрывной интерес после ''AutoGPT'' и ''BabyAGI'', популяризовавших идею полностью автономного цикла; появляются Reflexion, Voyager, Generative Agents, фреймворк LangChain. | ||
* '''2024''' — фокус смещается с «вау-демо» на надёжность и оценку; Anthropic публикует протокол [[Model Context Protocol]] для стандартизации подключения инструментов и разграничивает агентов и рабочие процессы<ref name="anthropic-agents"/>. | * '''2024''' — фокус смещается с «вау-демо» на надёжность и оценку; Anthropic публикует протокол [[Model Context Protocol]] для стандартизации подключения инструментов и разграничивает агентов и рабочие процессы<ref name="anthropic-agents"/>. | ||
| - | * '''2025''' — «год агентов» в индустриальной риторике; агенты-программисты выходят в продакшен, множатся обзоры<ref name="luo-survey"/><ref name="plaat-survey"/>. | + | * '''2025''' — «год агентов» в индустриальной риторике; агенты-программисты выходят в продакшен, множатся систематические обзоры<ref name="luo-survey"/><ref name="plaat-survey"/>. |
== См. также == | == См. также == | ||
| Строка 103: | Строка 105: | ||
* [[Дополненная генерация]] (RAG) | * [[Дополненная генерация]] (RAG) | ||
* [[Промпт-инжиниринг]] | * [[Промпт-инжиниринг]] | ||
| + | * [[Риски искусственного интеллекта]] | ||
== Примечания == | == Примечания == | ||
Текущая версия
| Статья написана с использованием LLM Claude Opus 4.8 и проверена участником Vladimir Beliaev 19:03, 13 июля 2026 (MSD) |
|
Agentic AI (от Шаблон:Lang-en — «действующий», «субъектный»; в русскоязычной литературе также «агентный ИИ», «ИИ-агенты») — направление искусственного интеллекта, в котором система на основе большой языковой модели (LLM) не просто отвечает на запрос, а самостоятельно ставит подцели, планирует последовательность действий, вызывает внешние инструменты и корректирует своё поведение по результатам наблюдений — до тех пор, пока задача не будет решена или признана невыполнимой.
Ключевое отличие от генеративного ИИ удобно сформулировать так: генеративная модель отвечает на вопрос «что сказать?», а агентная — на вопрос «что сделать дальше?». Первая выдаёт текст за один проход; вторая замыкает цикл обратной связи со средой и работает столько шагов, сколько потребуется.
Термин вошёл в широкий оборот в 2023–2024 годах, но за ним стоит давняя идея интеллектуального агента из классического ИИ: сущность, которая воспринимает среду и действует в ней для достижения цели[1]. Новизна в том, что роль «мозга», принимающего решения, впервые взяла на себя языковая модель общего назначения, обученная на текстах всего человечества, а не узкоспециализированная политика, обученная под конкретную среду.
Агентность как спектр, а не как ярлык
Распространённая ошибка — делить системы на «агентов» и «не-агентов». Полезнее говорить о степени агентности: насколько система сама определяет, какие шаги предпринять, в каком порядке и когда остановиться.
Инженеры Anthropic предложили практичное разграничение, которое стоит держать в голове[1]:
- Рабочие процессы (workflows) — LLM и инструменты соединены по заранее прописанному сценарию. Разработчик заранее знает граф вызовов. Пример: «извлеки сущности → переведи → положи в базу».
- Агенты (agents) — LLM сама динамически решает, какие инструменты вызвать и сколько итераций сделать. Граф вызовов заранее неизвестен.
Отсюда важный практический вывод, который часто игнорируют: агент — не всегда лучшее решение. Он даёт гибкость ценой предсказуемости, латентности и стоимости. Если задачу можно решить фиксированным рабочим процессом, обычно так и следует поступить; автономию имеет смысл добавлять ровно там, где пространство решений слишком велико, чтобы прописать его вручную. Это перекликается с общим принципом инженерии: не вводить в систему больше степеней свободы, чем требует задача.
Анатомия агента
Типовой агент на базе LLM состоит из четырёх взаимодействующих подсистем; языковая модель выступает контроллером, связывающим их воедино. Иногда эту роль LLM метафорически называют «операционной системой» агента: модель не хранит все данные и не выполняет все вычисления сама, а оркеструет внешние ресурсы.
- Планирование
- Разбиение крупной цели на подзадачи и выбор порядка действий. Здесь работают приёмы пошагового рассуждения — цепочка рассуждений (chain-of-thought)[1], её ветвящееся обобщение дерево мыслей (tree of thoughts)[1] и голосование по нескольким траекториям (self-consistency).
- Использование инструментов
- Способность вызывать внешние функции — поиск, интерпретатор кода, API, базы данных. Модель обучается встраивать вызовы прямо в генерируемый текст (Toolformer[1], ToolLLM[1]). Именно инструменты снимают два врождённых ограничения LLM: устаревание знаний и неумение точно считать.
- Память
- Кратковременная (содержимое контекстного окна) и долговременная (внешнее хранилище с векторным поиском, откуда релевантные фрагменты подтягиваются через поиск-дополненную генерацию, RAG).
- Рефлексия
- Механизм самокритики. В подходе Reflexion агент после неудачи формулирует словесный «разбор ошибок» и кладёт его в память, чтобы не повторять промах в следующей попытке — своего рода обучение с подкреплением без обновления весов[1].
Цикл ReAct: как это выглядит внутри
Идейное ядро большинства агентов — цикл ReAct (Reason + Act), предложенный Яо и соавторами в 2022 году[1]. Он чередует три вида шагов:
Мысль: Чтобы узнать возраст режиссёра, сначала найду фильм. Действие: Поиск["режиссёр фильма Сталкер"] Наблюдение: Андрей Тарковский, род. 4 апреля 1932 г. Мысль: Теперь вычислю, сколько ему было в 1979 году. Действие: Калькулятор[1979 − 1932] Наблюдение: 47 Мысль: Ответ получен. Ответ: 47 лет.
Внешне тривиально, но именно перемежение рассуждения и действия оказалось решающим: рассуждение направляет выбор действия, а наблюдение из среды приземляет рассуждение и не даёт модели «улететь» в галлюцинацию. Внешний код, который обслуживает этот цикл (парсит вызовы, исполняет инструменты, обрезает контекст), на инженерном жаргоне называют обвязкой (harness, scaffolding), и её качество влияет на результат не меньше, чем сама модель. На практике переход от слабого агента к сильному нередко достигается улучшением обвязки при неизменной модели.
Мультиагентные системы
Отдельная ветвь — не один агент, а коллектив специализированных агентов, обменивающихся сообщениями. Роли распределяются как в команде: «архитектор», «программист», «тестировщик», «критик». Идея восходит к работе Стэнфорда о «генеративных агентах», населявших виртуальный городок и демонстрировавших правдоподобное социальное поведение[1], и к Voyager — агенту, который автономно осваивал Minecraft, накапливая библиотеку навыков[1].
На практике мультиагентность — палка о двух концах: разделение ролей иногда повышает качество за счёт «разделения труда» и взаимной критики, но чаще увеличивает стоимость и порождает каскадные ошибки, когда неверная реплика одного агента убеждает остальных. Пока нет консенсуса, когда мультиагентная схема действительно бьёт одного хорошо настроенного агента, — и это одна из наиболее спорных тем в области.
Как измеряют качество
Оценка агентов — отдельная и на удивление трудная проблема: обычные метрики для текста здесь бесполезны, потому что важен результат действий, а не гладкость ответа. Сложился набор бенчмарков, ставший де-факто стандартом:
| Бенчмарк | Что проверяет |
|---|---|
| GAIA[1] | Вопросы для «общего ассистента», требующие поиска, работы с файлами и многошаговых рассуждений; легки для человека, трудны для ИИ |
| SWE-bench[1] | Решение реальных задач из GitHub-репозиториев: агент должен внести правку, проходящую тесты |
| WebArena[1] | Выполнение задач в реалистичном браузерном окружении (магазин, форум, CMS) |
| AgentBench[1] | Восемь разнородных сред — от ОС и SQL до текстовых игр |
| τ-bench[1] | Диалог агента с пользователем и инструментами при соблюдении бизнес-правил |
Прогресс за 2023–2025 годы разителен: доля решённых задач SWE-bench Verified выросла с единиц процентов до порядка 70 % у ведущих моделей. Но именно бенчмарки вскрыли главную болезнь агентов, о которой стоит сказать подробно.
Проблема компаундинга: почему 95 % — это мало
Пусть агент выполняет каждый отдельный шаг верно с вероятностью p. Тогда задача из n независимых шагов будет решена целиком с вероятностью примерно pn. Подставим правдоподобные числа: при p = 0{,}95 и n = 20 шагов получаем 0{,}9520 ≈ 0{,}36. То есть агент, почти безупречный на каждом отдельном действии, проваливает две трети длинных задач.
Этот эффект — а не «интеллект» модели — сегодня главный ограничитель. Бенчмарк τ-bench специально ввёл метрику pass^k (вероятность решить задачу успешно k раз подряд), и она падает катастрофически быстрее, чем привычная pass@1: модель, которая «в среднем справляется», оказывается ненадёжной при повторных запусках. Для продакшена, где важна воспроизводимость, это приговор куда более суровый, чем средняя точность. Практический вывод: надёжного длинного агента строят не только наращиванием «ума» модели, но и сокращением числа критических шагов — декомпозицией, проверками-контрольными точками и возможностью отката.
Приложения
Наиболее зрелая на 2025 год область — агенты-программисты: автономная правка кода, отладка, миграции (на этом построены Claude Code, GitHub Copilot Workspace, OpenAI Codex и др.). Далее идут веб-агенты и «компьютерное управление» (агент видит экран и двигает курсор), исследовательские ассистенты (см. ИИ в научных исследованиях), агенты поддержки и продаж, а также «глубокий поиск» (deep research), собирающий отчёт из десятков источников. В медицине, финансах и логистике агентные схемы применяют осторожнее — там цена ошибки высока, а требования к аудиту жёстче[1].
Экономическая логика приложений упирается в ту же надёжность: агент оправдан там, где даже неполная автоматизация экономит дорогой человеческий труд, а ошибки дёшево обнаружить и исправить (код проходит тесты, отчёт проверяет человек). Там, где ошибка необратима и дорога, автономию сознательно ограничивают.
Ограничения и открытые проблемы
- Надёжность. Компаундинг ошибок (см. выше) не решается наращиванием размера модели — нужны верификация промежуточных шагов, откаты и человек в контуре.
- Безопасность. Агент, читающий внешние данные и имеющий доступ к инструментам, уязвим к инъекции промпта: вредоносная инструкция, спрятанная на веб-странице или в письме, может перехватить управление. Это качественно новый класс угроз по сравнению с обычными LLM[1].
- Стоимость и латентность. Один агентный запуск — это десятки, порой сотни вызовов модели. Экономика многих сценариев пока не сходится.
- Оценка. Бенчмарки быстро «протухают» (попадают в обучающие данные) и плохо переносятся на реальные задачи с открытым концом.
- Автономия и согласование. Чем длиннее горизонт планирования и шире права доступа, тем острее вопросы согласования целей агента с намерениями человека и контроля над необратимыми действиями[1]. Эта тема прямо смыкается с рисками ИИ.
История (кратко)
- 2022 — ReAct формализует чередование рассуждения и действия[1]; выходят работы по chain-of-thought[1].
- 2023 — взрывной интерес после AutoGPT и BabyAGI, популяризовавших идею полностью автономного цикла; появляются Reflexion, Voyager, Generative Agents, фреймворк LangChain.
- 2024 — фокус смещается с «вау-демо» на надёжность и оценку; Anthropic публикует протокол Model Context Protocol для стандартизации подключения инструментов и разграничивает агентов и рабочие процессы[1].
- 2025 — «год агентов» в индустриальной риторике; агенты-программисты выходят в продакшен, множатся систематические обзоры[1][1].
См. также
- Большие языковые модели
- Малые языковые модели
- Мультимодальное машинное обучение
- Explainable AI
- ИИ в научных исследованиях
- Обучение с подкреплением
- Дополненная генерация (RAG)
- Промпт-инжиниринг
- Риски искусственного интеллекта
Примечания
Ссылки
- Anthropic — Building Effective Agents (концептуальное разграничение агентов и рабочих процессов)
- Awesome Agent Papers — регулярно обновляемая подборка работ по LLM-агентам
- Model Context Protocol — открытый стандарт подключения инструментов к агентам
