Просмотр

Материал из MachineLearning.

У вас нет прав на выполнение этой операции по следующим причинам:

• Запрошенное действие могут выполнять только участники из групп emailconfirmed, Администраторы.
• Вы должны подтвердить ваш адрес электронной почты перед правкой страниц. Пожалуйста, введите и подтвердите ваш адрес эл. почты на странице настроек.

Вы можете просмотреть и скопировать исходный текст этой страницы:

{{TOCright}} '''Agentic AI''' (от {{lang-en|agentic}} — «действующий», «субъектный»; в русскоязычной литературе также «агентный ИИ», «ИИ-агенты») — направление [[Искусственный интеллект|искусственного интеллекта]], в котором система на основе [[Большие языковые модели|большой языковой модели]] (LLM) не просто отвечает на запрос, а самостоятельно ставит подцели, планирует последовательность действий, вызывает внешние инструменты и корректирует своё поведение по результатам наблюдений — до тех пор, пока задача не будет решена или признана невыполнимой. Ключевое отличие от [[Генеративные модели|генеративного ИИ]] удобно сформулировать так: генеративная модель отвечает на вопрос «''что сказать?''», а агентная — на вопрос «''что сделать дальше?''». Первая выдаёт текст за один проход; вторая замыкает [[Обратная связь|цикл обратной связи]] со средой и работает столько шагов, сколько потребуется. Термин вошёл в широкий оборот в 2023–2024 годах, но за ним стоит давняя идея [[Интеллектуальный агент|интеллектуального агента]] из классического ИИ: сущность, которая ''воспринимает'' среду и ''действует'' в ней для достижения цели<ref>Russell S., Norvig P. Artificial Intelligence: A Modern Approach. 4th ed. — Pearson, 2020. (Гл. 2, «Интеллектуальные агенты».)</ref>. Новизна в том, что роль «мозга», принимающего решения, впервые взяла на себя языковая модель общего назначения. == Агентность как спектр, а не как ярлык == Распространённая ошибка — делить системы на «агентов» и «не-агентов». Полезнее говорить о ''степени агентности'': насколько система сама определяет, какие шаги предпринять, в каком порядке и когда остановиться. Инженеры Anthropic предложили практичное разграничение, которое стоит держать в голове<ref name="anthropic-agents">Anthropic. Building Effective Agents. 2024. URL: https://www.anthropic.com/research/building-effective-agents</ref>: * '''Рабочие процессы''' (workflows) — LLM и инструменты соединены по заранее прописанному сценарию. Разработчик заранее знает граф вызовов. Пример: «извлеки сущности → переведи → положи в базу». * '''Агенты''' (agents) — LLM сама динамически решает, какие инструменты вызвать и сколько итераций сделать. Граф вызовов заранее неизвестен. Отсюда важный практический вывод, который часто игнорируют: агент — не всегда лучшее решение. Он даёт гибкость ценой предсказуемости, латентности и стоимости. Если задачу можно решить фиксированным рабочим процессом, обычно так и следует поступить; автономию имеет смысл добавлять ровно там, где пространство решений слишком велико, чтобы прописать его вручную. == Анатомия агента == Типовой агент на базе LLM состоит из четырёх взаимодействующих подсистем; языковая модель выступает контроллером, связывающим их воедино. ; Планирование : Разбиение крупной цели на подзадачи и выбор порядка действий. Здесь работают приёмы пошагового рассуждения — [[Chain-of-Thought|цепочка рассуждений]] (chain-of-thought)<ref name="cot">Wei J. et al. Chain-of-Thought Prompting Elicits Reasoning in Large Language Models // NeurIPS. 2022. arXiv:2201.11903.</ref>, её ветвящееся обобщение [[Tree of Thoughts|дерево мыслей]] (tree of thoughts)<ref>Yao S. et al. Tree of Thoughts: Deliberate Problem Solving with Large Language Models // NeurIPS. 2023. arXiv:2305.10601.</ref> и голосование по нескольким траекториям (self-consistency). ; Использование инструментов : Способность вызывать внешние функции — поиск, интерпретатор кода, API, базы данных. Модель обучается встраивать вызовы прямо в генерируемый текст (''Toolformer''<ref>Schick T. et al. Toolformer: Language Models Can Teach Themselves to Use Tools // NeurIPS. 2023. arXiv:2302.04761.</ref>, ''ToolLLM''<ref>Qin Y. et al. ToolLLM: Facilitating Large Language Models to Master 16000+ Real-world APIs // ICLR. 2024. arXiv:2307.16789.</ref>). Именно инструменты снимают два врождённых ограничения LLM: устаревание знаний и неумение точно считать. ; Память : Кратковременная (содержимое [[Контекстное окно|контекстного окна]]) и долговременная (внешнее хранилище с [[Векторный поиск|векторным поиском]], откуда релевантные фрагменты подтягиваются через [[Дополненная генерация|поиск-дополненную генерацию]], RAG). ; Рефлексия : Механизм самокритики. В подходе ''Reflexion'' агент после неудачи формулирует словесный «разбор ошибок» и кладёт его в память, чтобы не повторять промах в следующей попытке — своего рода [[Обучение с подкреплением|обучение с подкреплением]] без обновления весов<ref>Shinn N. et al. Reflexion: Language Agents with Verbal Reinforcement Learning // NeurIPS. 2023. arXiv:2303.11366.</ref>. === Цикл ReAct: как это выглядит внутри === Идейное ядро большинства агентов — цикл ''ReAct'' (Reason + Act), предложенный Яо и соавторами в 2022 году<ref name="react">Yao S., Zhao J., Yu D. et al. ReAct: Synergizing Reasoning and Acting in Language Models // ICLR. 2023. arXiv:2210.03629.</ref>. Он чередует три вида шагов: Мысль: Чтобы узнать возраст режиссёра, сначала найду фильм. Действие: Поиск["режиссёр фильма Сталкер"] Наблюдение: Андрей Тарковский, род. 4 апреля 1932 г. Мысль: Теперь вычислю, сколько ему было в 1979 году. Действие: Калькулятор[1979 − 1932] Наблюдение: 47 Мысль: Ответ получен. Ответ: 47 лет. Внешне тривиально, но именно перемежение ''рассуждения'' и ''действия'' оказалось решающим: рассуждение направляет выбор действия, а наблюдение из среды приземляет рассуждение и не даёт модели «улететь» в [[Галлюцинация (искусственный интеллект)|галлюцинацию]]. Внешний код, который обслуживает этот цикл (парсит вызовы, исполняет инструменты, обрезает контекст), на инженерном жаргоне называют ''обвязкой'' (harness, scaffolding), и её качество влияет на результат не меньше, чем сама модель. == Мультиагентные системы == Отдельная ветвь — не один агент, а ''коллектив'' специализированных агентов, обменивающихся сообщениями. Роли распределяются как в команде: «архитектор», «программист», «тестировщик», «критик». Идея восходит к работе Стэнфорда о «генеративных агентах», населявших виртуальный городок и демонстрировавших правдоподобное социальное поведение<ref>Park J. S. et al. Generative Agents: Interactive Simulacra of Human Behavior // UIST. 2023. arXiv:2304.03442.</ref>, и к ''Voyager'' — агенту, который автономно осваивал ''Minecraft'', накапливая библиотеку навыков<ref>Wang G. et al. Voyager: An Open-Ended Embodied Agent with Large Language Models. 2023. arXiv:2305.16291.</ref>. На практике мультиагентность — палка о двух концах: разделение ролей иногда повышает качество за счёт «разделения труда» и взаимной критики, но чаще увеличивает стоимость и порождает каскадные ошибки, когда неверная реплика одного агента убеждает остальных. Пока нет консенсуса, когда мультиагентная схема действительно бьёт одного хорошо настроенного агента. == Как измеряют качество == Оценка агентов — отдельная и на удивление трудная проблема: обычные метрики для текста здесь бесполезны, потому что важен ''результат действий'', а не гладкость ответа. Сложился набор бенчмарков, ставший де-факто стандартом: {| class="wikitable" ! Бенчмарк !! Что проверяет |- | ''GAIA''<ref>Mialon G. et al. GAIA: A Benchmark for General AI Assistants // ICLR. 2024. arXiv:2311.12983.</ref> || Вопросы для «общего ассистента», требующие поиска, работы с файлами и многошаговых рассуждений; легки для человека, трудны для ИИ |- | ''SWE-bench''<ref>Jimenez C. E. et al. SWE-bench: Can Language Models Resolve Real-World GitHub Issues? // ICLR. 2024. arXiv:2310.06770.</ref> || Решение реальных задач из GitHub-репозиториев: агент должен внести правку, проходящую тесты |- | ''WebArena''<ref>Zhou S. et al. WebArena: A Realistic Web Environment for Building Autonomous Agents // ICLR. 2024. arXiv:2307.13854.</ref> || Выполнение задач в реалистичном браузерном окружении (магазин, форум, CMS) |- | ''AgentBench''<ref>Liu X. et al. AgentBench: Evaluating LLMs as Agents // ICLR. 2024. arXiv:2308.03688.</ref> || Восемь разнородных сред — от ОС и SQL до текстовых игр |- | ''τ-bench''<ref>Yao S. et al. τ-bench: A Benchmark for Tool-Agent-User Interaction in Real-World Domains. 2024. arXiv:2406.12045.</ref> || Диалог агента с пользователем и инструментами при соблюдении бизнес-правил |} Прогресс за 2023–2025 годы разителен: доля решённых задач ''SWE-bench Verified'' выросла с единиц процентов до порядка 70 % у ведущих моделей. Но именно бенчмарки вскрыли главную болезнь агентов, о которой стоит сказать подробно. === Проблема компаундинга: почему 95 % — это мало === Пусть агент выполняет каждый отдельный шаг верно с вероятностью ''p''. Тогда задача из ''n'' независимых шагов будет решена целиком с вероятностью примерно ''p''^''n''. Подставим правдоподобные числа: при ''p'' = 0{,}95 и ''n'' = 20 шагов получаем 0{,}95²⁰ ≈ 0{,}36. То есть агент, почти безупречный на каждом отдельном действии, проваливает ''две трети'' длинных задач. Этот эффект — а не «интеллект» модели — сегодня главный ограничитель. Бенчмарк ''τ-bench'' специально ввёл метрику '''pass^k''' (вероятность решить задачу успешно ''k'' раз подряд), и она падает катастрофически быстрее, чем привычная pass@1: модель, которая «в среднем справляется», оказывается ненадёжной при повторных запусках. Для продакшена, где важна воспроизводимость, это приговор куда более суровый, чем средняя точность. == Приложения == Наиболее зрелая на 2025 год область — ''агенты-программисты'': автономная правка кода, отладка, миграции (на этом построены Claude Code, GitHub Copilot Workspace, OpenAI Codex и др.). Далее идут веб-агенты и «компьютерное управление» (агент видит экран и двигает курсор), исследовательские ассистенты (см. [[ИИ в научных исследованиях]]), агенты поддержки и продаж, а также «глубокий поиск» (deep research), собирающий отчёт из десятков источников. В медицине, финансах и логистике агентные схемы применяют осторожнее — там цена ошибки высока, а требования к аудиту жёстче<ref name="xi-survey">Xi Z. et al. The Rise and Potential of Large Language Model Based Agents: A Survey // Science China Information Sciences. 2025. arXiv:2309.07864.</ref>. == Ограничения и открытые проблемы == * '''Надёжность.''' Компаундинг ошибок (см. выше) не решается наращиванием размера модели — нужны верификация промежуточных шагов, откаты и человек в контуре. * '''Безопасность.''' Агент, читающий внешние данные и имеющий доступ к инструментам, уязвим к [[Инъекция промпта|инъекции промпта]]: вредоносная инструкция, спрятанная на веб-странице или в письме, может перехватить управление. Это качественно новый класс угроз по сравнению с обычными LLM<ref name="luo-survey">Luo J. et al. Large Language Model Agent: A Survey on Methodology, Applications and Challenges. 2025. arXiv:2503.21460.</ref>. * '''Стоимость и латентность.''' Один агентный запуск — это десятки, порой сотни вызовов модели. Экономика многих сценариев пока не сходится. * '''Оценка.''' Бенчмарки быстро «протухают» (попадают в обучающие данные) и плохо переносятся на реальные задачи с открытым концом. * '''Автономия и согласование.''' Чем длиннее горизонт планирования и шире права доступа, тем острее вопросы [[Проблема согласования ИИ|согласования]] целей агента с намерениями человека и контроля над необратимыми действиями<ref name="plaat-survey">Plaat A. et al. Agentic Large Language Models, a Survey // Journal of Artificial Intelligence Research. 2025. Vol. 84. arXiv:2503.23037.</ref>. == История (кратко) == * '''2022''' — ReAct формализует чередование рассуждения и действия<ref name="react"/>; выходят работы по chain-of-thought<ref name="cot"/>. * '''2023''' — взрывной интерес после ''AutoGPT'' и ''BabyAGI'', популяризовавших идею полностью автономного цикла; появляются Reflexion, Voyager, Generative Agents, фреймворк LangChain. * '''2024''' — фокус смещается с «вау-демо» на надёжность и оценку; Anthropic публикует протокол [[Model Context Protocol]] для стандартизации подключения инструментов и разграничивает агентов и рабочие процессы<ref name="anthropic-agents"/>. * '''2025''' — «год агентов» в индустриальной риторике; агенты-программисты выходят в продакшен, множатся обзоры<ref name="luo-survey"/><ref name="plaat-survey"/>. == См. также == * [[Большие языковые модели]] * [[Малые языковые модели]] * [[Мультимодальное машинное обучение]] * [[Explainable AI]] * [[ИИ в научных исследованиях]] * [[Обучение с подкреплением]] * [[Дополненная генерация]] (RAG) * [[Промпт-инжиниринг]] == Примечания == <references/> == Ссылки == * [https://www.anthropic.com/research/building-effective-agents Anthropic — Building Effective Agents] (концептуальное разграничение агентов и рабочих процессов) * [https://github.com/luo-junyu/Awesome-Agent-Papers Awesome Agent Papers] — регулярно обновляемая подборка работ по LLM-агентам * [https://modelcontextprotocol.io Model Context Protocol] — открытый стандарт подключения инструментов к агентам [[Категория:Машинное обучение]] [[Категория:Искусственный интеллект]] [[Категория:Большие языковые модели]] [[Категория:Популярные и обзорные статьи]]

• Шаблон:Lang-en
• Шаблон:TOCright

Возврат к странице Agentic AI.