Усталость агента
EN · Agent FatigueУсталость агента — снижение качества ответов ИИ-агента на задачах с длительным вниманием или очень длинным контекстом; аналог человеческой усталости, вызванный переполнением контекстного окна и накоплением шума.Определение на английскомA pattern where AI agent performance degrades on tasks requiring sustained attention or processing very long contexts—analogous to human cognitive fatigue but caused by context window limitations, attention mechanism degradation, and cumulative error propagation in multi-step workflows. Symptoms include declining accuracy in later steps of long workflows, increased hallucination rates in long conversations, and inconsistent behavior when processing large document sets. Mitigation strategies include task chunking, periodic context summarization, and checkpoint-based workflows that reset context at defined intervals.
Автор: Max Zeshut
Основатель Agentmelt
Пример
ИИ-агент для юристов, проверяющий договор на 200 страниц, достигает точности извлечения условий 96% на первых 50 страницах, но падает до 88% на страницах 150–200, потому что накопленный контекст ухудшает качество внимания. Разбиение проверки на куски по 50 страниц с промежуточным резюмированием держит точность 95%+ на всём протяжении.
Часто задаваемые вопросы
- Как обнаружить усталость агента?
- Отслеживайте метрики точности по позиции задачи — сравнивайте результаты на первых и последних элементах пакета. Следите за долей галлюцинаций по мере роста длины диалога. Настройте автоматические проверки качества в разных точках длинных процессов. Если точность падает ниже порога по мере роста контекста, внедрите разбиение на куски или сброс контекста.