Человек в контуре (HITL)
EN · Human-in-the-Loop (HITL)Человек в цикле (HITL) — схема, при которой отдельные решения или действия агента требуют подтверждения человека до выполнения.Определение на английскомA workflow where an AI agent performs tasks but requires human approval at critical decision points, before the action executes. Common in high-stakes domains: a legal agent drafts a redline but a lawyer approves it; a cybersecurity agent recommends containment but an analyst clicks 'execute.' HITL is the strictest of three oversight postures — a human *in* the loop approves each action, a human *on* the loop monitors an autonomous agent and can intervene, and a human *out of* the loop only audits after the fact. HITL balances automation speed with human judgment, and is required for high-risk systems under EU AI Act Article 14.
Автор: Max Zeshut
Основатель Agentmelt
Пример
Агент автоматизации AP обрабатывает 400 счетов в неделю. Он извлекает данные, сверяет заказы и категоризирует, но любой счёт свыше $10K или с расхождениями отправляет AP-менеджеру на явное одобрение через шлюз согласования. 85% счетов проходят напрямую; 15% требуют проверки человеком — но она занимает 30 секунд (подтвердить/отклонить) вместо 5 минут ввода данных.
Часто задаваемые вопросы
- Когда ИИ-агенту нужно требовать одобрение человека?
- Требуйте одобрение, когда: (1) действие необратимо или дорого (перевод денег, удаление данных, публикация), (2) уверенность агента ниже порога, (3) регулирование требует ответственности человека (клинические решения, юридические советы, некоторые HR-решения), или (4) цена ошибки выше стоимости времени на проверку. По мере роста доверия и понимания паттернов низкорисковые шлюзы можно убирать. Относитесь к HITL как к регулятору, а не константе.
- Чем «человек в контуре» отличается от «человека над контуром»?
- В контуре — агент останавливается, и человек одобряет каждое значимое действие до выполнения. Над контуром — агент работает автономно, а человек наблюдает снаружи и может вмешаться, остановить или откатить. Первое меняет пропускную способность на контроль и подходит для действий с серьёзными последствиями; второе меняет часть контроля на скорость и подходит для проверенных обратимых процессов. Большинство продакшен-агентов используют оба режима — назначенные на уровне действия, а не агента.