Валидация вывода
EN · Output ValidationВалидация вывода — проверка ответа модели на соответствие схеме, правилам и ограничениям до его использования или отправки.Определение на английскомThe process of verifying that an AI agent's output meets quality, accuracy, safety, and format requirements before it's delivered to the user or passed to the next step in a workflow. Validation can be automated (schema checks, PII detection, confidence scoring, fact-checking against source documents) or human (reviewer approves before sending). Output validation is the last line of defense against hallucination, policy violations, and formatting errors in production agents.
Автор: Max Zeshut
Основатель Agentmelt
Пример
Финансовый агент готовит квартальный отчёт. Валидация проверяет: все числа прослеживаются до исходных данных (нет галлюцинированных цифр), отчёт следует требуемому шаблону, имена клиентов не попадают в разделы, видимые другим клиентам, а резюме точно отражает данные.