Подотчётность агента
EN · Agent AccountabilityПодотчётность агента — свойство системы, позволяющее для любого действия ИИ-агента ответить на четыре вопроса: что он сделал, почему, по чьему поручению и кто за это отвечает. Требует логирования, привязки к идентичности и назначенного владельца.Определение на английскомThe property that lets an organization answer, for any action an AI agent took, four questions: *what* did it do, *why*, *on whose authority*, and *who is responsible for the outcome* — backed by evidence strong enough to survive a dispute. Accountability is distinct from its neighbors: transparency is seeing what an agent does, explainability is understanding why, auditability is reconstructing it after the fact — accountability adds a *locus of responsibility*, a named human or organization who owns the consequences. Autonomy erodes it through the classic 'many-hands' problem: an agent's action is the product of the model provider, the framework, the deployer, the prompt author, and the person who granted its scopes, and each can plausibly disclaim their part. Restoring accountability requires four things together — a tamper-evident audit trail, a provable Agent Identity so actions attribute correctly, a named accountable owner, and Non-Repudiation so no one can deny what happened. It is the fourth governance question after 'is it real?' (Agent Washing), 'who is it?' (Agent Identity), and 'did we authorize it?' (Shadow AI).
Автор: Max Zeshut
Основатель Agentmelt
Пример
После того как агент провёл ошибочный возврат на $4 000, подотчётная организация восстанавливает картину за полдня: трейс показывает, что он прочитал поддельный чек и пропустил проверку на мошенничество, журнал идентичности относит действие к «refunds-agent от имени jsmith в области refunds:write», а реестр называет руководителя Support Ops владельцем. Неподотчётная организация в том же инциденте может сказать только «это сделал ИИ».
Часто задаваемые вопросы
- Разве объяснимость — не то же, что подотчётность?
- Нет. Объяснимость — о понимании, *почему* агент действовал; подотчётность добавляет *владение* и *доказательство*. Можно иметь полностью объяснимого агента, который всё равно неподотчётен, потому что ни один конкретный человек не отвечает за его решения и ни одна защищённая от подделки запись не доказывает, что он сделал. Подотчётность = понимание + названный владелец + доказательства.
- Может ли сам ИИ-агент нести ответственность?
- Ни в каком юридическом или практическом смысле — агент не юридическое лицо, не имеет активов и не может быть наказан. «Подотчётность агента» всегда сводится к подотчётности людей и организаций, которые его создали, развернули и эксплуатировали. См. ответственность за агента и ответственного владельца.