Где ставить одобрение человека в AI автоматизации

· автор Andrei

Клиент пишет в поддержку и спрашивает, подойдет ли запасная пряжка к старой туристической модели рюкзака. AI находит нужную деталь и собирает нормальный ответ. Потом он подставляет другого клиента с такой же фамилией. Если письмо уйдет, человек с вопросом останется без ответа, а кто-то еще получит чужие данные по заказу.

Одобрение лучше ставить прямо перед отправкой. На экране должны быть и получатель, и весь текст ответа. У ревьюера должен быть контекст, чтобы он мог заметить ошибку до отправки, а не после.

В анонсе Slack про agents в Workflow Builder от 18 ноября сказано, что после шага AI или agent автоматически вставляется редактируемая проверка, и только потом результат идет дальше в другие инструменты. Это дает удобную точку остановки. Если вы проектируете свою интеграцию AI, вам все равно нужно отдельно решить, что именно разрешает такое одобрение и при каких изменениях его надо запрашивать заново.


Покажите заказ и ответ на одном экране

Возьмем этот же, подчеркну, гипотетический запрос про пряжку. Сотрудник поддержки открывает экран проверки и видит исходный тикет, модель рюкзака, номер заказа и письмо, которое уйдет клиенту. Полный адрес получателя находится прямо над текстом сообщения. Его можно сразу сверить с подтвержденным контактом в тикете, не переключаясь между вкладками и не доверяя только обращению в начале письма.

Я бы оставил ревьюеру три действия.

  • Одобрить отправку этого письма этому получателю.
  • Отредактировать текст и заново проверить обновленную версию.
  • Отклонить черновик и вернуть тикет в очередь поддержки.

Права лучше брать из уже существующей схемы поддержки. Один сотрудник может читать тикет, но не иметь права отвечать от имени компании. Другой может отправлять ответы клиентам. Если по заказу есть нестыковка или контакт не удается подтвердить, такой тикет надо отправлять человеку, который может это разрулить. Экран одобрения покажет расхождение. Он не решит сам, какой заказ верный.


Одобрение должно относиться к точному письму, которое уйдет

В этом сценарии у письма должен быть авторизованный ревьюер, конкретное действие на отправку, точный получатель и точный текст сообщения. Одобрять надо не абстрактный ответ по тикету, а конкретную версию письма для конкретного адресата. Если после одобрения меняется адрес, текст или другой значимый факт, одобрение нужно запросить заново.

Сюда же относятся правки после проверки. Если ревьюер отредактировал черновик, система не должна считать старое подтверждение действительным. Нужен новый просмотр обновленной версии и новое явное одобрение. То же самое стоит делать, если меняется важная связанная инфа, например тикет перекинули на другой заказ или нужная запчасть исчезла со склада до момента отправки.

Отклонение должно останавливать текущую попытку отправки. Таймаут проверки тоже должен ее останавливать. После этого тикет можно вернуть в очередь поддержки с понятной причиной. Если почтовый сервис тормозит и workflow пробует отправить письмо еще раз, он должен сначала проверить, не ушло ли уже одобренное сообщение. Клиенту нужен один ответ, даже если шаг отправки случайно выполнился дважды. Если статус доставки неясен, эту неопределенность лучше вернуть в очередь поддержки до повторной отправки.


Сохраняйте минимум следов, но достаточно для разбора

Потом почти всегда всплывает простой вопрос. Кто именно одобрил отправку, что видел на экране и что в итоге ушло. Поэтому нужен минимальный, но внятный след действий. Хватает ID тикета, имени или ID ревьюера, времени проверки, версии одобренного текста, адресата и результата доставки.

Хранить это стоит там, где записи видят только уполномоченные сотрудники. Не надо дублировать детали заказа в широкие командные логи или в общий канал. И да, это уже не утверждения про возможности Slack, а рекомендации по устройству вашего собственного процесса. В разборе OWASP про excessive agency хорошо объясняется, почему важно ограничивать не только текст, который генерирует модель, но и набор действий, которые она вообще может запускать.

Практически это выглядит так. Помощнику поддержки можно дать доступ к данным заказа, которые нужны для подготовки черновика. А право на отправку лучше держать в той части workflow, где сначала проверяется одобрение. Тот же принцип годится, когда вы делаете чат-бота для поддержки или даете агенту доступ к действиям в WordPress через MCP Access для WordPress.


Проверки должны соответствовать последствиям

Не каждому действию нужен одинаково тяжелый контроль. В магазине туристического снаряжения AI может сам поставить тикету тег «запчасти», если его легко снять без последствий. Такой тег обратим, и руководитель поддержки может потом выборочно проверить разметку.

А вот отправка данных по заказу наружу уже другая история. Тут проверка до отправки обязательна. Если давать людям один и тот же экран одобрения на каждую мелочь, внимание быстро замыливается. И тогда важный клик теряется среди безопасных.

Поэтому для рутинной маркировки можно использовать более простой вариант ревью, который зависит от последствий ошибки. Для письма клиенту нужен полный экран с получателем, телом сообщения и явным действием на отправку. Для обратимого тега иногда хватит выборочной проверки по журналу или легкого подтверждения внутри команды.


Перед запуском прогоните сценарий целиком

До запуска я бы прогнал четыре варианта того самого запроса про пряжку на тестовых данных. Сначала подставьте неверного получателя и проверьте, замечает ли ревьюер ошибку на экране. Потом измените текст после одобрения и посмотрите, требует ли система новую проверку. Дальше отклоните один черновик, а другой оставьте до таймаута и убедитесь, что ни один не ушел. В конце принудительно повторите шаг отправки для уже одобренного ответа и проверьте тестовый ящик, чтобы там было ровно одно письмо.

Это хороший сквозной тест, потому что он сразу показывает слабое место процесса. Не модели как таковой, а именно маршрута от черновика до реальной отправки. Если хотите быстро проверить свой текущий workflow сегодня, возьмите один шаблонный ответ, подмените получателя на фиктивный адрес, внесите правку после одобрения и убедитесь, что без нового подтверждения система его не отправит.

← Назад в блог