Задача и границы решения
Ответ модели и выполнение операции — разные уровни ответственности. Предложение создать заказ не должно автоматически обходить проверки бизнес-системы.
Как подойти к задаче
Опишите каждый инструмент: допустимые параметры, права, побочные эффекты и результат. Проверяйте входные данные на сервере. Разделите чтение и запись; для значимых действий предусмотрите подтверждение или ограниченный режим.
Что проверить на практике
Проверьте отсутствующий ID, чужую запись, повторный вызов и недоступность внешней системы. Агент должен получить понятную ошибку и безопасно остановиться, а не пытаться бесконечно обходить ограничение.
Для действий в учётной системе нужен особенно узкий контракт. Посмотрите пример организации контролируемых инструментов для 1С: модель предлагает действие, а прикладной код проверяет и исполняет разрешённую операцию.
Какой ошибки избежать
Ошибка — предоставлять произвольный SQL или универсальный административный доступ. Узкие инструменты легче проверить и сопровождать. В журнале сохраняйте намерение и фактический результат с минимально необходимыми данными.
Пример для проверки на вашем проекте
Инструмент «обновить заявку» принимает идентификатор и ограниченный набор полей. Даже если модель попросит изменить владельца или цену, сервер отклонит неподдерживаемое действие. Повторный вызов с тем же ключом не должен создавать дополнительный эффект. В тесте проверяют и корректный запрос, и попытку выйти за разрешённые границы. Текст инструкции модели дополняет эти ограничения, а не заменяет их.
Постановка задачи агента
Выбираем операцию с понятным входом, разрешёнными действиями и измеримым результатом. До разработки собираем примеры и определяем неприемлемые ошибки. Инструменты ограничиваются задачей; права проверяются вне модели. Для значимых изменений предусматривается участие человека. Такой подход позволяет оценить пользу до подключения к широкому набору корпоративных систем.
От пилота к эксплуатации
Пилот проверяется на отложенных примерах, включая ошибки и отсутствие данных. Измеряем качество, задержку, стоимость и время ручной проверки. После согласованной приёмки подключаем наблюдение и очередь исключений. Расширение полномочий — отдельное изменение, которое проходит свою проверку, а не автоматическое следствие успешного диалога.