Создание ИИ-агента начинается не с выбора модели. Сначала берут один повторяемый процесс и фиксируют его вход, правильный результат, источники данных и исключения. Затем внешние системы оборачивают в небольшие инструменты, модели дают право выбирать только среди них, а код проверяет аргументы и итог операции. Первый запуск проходит на сохранённых примерах и в теневом режиме. Запись в рабочую систему включают после проверки дублей, прав и передачи человеку.
1. Выберите одно действие
Фраза «автоматизировать продажи» слишком широкая. Для пилота подойдут задачи меньшего размера:
- проверить остаток по товару из объявления;
- найти свободные окна по услуге;
- разобрать одну строку тендерного ТЗ;
- собрать черновик ответа и передать менеджеру.
У каждого действия должен быть проверяемый выход. Товар найден или нет. Слот существует или нет. Запись получила внешний ID. Строка КП содержит источник и флаг соответствия.
2. Соберите реальные примеры
Нужны не придуманные демонстрации, а обезличенные входы из рабочего процесса. В EST.EPIL ранние тесты проходили, но реальные диалоги обнаружили ошибки с датами, повторными вопросами и SMS-подтверждением. Такие случаи невозможно полностью предусмотреть по FAQ.
Разделите примеры на обычные и опасные. Отдельно сохраните пустые поля, противоречивые цены, неверные форматы, повтор события и ситуацию, когда сотрудник уже выполнил действие.
3. Опишите источники правды
Для каждого факта укажите одну систему и правило приоритета. В Avito-проекте цена берётся из объявления, наличие из МойСклада, а состояние из карточки товара. Модель не выбирает источник по настроению.
Если источники расходятся, агент не усредняет и не угадывает. Он применяет заранее согласованное правило или создаёт задачу менеджеру.
4. Сделайте узкие инструменты
Инструмент должен иметь простой контракт:
def check_stock(product_id: str) -> StockResult:
...
def escalate(reason: str, context_ref: str) -> TicketResult:
...Внутри находятся API-клиент, таймаут, проверка ответа и безопасный журнал. Токены лежат в переменных окружения или хранилище секретов. Модель их не видит.
5. Выдайте минимальные права
Для чтения расписания не нужен доступ ко всей клиентской базе. Для создания записи не нужен административный аккаунт. В YCLIENTS технический пользователь должен быть добавлен в нужный филиал и получить роль с конкретными правами. Иначе часть booking API может работать, а CRM-методы ответят 403.
Такую проверку надо провести до настройки промта. Нехватку прав нельзя исправить новой формулировкой запроса к модели.
6. Добавьте проверки до и после модели
До вызова проверяются типы, обязательные поля, допустимые идентификаторы и права. После генерации проверяются факты, которые влияют на деньги или обещание клиенту.
В DOLOROSA система удаляла неподтверждённые утверждения о состоянии вещи и сроках отправки. Если без них ответ терял смысл, вопрос уходил менеджеру.
7. Защититесь от повторов
Webhook может прийти повторно. Polling может перечитать уже обработанное сообщение. Сетевой timeout не сообщает, выполнилась запись или нет.
Храните внешний ID события, собственные отправки и итог операции. Перед повторной записью проверяйте целевую систему. Если API не даёт безопасного способа подтвердить результат, останавливайте автоматический retry.
8. Запустите теневой режим
В теневом режиме агент читает рабочие события и формирует решение, но не отправляет его клиенту. Сотрудник сравнивает вариант с фактическим действием. Здесь хорошо видны ложные совпадения, пропущенные исключения и неудачная маршрутизация.
Для каждого сбоя определите уровень исправления:
- данные;
- API и права;
- кодовая проверка;
- описание инструмента;
- инструкция модели;
- ручная эскалация.
Попытка исправлять всё промтом делает систему хрупкой.
9. Включите ограниченную запись
Сначала разрешите одну безопасную операцию и небольшой поток. В интерфейсе сотрудника покажите, что сделал агент, какой источник использовал и как остановить автоматику.
После запуска измеряйте не число красивых ответов, а завершённые действия, эскалации, дубли и стоимость ошибки. Сравнение имеет смысл только с исходным процессом до внедрения.
Geron Labs начинает проект с карты одного процесса и набора контрольных примеров. Это позволяет оценить интеграции и риски до большой разработки.
Читайте также: Как внедрить ИИ в бизнес и проверить пилот до большой разработки, Сколько стоит ИИ-агент и из чего складывается бюджет, Как настроить данные, инструменты, память и эскалации ИИ-агента.