В этой статье
Одно обращение, два вида работы
Пример сообщения: «Посылка пришла повреждённой, помогите». Приложение детерминированно проверяет клиента, получает доступные заказы и применяет правила возврата. Модель полезна для неясного описания или поиска нужного фрагмента среди документов. Возврат денег — отдельное действие со своими полномочиями и правилами.
Хороший проект сочетает подходы: код для стабильной последовательности, модель для ограниченного понимания. Агент нужен, если следующее действие зависит от узнанного: запросить фото, проверить трекинг или правила продукта. Если всегда выполняются те же три вызова, фиксированный workflow проще объяснить и проверить.
Автономность должна соответствовать задаче
Главное различие — кто выбирает следующий шаг.
Детерминированный процесс
Известные состояния и явные правила. Последовательность задаёт приложение.
Шаг с помощью модели
Интерпретируйте переменные данные внутри контролируемой последовательности.
Агент
Выбирайте инструменты и планируйте шаги в разрешённых рамках.
Классифицируйте работу до выбора агента
Детерминированные процессы подходят известным состояниям, стабильным правилам и повторяемым эффектам. Модели помогают с неоднозначным языком, классификацией, извлечением и вариантами там, где правила становятся хрупкими.
Агент добавляет планирование и выбор инструментов. Это полезно, только если задачу нельзя ограничить простой последовательностью, а дополнительные сбои наблюдаемы и контролируемы.
Постройте лестницу автономности
Начните с предложений модели при решении человеком. Затем разрешите ограниченные действия с допустимыми инструментами, проверенными аргументами, бюджетами и согласованием важных шагов. Полная автономность — последний переход, не стандарт прототипа.
Каждому уровню нужны критерии по качеству, исключениям, обратимости и возможностям эксплуатации. Красивый диалог не доказывает готовность отвечать за бизнес-последствия.
Уровни автономности
Переходите выше, только когда это подтверждают оценка и восстановление.
Предложить
Ассистент готовит. Человек решает.
Действовать в границах
Разрешённые инструменты, проверенные входы и согласование по необходимости.
Делегировать ограниченную задачу
Наблюдайте за выполнением и сохраняйте явный путь остановки.
Контролируйте инструменты, состояние и резервный путь
Считайте вывод модели и аргументы недоверенными. Проверяйте права вне модели, изолируйте арендатора, ограничивайте циклы и расходы, записывайте решения без лишних персональных сведений.
Определите поведение при недоступности модели, инструмента или поставщика. Безопасный резерв — очередь человеку, детерминированное правило или остановка до необратимого действия.
Включите условия остановки в проект
Задайте состояния: принято, сбор доказательств, ожидание уточнения, готово к проверке, завершено или передано. Ограничьте вызовы, длительность и попытки. При противоречиях или повторных сбоях следующим шагом должна быть предусмотренная передача, не очередной импровизированный вызов.
Самооценка уверенности модели не является проверкой прав или критерием выпуска. Проверяйте поля, доказательства правил и разрешения в приложении. Привяжите согласование к точному действию и перепроверьте запись перед выполнением. Иначе человек одобрит одну сумму, а модель позднее выполнит другую. Схема ниже описывает контроль приложения, а не обещание обеспечить его промптом.
От запроса к контролируемому действию
Предлагаемый процесс поддержки. Бизнес-проверки выполняет код; агент не может согласовать собственное действие.
Запрос → личность → доказательства → предложение действия
Доказательства полны и действие разрешено?
Да
- Получить согласование при необходимости
- Перепроверить → выполнить один раз → записать результат
Нет / лимит достигнут
- Не выполнять предложенное действие
- Уточнить или передать с собранными доказательствами
Оценивайте выполненную работу, не впечатляющий диалог
Сравните фиксированный процесс и агента на одинаковых случаях. Фиксируйте правильность завершения, вмешательства людей, инструменты и попытки запрещённых действий. Отличайте обоснованную передачу от сбоя: запрос недостающего номера заказа может быть правильным результатом.
Изучайте лишние циклы и вызовы без полезной новой информации. Более мощная модель улучшает понимание, не обязательно меняя оптимальную структуру процесса. Сохраняйте простейший достаточный проект и расширяйте автономность при понятных успехах и ошибках. Надёжная подготовка проверяемого решения может быть ценнее попытки завершить всё без надзора.
ВОПРОСЫ / РЕШЕНИЯ
Частые вопросы
Агент способнее обычного workflow?+
Он гибче, но не автоматически надёжнее или полезнее. Возможность важна, когда нужна сценарию, а организация управляет дополнительной неопределённостью.