Разработка ИИ-агентов: компании и подрядчики

Что на самом деле разрабатывает команда по агентам

Агент — это модель, которой дали инструменты, память и цикл: она решает, что делать дальше, вызывает API или скрипт, читает результат и повторяет, пока задача не решена или не сработало ограничение. Инженерная сложность не в промпте, а в том, что происходит при сбое вызова, при зацикливании и когда модель уверенно делает не то.

• Слой инструментов и API. Типизированные, подробно описанные функции с валидацией, повторами и идемпотентностью — чтобы повторный вызов не списал с клиента деньги дважды.
• Оркестрация. Схемы «планировщик-исполнитель», передача задач между агентами и состояние, переживающее падение процесса посреди прогона.
• Контроль человеком. Подтверждение на всём необратимом: платежи, письма клиентам, запись в базу.
• Оценка и трассировки. Записанные прогоны, воспроизводимые сбои и размеченный тестовый набор, чтобы сравнивать поведение от релиза к релизу.
• Лимиты по стоимости и задержкам. Ограничение числа шагов, маршрутизация между моделями и кэширование: агент без потолка — это счёт без потолка.

Как выбрать подрядчика по агентам

• Попросите показать трассировку реального продакшен-прогона, включая сбой и то, как система из него вышла.
• Спросите, какая доля прогонов завершается без участия человека и как эта цифра измеряется.
• Проверьте ограничители: лимит шагов, лимит расходов, области доступа и откат для каждого инструмента с побочными эффектами.
• Убедитесь, что фреймворк выбран осознанно, а не по привычке, и что вы сможете сопровождать то, что останется после подрядчика.
• Начинайте с одного процесса с понятным сигналом успеха. Агенты, отвечающие за конкретный процесс, почти всегда работают лучше универсальных ассистентов.