← Блог

§ БЛОГ · AI

YandexGPT и GigaChat в одном флоу: паттерны маршрутизации

Две модели в одном сценарии — нормально: классификация на лёгкой модели, развёрнутый ответ на «тяжёлой». Важно резать историю диалога и кэшировать системный промпт.

Ошибки провайдера оборачивайте в явные ветки: лимиты, таймауты, «модель недоступна» — пользователю и в логи аудита уходит одинаковая структура событий.