§ БЛОГ · AI
YandexGPT и GigaChat в одном флоу: паттерны маршрутизации
Две модели в одном сценарии — нормально: классификация на лёгкой модели, развёрнутый ответ на «тяжёлой». Важно резать историю диалога и кэшировать системный промпт.
Ошибки провайдера оборачивайте в явные ветки: лимиты, таймауты, «модель недоступна» — пользователю и в логи аудита уходит одинаковая структура событий.