LLMProvider
LLMProvider
Определение
Абстрактный интерфейс или внешний сервис (OpenAI, Anthropic, локальные модели через vLLM), предоставляющий API для вызова языковых моделей и позволяющий переключаться между ними.
Где встречается
- 89. Как вы спроектируете систему, которая может переключаться между разными LLM провайдерами без даунтайма
- 390. Как вы проектируем on-call ротацию для AI сервиса
- 800+ вопросов