LLMProvider

Определение

Абстрактный интерфейс или внешний сервис (OpenAI, Anthropic, локальные модели через vLLM), предоставляющий API для вызова языковых моделей и позволяющий переключаться между ними.

Где встречается

• 89. Как вы спроектируете систему, которая может переключаться между разными LLM провайдерами без даунтайма
• 390. Как вы проектируем on-call ротацию для AI сервиса
• 800+ вопросов

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление