Weighted routing

Определение

Распределение трафика между версиями модели с заданными весами.

Где встречается

• 382. Как вы проектируете canary deployment для LLM модели

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление