English translation is not available yet. Showing Russian content.
Weighted routers
Weighted routers
Определение
Механизм маршрутизации запросов с присвоением весов различным моделям или стратегиям. Применяется в canary analysis для постепенного переключения трафика на новую LLM.