Uvicorn

Определение

ASGI-сервер для запуска FastAPI-приложений, обеспечивающий высокую производительность и поддержку асинхронности.

Где встречается

• 90. Как вы проектируете API для внешних систем, использующих вашу LLM
• 180. Настроить rate limiting на сообщения
• 202. Настроить health checks для LLM
• 203. Реализовать retry storm mitigation
• 217. Реализовать streaming с SSE
• 224. vLLM кластер на 4 GPU
• 247. RAG с distributed tracing

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление