Uvicorn
Uvicorn
Определение
ASGI-сервер для запуска FastAPI-приложений, обеспечивающий высокую производительность и поддержку асинхронности.
Где встречается
- 90. Как вы проектируете API для внешних систем, использующих вашу LLM
- 180. Настроить rate limiting на сообщения
- 202. Настроить health checks для LLM
- 203. Реализовать retry storm mitigation
- 217. Реализовать streaming с SSE
- 224. vLLM кластер на 4 GPU
- 247. RAG с distributed tracing