StreamingResponse

Определение

Класс FastAPI для передачи потоковых ответов через SSE, ключевой для достижения низкого TTFT.

Где встречается

• 90. Как вы проектируете API для внешних систем, использующих вашу LLM
• Практика
• 217. Реализовать streaming с SSE

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление