Server-Sent Events
Server-Sent Events
Определение
Протокол односторонней потоковой передачи данных от сервера к клиенту по HTTP, используемый для стриминга ответов LLM в реальном времени. Прост в реализации и поддерживает сжатие gzip.
Где встречается
- 241. Как вы делаете distributed tracing для цепочки user → gateway → RAG → LLM → user
- 429. Что такое end-to-end backpressure в LLM пайплайне и как его реализовать
- 800+ вопросов