WebSocket

Определение

Протокол двусторонней связи поверх TCP, обеспечивающий интерактивный стриминг и управление потоком. Альтернатива SSE для production-решений с низкой задержкой.

Где встречается

• 7. Как вы уменьшаете latency RAG-системы (время ответа)
• 81. Как бы вы спроектировали систему для 1000 одновременных пользователей чат-бота с RAG
• 88. Как бы вы добавили отмену (cancellation) для длительных LLM операций
• 90. Как вы проектируете API для внешних систем, использующих вашу LLM
• 214. Как вы реализуете streaming в production с учетом network limitations
• 544. Как вы строите real-time voice agent с latency 500ms
• 549. Как вы проектируете систему для real-time video understanding (поток с камеры)
• 800+ вопросов
• 84. Реализовать conversational repair
• 117. Настроить эскалацию человеку

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление