AsyncPipeline
AsyncPipeline
Определение
Асинхронная версия пайплайна в Haystack, позволяющая обрабатывать множество запросов одновременно. Используется для повышения пропускной способности и снижения задержек.
Асинхронная версия пайплайна в Haystack, позволяющая обрабатывать множество запросов одновременно. Используется для повышения пропускной способности и снижения задержек.