Binary quantization
Binary quantization
Определение
Квантование векторов до бинарных значений (0/1) для экстремального сжатия (в 32 раза) с целью уменьшения latency RAG-систем.
Где встречается
- 7. Как вы уменьшаете latency RAG-системы (время ответа)
- 272. Как вы проверяете качество parsing документов (PDF, DOCX) в production
- 800+ вопросов