English translation is not available yet. Showing Russian content.
Unpacking
Unpacking
Определение
Процесс извлечения 4-битных значений из упакованного 32-битного слова при работе с квантованными моделями. Может замедлять инференс по сравнению с 8-битным квантованием из-за дополнительных операций распаковки.