English translation is not available yet. Showing Russian content.
Expert
Expert
Определение
Один из нескольких Feed-Forward Network модулей в слое Mixture of Experts (MoE), активируемый только для определённых токенов и специализирующийся на обработке части данных.