中文翻译暂不可用,显示俄语原文。
sparse MoE
sparse MoE
Определение
Разреженная смесь экспертов (sparse MoE) — архитектура, где при каждом шаге активируется лишь небольшая часть экспертов, что снижает вычислительные затраты при сохранении большого числа параметров.
中文翻译暂不可用,显示俄语原文。
Разреженная смесь экспертов (sparse MoE) — архитектура, где при каждом шаге активируется лишь небольшая часть экспертов, что снижает вычислительные затраты при сохранении большого числа параметров.