TIES-Merging
TIES-Merging
Определение
Алгоритм объединения нескольких адаптеров (например, LoRA), который уменьшает конфликты знаков между ними за счёт этапов обрезки (trim), выбора (elect) и слияния (merge), улучшая качество итоговой модели.
Алгоритм объединения нескольких адаптеров (например, LoRA), который уменьшает конфликты знаков между ними за счёт этапов обрезки (trim), выбора (elect) и слияния (merge), улучшая качество итоговой модели.