English translation is not available yet. Showing Russian content.
T5
T5
Определение
Sequence-to-sequence модель от Google, преобразующая все NLP-задачи в формат текст-текст; использует SentencePiece Unigram токенизатор и relative position bias.
Где встречается
- 258. Что такое weak supervision для разметки данных для fine-tuning и как его применить
- 475. Почему tokenizer влияет на стоимость training
- 653. Что такое position encoding RoPE vs абсолютные позиции vs относительные позиции
- 654. Как работает LayerNorm и RMSNorm В чем разница и почему RMSNorm быстрее
- 683. Что такое data augmentation для LLM (back-translation, paraphrasing, masking)