Поиск

• wikijoint training

  # joint training ## Определение Метод обучения, при котором в каждом батче смешиваются реальные и синтетические данные для повышения качества и устойчивости…

• wikiloss of diversity

  # loss of diversity ## Определение Явление, при котором синтетические данные теряют разнообразие: редкие варианты ответов исчезают, что ведёт к деградации модели…

• wikibias amplification

  …Что такое synthetic data collapse (когда синтетические данные деградируют со временем)|688. Что такое synthetic data collapse (когда синтетические данные…

• wikiensemble generation

  …Что такое synthetic data collapse (когда синтетические данные деградируют со временем)|688. Что такое synthetic data collapse (когда синтетические данные…

• wikireal data mixing

  …Что такое synthetic data collapse (когда синтетические данные деградируют со временем)|688. Что такое synthetic data collapse (когда синтетические данные…

• wikiGoogle T5X

  …Как вы комбинируете реальные и синтетические данные для максимального качества|700. Как вы комбинируете реальные и синтетические данные для максимального…

• wikitemplate-based generation

  …Как вы комбинируете реальные и синтетические данные для максимального качества|700. Как вы комбинируете реальные и синтетические данные для максимального…

• wikiEmbedding diversity

  …Что такое synthetic data collapse (когда синтетические данные деградируют со временем)|688. Что такое synthetic data collapse (когда синтетические данные…

• wikitwo-stage training

  …Как вы комбинируете реальные и синтетические данные для максимального качества|700. Как вы комбинируете реальные и синтетические данные для максимального…

• wikireal data

  …Как вы комбинируете реальные и синтетические данные для максимального качества|700. Как вы комбинируете реальные и синтетические данные для максимального…

• wikiNeMo

  …Как вы комбинируете реальные и синтетические данные для максимального качества|700. Как вы комбинируете реальные и синтетические данные для максимального…

• wikiAdversarial generation

  …Как вы комбинируете реальные и синтетические данные для максимального качества|700. Как вы комбинируете реальные и синтетические данные для максимального…

• wikisynthetic data collapse

  …Что такое synthetic data collapse (когда синтетические данные деградируют со временем)|688. Что такое synthetic data collapse (когда синтетические данные…

• wikiSelf-instruct

  …Как вы комбинируете реальные и синтетические данные для максимального качества|700. Как вы комбинируете реальные и синтетические данные для максимального…

• wikiself-play

  …Что такое synthetic data collapse (когда синтетические данные деградируют со временем)|688. Что такое synthetic data collapse (когда синтетические данные…

• wikigenerator

  …Что такое synthetic data collapse (когда синтетические данные деградируют со временем)|688. Что такое synthetic data collapse (когда синтетические данные…

• wikiself-BLEU

  …Что такое synthetic data collapse (когда синтетические данные деградируют со временем)|688. Что такое synthetic data collapse (когда синтетические данные…

• wikiCurriculum Learning

  …Как вы комбинируете реальные и синтетические данные для максимального качества|700. Как вы комбинируете реальные и синтетические данные для максимального…

• wikiHellaSwag

  …Что такое synthetic data collapse (когда синтетические данные деградируют со временем)|688. Что такое synthetic data collapse (когда синтетические данные…

• wikirare languages

  # rare languages ## Определение Языки с ограниченными ресурсами (не английский), для которых создают синтетические данные или применяют специальные техники адаптации моделей…

• wikierror accumulation

  …Что такое synthetic data collapse (когда синтетические данные деградируют со временем)|688. Что такое synthetic data collapse (когда синтетические данные…

• wikiHuman evaluation

  …Как вы комбинируете реальные и синтетические данные для максимального качества|700. Как вы комбинируете реальные и синтетические данные для максимального…

• wikibatch mix

  # batch mix ## Определение Стратегия формирования батча, при которой в одном пакете смешиваются реальные и синтетические данные в заданном соотношении (например…

• wikiDistinct-N

  …Что такое synthetic data collapse (когда синтетические данные деградируют со временем)|688. Что такое synthetic data collapse (когда синтетические данные…

• wikiHybrid eval-set

  …на 50% из реальных запросов, для предотвращения переобучения на синтетические данные (synthetic eval collapse). ## Где встречается - [[494. Что такое synthetic…

• wikipre-training

  …Как вы комбинируете реальные и синтетические данные для максимального качества|700. Как вы комбинируете реальные и синтетические данные для максимального…

• wikiSynthetic dataset

  …Как вы комбинируете реальные и синтетические данные для максимального качества|700. Как вы комбинируете реальные и синтетические данные для максимального…

• wikibrute force

  …Как вы комбинируете реальные и синтетические данные для максимального качества|700. Как вы комбинируете реальные и синтетические данные для максимального…

• wikidiversity

  …Как вы комбинируете реальные и синтетические данные для максимального качества|700. Как вы комбинируете реальные и синтетические данные для максимального…

• wikiback-translation

  …Как вы комбинируете реальные и синтетические данные для максимального качества|700. Как вы комбинируете реальные и синтетические данные для максимального…

• answerКак вы обнаруживаете contamination (пересечение synthetic данных с тестовыми)?

  …Почему contamination особенно актуальна для synthetic данных? [[Вики/Self-instruct\|Синтетические данные]] часто генерируются с помощью больших языковых моделей, которые…

• answerЧто такое synthetic data collapse (когда синтетические данные деградируют со временем)?

  …Что такое synthetic data collapse (когда синтетические данные деградируют со временем)? ## Краткий тезис Synthetic data collapse — это явление, при котором…

• wikiTinyLlama

  …Как вы комбинируете реальные и синтетические данные для максимального качества|700. Как вы комбинируете реальные и синтетические данные для максимального…

• answerКак вы делаете synthetic data для сложного рассуждения (math, code)?

  …Как вы делаете synthetic data для сложного рассуждения (math, code)? ## Краткий тезис [[Вики/Synthetic dataset\|Синтетические данные]] для сложного рассуждения…

• answerКак вы делаете synthetic data для редких языков (не английский)?

  …Для редких языков (например, башкирский, суахили, кечуа) реальных текстов в открытом доступе крайне мало, поэтому [[Вики/Synthetic dataset\|синтетические данные…

• wikiTop-p (nucleus) sampling

  …Что такое synthetic data collapse (когда синтетические данные деградируют со временем)|688. Что такое synthetic data collapse (когда синтетические данные…

• answerКак вы комбинируете реальные и синтетические данные для максимального качества?

  …Как вы комбинируете реальные и синтетические данные для максимального качества? ## Краткий тезис Комбинирование реальных и синтетических данных — ключевой приём для…

• wikiHoldout set

  …Как вы комбинируете реальные и синтетические данные для максимального качества|700. Как вы комбинируете реальные и синтетические данные для максимального…

• wikiMMLU

  …Что такое synthetic data collapse (когда синтетические данные деградируют со временем)|688. Что такое synthetic data collapse (когда синтетические данные…

• wikiOverfitting

  …Как вы комбинируете реальные и синтетические данные для максимального качества|700. Как вы комбинируете реальные и синтетические данные для максимального…

• answerКак вы оцениваете, сколько синтетических данных нужно для fine-tuning (power analysis)?

  …Зачем это нужно [[Вики/Synthetic dataset\|Синтетические данные]] стоят денег (вызовы LLM-генератора, [[Вики/Validation set\|валидация]]). Бесконечное наращивание объёма…

• wikiDistilBERT

  …Как вы комбинируете реальные и синтетические данные для максимального качества|700. Как вы комбинируете реальные и синтетические данные для максимального…

• wikiEarly Stopping

  …Как вы комбинируете реальные и синтетические данные для максимального качества|700. Как вы комбинируете реальные и синтетические данные для максимального…

• wikiHugging Face TRL

  …Как вы комбинируете реальные и синтетические данные для максимального качества|700. Как вы комбинируете реальные и синтетические данные для максимального…

• wikiData augmentation

  …Как вы комбинируете реальные и синтетические данные для максимального качества|700. Как вы комбинируете реальные и синтетические данные для максимального…

• wikiдатасеты

  …Как вы комбинируете реальные и синтетические данные для максимального качества|700. Как вы комбинируете реальные и синтетические данные для максимального…

• wikiутечка данных

  …Что такое synthetic data collapse (когда синтетические данные деградируют со временем)|688. Что такое synthetic data collapse (когда синтетические данные…

• wikibias

  …Как вы комбинируете реальные и синтетические данные для максимального качества|700. Как вы комбинируете реальные и синтетические данные для максимального…

• wikiLlamaIndex

  …Как вы комбинируете реальные и синтетические данные для максимального качества|700. Как вы комбинируете реальные и синтетические данные для максимального…

• wikiMLflow

  …Как вы комбинируете реальные и синтетические данные для максимального качества|700. Как вы комбинируете реальные и синтетические данные для максимального…