Knowledge Portal

aivaro.ru

  • Оглавление
  • Вопросы
  • Практика
  • Вики
  • Тесты
  • Поиск
✈Telegram @AetSeidhe
RUEN中文
…
Оглавление/Вики/winning response

winning response

winning response

Определение

Ответ, который выбирается как предпочтительный в паре сравнения при обучении с предпочтениями (например, в DPO).

Где встречается

  • 800+ вопросов

Навигация

  • Индекс терминов
  • Индекс разборов
  • Оглавление

Теги

wikiтерминdata

Обратные ссылки (7)

  • Индекс терминов
  • Как вы проектируете систему для continuous learning LLM-агента в production — чтобы агент улучшался от взаимодействий с пользователями без переобучения на шум и без катастрофического забывания?
  • Как обучается reward model для RLHF и как избегать reward hacking?
  • Как работает Direct Preference Optimization (DPO) в деталях (потеря, градиенты)?
  • Как работает agent replay для улучшения качества (анализ failed траекторий)?
  • Что такое KL divergence и где она применяется в LLM (RLHF, distillation)?
  • Что такое RLAIF (RL from AI Feedback) и как он масштабируется?