Improve

Определение

Improve — этап в итеративных алгоритмах обучения с подкреплением (RLHF, ReST), на котором модель дообучается на собственных генерациях, получивших высокую оценку (награду). Цель шага — максимизировать вероятность таких последовательностей, тем самым улучшая политику модели. Обычно Improve чередуется с шагом Grow (генерация новых данных) или аналогичным этапом сбора примеров.

Где встречается

• 990. Как работает ReST (Reinforced Self-Training)? Чем отличается от PPO (итеративное обучение на собственных генерациях)

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление