Chatbot Arena

Chatbot Arena

Определение

Chatbot Arena — это платформа для сбора предпочтений пользователей (preference data), используемая в обучении с подкреплением на основе человеческой обратной связи (RLHF). На этой платформе пользователям показываются ответы от двух разных языковых моделей, и они выбирают, какой ответ им нравится больше, что позволяет собирать парные сравнения для рейтингования моделей с помощью Elo score. Chatbot Arena служит одним из ключевых датасетов для тренировки систем ранжирования и дообучения больших языковых моделей.

Где встречается

    1. Как собирать preference data для RLHF? (A/B сравнение ответов, ranking, Elo score)

Навигация