Out-of-distribution detection

Определение

Out-of-distribution detection (обнаружение выбросов) — это задача идентификации точек данных, которые значительно отличаются от распределения обучающей выборки. В контексте обучения с подкреплением часто используется пороговое значение логарифма вероятности (log p), чтобы выявить действия или состояния, выходящие за пределы известного распределения. Доля таких действий с log p ниже заданного порога (например, -5) служит метрикой OOD detection.

Где встречается

• 993. Как вы боретесь с reward hacking?

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление