presence penalty
presence penalty
Определение
Параметр инференса, который вычитает константу из логита токена, если он уже появлялся, поощряя появление новых токенов.
Где встречается
- 90. Как вы проектируете API для внешних систем, использующих вашу LLM
- 173. Как вы оцениваете креативность LLM в production
- 679. Что такое repetition penalty и как он работает