Causal attention

Определение

Архитектурная особенность авторегрессивных моделей (например, GPT), где каждый токен может «видеть» только предыдущие токены. Может способствовать positional bias при оценке.

Где встречается

• 493. Что такое Positional bias в LLM-as-Judge и как его исправить

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление