constrained decoding
constrained decoding
Определение
Ограничение генерации токенов во время декодирования, чтобы гарантировать соответствие JSON schema или другому формату.
Где встречается
- 72. OpenAI vs Антропик vs Groq vs Self-hosted — что выбираете
- 75. Что такое structured output constrained decoding и зачем это нужно
- 198. Какие ограничения у language representation design
- 213. Что такое Guided Decoding и как оно связано с JSON schema
- 800+ вопросов