Abort

Определение

Принудительное прерывание генерации на уровне сервера для освобождения GPU-памяти.

Где встречается

• 88. Как бы вы добавили отмену (cancellation) для длительных LLM операций

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление