Batching tool calls

Определение

Техника, при которой несколько вызовов инструментов (tools) объединяются в один LLM-запрос для снижения накладных расходов.

Где встречается

• 775. Что такое Cost Engineering для LLM-систем

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление