LiteLLM

Определение

Библиотека для унифицированного доступа к 100+ LLM API, обеспечивающая единый интерфейс, отслеживание стоимости и возможность интеграции с firewalls.

Где встречается

• 94. Как вы проектируете промпты, которые работают с разными моделями
• 883. Как защитить RAG от poisoning (вредоносные документы в базе знаний)
• 163. Реализовать AB тестирование промптов
• 237. Агент с cost tracking

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление