Portkey

Определение

Платформа для управления, мониторинга и маршрутизации запросов к LLM, работающая как прокси-сервер с функциями логирования и отслеживания стоимости.