Perceived latency

Определение

Субъективное ощущение задержки пользователем, которое снижается за счёт стриминга первых токенов, создавая иллюзию более быстрого ответа.