Knowledge Portal

aivaro.ru

  • Contents
  • Questions
  • Practice
  • Wiki
  • Tests
  • Search
✈Telegram @AetSeidhe
RUEN中文
…
Contents/Wiki/segments

English translation is not available yet. Showing Russian content.

segments

segments

Определение

Токены, разделённые на сегменты для обработки в механизме Infini-attention, позволяющем работать с бесконечным контекстом.

Где встречается

  • 800+ вопросов

Навигация

  • Индекс терминов
  • Индекс разборов
  • Оглавление

Теги

wikiтерминarchitecture

Обратные ссылки (15)

  • Индекс терминов
  • Как вы индексируете видео-контент в RAG-системе?
  • Как вы индексируете видео-контент в RAG-системе?
  • Как вы управляете memory fragmentation при длительном раннинге LLM сервера?
  • Как дебажить memory fragmentation в LLM сервере?
  • Как работает FlashAttention-3 технически? Чем отличается от FA2?
  • Как работает Infini-attention (Google, 2024) для бесконечного контекста?
  • Как работает Whisper (architecture, tokenization, training) для ASR?
  • ТЕХНИЧЕСКОЕ ЗАДАНИЕ: Реализовать compaction в векторной БД
  • Что такое "lost in the middle" и как это связано с attention sink?
  • Что такое KV cache reuse в multi-turn диалогах и как его реализовать?
  • Что такое Kafka compaction для логов LLM взаимодействий?
  • Что такое Kafka compaction для логов LLM взаимодействий?
  • Что такое MIG (Multi-Instance GPU) и когда он полезен для LLM?
  • Что такое activation recomputation (checkpointing) и зачем оно нужно?