Knowledge Portal

aivaro.ru

  • 目录
  • 问题
  • 实践
  • 百科
  • 测试
  • 搜索
✈Telegram @AetSeidhe
RUEN中文
…
目录/百科/segments

中文翻译暂不可用,显示俄语原文。

segments

segments

Определение

Токены, разделённые на сегменты для обработки в механизме Infini-attention, позволяющем работать с бесконечным контекстом.

Где встречается

  • 800+ вопросов

Навигация

  • Индекс терминов
  • Индекс разборов
  • Оглавление

Теги

wikiтерминarchitecture

Обратные ссылки (15)

  • Индекс терминов
  • Как вы индексируете видео-контент в RAG-системе?
  • Как вы индексируете видео-контент в RAG-системе?
  • Как вы управляете memory fragmentation при длительном раннинге LLM сервера?
  • Как дебажить memory fragmentation в LLM сервере?
  • Как работает FlashAttention-3 технически? Чем отличается от FA2?
  • Как работает Infini-attention (Google, 2024) для бесконечного контекста?
  • Как работает Whisper (architecture, tokenization, training) для ASR?
  • ТЕХНИЧЕСКОЕ ЗАДАНИЕ: Реализовать compaction в векторной БД
  • Что такое "lost in the middle" и как это связано с attention sink?
  • Что такое KV cache reuse в multi-turn диалогах и как его реализовать?
  • Что такое Kafka compaction для логов LLM взаимодействий?
  • Что такое Kafka compaction для логов LLM взаимодействий?
  • Что такое MIG (Multi-Instance GPU) и когда он полезен для LLM?
  • Что такое activation recomputation (checkpointing) и зачем оно нужно?