Поиск

  • answerЧто такое MLIR и как он используется в IREE/TensorRT-LLM?

    …Что такое MLIR и как он используется в IREE/TensorRT-LLM? ## Краткий тезис **[[Вики/MLIR\|MLIR]] ([[Вики/MLIR\|Multi-Level…

  • wikiML Certification

    # ML Certification ## Определение Стандарт сертификации устойчивости ML-моделей к атакам, например NIST 2025, основанный на red teaming по 10+ категориям…

  • wikiMLP Projection

    # MLP Projection ## Определение Проекционный слой на базе MLP, приводящий размерность эмбеддингов vision encoder к размерности эмбеддингов LLM в мультимодальных моделях…

  • wikiTorch-MLIR

    # Torch-MLIR ## Определение Проект для импорта PyTorch моделей в промежуточное представление MLIR (Multi-Level Intermediate Representation), используемое для оптимизации и…

  • wikiML Model Access

    # ML Model Access ## Определение Тактика в MITRE ATLAS, нацеленная на получение несанкционированного доступа к ML-модели (например, через экстракцию или…

  • wikiCI/CD for ML pipelines

    # CI/CD for ML pipelines ## Определение Непрерывная интеграция и доставка для ML-пайплайнов, включая проверку промптов. ## Где встречается - [[167. Реализовать…

  • wikiML workload

    # ML workload ## Определение Тип вычислительной нагрузки (обучение, инференс, обработка данных), определяющий выбор моделей покупки ресурсов и SLA. ## Где встречается - [[143…

  • wikiMLOps pipeline

    # MLOps pipeline ## Определение CI/CD-пайплайн для автоматизации шагов ML-процесса, таких как обучение, валидация, регистрация моделей и развёртывание. ## Где…

  • wikiMLPerf Inference

    # MLPerf Inference ## Определение Промышленный бенчмарк для измерения производительности инференса ML-моделей по метрикам латентности и пропускной способности (throughput). ## Где встречается…

  • wikiMLOps

    # MLOps ## Определение Практика автоматизации и управления жизненным циклом ML-моделей: от обучения и версионирования до деплоя и мониторинга в production…

  • wikiTecton

    …Как вы проектируете feature store для ML фичей, используемых LLM|262. Как вы проектируете feature store для ML фичей, используемых…

  • wikiMLaaS

    # MLaaS ## Определение Парадигма предоставления ML-моделей через API, часто являющаяся целью атак кражи моделей. ## Где встречается - [[351. Как работает model…

  • wikiMLIR

    # MLIR ## Определение Фреймворк для построения компиляторов с многоуровневыми диалектами (linalg, scf), применяемый для оптимизации ML-моделей под различные бэкенды. ## Где…

  • wikiMLflow Tracing

    # MLflow Tracing ## Определение Функциональность MLflow для записи и воспроизведения траекторий выполнения агентов, используемая для анализа и улучшения качества. ## Где встречается…

  • wikiproduction ML system

    # production ML system ## Определение Система машинного обучения, работающая в реальной эксплуатации и обслуживающая пользовательские запросы. Требует учёта cost-efficiency, масштабируемости…

  • wikiDialect

    # Dialect ## Определение В компиляторной инфраструктуре MLIR — набор операций и типов, абстрагирующих определённый уровень представления (например, арифметику, управляющие структуры). Позволяет строить…

  • wikiML-based suggest

    # ML-based suggest ## Определение Модель машинного обучения, обученная на истории решений человека, предсказывающая вероятность одобрения запроса для использования в системе…

  • wikiMLP layers

    # MLP layers ## Определение Многослойный перцептрон — тип нейросети с полносвязными слоями, используемый в трансформерах для нелинейных преобразований и извлечения знаний. ## Где…

  • wikiPSI

    # PSI ## Определение Метрика сравнения распределений, частный случай KL divergence; используется для обнаружения дрейфа данных в мониторинге ML-моделей (порог >0…

  • wikiML Engineer

    # ML Engineer ## Определение Роль инженера, отвечающего за разработку, обучение и внедрение моделей машинного обучения, включая fine-tuning и создание эмбеддингов…

  • wikiSCF

    # SCF ## Определение Диалект MLIR для представления структурированного потока управления. ## Где встречается - [[317. Что такое MLIR и как он используется в…

  • wikiSeldon

    # Seldon ## Определение Платформы для serving ML-моделей (включая KServe и MLServer), предоставляющие autoscaling из коробки. ## Где встречается - [[825. Что такое…

  • wikiStableHLO

    # StableHLO ## Определение стабильный высокоуровневый диалект MLIR для импорта моделей ## Где встречается - [[317. Что такое MLIR и как он используется в…

  • wikimlx5_core

    # mlx5_core ## Определение Драйвер ядра для сетевых адаптеров Mellanox ConnectX-5, необходимый для работы GPU Direct RDMA и высокопроизводительных сетей…

  • wikiKS-test

    …Чем отличается эвалюация LLM от эвалюации традиционных ML моделей|178. Чем отличается эвалюация LLM от эвалюации традиционных ML моделей]] - [[517…

  • wikiOnline Store

    …Как вы проектируете feature store для ML фичей, используемых LLM|262. Как вы проектируете feature store для ML фичей, используемых…

  • wikimlnx-ofed-kernel-dkms

    # mlnx-ofed-kernel-dkms ## Определение Пакет драйверов Mellanox OpenFabrics Enterprise Distribution для поддержки RDMA и GPU Direct RDMA, устанавливаемый через…

  • wikiPass

    # Pass ## Определение Проход в компиляторе MLIR, выполняющий преобразование или оптимизацию промежуточного представления (IR). ## Где встречается - [[317. Что такое MLIR и…

  • wikiOffline Store

    …Как вы проектируете feature store для ML фичей, используемых LLM|262. Как вы проектируете feature store для ML фичей, используемых…

  • wikiMHLO

    # MHLO ## Определение Высокоуровневый диалект MLIR, предшественник StableHLO, используемый для представления операций машинного обучения. ## Где встречается - [[317. Что такое MLIR и…

  • wikiFeast

    …Как вы проектируете feature store для ML фичей, используемых LLM|262. Как вы проектируете feature store для ML фичей, используемых…

  • wikiLinalg

    # Linalg ## Определение Диалект MLIR, предоставляющий операции линейной алгебры, используемый для оптимизации вычислений в фреймворках вроде TensorRT-LLM. ## Где встречается - [[317…

  • wikiML pipeline

    # ML pipeline ## Определение Конвейер обработки данных и обучения/инференса моделей, в который встраивается canary analysis для безопасного развертывания. ## Где встречается…

  • wikiIREE

    # IREE ## Определение Компилятор и среда выполнения для ML-моделей на базе MLIR, поддерживающий различные бэкенды (CPU, GPU, NPU, FPGA) и…

  • wikiMLE

    # MLE ## Определение Метод оценки параметров модели путем максимизации вероятности наблюдаемых данных; широко используется в обучении LLM (минимизация кросс-энтропии эквивалентна…

  • answerЧто такое MITRE ATLAS и как он связан с MITRE ATT&CK?

    …Реальная атака на ML-систему часто включает как классические шаги (взлом сервера, кража учётных данных), так и ML-специфичные ([[Вики…

  • wikipoint-in-time correctness

    …Как вы проектируете feature store для ML фичей, используемых LLM|262. Как вы проектируете feature store для ML фичей, используемых…

  • wikiLowering

    # Lowering ## Определение Процесс преобразования высокоуровневого представления (диалекта) в низкоуровневое в компиляторах (MLIR), а также метрика перехода пользователей по воронке в…

  • wikiHopsworks

    # Hopsworks ## Определение Enterprise feature store platform с управлением версиями и поддержкой GPU для вычисления эмбеддингов, входит в MLOps-инфраструктуру. ## Где…

  • answerКак вы планируете масштабирование команды вокруг LLM-системы?

    …По мере роста продукта выделяются специализированные позиции: [[Вики/ML Engineer\|ML Engineer]], [[Вики/Backend Engineer\|Backend Engineer]], [[Вики/Prompt Engineer…

  • wikifeature store

    # feature store ## Определение Централизованное хранилище признаков для ML-моделей, обеспечивающее консистентность и низкую задержку при serving, часто используемое для доставки…

  • wikiBudget utilization

    …Как тест-тайм компьютинг меняет MLOps|165. Как тест-тайм компьютинг меняет MLOps]] ## Навигация - [[00. Индекс терминов|Индекс терминов]] - [[00…

  • wikiMeta-model

    …Как тест-тайм компьютинг меняет MLOps|165. Как тест-тайм компьютинг меняет MLOps]] ## Навигация - [[00. Индекс терминов|Индекс терминов]] - [[00…

  • wikiAnthropic evals

    …Чем отличается эвалюация LLM от эвалюации традиционных ML моделей|178. Чем отличается эвалюация LLM от эвалюации традиционных ML моделей]] ## Навигация…

  • wikin-gram

    …Чем отличается эвалюация LLM от эвалюации традиционных ML моделей|178. Чем отличается эвалюация LLM от эвалюации традиционных ML моделей]] ## Навигация…

  • wikievaluator-based evaluation

    …Чем отличается эвалюация LLM от эвалюации традиционных ML моделей|178. Чем отличается эвалюация LLM от эвалюации традиционных ML моделей]] ## Навигация…

  • wikiFeature validation

    …Как вы проектируете feature store для ML фичей, используемых LLM|262. Как вы проектируете feature store для ML фичей, используемых…

  • wikiJIT compilation

    …Что такое MLIR и как он используется в IREETensorRT-LLM|317. Что такое MLIR и как он используется в IREETensorRT…

  • wikiFeature selection

    …Как вы проектируете feature store для ML фичей, используемых LLM|262. Как вы проектируете feature store для ML фичей, используемых…

  • wikiFoundation models with built-in budget

    …Как тест-тайм компьютинг меняет MLOps|165. Как тест-тайм компьютинг меняет MLOps]] ## Навигация - [[00. Индекс терминов|Индекс терминов]] - [[00…