Поиск

• wikifairness scheduling

  …Как работают inference schedulers (FCFS, Priority, Fairness)|850. Как работают inference schedulers (FCFS, Priority, Fairness)]] - [[Практика|Практика]] - [[800+ вопросов|800…

• wikifairness metrics

  # fairness metrics ## Определение Метрики для оценки предвзятости и равноправия решений агентов, проверяющие отсутствие дискриминации по защищённым группам. ## Где встречается - [[800…

• wikiDominant Resource Fairness

  # Dominant Resource Fairness ## Определение Механизм справедливого распределения нескольких типов ресурсов (CPU, память), основанный на доминантном ресурсе каждой задачи. ## Где встречается…

• wikiInference scheduler

  …FCFS, Priority, Fairness. ## Где встречается - [[850. Как работают inference schedulers (FCFS, Priority, Fairness)|850. Как работают inference schedulers (FCFS, Priority…

• wikiMin-max fairness

  # Min-max fairness ## Определение Политика распределения ресурсов, гарантирующая каждому арендатору минимальный объём, а избыток распределяющая пропорционально. Используется в GPU scheduling…

• wikiIBM AI Fairness 360

  # IBM AI Fairness 360 ## Определение Open-source библиотека для тестирования и смягчения смещений (bias) в моделях машинного обучения; помогает оценить…

• wikiAging

  …Как работают inference schedulers (FCFS, Priority, Fairness)|850. Как работают inference schedulers (FCFS, Priority, Fairness)]] ## Навигация - [[00. Индекс терминов|Индекс…

• wikiBatching scheduler

  …Как работают inference schedulers (FCFS, Priority, Fairness)|850. Как работают inference schedulers (FCFS, Priority, Fairness)]] ## Навигация - [[00. Индекс терминов|Индекс…

• wikiConvoy effect

  …Как работают inference schedulers (FCFS, Priority, Fairness)|850. Как работают inference schedulers (FCFS, Priority, Fairness)]] ## Навигация - [[00. Индекс терминов|Индекс…

• wikiLatency-sensitive

  …Как работают inference schedulers (FCFS, Priority, Fairness)|850. Как работают inference schedulers (FCFS, Priority, Fairness)]] ## Навигация - [[00. Индекс терминов|Индекс…

• wikiPreemption by recomputation

  …Как работают inference schedulers (FCFS, Priority, Fairness)|850. Как работают inference schedulers (FCFS, Priority, Fairness)]] ## Навигация - [[00. Индекс терминов|Индекс…

• wikiLIFO-эвристика

  …Как работают inference schedulers (FCFS, Priority, Fairness)|850. Как работают inference schedulers (FCFS, Priority, Fairness)]] ## Навигация - [[00. Индекс терминов|Индекс…

• wikiDeficit round robin

  …Как работают inference schedulers (FCFS, Priority, Fairness)|850. Как работают inference schedulers (FCFS, Priority, Fairness)]] ## Навигация - [[00. Индекс терминов|Индекс…

• wikiPreemption by swap

  …Как работают inference schedulers (FCFS, Priority, Fairness)|850. Как работают inference schedulers (FCFS, Priority, Fairness)]] ## Навигация - [[00. Индекс терминов|Индекс…

• wikiPriority ceiling

  …Как работают inference schedulers (FCFS, Priority, Fairness)|850. Как работают inference schedulers (FCFS, Priority, Fairness)]] - [[293. Настроить conflict resolution между…

• answerКак работают inference schedulers (FCFS, Priority, Fairness)?

  …Классическая реализация — [[Вики/fairness scheduling\|max-min fairness]]. ### Формула max-min fairness Дано: общая [[Вики/throughput\|пропускная способность]] `C` (например…

• wikiburst

  …Как работают inference schedulers (FCFS, Priority, Fairness)|850. Как работают inference schedulers (FCFS, Priority, Fairness)]] - [[219. Сравнить inference schedulers (FCFS…

• wikiStarvation

  …Как работают inference schedulers (FCFS, Priority, Fairness)|850. Как работают inference schedulers (FCFS, Priority, Fairness)]] - [[800+ вопросов|800+ вопросов]] ## Навигация…

• wikiBenchmarks

  # Benchmarks ## Определение Benchmarks — набор тестов для измерения accuracy, fairness, robustness. ## Где встречается - [[800+ вопросов|800+ вопросов]] ## Навигация - [[00. Индекс терминов…

• wikipriority-based scheduling

  …Как работают inference schedulers (FCFS, Priority, Fairness)|850. Как работают inference schedulers (FCFS, Priority, Fairness)]] - [[Практика|Практика]] - [[800+ вопросов|800…

• wikimulti-tenant

  …Как работают inference schedulers (FCFS, Priority, Fairness)|850. Как работают inference schedulers (FCFS, Priority, Fairness)]] - [[Практика|Практика]] - [[800+ вопросов|800…

• wikiArize AI

  # Arize AI ## Определение Платформа observability для ML с поддержкой кастомных метрик, drift detection и fairness. ## Где встречается - [[176. Какие инструменты…

• answerКак работает scheduler в vLLM? Какие алгоритмы выбора запросов?

  …waiting_sorted = sorted(self.waiting, key=lambda r: -r.priority) elif self.policy == 'fairness': waiting_sorted = self._fairness_sort(self…

• wikiAPI call

  …Как работают inference schedulers (FCFS, Priority, Fairness)|850. Как работают inference schedulers (FCFS, Priority, Fairness)]] - [[875. Как делать synthetic eval…

• answerКак проектировать аукцион для allocation вычислительных ресурсов между агентами?

  …При [[Вики/Dominant Resource Fairness\|DRF]] каждому выделяется [[Вики/stake\|доля]], равная минимальной доле его доминирующего ресурса. ### 5.3 Резервная…

• wikiGini coefficient

  # Gini coefficient ## Определение Метрика равномерности распределения ресурсов (например, GPU) между tenants, используемая для оценки fairness в multi-tenant системах. ## Где…

• wikicustom evaluators

  # custom evaluators ## Определение Собственные функции оценки для специфических требований (fairness, drift detection, бизнес-метрики), когда встроенных инструментов недостаточно. ## Где встречается…

• answerКак работает scheduler в vLLM? Какие алгоритмы выбора запросов?

  …например, [[Вики/Priority\|приоритет]] + [[Вики/fairness scheduling\|fairness]] внутри одного приоритета. [[Вики/Paged Attention\|vLLM]] позволяет задавать политику через конфигурацию…

• wikipreemption

  …Как работают inference schedulers (FCFS, Priority, Fairness)|850. Как работают inference schedulers (FCFS, Priority, Fairness)]] - [[Практика|Практика]] - [[800+ вопросов|800…

• answerКак организовать GPU scheduling для multi-tenant LLM serving?

  …Механизмы - [[Вики/Min-max fairness\|Min‑max fairness]] каждому [[Вики/multi-tenant\|tenant]] выделяется минимум, излишки распределяются пропорционально. - **Weighted fair…

• wikiSLA

  …Как работают inference schedulers (FCFS, Priority, Fairness)|850. Как работают inference schedulers (FCFS, Priority, Fairness)]] - [[863. Как проектировать Airflow DAG…

• answerКакие инструменты для агентской эвалюации вы используете?

  …diversity, reliability, perturbation, cascade, consistency, grounding|factual grounding, hallucination, drift) и кастомные evaluator'ы для специфических требований (fairness, drift detection…

• answerЧто такое model cards и system cards и как их составлять?

  …возьмите результаты тестирования на бенчмарках, fairness-анализ, список известных failure modes. - Для system card: опишите архитектуру, проведите end-to-end…

• answerЧто такое meta-evaluation бенчмарков (оценка оценки)?

  …включает не только результаты, но и метрики [[Вики/robustness\|robustness]], [[Вики/fairness scheduling\|fairness]], [[Вики/Calibration\|calibration]]. - Собственные скрипты: для…

• answerКак проектировать rate limiting на уровне сообщений?

  …of-memory]] или падение сервиса. - **[[Вики/fairness scheduling\|Справедливость]] ([[Вики/fairness scheduling\|fairness]])** – каждый [[Вики/AI agents\|агент]] получает гарантированную…

• answerКак вы оцениваете alignment модели с человеческими ценностями без gold standard?

  …relevance\|релевантность]]); - Honesty — честность (признание незнания); - **[[Вики/fairness scheduling\|Fairness]]** — [[Вики/fairness scheduling\|справедливость]] (отсутствие дискриминации). [[Вики/Pareto frontier\|Pareto…

• answerКак вы проектируете backpressure в LLM serving системе?

  …перегрузке, пользователи получают [[Вики/timeout\|таймауты]]. - Обеспечение [[Вики/fairness scheduling\|fairness]] — равномерное [[Вики/probability distribution\|распределение]] ресурсов между клиентами. - [[Вики…

• answerЧто такое EU AI Act и как оно влияет на деплой LLM в production?

  …Verify]] (сингапурский аналог) или [[Вики/IBM AI Fairness 360\|IBM AI Fairness 360]] для тестирования [[Вики/bias\|bias]]. --- ## Пет-проект…

• answerКак вы измеряете diversity синтетического датасета?

  …confidence score\|уверенность]] модели лучше соответствует точности. - **[[Вики/fairness scheduling\|Fairness]]** — меньше [[Вики/bias\|bias]] к частым паттернам. Однако чрезмерный…

• answerКак вы тестируете robustness LLM к adversarial input (не только injection)?

  …Как работают Tensor Cores в H100B200 и для чего они нужны\|303]] | Как вы тестируете LLM на bias и fairness…

• answerЧто такое continuous batching и как оно влияет на throughput?

  …Без PagedAttention было бы много фрагментации. - **Fairness (справедливость):** Планировщик может отдавать приоритет prefilling или decoding. Некоторые схемы (например, равномерные квоты…

• answerКак работает CLIP и как training contrastive loss выравнивает текст и изображения?

  …Вики/vector similarity\|косинусное сходство]]). - [[Вики/Uniformity\|Uniformity]] ([[Вики/fairness scheduling\|равномерность]]): [[Вики/embedding\|эмбеддинги]] разных пар равномерно распределены по…

• answerЧто такое meta-evaluation бенчмарков (оценка оценки)?

  …of Language Models) | Многоосевая оценка с автоматическим анализом robustness, fairness | Включает meta-evaluation через correlation с human judgment | | [[Вики/lm…

• practiceТЕХНИЧЕСКОЕ ЗАДАНИЕ: Реализовать data locality scheduler

  …topologies and latency models | | 315 | Task scheduling algorithms (FIFO, fairness, capacity) | | 409 | Locality‑aware scheduling in MapReduce | | 522 | Caching and…

• answerКак строить streaming RAG pipeline (real-time ingestion)?

  …Как работают inference schedulers (FCFS, Priority, Fairness)\|850]] - Следующий: [[852. Как обрабатывать schema drift в данных для RAG\|852]] - Индекс…

• answerКак предотвращать collusion (сговор) между агентами в децентрализованной системе?

  …В децентрализованных системах [[Вики/Collusion\|сговор]] подрывает доверие, [[Вики/fairness scheduling\|справедливость]] и [[Вики/Efficiency\|эффективность]]. Предотвращение строится на комбинации…

• answerКак вы сравниваете две модели, если у них разная latency (быстрая неточная vs медленная точная)?

  …долгосрочная метрика — если пользователи уходят из-за медленных ответов, даже высокая accuracy не спасёт. - **Fairness**: быстрая модель может хуже работать…

• answerЧто такое expert parallelism для MoE моделей (Mixtral)?

  …Как работают inference schedulers (FCFS, Priority, Fairness)\|850]] - Индекс: [[00. Индекс разборов]]

• answerКак моделировать экономику агентов с ограниченными бюджетами на API вызовы?

  …бюджета (не должен быть слишком низким или слишком высоким) | | **Fairness** | Равномерность распределения бюджета между агентами (индекс Джини) | | [[Вики/regret\|Regret…

• answerКак вы генерируете синтетический датасет для instruction tuning? Self-instruct, Evol-Instruct?

  …Нужно проверять датасет на fairness. - **Safety (безопасность):** синтетические инструкции могут содержать вредные запросы (например, «как взломать систему»). Используйте фильтрацию по…