Поиск

  • wikipower analysis

    # power analysis ## Определение Метод определения минимального размера выборки для A/B-теста или эксперимента с заданной статистической мощностью, уровнем значимости…

  • wikiPower law

    …Как вы оцениваете, сколько синтетических данных нужно для fine-tuning (power analysis)|699. Как вы оцениваете, сколько синтетических данных нужно…

  • answerЧто такое statistical power evaluation и как определять размер выборки?

    …чем меньше разброс, тем выше [[Вики/statistical power\|мощность]]. --- ## 3. Определение размера выборки через power analysis **[[Вики/power analysis\|Power

  • wikiG*Power

    # G*Power ## Определение Онлайн-калькулятор для power analysis. ## Где встречается - [[342. Что такое statistical power evaluation и как определять размер…

  • wikiSaturation point

    …Как вы оцениваете, сколько синтетических данных нужно для fine-tuning (power analysis)|699. Как вы оцениваете, сколько синтетических данных нужно…

  • wikiOptuna

    …Как вы оцениваете, сколько синтетических данных нужно для fine-tuning (power analysis)|699. Как вы оцениваете, сколько синтетических данных нужно…

  • wikidiminishing returns

    …Как вы оцениваете, сколько синтетических данных нужно для fine-tuning (power analysis)|699. Как вы оцениваете, сколько синтетических данных нужно…

  • wikipwr

    # pwr ## Определение Пакет языка R для проведения power analysis — расчёта необходимого размера выборки для статистических тестов. Используется в evaluation LLM…

  • wikiVariance Estimation

    # Variance Estimation ## Определение Определение разброса метрики (дисперсии) для расчёта статистической мощности (power analysis) и необходимого размера выборки в A/B…

  • wikiPrompt Tuning

    …Как вы оцениваете, сколько синтетических данных нужно для fine-tuning (power analysis)|699. Как вы оцениваете, сколько синтетических данных нужно…

  • wikilearning curve experiment

    …Как вы оцениваете, сколько синтетических данных нужно для fine-tuning (power analysis)|699. Как вы оцениваете, сколько синтетических данных нужно…

  • wikitool selection learning

    …Как вы оцениваете, сколько синтетических данных нужно для fine-tuning (power analysis)|699. Как вы оцениваете, сколько синтетических данных нужно…

  • answerКак вы оцениваете, сколько синтетических данных нужно для fine-tuning (power analysis)?

    Power analysis (анализ мощности) в контексте fine-tuning **[[Вики/power analysis\|Power analysis]]** — это статистический метод, заимствованный из экспериментального дизайна…

  • wikistatsmodels

    # statsmodels ## Определение Библиотека Python для статистического анализа, включая power analysis, t-test и bootstrap. ## Где встречается - [[178. Чем отличается эвалюация…

  • wikieffect size

    …Используется в power analysis для определения минимальной обнаруживаемой разницы и необходимого размера выборки. ## Где встречается - [[136. Как вы AB тестируете…

  • wikiRay

    …Как вы оцениваете, сколько синтетических данных нужно для fine-tuning (power analysis)|699. Как вы оцениваете, сколько синтетических данных нужно…

  • wikiFull fine-tuning

    …Как вы оцениваете, сколько синтетических данных нужно для fine-tuning (power analysis)|699. Как вы оцениваете, сколько синтетических данных нужно…

  • answerЧто такое statistical power evaluation и как определять размер выборки для A/B теста?

    …Компоненты Power Analysis Для расчёта мощности и размера выборки нужно задать четыре параметра (три известных, один вычисляется): | Параметр | Обозначение | Описание…

  • wikidiversity

    …Как вы оцениваете, сколько синтетических данных нужно для fine-tuning (power analysis)|699. Как вы оцениваете, сколько синтетических данных нужно…

  • wikiQLoRA

    …Как вы оцениваете, сколько синтетических данных нужно для fine-tuning (power analysis)|699. Как вы оцениваете, сколько синтетических данных нужно…

  • wikiParameter-Efficient Fine-Tuning

    …Как вы оцениваете, сколько синтетических данных нужно для fine-tuning (power analysis)|699. Как вы оцениваете, сколько синтетических данных нужно…

  • practiceТЕХНИЧЕСКОЕ ЗАДАНИЕ: Настроить A/B тестирование агентов

    …Если трафик синтетический — генерировать равномерно. | | Маленький эффект (effect size < 0.1) и нехватка выборки | Использовать power analysis до эксперимента; если…

  • wikiscikit-learn

    …Как вы оцениваете, сколько синтетических данных нужно для fine-tuning (power analysis)|699. Как вы оцениваете, сколько синтетических данных нужно…

  • wikiPlanner

    …Как вы оцениваете, сколько синтетических данных нужно для fine-tuning (power analysis)|699. Как вы оцениваете, сколько синтетических данных нужно…

  • wikiEarly Stopping

    …Как вы оцениваете, сколько синтетических данных нужно для fine-tuning (power analysis)|699. Как вы оцениваете, сколько синтетических данных нужно…

  • answerПочему LLM inference memory-bound, а не compute-bound?

    …Как вы делаете canary analysis для новой LLM модели\|430]] - Следующий: [[432. Как работает FlashAttention-3 технически Чем отличается от…

  • answerКак вы A/B тестируете две версии промпта в production?

    …На практике используют [[Вики/power analysis\|power analysis]] с помощью библиотек (statsmodels, scipy). **Пример**: если baseline CTR = 5%, ожидаемый lift…

  • wikiLlamaIndex

    …Как вы оцениваете, сколько синтетических данных нужно для fine-tuning (power analysis)|699. Как вы оцениваете, сколько синтетических данных нужно…

  • wikiWeights & Biases

    …Как вы оцениваете, сколько синтетических данных нужно для fine-tuning (power analysis)|699. Как вы оцениваете, сколько синтетических данных нужно…

  • wikiLoRA

    …Как вы оцениваете, сколько синтетических данных нужно для fine-tuning (power analysis)|699. Как вы оцениваете, сколько синтетических данных нужно…

  • practiceТЕХНИЧЕСКОЕ ЗАДАНИЕ: Сделать финансовую модель LLM-продукта

    …Провести [[Вики/sensitivity analysis\|Sensitivity Analysis]]: - Что если [[Вики/prompt tokens\|input tokens]] удвоятся? (50% выше) - Что если цена [[Вики…

  • wikiF1

    …Как вы оцениваете, сколько синтетических данных нужно для fine-tuning (power analysis)|699. Как вы оцениваете, сколько синтетических данных нужно…

  • wikiROUGE

    …Как вы оцениваете, сколько синтетических данных нужно для fine-tuning (power analysis)|699. Как вы оцениваете, сколько синтетических данных нужно…

  • wikiBLEU

    …Как вы оцениваете, сколько синтетических данных нужно для fine-tuning (power analysis)|699. Как вы оцениваете, сколько синтетических данных нужно…

  • practiceТЕХНИЧЕСКОЕ ЗАДАНИЕ: Реализовать A/B тест для RAG

    …Дополнительно проверить мощность теста (post-hoc power analysis). 3. Задокументировать возможные причины (размер выборки, дисперсия, смещение). Принять решение: оставить control…

  • answerКак вы делаете A/B тестирование двух моделей в production?

    …Длительность эксперимента Минимальная длительность определяется [[Вики/power analysis\|power analysis]] (расчёт необходимого размера выборки). Для LLM-приложений типичный период — 1…

  • answerКак вы A/B тестируете две версии промпта в production?

    …через [[Вики/power analysis\|power analysis]] (например, с помощью `[[Вики/statsmodels\|statsmodels]].stats.[[Вики/statistical power\|power]]`). Нужно задать: - [[Вики…

  • wikihallucination

    …Как вы оцениваете, сколько синтетических данных нужно для fine-tuning (power analysis)|699. Как вы оцениваете, сколько синтетических данных нужно…

  • wikiReAct Agent

    …Как вы оцениваете, сколько синтетических данных нужно для fine-tuning (power analysis)|699. Как вы оцениваете, сколько синтетических данных нужно…

  • answerКак делать A/B тестирование промптов в production?

    …Используйте [[Вики/power analysis\|power analysis]] (например, `[[Вики/statsmodels\|statsmodels]]`). - Обычно: несколько тысяч пользователей на вариант для малых эффектов (1…

  • answerКак вы делаете synthetic data для сложного рассуждения (math, code)?

    …Как вы оцениваете, сколько синтетических данных нужно для fine-tuning (power analysis)\|699]] | Как оценивать качество рассуждений агента? | | [[700. Как…

  • answerКак вы делаете A/B тест между двумя агентами с разными архитектурами (ReAct vs Plan-and-Execute)?

    …Вики/sample size\|размер выборки]] рассчитывается через [[Вики/power analysis\|power analysis]]. Для [[Вики/bootstrap\|bootstrap]] это менее критично, но…

  • answerКак строить финансовую модель LLM-продукта для бизнеса?

    …Проведите sensitivity analysis — меняйте цены API, churn, среднюю длину запроса. 8. Подготовьте дашборд (Streamlit, Power BI) для живого мониторинга. **Пример…

  • practiceТЕХНИЧЕСКОЕ ЗАДАНИЕ: Агент с A/B тестированием

    …отчётов в Markdown | | 412 | Ошибки первого и второго рода, power analysis | ## 10. Чек-лист самопроверки - [ ] Я чётко определил, что именно…

  • answerКак вы комбинируете реальные и синтетические данные для максимального качества?

    …Как вы оцениваете, сколько синтетических данных нужно для fine-tuning (power analysis)\|699]] - Следующий: [[701. Как работает warp scheduling на…

  • wikiИндекс терминов

    …Postman|Postman]] - [[Вики/postmortem|postmortem]] - [[Вики/power analysis|power analysis]] - [[Вики/Power law|Power law]] - [[Вики/PPOTrainer|PPOTrainer]] - [[Вики/PR…

  • indexИндекс разборов

    …Как вы оцениваете, сколько синтетических данных нужно для fine-tuning (power analysis)\|699. Как вы оцениваете, сколько синтетических данных нужно…

  • indexПРАКТИЧЕСКИЙ ЧЕКЛИСТ: СТАFF+ AI SYSTEMS ENGINEERING

    …FAILURE ANALYSIS & POSTMORTEMS (10 задач) | # | Задача | Что нужно сделать | Признак успеха | | --- | --------------------------------------------- | ------------------------------------------ | -------------------------------------- | | 1 | Написать postmortem для retrieval degradation | Логи, метрики, причина…

  • indexОглавление

    …Как вы оцениваете, сколько синтетических данных нужно для fine-tuning (power analysis)\|699. Как вы оцениваете, сколько синтетических данных нужно…

  • question_bankЧАСТЬ 1: RAG-СИСТЕМЫ (20 вопросов)

    Power analysis: задать минимальный эффект, α, β → необходимый N. **343. Как вы измеряете и исправляете bias в LLM-as-Judge…