Поиск
- wikipower analysis
# power analysis ## Определение Метод определения минимального размера выборки для A/B-теста или эксперимента с заданной статистической мощностью, уровнем значимости…
- wikiPower law
…Как вы оцениваете, сколько синтетических данных нужно для fine-tuning (power analysis)|699. Как вы оцениваете, сколько синтетических данных нужно…
- answerЧто такое statistical power evaluation и как определять размер выборки?
…чем меньше разброс, тем выше [[Вики/statistical power\|мощность]]. --- ## 3. Определение размера выборки через power analysis **[[Вики/power analysis\|Power…
- wikiG*Power
# G*Power ## Определение Онлайн-калькулятор для power analysis. ## Где встречается - [[342. Что такое statistical power evaluation и как определять размер…
- wikiSaturation point
…Как вы оцениваете, сколько синтетических данных нужно для fine-tuning (power analysis)|699. Как вы оцениваете, сколько синтетических данных нужно…
- wikiOptuna
…Как вы оцениваете, сколько синтетических данных нужно для fine-tuning (power analysis)|699. Как вы оцениваете, сколько синтетических данных нужно…
- wikidiminishing returns
…Как вы оцениваете, сколько синтетических данных нужно для fine-tuning (power analysis)|699. Как вы оцениваете, сколько синтетических данных нужно…
- wikipwr
# pwr ## Определение Пакет языка R для проведения power analysis — расчёта необходимого размера выборки для статистических тестов. Используется в evaluation LLM…
- wikiVariance Estimation
# Variance Estimation ## Определение Определение разброса метрики (дисперсии) для расчёта статистической мощности (power analysis) и необходимого размера выборки в A/B…
- wikiPrompt Tuning
…Как вы оцениваете, сколько синтетических данных нужно для fine-tuning (power analysis)|699. Как вы оцениваете, сколько синтетических данных нужно…
- wikilearning curve experiment
…Как вы оцениваете, сколько синтетических данных нужно для fine-tuning (power analysis)|699. Как вы оцениваете, сколько синтетических данных нужно…
- wikitool selection learning
…Как вы оцениваете, сколько синтетических данных нужно для fine-tuning (power analysis)|699. Как вы оцениваете, сколько синтетических данных нужно…
- answerКак вы оцениваете, сколько синтетических данных нужно для fine-tuning (power analysis)?
…Power analysis (анализ мощности) в контексте fine-tuning **[[Вики/power analysis\|Power analysis]]** — это статистический метод, заимствованный из экспериментального дизайна…
- wikistatsmodels
# statsmodels ## Определение Библиотека Python для статистического анализа, включая power analysis, t-test и bootstrap. ## Где встречается - [[178. Чем отличается эвалюация…
- wikieffect size
…Используется в power analysis для определения минимальной обнаруживаемой разницы и необходимого размера выборки. ## Где встречается - [[136. Как вы AB тестируете…
- wikiRay
…Как вы оцениваете, сколько синтетических данных нужно для fine-tuning (power analysis)|699. Как вы оцениваете, сколько синтетических данных нужно…
- wikiFull fine-tuning
…Как вы оцениваете, сколько синтетических данных нужно для fine-tuning (power analysis)|699. Как вы оцениваете, сколько синтетических данных нужно…
- answerЧто такое statistical power evaluation и как определять размер выборки для A/B теста?
…Компоненты Power Analysis Для расчёта мощности и размера выборки нужно задать четыре параметра (три известных, один вычисляется): | Параметр | Обозначение | Описание…
- wikidiversity
…Как вы оцениваете, сколько синтетических данных нужно для fine-tuning (power analysis)|699. Как вы оцениваете, сколько синтетических данных нужно…
- wikiQLoRA
…Как вы оцениваете, сколько синтетических данных нужно для fine-tuning (power analysis)|699. Как вы оцениваете, сколько синтетических данных нужно…
- wikiParameter-Efficient Fine-Tuning
…Как вы оцениваете, сколько синтетических данных нужно для fine-tuning (power analysis)|699. Как вы оцениваете, сколько синтетических данных нужно…
- practiceТЕХНИЧЕСКОЕ ЗАДАНИЕ: Настроить A/B тестирование агентов
…Если трафик синтетический — генерировать равномерно. | | Маленький эффект (effect size < 0.1) и нехватка выборки | Использовать power analysis до эксперимента; если…
- wikiscikit-learn
…Как вы оцениваете, сколько синтетических данных нужно для fine-tuning (power analysis)|699. Как вы оцениваете, сколько синтетических данных нужно…
- wikiPlanner
…Как вы оцениваете, сколько синтетических данных нужно для fine-tuning (power analysis)|699. Как вы оцениваете, сколько синтетических данных нужно…
- wikiEarly Stopping
…Как вы оцениваете, сколько синтетических данных нужно для fine-tuning (power analysis)|699. Как вы оцениваете, сколько синтетических данных нужно…
- answerПочему LLM inference memory-bound, а не compute-bound?
…Как вы делаете canary analysis для новой LLM модели\|430]] - Следующий: [[432. Как работает FlashAttention-3 технически Чем отличается от…
- answerКак вы A/B тестируете две версии промпта в production?
…На практике используют [[Вики/power analysis\|power analysis]] с помощью библиотек (statsmodels, scipy). **Пример**: если baseline CTR = 5%, ожидаемый lift…
- wikiLlamaIndex
…Как вы оцениваете, сколько синтетических данных нужно для fine-tuning (power analysis)|699. Как вы оцениваете, сколько синтетических данных нужно…
- wikiWeights & Biases
…Как вы оцениваете, сколько синтетических данных нужно для fine-tuning (power analysis)|699. Как вы оцениваете, сколько синтетических данных нужно…
- wikiLoRA
…Как вы оцениваете, сколько синтетических данных нужно для fine-tuning (power analysis)|699. Как вы оцениваете, сколько синтетических данных нужно…
- practiceТЕХНИЧЕСКОЕ ЗАДАНИЕ: Сделать финансовую модель LLM-продукта
…Провести [[Вики/sensitivity analysis\|Sensitivity Analysis]]: - Что если [[Вики/prompt tokens\|input tokens]] удвоятся? (50% выше) - Что если цена [[Вики…
- wikiF1
…Как вы оцениваете, сколько синтетических данных нужно для fine-tuning (power analysis)|699. Как вы оцениваете, сколько синтетических данных нужно…
- wikiROUGE
…Как вы оцениваете, сколько синтетических данных нужно для fine-tuning (power analysis)|699. Как вы оцениваете, сколько синтетических данных нужно…
- wikiBLEU
…Как вы оцениваете, сколько синтетических данных нужно для fine-tuning (power analysis)|699. Как вы оцениваете, сколько синтетических данных нужно…
- practiceТЕХНИЧЕСКОЕ ЗАДАНИЕ: Реализовать A/B тест для RAG
…Дополнительно проверить мощность теста (post-hoc power analysis). 3. Задокументировать возможные причины (размер выборки, дисперсия, смещение). Принять решение: оставить control…
- answerКак вы делаете A/B тестирование двух моделей в production?
…Длительность эксперимента Минимальная длительность определяется [[Вики/power analysis\|power analysis]] (расчёт необходимого размера выборки). Для LLM-приложений типичный период — 1…
- answerКак вы A/B тестируете две версии промпта в production?
…через [[Вики/power analysis\|power analysis]] (например, с помощью `[[Вики/statsmodels\|statsmodels]].stats.[[Вики/statistical power\|power]]`). Нужно задать: - [[Вики…
- wikihallucination
…Как вы оцениваете, сколько синтетических данных нужно для fine-tuning (power analysis)|699. Как вы оцениваете, сколько синтетических данных нужно…
- wikiReAct Agent
…Как вы оцениваете, сколько синтетических данных нужно для fine-tuning (power analysis)|699. Как вы оцениваете, сколько синтетических данных нужно…
- answerКак делать A/B тестирование промптов в production?
…Используйте [[Вики/power analysis\|power analysis]] (например, `[[Вики/statsmodels\|statsmodels]]`). - Обычно: несколько тысяч пользователей на вариант для малых эффектов (1…
- answerКак вы делаете synthetic data для сложного рассуждения (math, code)?
…Как вы оцениваете, сколько синтетических данных нужно для fine-tuning (power analysis)\|699]] | Как оценивать качество рассуждений агента? | | [[700. Как…
- answerКак вы делаете A/B тест между двумя агентами с разными архитектурами (ReAct vs Plan-and-Execute)?
…Вики/sample size\|размер выборки]] рассчитывается через [[Вики/power analysis\|power analysis]]. Для [[Вики/bootstrap\|bootstrap]] это менее критично, но…
- answerКак строить финансовую модель LLM-продукта для бизнеса?
…Проведите sensitivity analysis — меняйте цены API, churn, среднюю длину запроса. 8. Подготовьте дашборд (Streamlit, Power BI) для живого мониторинга. **Пример…
- practiceТЕХНИЧЕСКОЕ ЗАДАНИЕ: Агент с A/B тестированием
…отчётов в Markdown | | 412 | Ошибки первого и второго рода, power analysis | ## 10. Чек-лист самопроверки - [ ] Я чётко определил, что именно…
- answerКак вы комбинируете реальные и синтетические данные для максимального качества?
…Как вы оцениваете, сколько синтетических данных нужно для fine-tuning (power analysis)\|699]] - Следующий: [[701. Как работает warp scheduling на…
- wikiИндекс терминов
…Postman|Postman]] - [[Вики/postmortem|postmortem]] - [[Вики/power analysis|power analysis]] - [[Вики/Power law|Power law]] - [[Вики/PPOTrainer|PPOTrainer]] - [[Вики/PR…
- indexИндекс разборов
…Как вы оцениваете, сколько синтетических данных нужно для fine-tuning (power analysis)\|699. Как вы оцениваете, сколько синтетических данных нужно…
- indexПРАКТИЧЕСКИЙ ЧЕКЛИСТ: СТАFF+ AI SYSTEMS ENGINEERING
…FAILURE ANALYSIS & POSTMORTEMS (10 задач) | # | Задача | Что нужно сделать | Признак успеха | | --- | --------------------------------------------- | ------------------------------------------ | -------------------------------------- | | 1 | Написать postmortem для retrieval degradation | Логи, метрики, причина…
- indexОглавление
…Как вы оцениваете, сколько синтетических данных нужно для fine-tuning (power analysis)\|699. Как вы оцениваете, сколько синтетических данных нужно…
- question_bankЧАСТЬ 1: RAG-СИСТЕМЫ (20 вопросов)
…Power analysis: задать минимальный эффект, α, β → необходимый N. **343. Как вы измеряете и исправляете bias в LLM-as-Judge…