Поиск
- wikirepresentation engineering
# representation engineering ## Определение Подход к контролю поведения LLM на этапе инференса без дообучения, основанный на нахождении и сдвиге направлений в…
- wikiICA
# ICA ## Определение Метод неконтролируемого извлечения независимых компонент, используемый в representation engineering для выделения семантических осей. ## Где встречается - [[297. Что такое…
- wikiActivation steering
# Activation steering ## Определение Частный случай Representation Engineering (RepE), сдвиг активаций вдоль концептуального направления для контроля поведения модели. ## Где встречается - [[297…
- wikiSparse Autoencoders
# Sparse Autoencoders ## Определение Разреженный кодировщик, обучаемый выделять интерпретируемые признаки из активаций нейросети; используется в representation engineering. ## Где встречается - [[297. Что…
- wikitransformer_lens
# transformer_lens ## Определение Библиотека для анализа активаций нейросетей с помощью forward hooks; используется в representation engineering для изучения внутренних представлений…
- wikiJailbreak defense
# Jailbreak defense ## Определение Методы защиты LLM от jailbreak-атак, например, использование representation engineering (RepE) для подавления вредных активаций и блокировки…
- wikiConcept direction
…Применяется в representation engineering для контроля поведения модели. ## Где встречается - [[297. Что такое representation engineering (RepE) и зачем он нужен…
- wikiForward hook
…Что такое representation engineering (RepE) и зачем он нужен|297. Что такое representation engineering (RepE) и зачем он нужен]] ## Навигация…
- wikiLinear Artificial Tomography
…Что такое representation engineering (RepE) и зачем он нужен|297. Что такое representation engineering (RepE) и зачем он нужен]] ## Навигация…
- answerЧто такое representation engineering (RepE) и зачем он нужен?
…Определение и мотивация [[Вики/representation engineering\|Representation Engineering]] ([[Вики/representation engineering\|RepE]]) — термин, введённый в работе «[[Вики/representation engineering\|Representation…
- wikialpha
# alpha ## Определение Параметр, регулирующий силу влияния концептуального направления на активации в методах representation engineering, либо обозначающий уровень значимости (p-value…
- wikinnsight
…Что такое representation engineering (RepE) и зачем он нужен|297. Что такое representation engineering (RepE) и зачем он нужен]] ## Навигация…
- wikiContrastive Activation Addition
…Что такое representation engineering (RepE) и зачем он нужен|297. Что такое representation engineering (RepE) и зачем он нужен]] ## Навигация…
- wikimeta-learning
…Что такое Coordination Engineering и чем он отличается от Harness Engineering|753. Что такое Coordination Engineering и чем он отличается…
- wikiSparse Embedding
…Как language representation связан с тест-тайм компьютингом|196. Как language representation связан с тест-тайм компьютингом]] - [[225. Как вы…
- wikiMechanistic interpretability
…Что такое representation engineering (RepE) и зачем он нужен|297. Что такое representation engineering (RepE) и зачем он нужен]] - [[676…
- wikiSuccess rate
…Как вы проектируете language representation для сложной задачи|189. Как вы проектируете language representation для сложной задачи]] - [[192. Как вы…
- wikiTruthfulQA
…Что такое representation engineering (RepE) и зачем он нужен|297. Что такое representation engineering (RepE) и зачем он нужен]] - [[330…
- wikiablation study
…Как вы оцениваете качество language representation для задачи|192. Как вы оцениваете качество language representation для задачи]] - [[195. Как вы…
- wikiPCA
…Что такое representation engineering (RepE) и зачем он нужен|297. Что такое representation engineering (RepE) и зачем он нужен]] - [[47…
- wikiguidance
…Как вы проектируете language representation для сложной задачи|189. Как вы проектируете language representation для сложной задачи]] - [[213. Что такое…
- wikiLlamaIndex
…Как вы проектируете language representation для сложной задачи|189. Как вы проектируете language representation для сложной задачи]] - [[196. Как language…
- wikiHyDE
…Как language representation связан с тест-тайм компьютингом|196. Как language representation связан с тест-тайм компьютингом]] - [[374. Как вы…
- wikistructured output format
…Что такое «shaping schema through language representation»|186. Что такое «shaping schema through language representation»]] - [[213. Что такое Guided Decoding…
- wikitext-embedding-3-small
…Как вы оцениваете качество language representation для задачи|192. Как вы оцениваете качество language representation для задачи]] - [[200. Что вы…
- answerКак вы переключаете между уровнями представления для разных типов запросов?
…калькулятор). - **[[Вики/natural language\|Level 3]] ([[Вики/representation levels\|Formalization]])**: [[Вики/Prompt engineering\|запрос]] переводится в математическую или логическую формализацию…
- answerКак вы проектируете language representation для сложной задачи?
…Связь с другими аспектами Agentic RAG [[Вики/language representation\|Language representation]] тесно связано с: - [[Вики/промпт агента\|Prompt engineering]] — представление…
- wikicost
…Как вы оцениваете качество language representation для задачи|192. Как вы оцениваете качество language representation для задачи]] - [[219. Что такое…
- wikiBLEU
…Что такое representation engineering (RepE) и зачем он нужен|297. Что такое representation engineering (RepE) и зачем он нужен]] - [[332…
- answerЧто такое «shaping schema through language representation»?
…Что такое «shaping schema through language representation»? ## Краткий тезис Shaping [[Вики/database schema\|schema]] through [[Вики/embedding\|language representation]] — это…
- wikicatastrophic forgetting
…Что такое representation engineering (RepE) и зачем он нужен|297. Что такое representation engineering (RepE) и зачем он нужен]] - [[337…
- wikiмониторинг
…Что такое Coordination Engineering и чем он отличается от Harness Engineering|753. Что такое Coordination Engineering и чем он отличается…
- wikiJSON schema
…Как вы проектируете language representation для сложной задачи|189. Как вы проектируете language representation для сложной задачи]] - [[195. Как вы…
- wikiLangSmith
…Какие ограничения у language representation design|198. Какие ограничения у language representation design]] - [[333. Что такое preference data collection и…
- wikiReAct Agent
…Что такое Coordination Engineering и чем он отличается от Harness Engineering|753. Что такое Coordination Engineering и чем он отличается…
- wikiagent
…Что такое «shaping schema through language representation»|186. Что такое «shaping schema through language representation»]] - [[188. Что такое «Schema-Activated…
- answerКакие ограничения у language representation design?
…Какие ограничения у language representation design? ## Краткий тезис [[Вики/embedding\|Language representation design]] — это способ кодирования действий, инструментов и состояний…
- wikicost per request
…Как language representation связан с тест-тайм компьютингом|196. Как language representation связан с тест-тайм компьютингом]] - [[385. Как вы…
- wikiAnswer relevance
…Как вы оцениваете качество language representation для задачи|192. Как вы оцениваете качество language representation для задачи]] - [[233. Как вы…
- wikihallucination
…Что такое «shaping schema through language representation»|186. Что такое «shaping schema through language representation»]] - [[187. Как язык промпта (русский…
- wikiProximal Policy Optimization
…Что такое representation engineering (RepE) и зачем он нужен|297. Что такое representation engineering (RepE) и зачем он нужен]] - [[326…
- wikiDirect Preference Optimization
…Что такое representation engineering (RepE) и зачем он нужен|297. Что такое representation engineering (RepE) и зачем он нужен]] - [[326…
- wikiкосинусная близость
…Как вы оцениваете качество language representation для задачи|192. Как вы оцениваете качество language representation для задачи]] - [[198. Какие ограничения…
- wikireranking
…Как вы оцениваете качество language representation для задачи|192. Как вы оцениваете качество language representation для задачи]] - [[196. Как language…
- answerКак language representation связан с тест-тайм компьютингом?
…Как language representation связан с тест-тайм компьютингом? ## Краткий тезис Language representation (языковое представление) в RAG — это способ кодирования документов…
- wikiпромпт агента
…Что такое «shaping schema through language representation»|186. Что такое «shaping schema through language representation»]] - [[188. Что такое «Schema-Activated…
- wikiChroma
…Что такое Delegation Engineering и чем он отличается от Harness Engineering|760. Что такое Delegation Engineering и чем он отличается…
- wikiMRR
…Как вы оцениваете качество language representation для задачи|192. Как вы оцениваете качество language representation для задачи]] - [[233. Как вы…
- answerКак LLM применяются для protein folding (AlphaFold 3, ESM3)? Архитектура и отличия?
…Это позволяет моделировать взаимодействия между аминокислотами, которые находятся далеко в последовательности, но близко в пространстве. - [[Вики/Single representation\|Single representation…
- answerКак вы проверяете, что модель действительно использует структуру представления, а не игнорирует ее?
…Структура представления (structured representation) в Agentic RAG Структура представления — это способ организации информации, передаваемой модели в контексте, с явными синтаксическими…