Поиск

  • wikirepresentation engineering

    # representation engineering ## Определение Подход к контролю поведения LLM на этапе инференса без дообучения, основанный на нахождении и сдвиге направлений в…

  • wikiICA

    # ICA ## Определение Метод неконтролируемого извлечения независимых компонент, используемый в representation engineering для выделения семантических осей. ## Где встречается - [[297. Что такое…

  • wikiActivation steering

    # Activation steering ## Определение Частный случай Representation Engineering (RepE), сдвиг активаций вдоль концептуального направления для контроля поведения модели. ## Где встречается - [[297…

  • wikiSparse Autoencoders

    # Sparse Autoencoders ## Определение Разреженный кодировщик, обучаемый выделять интерпретируемые признаки из активаций нейросети; используется в representation engineering. ## Где встречается - [[297. Что…

  • wikitransformer_lens

    # transformer_lens ## Определение Библиотека для анализа активаций нейросетей с помощью forward hooks; используется в representation engineering для изучения внутренних представлений…

  • wikiJailbreak defense

    # Jailbreak defense ## Определение Методы защиты LLM от jailbreak-атак, например, использование representation engineering (RepE) для подавления вредных активаций и блокировки…

  • wikiConcept direction

    …Применяется в representation engineering для контроля поведения модели. ## Где встречается - [[297. Что такое representation engineering (RepE) и зачем он нужен…

  • wikiForward hook

    …Что такое representation engineering (RepE) и зачем он нужен|297. Что такое representation engineering (RepE) и зачем он нужен]] ## Навигация…

  • wikiLinear Artificial Tomography

    …Что такое representation engineering (RepE) и зачем он нужен|297. Что такое representation engineering (RepE) и зачем он нужен]] ## Навигация…

  • answerЧто такое representation engineering (RepE) и зачем он нужен?

    …Определение и мотивация [[Вики/representation engineering\|Representation Engineering]] ([[Вики/representation engineering\|RepE]]) — термин, введённый в работе «[[Вики/representation engineering\|Representation

  • wikialpha

    # alpha ## Определение Параметр, регулирующий силу влияния концептуального направления на активации в методах representation engineering, либо обозначающий уровень значимости (p-value…

  • wikinnsight

    …Что такое representation engineering (RepE) и зачем он нужен|297. Что такое representation engineering (RepE) и зачем он нужен]] ## Навигация…

  • wikiContrastive Activation Addition

    …Что такое representation engineering (RepE) и зачем он нужен|297. Что такое representation engineering (RepE) и зачем он нужен]] ## Навигация…

  • wikimeta-learning

    …Что такое Coordination Engineering и чем он отличается от Harness Engineering|753. Что такое Coordination Engineering и чем он отличается…

  • wikiSparse Embedding

    …Как language representation связан с тест-тайм компьютингом|196. Как language representation связан с тест-тайм компьютингом]] - [[225. Как вы…

  • wikiMechanistic interpretability

    …Что такое representation engineering (RepE) и зачем он нужен|297. Что такое representation engineering (RepE) и зачем он нужен]] - [[676…

  • wikiSuccess rate

    …Как вы проектируете language representation для сложной задачи|189. Как вы проектируете language representation для сложной задачи]] - [[192. Как вы…

  • wikiTruthfulQA

    …Что такое representation engineering (RepE) и зачем он нужен|297. Что такое representation engineering (RepE) и зачем он нужен]] - [[330…

  • wikiablation study

    …Как вы оцениваете качество language representation для задачи|192. Как вы оцениваете качество language representation для задачи]] - [[195. Как вы…

  • wikiPCA

    …Что такое representation engineering (RepE) и зачем он нужен|297. Что такое representation engineering (RepE) и зачем он нужен]] - [[47…

  • wikiguidance

    …Как вы проектируете language representation для сложной задачи|189. Как вы проектируете language representation для сложной задачи]] - [[213. Что такое…

  • wikiLlamaIndex

    …Как вы проектируете language representation для сложной задачи|189. Как вы проектируете language representation для сложной задачи]] - [[196. Как language…

  • wikiHyDE

    …Как language representation связан с тест-тайм компьютингом|196. Как language representation связан с тест-тайм компьютингом]] - [[374. Как вы…

  • wikistructured output format

    …Что такое «shaping schema through language representation»|186. Что такое «shaping schema through language representation»]] - [[213. Что такое Guided Decoding…

  • wikitext-embedding-3-small

    …Как вы оцениваете качество language representation для задачи|192. Как вы оцениваете качество language representation для задачи]] - [[200. Что вы…

  • answerКак вы переключаете между уровнями представления для разных типов запросов?

    …калькулятор). - **[[Вики/natural language\|Level 3]] ([[Вики/representation levels\|Formalization]])**: [[Вики/Prompt engineering\|запрос]] переводится в математическую или логическую формализацию…

  • answerКак вы проектируете language representation для сложной задачи?

    …Связь с другими аспектами Agentic RAG [[Вики/language representation\|Language representation]] тесно связано с: - [[Вики/промпт агента\|Prompt engineering]] — представление…

  • wikicost

    …Как вы оцениваете качество language representation для задачи|192. Как вы оцениваете качество language representation для задачи]] - [[219. Что такое…

  • wikiBLEU

    …Что такое representation engineering (RepE) и зачем он нужен|297. Что такое representation engineering (RepE) и зачем он нужен]] - [[332…

  • answerЧто такое «shaping schema through language representation»?

    …Что такое «shaping schema through language representation»? ## Краткий тезис Shaping [[Вики/database schema\|schema]] through [[Вики/embedding\|language representation]] — это…

  • wikicatastrophic forgetting

    …Что такое representation engineering (RepE) и зачем он нужен|297. Что такое representation engineering (RepE) и зачем он нужен]] - [[337…

  • wikiмониторинг

    …Что такое Coordination Engineering и чем он отличается от Harness Engineering|753. Что такое Coordination Engineering и чем он отличается…

  • wikiJSON schema

    …Как вы проектируете language representation для сложной задачи|189. Как вы проектируете language representation для сложной задачи]] - [[195. Как вы…

  • wikiLangSmith

    …Какие ограничения у language representation design|198. Какие ограничения у language representation design]] - [[333. Что такое preference data collection и…

  • wikiReAct Agent

    …Что такое Coordination Engineering и чем он отличается от Harness Engineering|753. Что такое Coordination Engineering и чем он отличается…

  • wikiagent

    …Что такое «shaping schema through language representation»|186. Что такое «shaping schema through language representation»]] - [[188. Что такое «Schema-Activated…

  • answerКакие ограничения у language representation design?

    …Какие ограничения у language representation design? ## Краткий тезис [[Вики/embedding\|Language representation design]] — это способ кодирования действий, инструментов и состояний…

  • wikicost per request

    …Как language representation связан с тест-тайм компьютингом|196. Как language representation связан с тест-тайм компьютингом]] - [[385. Как вы…

  • wikiAnswer relevance

    …Как вы оцениваете качество language representation для задачи|192. Как вы оцениваете качество language representation для задачи]] - [[233. Как вы…

  • wikihallucination

    …Что такое «shaping schema through language representation»|186. Что такое «shaping schema through language representation»]] - [[187. Как язык промпта (русский…

  • wikiProximal Policy Optimization

    …Что такое representation engineering (RepE) и зачем он нужен|297. Что такое representation engineering (RepE) и зачем он нужен]] - [[326…

  • wikiDirect Preference Optimization

    …Что такое representation engineering (RepE) и зачем он нужен|297. Что такое representation engineering (RepE) и зачем он нужен]] - [[326…

  • wikiкосинусная близость

    …Как вы оцениваете качество language representation для задачи|192. Как вы оцениваете качество language representation для задачи]] - [[198. Какие ограничения…

  • wikireranking

    …Как вы оцениваете качество language representation для задачи|192. Как вы оцениваете качество language representation для задачи]] - [[196. Как language…

  • answerКак language representation связан с тест-тайм компьютингом?

    …Как language representation связан с тест-тайм компьютингом? ## Краткий тезис Language representation (языковое представление) в RAG — это способ кодирования документов…

  • wikiпромпт агента

    …Что такое «shaping schema through language representation»|186. Что такое «shaping schema through language representation»]] - [[188. Что такое «Schema-Activated…

  • wikiChroma

    …Что такое Delegation Engineering и чем он отличается от Harness Engineering|760. Что такое Delegation Engineering и чем он отличается…

  • wikiMRR

    …Как вы оцениваете качество language representation для задачи|192. Как вы оцениваете качество language representation для задачи]] - [[233. Как вы…

  • answerКак LLM применяются для protein folding (AlphaFold 3, ESM3)? Архитектура и отличия?

    …Это позволяет моделировать взаимодействия между аминокислотами, которые находятся далеко в последовательности, но близко в пространстве. - [[Вики/Single representation\|Single representation

  • answerКак вы проверяете, что модель действительно использует структуру представления, а не игнорирует ее?

    …Структура представления (structured representation) в Agentic RAG Структура представления — это способ организации информации, передаваемой модели в контексте, с явными синтаксическими…