Поиск

• wikiskill library

  # skill library ## Определение Коллекция переиспользуемых навыков (skill’ов), которые AI-агент может вызывать как единое целое. Сокращает количество шагов агента…

• wikilibrary of operations

  # library of operations ## Определение Множество математических операций (+, -, *, /, sin, log, exp), используемое в symbolic regression (например, AI Feynman) для построения аналитических…

• wikiMKL

  # MKL ## Определение Intel Math Kernel Library — оптимизированная библиотека математических функций для CPU, используемая в инференс-компиляторах (например, TVM) для ускорения…

• wikiRCCL

  # RCCL ## Определение Библиотека коллективных коммуникаций для GPU AMD, аналог NCCL, используемая для распределённого обучения. ## Где встречается - [[710. Бенчмаркинг LLM на…

• answerЧто такое skill libraries для агентов и как их создавать?

  …Skill library (библиотека навыков) *[[Вики/skill library\|Skill library]]* — это структурированное хранилище многократно используемых процедур, каждая из которых объединяет несколько…

• wikiPyPDF2

  # PyPDF2 ## Определение Библиотека для парсинга PDF-документов, извлечения текста и метаданных. Один из инструментов для обработки документов в RAG-пайплайнах…

• wikismtplib

  # smtplib ## Определение Python-библиотека для отправки электронной почты через протокол SMTP; часто применяется в агентах для отправки алертов и отчётов…

• wikiredis-py

  # redis-py ## Определение Python-библиотека для работы с Redis, поддерживающая синхронное и асинхронное взаимодействие (включая кластеры и PubSub). ## Где встречается…

• wikiHyperopt

  # Hyperopt ## Определение Библиотека для оптимизации гиперпараметров, поддерживающая байесовскую оптимизацию и другие методы. ## Где встречается - [[376. Что такое hybrid search с…

• wikiNVML

  # NVML ## Определение Библиотека для мониторинга и управления состоянием GPU (аналог nvidia-smi). Используется в биндингах для topology-aware планирования и…

• wikiWhoosh

  # Whoosh ## Определение Библиотека для полнотекстового поиска на Python, реализующая алгоритм BM25. Используется для индексации и поиска документов в RAG-системах…

• wikirequests

  # requests ## Определение Популярная библиотека Python для выполнения HTTP-запросов, часто используемая в тестах и интеграциях с внешними API. ## Где встречается…

• wikiFaker

  # Faker ## Определение Библиотека для генерации синтетических персональных данных, используемая для fine-tuning без риска утечки реальных PII. ## Где встречается - [[518…

• wikiPrometheus client

  # Prometheus client ## Определение Клиентская библиотека для экспорта метрик из приложения в Prometheus, доступная для разных языков программирования. ## Где встречается - [[825…

• wikifakeredis

  # fakeredis ## Определение Эмулятор Redis в памяти для тестирования checkpointing и HITL‑логики без реального сервера. ## Где встречается - [[56. Как вы…

• wikiHugging Face PEFT

  # Hugging Face PEFT ## Определение Библиотека с единым API для PEFT-методов (LoRA, ReFT и др.), упрощающая fine-tuning больших моделей…

• wikiwhisper.cpp

  # whisper.cpp ## Определение Оптимизированная реализация модели Whisper на C/C++ для быстрой транскрипции речи. Использует GGML/GGUF квантизацию и не…

• wikioutlines

  # outlines ## Определение Библиотека с открытым исходным кодом для constrained decoding, обеспечивающая валидный синтаксис JSON/DSL при генерации LLM. Поддерживает Pydantic…

• wikiboto3

  # boto3 ## Определение SDK для Python, позволяющий взаимодействовать с AWS-сервисами, такими как S3; применяется для сохранения checkpoint'ов, миграции данных…

• wikipython-docx

  # python-docx ## Определение Библиотека для извлечения текста и структуры из Word-документов (.docx). Часто применяется в RAG-системах для парсинга…

• wikiDocling

  # Docling ## Определение Open-source библиотека от IBM Research для парсинга документов (PDF, Word, сканы) в структурированный Markdown с сохранением таблиц…

• wikirank_bm25

  # rank_bm25 ## Определение Python-библиотека для вычисления BM25 скоров, применяемая в гибридном поиске и для извлечения признаков в learning-to…

• wikiLightGBM

  # LightGBM ## Определение Популярная библиотека градиентного бустинга, поддерживающая обучение ранжирующих моделей (LGBMRanker) с objective='lambdarank'. Используется для классификации, регрессии и learning…

• wikitelegram bot

  # telegram bot ## Определение Автоматизированный аккаунт в Telegram, управляемый через API, часто реализуемый с помощью библиотеки python-telegram-bot для создания…

• wikiSeaborn

  # Seaborn ## Определение Библиотека статистической визуализации на основе matplotlib, упрощающая построение тепловых карт, boxplot и confusion matrix. ## Где встречается - [[627. Как…

• wikiHugging Face

  # Hugging Face ## Определение Платформа и библиотеки (Transformers, TRL, PEFT) для работы с предобученными NLP-моделями, датасетами и реализации RLHF. ## Где…

• wikicuBLAS

  # cuBLAS ## Определение cuBLAS — оптимизированная библиотека NVIDIA для BLAS-операций на GPU, использующая Tensor Cores для ускорения матричных вычислений в инференсе…

• wikipybreaker

  # pybreaker ## Определение Библиотека Python для реализации паттерна Circuit Breaker, предназначенная для защиты сервисов от каскадных сбоев при вызовах LLM API…

• wikiguidance

  # guidance ## Определение Библиотека Microsoft Guidance и техника ограниченной генерации (constrained decoding), позволяющая задавать грамматику или инструкции для управления выводом LLM…

• wikiPrompt compression

  # Prompt compression ## Определение Техники уменьшения количества входных токенов промпта (например, LLMLingua, Selective Context) для снижения затрат и уменьшения задержки. ## Где…

• wikiUnstructured

  # Unstructured ## Определение Библиотека для парсинга неструктурированных документов (PDF, Word, изображения и др.) с поддержкой layout detection, OCR и chunking. Используется…

• wikistructured logging

  # structured logging ## Определение Подход к логированию, при котором записи форматируются как JSON с полями уровня, метками, контекстом, упрощающий поиск и…

• wikiдатасеты

  # датасеты ## Определение Наборы данных (например, из Hugging Face Datasets), используемые для регрессионного тестирования, загрузки, обработки и fine-tuning LLM. ## Где…

• wikiNCCL

  # NCCL ## Определение Библиотека NVIDIA для коллективных коммуникаций между GPU, критичная для multi-GPU инференса и обучения. ## Где встречается - [[307. Как…

• wikitenacity

  # tenacity ## Определение Библиотека Python для реализации retry с exponential backoff и jitter, часто используемая для обработки rate limiting и временных…

• wikinumpy

  # numpy ## Определение NumPy — библиотека для численных вычислений в Python, широко используемая для работы с массивами и генерации данных. ## Где встречается…

• wikiaiohttp

  # aiohttp ## Определение Асинхронная HTTP-библиотека для Python, используемая для параллельных сетевых запросов при загрузке документов и в качестве сервера для…

• wikipdfplumber

  # pdfplumber ## Определение Библиотека для извлечения текста и таблиц из PDF-документов, отличающаяся высокой скоростью и точностью при работе со сложными…

• wikiDSPy

  # DSPy ## Определение Фреймворк для автоматической оптимизации промптов и цепочек LLM на основе датасета, заменяющий ручной инжиниринг промптов. Позволяет задавать сигнатуры…

• wikibitsandbytes

  # bitsandbytes ## Определение Библиотека для быстрой квантизации моделей PyTorch, поддерживающая 4-битные форматы, используется в QLoRA и для снижения потребления памяти…

• wikitransformers

  # transformers ## Определение Библиотека от Hugging Face для загрузки, обучения и инференса предобученных моделей на архитектуре Transformer, широко используемая в NLP…

• wikiMatplotlib

  # Matplotlib ## Определение Библиотека для визуализации данных на Python. Используется для построения графиков, тепловых карт и других визуализаций в аналитике и…

• wikiGPT-4o

  # GPT-4o ## Определение Мультимодальная проприетарная модель OpenAI, обеспечивающая баланс качества и скорости с контекстом 128k токенов. Часто используется как дорогой…

• wikipandas

  # pandas ## Определение Библиотека Python для обработки и анализа табличных данных, широко используемая в подготовке датасетов, фильтрации и агрегации. ## Где встречается…

• wikipytest

  # pytest ## Определение Фреймворк для модульного тестирования в Python, широко применяемый для проверки корректности агентов, парсинга и метрик. ## Где встречается - [[50…

• answerЧто такое NCCL и зачем он для tensor parallelism?

  …Что такое NCCL и зачем он для tensor parallelism? ## Краткий тезис **[[Вики/NCCL\|NCCL]] ([[Вики/NCCL\|NVIDIA Collective Communications Library…

• wikiasyncio

  # asyncio ## Определение Библиотека Python для написания конкурентного кода с использованием синтаксиса async/await. Позволяет эффективно выполнять операции ввода-вывода, такие…

• answerЧто такое NCCL и почему он критичен для multi-GPU инференса?

  …NCCL (NVIDIA Collective Communications Library) [[Вики/NCCL\|NCCL]] — это проприетарная библиотека от NVIDIA, предназначенная для выполнения коллективных коммуникаций между [[Вики…

• wikiNeMo Guardrails

  # NeMo Guardrails ## Определение Библиотека для создания runtime guardrails, перехватывающих вредоносный ввод/вывод LLM-агентов и защищающих от атак, включая adversarial…

• wikiTensorRT-LLM

  # TensorRT-LLM ## Определение Библиотека от NVIDIA для оптимизации инференса LLM на GPU, использующая MLIR и операторные оптимизации. Обеспечивает высокую производительность…