__syncthreads

Определение

Встроенная функция CUDA для синхронизации всех потоков внутри блока, необходимая для корректного выполнения операций reduce (например, в self-attention). Cooperative Groups позволяют синхронизировать только часть потоков.

Где встречается

• 712. Что такое Cooperative Groups в CUDA и как использовать для attention
• 800+ вопросов

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление