Groq

Определение

Аппаратно-программная платформа для низколатентного инференса LLM, обеспечивающая высокую скорость и низкую стоимость.

Где встречается

• 70. Как вы снижаете стоимость LLM в production на 50%+
• 72. OpenAI vs Антропик vs Groq vs Self-hosted — что выбираете
• 364. Как вы строите real-time voice agent с latency 500ms
• 544. Как вы строите real-time voice agent с latency 500ms
• 772. Что такое «аутсорсинг» задачи другому LLM (с другим API, другой ценой)
• Практика
• 800+ вопросов
• 127. Реализовать outsourcing другому LLM
• 249. RAG с cost-aware routing

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление