Groq представил процессор для работы нейросетевых моделейПохоже, на рынке AI-чипов новый перспективный игрок: стартап Groq п

Groq представил процессор для работы нейросетевых моделей Похоже, на рынке AI-чипов — новый перспективный игрок: стартап Groq представил свой чип LPU, который уже превосходит GPU-конкурентов. Groq продемонстрировал систему, которая может сгенерировать ответ за секунду. Компания разработала чип специально для больших языковых моделей. Он позволяет Groq генерировать примерно 500 токенов в секунду — в 12 раз больше, чем у ChatGPT-3.5. Потестировать скорость Groq на базе Mixtral и Llama без регистрации и СМС можно здесь. () Смотреть в источнике ()