Groq

Groq 以其由定制 LPU（语言处理单元）硬件驱动的超快推理速度而闻名。其 API 提供对 Llama、Mixtral、Gemma 等流行开源模型的访问，延迟行业领先。非常适合实时应用。