Groq:每天 1000 次免费请求,目前最快的免费推理服务

如果你对响应速度有要求,Groq 是目前公开可用的最快免费推理服务。
要点

自研 LPU 芯片,推理速度比普通 GPU 快好几倍
免费版每天 1000 次请求
支持 Llama、Qwen 等主流开源模型

适合场景
实时对话、流式输出、需要低延迟的 Demo。免费额度用完转 Pay-as-you-go。