Groq
5Groq用自研LPU芯片做推理,速度比普通GPU快好几倍。免费版每天1000次请求,支持Llama、Qwen等主流开源模型。如果你对响应速度有要求——比如实时对话、流式输出——Groq是目前公开可用的最快免费推理服务。
共收录 17 个工具,按评分排序
Groq用自研LPU芯片做推理,速度比普通GPU快好几倍。免费版每天1000次请求,支持Llama、Qwen等主流开源模型。如果你对响应速度有要求——比如实时对话、流式输出——Groq是目前公开可用的最快免费推理服务。
NVIDIA的云推理平台,开发者计划免费使用。支持121个模型,包括DeepSeek V4、Llama、Qwen等。模型数量在免费平台里最多,适合需要多种模型对比测试的开发者。
API聚合平台,一个接口走天下。27个免费模型,国内可直连无需翻墙。用统一的OpenAI兼容格式切换不同后端,调试对比非常方便。免费版每天50次,充值10美元后解锁每天1000次。
Cloudflare的边缘AI推理服务,免费每天10000 Neurons。全球CDN节点加速,延迟极低。支持LLM、嵌入、图像、音频等多种模型,国内可直连。
欧洲最强开源模型厂商的官方API平台。免费版支持1req/s、500K tokens/min的速率。Mistral系列模型在多语言和代码生成方面表现出色。
马斯克xAI搞的大模型,Grok 4.2/4.3版本在B站爆火。免费使用无限制,支持手机+PC,解除限制后体验接近付费水平。是目前免费AI里热度最高的之一。
国内API聚合平台,帮你把各家开源模型统一接口化。免费版RPM 500、TPM 200万,支持DeepSeek、Qwen、GLM等模型。省去自己部署开源模型的麻烦,国内直连速度快。
GitHub提供的免费AI模型推理服务,只需GitHub账户即可使用。免费版支持GPT-4.1、GPT-4o等OpenAI系模型,是白嫖GPT系列的最低门槛入口。
开源模型的'超市',免费Serverless推理支持海量开源模型(LLaMA、Mistral、Falcon等)。模型选择之丰富无与伦比,适合研究和横向对比不同架构。免费额度根据账户等级每月分配。
Cerebras用自研WSE(晶圆级芯片)做推理,速度和Groq一个级别。免费版30 RPM、60K tokens/min。目前需要加入等待列表才能使用。
开源模型推理平台,提供Meta-Llama等主流开源模型的免费推理服务。界面友好,适合快速原型开发。
高并发推理平台,注册送1积分免费体验。以高吞吐量和低延迟著称,适合需要高并发的生产环境。
以色列AI公司,提供Jamba系列模型。注册送10积分,无需信用卡。Jamba模型在长文本处理和推理方面有独特优势。
企业级AI平台,免费版支持20 RPM。Command系列模型在企业文档处理、RAG和搜索场景表现出色。适合构建企业级AI应用。
法国云服务商的AI推理平台,目前处于免费测试阶段。100 RPM、200K tokens/min,额度相当慷慨。欧洲数据中心,适合有GDPR合规需求的项目。
上海AI Lab推出的书生浦语大模型API。免费版10 RPM,密钥有效期6个月。InternVL3-78B是多模态模型,图文理解能力强。国内直连,学术背景扎实。
法国老牌云服务商OVH的AI推理端点。免费版12 RPM,支持多种开源模型。欧洲数据中心,适合GDPR合规场景。