LLM 可用性
Availability of the following third-party LLMs is largely outside of our control. Note these do not include
our fine tuned models or our own models running on our infrastructure. Our routing system operates on a best-effort basis to offer consistently
relevant responses in real-time and maintain a high level of throughput, agnostic to the availability of any particular model.
Total LLMs: 72 with 123 endpoints
100%
OPENAI_GPT_5
运行中
(1
提供商
)
100%
OPENAI_GPT_5_1
运行中
(1
提供商
)
100%
OPENAI_GPT_5_NANO
运行中
(2
提供商
)
100%
OPENAI_GPT_O3
运行中
(1
提供商
)
100%
OPENAI_GPT_O4_MINI
运行中
(2
提供商
)
100%
OPENAI_IMAGE_GPT
运行中
(1
提供商
)
69%
ANTHROPIC_CLAUDE_4_5_HAIKU
运行中
(1
提供商
)
100%
ANTHROPIC_CLAUDE_4_5_OPUS
运行中
(2
提供商
)
98%
ANTHROPIC_CLAUDE_4_5_SONNET
运行中
(2
提供商
)
100%
GOOGLE_GEMINI_2_5_FLASH
运行中
(2
提供商
)
100%
GOOGLE_GEMINI_2_5_FLASH_LITE
运行中
(1
提供商
)
100%
GOOGLE_GEMINI_3_PRO
运行中
(2
提供商
)
100%
COHERE_C4AI_AYA_VISION_32B
运行中
(1
提供商
)
100%
COHERE_C4AI_EXPANSE_32B
运行中
(1
提供商
)
100%
COHERE_COMMAND_A
运行中
(1
提供商
)
100%
COHERE_COMMAND_R
运行中
(1
提供商
)
100%
COHERE_COMMAND_R_PLUS
运行中
(1
提供商
)
100%
XAI_GROK_3_MINI
运行中
(1
提供商
)
100%
XAI_GROK_4_FAST_NR
运行中
(1
提供商
)
100%
XAI_GROK_4_FAST_R
运行中
(1
提供商
)
100%
MERCURY_CODER_SMALL
运行中
(1
提供商
)
100%
DEEPSEEK_V3_671B
运行中
(2
提供商
)
99%
META_LLAMA_3_1_8B
运行中
(7
提供商
)
100%
META_LLAMA_3_3_70B
运行中
(8
提供商
)
100%
META_LLAMA_4_MAVERICK_17B_128E
运行中
(6
提供商
)
92%
OPENAI_GPT_OSS_120B
运行中
(7
提供商
)
100%
GOOGLE_GEMMA_3_12B
运行中
(1
提供商
)
100%
GOOGLE_GEMMA_3_27B
运行中
(1
提供商
)
100%
META_LLAMA_4_SCOUT_17B_16E
运行中
(6
提供商
)
99%
MISTRAL_SMALL_24B
运行中
(3
提供商
)
100%
MOONSHOT_KIMI_K2
运行中
(1
提供商
)
100%
NOUS_HERMES_3_LLAMA_3_1_405B
运行中
(2
提供商
)
100%
QWEN_3_CODER
运行中
(1
提供商
)
100%
ZAI_GLM_4_5_AIR
运行中
(1
提供商
)
75%
GROQ_COMPOUND
运行中
(1
提供商
)
66%
GROQ_COMPOUND_MINI
运行中
(1
提供商
)
100%
OPENAI_GPT_OSS_20B
运行中
(3
提供商
)
99%
DEEPSEEK_R1_DISTILL_META_LLAMA_70B
运行中
(3
提供商
)
96%
MARIN_LLAMA_3_8B
运行中
(1
提供商
)
100%
META_LLAMA_3_1_405B
运行中
(1
提供商
)
100%
META_LLAMA_3_1_70B
运行中
(1
提供商
)
97%
MISTRAL_NEMO_12B
运行中
(1
提供商
)
100%
QWEN_3_A3B_32B
运行中
(1
提供商
)
100%
SAO_LLAMA_EURYALE_70B
运行中
(1
提供商
)
100%
SAO_LLAMA_STHENO_8B
运行中
(1
提供商
)
-
TINFOIL_CONFIDENTIAL_GPT_OSS_120B
不可用
(1
提供商
)
100%
DEEPSEEK_R1_DISTILL_META_LLAMA_8B
运行中
(1
提供商
)
100%
MISTRAL_DEVSTRAL_SMALL_24B
运行中
(2
提供商
)
100%
QWEN_3_A22B_235B
运行中
(2
提供商
)
100%
AION_1_0_MINI_DEEPSEEK_R1_32B
运行中
(1
提供商
)
99%
ALLENAI_OLMO_3_7B
运行中
(1
提供商
)
100%
ALLENAI_OLMO_3_THINK_7B
运行中
(1
提供商
)
100%
AMAZON_NOVA_2_LITE
运行中
(1
提供商
)
100%
AMAZON_NOVA_PRO_1_0
运行中
(1
提供商
)
100%
ANUBIS_META_LLAMA_3_3_70B
运行中
(1
提供商
)
100%
DEEPSEEK_R1_QWEN_3_8B
运行中
(1
提供商
)
100%
DEEP_COGITO_2_1_671B
运行中
(1
提供商
)
100%
MINIMAXAI_MINIMAX_456B
运行中
(1
提供商
)
100%
MISTRAL_SABA_24B
运行中
(1
提供商
)
100%
NOUS_HERMES_3_LLAMA_3_1_70B
运行中
(1
提供商
)
100%
NVIDIA_NEMOTRON_NANO_9B
运行中
(1
提供商
)
100%
PERPLEXITY_SONAR_PRO
运行中
(1
提供商
)
100%
PERPLEXITY_SONAR_REASONING_PRO
运行中
(1
提供商
)
98%
PRIME_INTELLECT_3
运行中
(1
提供商
)
100%
QWEN_3_A3B_30B
运行中
(1
提供商
)
100%
SAO_LLAMA_3_3_EURYALE_70B
运行中
(1
提供商
)
100%
SAO_LLAMA_LUNARIS_8B
运行中
(1
提供商
)