LLM 可用性
Availability of the following third-party LLMs is largely outside of our control. Note these do not include
our fine tuned models or our own models running on our infrastructure. Our routing system operates on a best-effort basis to offer consistently
relevant responses in real-time and maintain a high level of throughput, agnostic to the availability of any particular model.
Total LLMs: 117 with 201 endpoints
100%
OPENAI_CHATGPT_4O
运行中
(2
提供商
)
100%
OPENAI_GPT_4O
运行中
(2
提供商
)
100%
OPENAI_GPT_4_1
运行中
(2
提供商
)
100%
OPENAI_GPT_4_1_MINI
运行中
(2
提供商
)
100%
OPENAI_GPT_5
运行中
(1
提供商
)
100%
OPENAI_GPT_5_NANO
运行中
(2
提供商
)
100%
OPENAI_GPT_O3
运行中
(1
提供商
)
100%
OPENAI_GPT_O4_MINI
运行中
(2
提供商
)
100%
OPENAI_IMAGE_GPT
运行中
(1
提供商
)
100%
ANTHROPIC_CLAUDE_3_5_HAIKU
运行中
(2
提供商
)
100%
ANTHROPIC_CLAUDE_4_OPUS
运行中
(2
提供商
)
100%
ANTHROPIC_CLAUDE_4_SONNET
运行中
(2
提供商
)
100%
GOOGLE_GEMINI_2_0_FLASH
运行中
(2
提供商
)
100%
GOOGLE_GEMINI_2_0_FLASH_LITE
运行中
(2
提供商
)
100%
GOOGLE_GEMINI_2_5_FLASH
运行中
(2
提供商
)
100%
GOOGLE_GEMINI_2_5_FLASH_LITE
运行中
(1
提供商
)
100%
GOOGLE_GEMINI_2_5_PRO
运行中
(1
提供商
)
100%
COHERE_C4AI_AYA_VISION_32B
运行中
(1
提供商
)
100%
COHERE_C4AI_AYA_VISION_8B
运行中
(1
提供商
)
100%
COHERE_C4AI_EXPANSE_32B
运行中
(1
提供商
)
100%
COHERE_COMMAND_A
运行中
(1
提供商
)
100%
COHERE_COMMAND_R
运行中
(1
提供商
)
100%
COHERE_COMMAND_R_7B
运行中
(1
提供商
)
100%
COHERE_COMMAND_R_PLUS
运行中
(1
提供商
)
100%
XAI_GROK_2_VISION
运行中
(1
提供商
)
100%
XAI_GROK_3_MINI
运行中
(1
提供商
)
100%
MERCURY_CODER_SMALL
运行中
(1
提供商
)
100%
DEEPSEEK_V3_671B
运行中
(4
提供商
)
99%
META_LLAMA_3_1_8B
运行中
(7
提供商
)
100%
META_LLAMA_3_3_70B
运行中
(9
提供商
)
100%
META_LLAMA_4_MAVERICK_17B_128E
运行中
(7
提供商
)
100%
GOOGLE_GEMMA_3_12B
运行中
(2
提供商
)
100%
GOOGLE_GEMMA_3_27B
运行中
(5
提供商
)
100%
GRYPHE_MYTHOMAX_L2_13B
运行中
(1
提供商
)
99%
META_LLAMA_4_SCOUT_17B_16E
运行中
(7
提供商
)
100%
MICROSOFT_PHI_4
运行中
(3
提供商
)
100%
MICROSOFT_WIZARDLM_2_8_22B
运行中
(2
提供商
)
100%
MISTRAL_NEMO_12B
运行中
(3
提供商
)
100%
MISTRAL_SMALL_24B
运行中
(4
提供商
)
100%
MOONSHOT_KIMI_K2
运行中
(2
提供商
)
100%
NOUS_HERMES_3_LLAMA_3_1_405B
运行中
(2
提供商
)
100%
NOVASKY_SKY_T1_QWEN_2_5_32B
运行中
(1
提供商
)
100%
QWEN_2_5_CODER_32B
运行中
(5
提供商
)
100%
QWEN_3_A3B_30B
运行中
(2
提供商
)
100%
QWEN_3_CODER
运行中
(1
提供商
)
100%
ZAI_GLM_4_5_AIR
运行中
(1
提供商
)
100%
COMPOUND_META_LLAMA
运行中
(1
提供商
)
97%
COMPOUND_META_LLAMA_MINI
运行中
(1
提供商
)
100%
DEEPSEEK_R1_DISTILL_META_LLAMA_70B
运行中
(6
提供商
)
100%
ARCEE_BLITZ_24B
运行中
(1
提供商
)
100%
ARCEE_CALLER_32B
运行中
(1
提供商
)
100%
ARCEE_SPOTLIGHT_8B
运行中
(1
提供商
)
100%
ARCEE_VIRTUOSO_32B
运行中
(1
提供商
)
100%
ARCEE_VIRTUOSO_72B
运行中
(1
提供商
)
100%
LGAI_EXAONE_DEEP_REASONING_32B
运行中
(1
提供商
)
100%
MARIN_LLAMA_3_8B
运行中
(1
提供商
)
100%
META_LLAMA_3_1_405B
运行中
(1
提供商
)
100%
META_LLAMA_3_1_70B
运行中
(1
提供商
)
100%
PERPLEXITY_DEEPSEEK_R1_1776
运行中
(2
提供商
)
100%
QWEN_2_72B_INSTRUCT
运行中
(1
提供商
)
100%
TYPHOON_2_70B
运行中
(1
提供商
)
100%
BAIDU_ERNIE_300B
运行中
(1
提供商
)
100%
BAIDU_ERNIE_424B
运行中
(1
提供商
)
100%
DEEPSEEK_R1_QWEN_3_8B
运行中
(2
提供商
)
100%
DEEPSEEK_V3_TURBO_671B
运行中
(1
提供商
)
100%
DOLPHIN_MIXTRAL_22B_8E
运行中
(1
提供商
)
100%
MIDNIGHT_ROSE_70B
运行中
(1
提供商
)
100%
NOUS_HERMES_2_PRO_LLAMA_3_8B
运行中
(1
提供商
)
100%
QWEN_2_5_72B
运行中
(2
提供商
)
100%
QWEN_3_A3B_32B
运行中
(1
提供商
)
100%
SAO_LLAMA_EURYALE_70B
运行中
(1
提供商
)
100%
SAO_LLAMA_STHENO_8B
运行中
(1
提供商
)
100%
OPENAI_GPT_OSS_120B
运行中
(2
提供商
)
100%
DEEPSEEK_R1_DISTILL_META_LLAMA_8B
运行中
(1
提供商
)
100%
MISTRAL_DEVSTRAL_SMALL_24B
运行中
(2
提供商
)
99%
QWEN_2_5_CODER_3B
运行中
(1
提供商
)
100%
QWEN_2_5_CODER_7B
运行中
(1
提供商
)
100%
QWEN_3_A22B_235B
运行中
(2
提供商
)
100%
GOOGLE_GEMMA_2_2B
运行中
(1
提供商
)
100%
NVIDIA_META_LLAMA_3_1_253B
运行中
(1
提供商
)
100%
AION_1_0_MINI_DEEPSEEK_R1_32B
运行中
(1
提供商
)
100%
AMAZON_NOVA_PRO_1_0
运行中
(1
提供商
)
100%
ANUBIS_META_LLAMA_3_3_70B
运行中
(1
提供商
)
100%
ANUBIS_META_LLAMA_3_3_70B_PRO_105B
运行中
(1
提供商
)
100%
DEEPSEEK_R1_DISTILL_QWEN_7B
运行中
(1
提供商
)
100%
GOOGLE_GEMMA_3_4B
运行中
(1
提供商
)
100%
MINIMAXAI_MINIMAX_456B
运行中
(1
提供商
)
100%
MISTRAL_CODESTRAL_2508
运行中
(1
提供商
)
100%
MISTRAL_LARGE
运行中
(1
提供商
)
100%
MISTRAL_MAGISTRAL_24B
运行中
(1
提供商
)
100%
MISTRAL_MEDIUM_3
运行中
(1
提供商
)
100%
MISTRAL_SABA_24B
运行中
(1
提供商
)
100%
NOUS_HERMES_3_LLAMA_3_1_70B
运行中
(1
提供商
)
100%
NVIDIA_META_LLAMA_3_3_49B
运行中
(1
提供商
)
100%
OPENAI_GPT_OSS_20B
运行中
(1
提供商
)
100%
PERPLEXITY_SONAR_PRO
运行中
(1
提供商
)
100%
PERPLEXITY_SONAR_REASONING_PRO
运行中
(1
提供商
)
100%
QWEN_2_5_MAX
运行中
(1
提供商
)
100%
QWEN_2_5_PLUS
运行中
(1
提供商
)
100%
QWEN_2_5_TURBO
运行中
(1
提供商
)
100%
SENTIENTAGI_DOBBY_LLAMA_3_1_8B
运行中
(1
提供商
)
100%
THEDRUMMER_VALKYRIE_49B
运行中
(1
提供商
)