Skip to main content
先启动 vLLM,然后在 Arka 的兜底链中启用它:
当 vLLM 可达或被显式配置时,Arka 会尝试它;若本地服务器失败,则继续沿常规的提供商链推进。设置 VLLM_FALLBACK=0 可关闭这一可选的兜底行为。