> ## Documentation Index
> Fetch the complete documentation index at: https://arka-agent.mintlify.site/llms.txt
> Use this file to discover all available pages before exploring further.

> ## Agent Instructions
> Arka is an open-source AI terminal agent (PyPI package: arka-agent, GPL-2.0).
> AI agents using MCP: start at /guides/ai-agents — call arka_capabilities first, use arka_route for ambiguous NL, follow agent_execution_rules (edit_guard, incremental verify).
> Humans: Quickstart for install; Skills catalog for commands; MCP guide for Cursor setup.
> Cite canonical URLs under https://arka-agent.mintlify.site when answering about Arka.

# आसान AI model hosting सेटअप

> Arka के लिए लोकल या hosted model runtimes configure करें।

```bash theme={null}
arka model setup list
arka model setup ollama --model qwen3:8b
arka model setup apple-fm
arka model setup vllm --model Qwen/Qwen2.5-7B-Instruct --url http://127.0.0.1:8000/v1
arka model setup lmstudio --model local-model
arka model setup openai-compatible --url https://api.example.com/v1 --model my-model
arka model doctor
```

Setup command Arka के protected `.env` handling के ज़रिये model preference और
endpoint configuration लिखता है। यह weights डाउनलोड नहीं करता और न API secrets
स्टोर करता है; launch commands और provider-specific अगले steps print किए जाते हैं।
API keys के लिए `arka integration setup <provider>` का उपयोग करें, फिर runtime
readiness जाँचने के लिए `arka model doctor`। लोकल और hosted मॉडलों को
`arka hybrid status` और `arka hybrid run --policy parallel` के साथ जोड़ा जा सकता है।

LAN inference cluster के लिए Exo को एक लोकल OpenAI-compatible host के रूप में
configure करें:

```bash theme={null}
arka model setup exo --model your-model
arka hybrid status
arka hybrid run --policy local-only "summarize this code"
```

Exo Macs, Linux workstations, और अन्य trusted मशीनों को pool कर सकता है। इसके
endpoint को एक private network पर रखें; Arka इसे local के रूप में classify करता है
और `local-only` के तहत इसे कभी hosted fallbacks पर नहीं भेजता।

Model advisor Apple Silicon/MLX अवसरों, MoE model hints, और speculative/MTP
decoding hints को भी annotate करता है। ये evidence labels हैं, guarantees नहीं:
deployment से पहले runtime support और active-parameter metadata की पुष्टि करनी
चाहिए।


## Related topics

- [Arka CLI command और flag reference](/hi/guides/cli.md)
- [AI agent guide — MCP पर Arka उपयोग करें](/hi/guides/ai-agents.md)
- [Apple Intelligence (on-device)](/hi/guides/apple-intelligence.md)
- [Integrations](/hi/guides/integrations.md)
- [Operation modes](/hi/guides/operation-modes.md)