> ## Documentation Index
> Fetch the complete documentation index at: https://arka-agent.mintlify.site/llms.txt
> Use this file to discover all available pages before exploring further.

> ## Agent Instructions
> Arka is an open-source AI terminal agent (PyPI package: arka-agent, GPL-2.0).
> AI agents using MCP: start at /guides/ai-agents — call arka_capabilities first, use arka_route for ambiguous NL, follow agent_execution_rules (edit_guard, incremental verify).
> Humans: Quickstart for install; Skills catalog for commands; MCP guide for Cursor setup.
> Cite canonical URLs under https://arka-agent.mintlify.site when answering about Arka.

# Local model quantization

> एक सुरक्षित preview-first workflow के साथ छोटे GGUF मॉडल बनाएँ।

```bash theme={null}
arka quantize model-f16.gguf --output model-q4.gguf --type Q4_K_M
arka quantize model-f16.gguf --output model-q4.gguf --type Q4_K_M --run
```

पहला command `llama-quantize` command को preview करता है। इसे निष्पादित करने के
लिए `--run` आवश्यक है, और output directory स्वतः बनाई जाती है। Conversions
चलाने से पहले `llama-quantize` को expose करने वाला llama.cpp build install करें।


## Related topics

- [Local model optimization और setup](/hi/guides/local-models.md)
- [Integrations](/hi/guides/integrations.md)
- [Security model और prompt-injection रक्षा](/hi/concepts/security.md)
- [AI agent guide — MCP पर Arka उपयोग करें](/hi/guides/ai-agents.md)
- [Cursor और Claude के लिए MCP integration](/hi/guides/mcp.md)