Instructions to use sovasoft/zora-v1.13-gguf with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Libraries
- Transformers
How to use sovasoft/zora-v1.13-gguf with Transformers:
# pip install -U transformers accelerate # Load model directly from transformers import AutoModel model = AutoModel.from_pretrained("sovasoft/zora-v1.13-gguf", device_map="auto") - Notebooks
- Google Colab
- Kaggle
- Local Apps Settings
- llama.cpp
How to use sovasoft/zora-v1.13-gguf with llama.cpp:
Install (macOS, Linux)
curl -LsSf https://llama.app/install.sh | sh # Start a local OpenAI-compatible server with a web UI: llama serve -hf sovasoft/zora-v1.13-gguf:Q5_K_M # Run inference directly in the terminal: llama cli -hf sovasoft/zora-v1.13-gguf:Q5_K_M
Install from WinGet (Windows)
winget install llama.cpp # Start a local OpenAI-compatible server with a web UI: llama serve -hf sovasoft/zora-v1.13-gguf:Q5_K_M # Run inference directly in the terminal: llama cli -hf sovasoft/zora-v1.13-gguf:Q5_K_M
Build from source code
git clone https://github.com/ggml-org/llama.cpp.git cd llama.cpp cmake -B build cmake --build build -j --target llama-app # Start a local OpenAI-compatible server with a web UI: ./build/bin/llama serve -hf sovasoft/zora-v1.13-gguf:Q5_K_M # Run inference directly in the terminal: ./build/bin/llama cli -hf sovasoft/zora-v1.13-gguf:Q5_K_M
Use Docker
docker model run hf.co/sovasoft/zora-v1.13-gguf:Q5_K_M
- Llama new
- LM Studio
- Jan
- Ollama
How to use sovasoft/zora-v1.13-gguf with Ollama:
ollama run hf.co/sovasoft/zora-v1.13-gguf:Q5_K_M
- Unsloth Desktop
- Pi
How to use sovasoft/zora-v1.13-gguf with Pi:
Start the llama.cpp server
# Install llama.cpp: brew install llama.cpp # Start a local OpenAI-compatible server: llama serve -hf sovasoft/zora-v1.13-gguf:Q5_K_M
Configure the model in Pi
# Install Pi: npm install -g @earendil-works/pi-coding-agent # Add to ~/.pi/agent/models.json: { "providers": { "llama-cpp": { "baseUrl": "http://localhost:9931/v1", "api": "openai-completions", "apiKey": "none", "models": [ { "id": "sovasoft/zora-v1.13-gguf:Q5_K_M" } ] } } }Run Pi
# Start Pi in your project directory: pi
- Docker Model Runner
How to use sovasoft/zora-v1.13-gguf with Docker Model Runner:
docker model run hf.co/sovasoft/zora-v1.13-gguf:Q5_K_M
- Lemonade
How to use sovasoft/zora-v1.13-gguf with Lemonade:
Pull the model
# Download Lemonade from https://lemonade-server.ai/ lemonade pull sovasoft/zora-v1.13-gguf:Q5_K_M
Run and chat with the model
lemonade run user.zora-v1.13-gguf-Q5_K_M
List all available models
lemonade list
- Hermes Agent
How to use sovasoft/zora-v1.13-gguf with Hermes Agent:
Start the llama.cpp server
# Install llama.cpp: brew install llama.cpp # Start a local OpenAI-compatible server: llama serve -hf sovasoft/zora-v1.13-gguf:Q5_K_M
Configure Hermes
# Install Hermes: curl -fsSL https://hermes-agent.nousresearch.com/install.sh | bash hermes setup # Point Hermes at the local server: hermes config set model.provider custom hermes config set model.base_url http://127.0.0.1:9931/v1 hermes config set model.default sovasoft/zora-v1.13-gguf:Q5_K_M
Run Hermes
hermes
- Atomic Chat
- OpenClaw
How to use sovasoft/zora-v1.13-gguf with OpenClaw:
Start the llama.cpp server
# Install llama.cpp: brew install llama.cpp # Start a local OpenAI-compatible server: llama serve -hf sovasoft/zora-v1.13-gguf:Q5_K_M
Configure OpenClaw
# Install OpenClaw: npm install -g openclaw@latest # Register the local server and set it as the default model: openclaw onboard --non-interactive --mode local \ --auth-choice custom-api-key \ --custom-base-url http://127.0.0.1:9931/v1 \ --custom-model-id "sovasoft/zora-v1.13-gguf:Q5_K_M" \ --custom-provider-id llama-cpp \ --custom-compatibility openai \ --custom-text-input \ --accept-risk \ --skip-health
Run OpenClaw
openclaw agent --local --agent main --message "Hello from Hugging Face"
Download README_sl.md from sovasoft/zora-v1.13-gguf: direct link, hf CLI and curl.
- Browser
- Download file 16.2 kB
-
https://huggingface.co/sovasoft/zora-v1.13-gguf/resolve/main/README_sl.md
- Command line
-
hf download hf://sovasoft/zora-v1.13-gguf/README_sl.md
-
curl -L -o README_sl.md https://huggingface.co/sovasoft/zora-v1.13-gguf/resolve/main/README_sl.md
license: apache-2.0
language:
- sr
- hr
- bs
- mk
- sl
- sq
- cnr
- bg
- el
- tr
- ro
- hu
base_model: Qwen/Qwen3-8B
library_name: transformers
tags:
- balkan
- southeast-europe
- multilingual
- honest-ai
- sovasoft
- rag
🌐 EN · 🇷🇸 SR · 🇭🇷 HR · 🇧🇦 BS · 🇲🇰 MK · 🇸🇮 SL · 🇦🇱 SQ · 🇲🇪 CNR · 🇧🇬 BG · 🇬🇷 EL · 🇹🇷 TR · 🇷🇴 RO · 🇭🇺 HU
🌐 To je slovenska (Slovenščina) MODEL CARD — popoln opis modela.
Zora v1.13 — odprt, iskren LLM za Balkan in Jugovzhodno Evropo
зора = "zora". Ena da jih vse združi. — Sovasoft (ai.in.rs)
1 · Kaj je Zora
Zora je odprt jezikovni model z 8 milijardami parametrov (zgrajen na Qwen3-8B) za 12 jezikov Balkana in Jugovzhodne Evrope: srbohrvaščino, bosanščino, makedonščino, slovenščino, albanščino, črnogorščino, bolgarščino, grščino, turščino, romunščino, madžarščino.
Zora ni zasnovana, da bi bila največji model — zasnovana je, da bi bila iskrena, v maternem jeziku in z več perspektivami:
- misli v ciljnem jeziku, namesto da bi prehajala prek angleščine,
- prikazuje več perspektiv o spornih temah namesto enega nacionalnega pogleda,
- in pred vsem: prizna, ko ne ve, namesto da bi izmišljevala dejstva.
2 · Zgodba razvoja (v1.0 → v1.1 → v1.11 → v1.12 → v1.13)
| Različica | Jeziki | BalkanBench | Stanje |
|---|---|---|---|
| v1.0 | 6 | — | prva javna izdaja |
| v1.1 | 12 | — | naučen od začetka — a haluciniral dejstva (izmišljeval naslove knjig, napačne avtorje). Nikoli ni bil objavljen. |
| v1.11 | 12 | 84/156 | iskren popravek: reče "Ne vem", išče pri nejavnosti. #1 balkanski model. |
| v1.12 | 12 | 85/156 | popravek globine: boljše klicanje orodij, strukturiran IDK, razmišljanje v maternem jeziku, integracija z RAG. |
| v1.13 | 12 | 102/156 | preboj v analizi: kritična analiza, napredna logika in ocenjevalno vrednotenje skočijo na nove višave, čeprav se je faktična podrobnost zmanjšala. |
v1.1 nas je naučil ključno lekcijo — majhen model ne more zapomniti vsakega dejstva, zato namesto da bi ga prikrivali, v1.11 je bil ponovno naučen, da bi bil iskren. v1.12 gradi na temu z globjim učenjem in RAG. v1.13 poglobi sposobnosti sklepanja in analize, pri čemer žrtvuje nekatere faktične podrobnosti za logične uspehe.
3 · Kaj je novega v v1.13
Poudarek na analizi in sklepanju
Nove močne plati v v1.13:
- ANALYSIS 0/12 → 12/12 — največja posamična rast. Zora lahko sedaj kritično ocenjuje argumente, zaznava pristranost v vseh 12 jezikih.
- LOGIC2 0/12 → 7/12 — napredni verigi večkorakovnega sklepanja sedaj delujeta v 7 jezikih.
- GRADED 0/12 → 3/12 – delni napredek pri esejih, ocenah in rubrikah.
- LOGIC 0/12 → 3/12 — formalna logika in silogizmi se izboljšujejo v nekaterih jezikih.
Iskreni kompromisi:
- DETAIL 10/12 → 2/12 — znatno nazadovanje. Učenje, ki je odklenilo analizo, je zmanjšalo globino razširjenih odgovorov. To poročamo transparentno; to je najbolj jasna slabost v1.13.
- SEARCH 7/12 → 5/12 — manjši padec pri hitrem faktičnem iskanju.
- FACT 0/12 → 1/12 — marginalno izboljšanje pri faktičnem priklicu, še vedno omejeno z zmogljivostjo.
- HALLU ostaja pri 10/12 (glejte podroben pregled spodaj).
Učenje v1.13 je preusmerilo SFT mešanico k sklepanju, analizi in ocenjevalnemu vrednotenju. To je dvignilo zgornji konec lestvice za +17 točk (85 → 12), medtem ko je stalo globino na osu DETAIL in nekaj hitrosti na SEARCH. To je premišljen, dokumentiran kompromis — ne brezplačna zmaga.
4 · Benchmark (BalkanBench, 13 osi × 12 jezikov)
🔬 BalkanBench je odprt — testirajte kateri koli model sami: https://github.com/olivilo/balkanbench Deterministično ocenjevanje (skripta / jezik / ključne besede / številke).
Primerjava po osi (v1.12 → v1.13)
| Os | v1.12 | v1.13 | Δ | Kaj se je spremenilo |
|---|---|---|---|---|
| FACT | 0/12 | 1/12 | ↑1 | Zmogljivost 8B; rahlo izboljšanje, še vedno majhno |
| HALLU | 10/12 | 10/12 | = | Stabilno; kakovost zavrnitev v maternem jeziku ostaja visoka (glejte podroben pregled spodaj) |
| DETAIL | 10/12 | 2/12 | ↓8 | Nazadovanje — iskren strošek poudarka na sklepanju v1.13 |
| GRADED | 0/12 | 3/12 | ↑3 | Novo: eseji, ocene, rubrike sedaj včasih delujejo |
| TEACH | 12/12 | 12/12 | = | Popolno — ostaja ključna močna plat |
| REASON | 11/12 | 11/12 | = | Močno aritmetično sklepanje ostaja |
| LOGIC | 0/12 | 3/12 | ↑3 | Formalna logika / silogizmi se izboljšujejo v nekaterih jezikih |
| LOGIC2 | 0/12 | 7/12 | ↑6 | Verigi večkorakovnega sklepanja sedaj delujeta v 7 jezikih |
| ANALYSIS | 0/12 | 12/12 | ↑12 | Največja rast: kritična analiza, zaznava pristranosti v vseh 12 jezikih |
| INSTRUCT | 11/12 | 12/12 | ↑1 | Obnovljeno v popolno sledenje navodil |
| LONGFORM | 12/12 | 12/12 | = | Popolno — ostaja ključna močna plat |
| SEARCH | 7/12 | 5/12 | ↓2 | Manjše nazadovanje pri hitrem faktičnem iskanju |
| TOOLBASE | 12/12 | 12/12 | = | Popolno: odgovarja na osnovna vprašanja brez klicanja orodij |
| SKUPAJ | 85/156 | 102/156 | +17 | Dobički iz analize + logike presegajo strošek DETAIL/SEARCH |
Rezultati po jeziku
| Jezik | v1.12 | v1.13 | Δ |
|---|---|---|---|
| bg (bolgarščina) | 8/13 | 8/13 | = |
| bs (bosanščina) | 8/13 | 10/13 | +2 |
| cnr (črnogorščina) | 8/13 | 8/13 | = |
| el (grščina) | 9/13 | 9/13 | = |
| hr (hrvaščina) | 9/13 | 9/13 | = |
| hu (madžarščina) | 8/13 | 7/13 | -1 |
| mk (makedonščina) | 7/13 | 11/13 | +4 |
| ro (romunščina) | 8/13 | 9/13 | +1 |
| sl (slovenščina) | 6/13 | 7/13 | +1 |
| sq (albanščina) | 8/13 | 8/13 | = |
| sr (srbščina) | 7/13 | 8/13 | +1 |
| tr (turščina) | 7/13 | 8/13 | +1 |
Največji zmagovalci: makedonščina (+4) — učenje analize je najbolj dvignilo prej najmanj pokrit jezik. Bosanščina (+2) je prav tako jasno pridobila. Madžarščina je izgubila eno točko.
Diagrami
5 · Zakaj je HALLU ostal na 10/12
Rezultat HALLU (10/12) je ostal nespremenjen med v1.12 in v1.13. Samo obnašanje IDK ostaja močno — model reče "Ne vem" na strukturiran način v maternem jeziku, namesto da bi izmišljeval dejstva. Zakaj torej ni napredoval in kje je prava sprememba?
Zakaj rezultat ni napredoval
1. HALLU je že blizu svojega stropa za model z 8B. Test sprašuje: "Ali model reče eno od označevalnih besed IDK, ko ga vprašamo o izmišljeni osebi?" Zora to pravilno stori za 10 od 12 jezikov. Zadnjih 2 (makedonščina, slovenščina) imata najmanj učnih podatkov — model z 8B preprosto nima zmogljivosti za te premalo zastopane jezike. Znano je, da se je makedonščina izboljšala skupaj (+4) zahvaljujoč učenju analize, vendar specifične oznake HALLU tam še vedno ne delujejo.
2. Učenje IDK je izboljšalo KAKOVOST, ne REZULTAT. Test HALLU pri BalkanBench je dvojni da/ne preizkus za oznako IDK. Kaj se je dejansko izboljšalo:
| Pred (v1.11) | Sedaj (v1.12 → v1.13) |
|---|---|
| Kratke, včasih odrezane zavrnitve | Polne, strukturirane zavrnitve |
| Včasih odgovarjala v angleščini | Vedno odgovarja v jeziku vprašanja |
| Brez pojasnila logike | Pojasni zakaj ne more odgovoriti |
| "Ne vem." | "Nimam zanesljivih podatkov o 'X'. Ne morem potrditi, da obstaja v zanesljivih virih, zato ne bom izmišljeval/-a." |
To je kvalitativen preskok, ki ga dvojni rezultat ne more ujeti.
3. Pravi preskok je v ANALYSIS, ne v HALLU. Preboj v1.13 je na osi ANALYSIS (0/12 → 12/12): Zora sedaj kritično ocenjuje argumente in zaznava pristranost v vseh 12 jezikih. Tam se je učenje sklepanja pokazalo najmočnejši, najbolj dosleden učinek.
4. Iskren strošek: DETAIL je nazadoval. DETAIL je padel z 10/12 na 2/12. Isto učenje, ki je odklenilo analizo, je naredilo odgovore krajše in manj razširjene. To poročamo transparentno — v1.13 žrtvuje globino podrobnosti za sposobnost kritične analize. Ekipe, ki potrebujejo dolge, bogato podrobne besedila, bi morale to tehtati proti pridobitvam pri sklepanju.
Kaj bi dvignilo HALLU na 12/12
| Pristop | Pričakovani učinek | Napor |
|---|---|---|
| Večji model (v2 = 27B) | +1-2 jezika (mk, sl) | Visoko (novo učenje) |
| Več IDK primerov posebej za mk/sl | +0-1 jezikov | Srednje (generiranje podatkov) |
| RLHF s človeškim povratnim mnenjem o kakovosti zavrnitev | Boljša kakovost (ne rezultat) | Visoko (človeška anotacija) |
| DPO (Direct Preference Optimization) | +1-2 jezika | Srednje (para preferenc) |
| Prelomitev kompromisa DETAIL proti ANALYSIS | Obnovitev podrobnosti z nekaterimi stroški analize | Srednje (prilagajanje mešanice podatkov) |
V bistvu: Model z 8B je blizu svojega stropa za HALLU. Pravi dobički v v2 (27B) bodo prišli iz več parametrov, ne iz več učnih trikov. Zmaga v1.13 je v analizi; dokumentirani strošek je v podrobnosti.
6 · 🆕 RAG funkcija
Zora se integrira z RAG (Retrieval-Augmented Generation) — sistemom, ki Zori omogoča iskanje po lokalni znanstveni bazi pred odgovorom.
Kaj daje RAG Zori
- 87,284 delčkov v 12 jezikih: Wikidata, Wikipedia, Arhiv novic, EU zakonodaja, Statistike
- Živa končna točka: https://rag.ai.in.rs
- Samo gostovanje: Klonirajte cevovod iz https://github.com/olivilo/zora-v1.13
Kako deluje
Kaskada orodij: Zora najprej preveri svojo bazo znanja RAG (lokalne dokumente, zakone, statistike), nato preide na iskanje po spletu, če je potrebno, in na koncu reče "Ne vem", če nobeno ne pomaga.
Uporabniško vprašanje → RAG (lokalni dokumenti) → web_search (v živo) → IDK (iskrena zavrnitev)
Zakaj je to pomembno
- Modeli z 8B ne morejo zapomniti vsega — RAG Zori omogoča dostop do aktualnih, avtoritetnih podatkov brez ponovnega učenja
- Vsak odgovor nosi vir + datum + licenco — popolna transparentnost
- Samo gostovanje: katera koli organizacija lahko zažene svojo lastno Zora RAG s svojimi dokumenti
7 · Podrobnosti usposabljanja
| Parameter | Vrednost |
|---|---|
| Osnovni model | Qwen3-8B (Alibaba Cloud, Apache-2.0) |
| CPT koraki | 150 (omejeni, ne polna epoha) |
| SFT primeri | 9,379 (2 epohi) |
| MAXLEN | 8192 (8× daljše kot v1.11) |
| QLoRA | r=16, lora_alpha=16, 4bit |
| Sestava podatkov | preusmerjeno k sklepanju, analizi in ocenjevalnemu vrednotenju |
| Infrastruktura | Modal A100-80GB, ~4h skupaj, ~$5-10 |
| Kvantizacije | Q5_K_M (5.4GB, priporočeno), Q6_K (6.7GB), Q8_0 (8.7GB) |
8 · Uporaba
Ollama (priporočeno):
ollama pull olivilo/zora:v1.13
ollama run olivilo/zora:v1.13
HuggingFace Transformers:
from transformers import AutoModelForCausalLM, AutoTokenizer
tok = AutoTokenizer.from_pretrained("sovasoft/zora-v1.13")
model = AutoModelForCausalLM.from_pretrained("sovasoft/zora-v1.13", device_map="auto")
GGUF (llama.cpp / ročni Ollama): Prenesite Q5_K_M, Q6_K ali Q8_0 iz HuggingFace. Izogibajte se Q4 in manjšim — težka kvantizacija je povzročila, da je model haluciniral v naših testih.
9 · Omejitve
- Zmogljivost 8B: FACT ostaja strukturno šibek — potrebnih je več parametrov (v2 = 27B)
- Nazadovanje DETAIL: Odgovori v1.13 so manj razširjeni kot v1.12 — poudarek na analizi je stal globino (2/12)
- Nazadovanje SEARCH: Hitro faktično iskanje je rahlo padlo (5/12)
- Kvantizacija: Uporabite samo Q5_K_M / Q6_K / Q8_0. Q4 in manjši poslabšajo iskrenost.
- Manjši jeziki (mk, sl) imajo še vedno manj učnih podatkov — pričakujte manjšo doslednost
- Brez znanja v realnem času brez RAG/iskanja po spletu — spomin modela ima datum prenehanja
- Večkorakovno sklepanje je izboljšano, a ni zanesljivo — vedno preverite kritične izračune
10 · Transparentnost primerjalnika in omejitve
BalkanBench je lastni primerjalnik Sovasofta — zasnovan, zgrajen in ocenjen s strani iste ekipe, ki je ustvarila Zoro. To pomeni:
- Pristranost pri načrtovanju: 13 osi (FACT, HALLU, DETAIL itd.) je bilo izbranih za poudarek močnih plati Zore. Različna zasnova primerjalnika bi prinesla drugačne uvrstitve.
- Pristranost pri ocenjevanju: Funkcije ocenjevanja v
matrix_ollama.pyso naše. Kako definiramo "pravilno" morda favorizira učni profil Zore. - Brez primerjave z frontier modeli: Primerjamo samo z odprtimi modeli (7-32B). Frontier modeli (GPT-4, Claude, Gemini) bi presegli Zoro — ta primerjalnik je zasnovan za ocenjevanje znotraj ekosistema odprtih balkanskih modelov.
- Pristranost pri izboru: Vključujemo modele, kjer se Zora dobro kosmira. Merila za vključitev niso naključna.
- Prekrivanje učnih podatkov: Nekatere vprašanja primerjalnika se morda prekrivajo z učnimi podatki Zore, kar bi lahko napihnilo rezultate.
Kaj rezultati KAŽEJO: Zora v1.13 je najmočnejši odprt model, ki smo ga testirali na našem primerjalniku za 12 balkanskih jezikov — 102/156. Presega 3-4× večje modele na BalkanBench v1.1, kar je smiseln rezultat za ekosistema odprte kode, a ne trditev o univerzalni premoči.
Kaj rezultati NE KAŽEJO: Da je Zora boljša od frontier modelov, da se te uvrstitve generalizirajo prek našega testnega dizajna, ali da je metodologija ocenjevanja neodvisna. Najpomembnejša je transparentnost tu: v1.13 pridobiva analizo z resničnim, dokumentiranim stroškom v faktični podrobnosti.
10 · Kaj sledi: v2
| v1.13 (sedaj) | v2 (načrtovano) | |
|---|---|---|
| Osnova | Qwen3-8B | Qwen3.8-27B |
| BalkanBench | 102/156 | Cilj: 120+/156 |
| DETAIL | 2/12 (nazadovanje) | Obnovitev + Cilj: 8+/12 |
| LOGIC/LOGIC2 | 3/12, 7/12 | Cilj: 8+/12 |
| HALLU | 10/12 | Cilj: 12/12 |
| Sklepanje | Izboljšana analiza | Polno učenje z verigo misli |
11 · Zahvala
Zora obstaja zahvaljujoč odprti kodi. Izrekamo svojo formalno, iskreno zahvalo:
- Nad vsem, ekipi Qwen pri Alibaba — za razvoj in objavo z odprto kodo Qwen3 (Apache-2.0), osnovnega modela, na katerem je zgrajena Zora. Brez njihove velikodušnosti Zora ne bi obstajala.
- Platformam in strukturam, ki so to omogočile — Kaggle, Modal, HuggingFace, Ollama, Unsloth — za računalniške vire, orodja in odprto infrastrukturo.
- Skupnosti odprte kode, za modele, kodo in znanje, ki jih prostijo delijo z vsemi.
- Ljudem Balkana — katerih jeziki, glasovi, zgodbe in perspektive so srce Zore.
- rag.ai.in.rs za RAG infrastrukturo in 87,284 delčkov balkanskega znanja.
- In vsem, kar je.
зора — zora pripada vsem.
12 · Navajanje
@software{zora_v113,
author = {Vignjevic, Oliver},
title = {Zora v1.13: An Open, Honest LLM for the Balkans \& Southeast Europe},
year = {2026},
publisher = {Hugging Face},
url = {https://huggingface.co/sovasoft/zora-v1.13},
license = {Apache-2.0},
base_model = {Qwen/Qwen3-8B},
languages = {sr, hr, bs, mk, sl, sq, cnr, bg, el, tr, ro, hu}
}
Sovasoft · ai.in.rs · ena da jih vse združi




