zora-v1.13-gguf / README_sl.md
23Olivilo's picture
Add docs: README_sl.md
5fe9a59 verified
|
Raw History Blame Contribute Delete
16.2 kB
metadata
license: apache-2.0
language:
  - sr
  - hr
  - bs
  - mk
  - sl
  - sq
  - cnr
  - bg
  - el
  - tr
  - ro
  - hu
base_model: Qwen/Qwen3-8B
library_name: transformers
tags:
  - balkan
  - southeast-europe
  - multilingual
  - honest-ai
  - sovasoft
  - rag

🌐 EN · 🇷🇸 SR · 🇭🇷 HR · 🇧🇦 BS · 🇲🇰 MK · 🇸🇮 SL · 🇦🇱 SQ · 🇲🇪 CNR · 🇧🇬 BG · 🇬🇷 EL · 🇹🇷 TR · 🇷🇴 RO · 🇭🇺 HU

🌐 To je slovenska (Slovenščina) MODEL CARD — popoln opis modela.

Zora — Boginja zore, obdana s simboli 12 narodov

Zora v1.13 — odprt, iskren LLM za Balkan in Jugovzhodno Evropo

зора = "zora". Ena da jih vse združi. — Sovasoft (ai.in.rs)


1 · Kaj je Zora

Zora je odprt jezikovni model z 8 milijardami parametrov (zgrajen na Qwen3-8B) za 12 jezikov Balkana in Jugovzhodne Evrope: srbohrvaščino, bosanščino, makedonščino, slovenščino, albanščino, črnogorščino, bolgarščino, grščino, turščino, romunščino, madžarščino.

Zora ni zasnovana, da bi bila največji model — zasnovana je, da bi bila iskrena, v maternem jeziku in z več perspektivami:

  • misli v ciljnem jeziku, namesto da bi prehajala prek angleščine,
  • prikazuje več perspektiv o spornih temah namesto enega nacionalnega pogleda,
  • in pred vsem: prizna, ko ne ve, namesto da bi izmišljevala dejstva.

2 · Zgodba razvoja (v1.0 → v1.1 → v1.11 → v1.12 → v1.13)

Različica Jeziki BalkanBench Stanje
v1.0 6 — prva javna izdaja
v1.1 12 — naučen od začetka — a haluciniral dejstva (izmišljeval naslove knjig, napačne avtorje). Nikoli ni bil objavljen.
v1.11 12 84/156 iskren popravek: reče "Ne vem", išče pri nejavnosti. #1 balkanski model.
v1.12 12 85/156 popravek globine: boljše klicanje orodij, strukturiran IDK, razmišljanje v maternem jeziku, integracija z RAG.
v1.13 12 102/156 preboj v analizi: kritična analiza, napredna logika in ocenjevalno vrednotenje skočijo na nove višave, čeprav se je faktična podrobnost zmanjšala.

v1.1 nas je naučil ključno lekcijo — majhen model ne more zapomniti vsakega dejstva, zato namesto da bi ga prikrivali, v1.11 je bil ponovno naučen, da bi bil iskren. v1.12 gradi na temu z globjim učenjem in RAG. v1.13 poglobi sposobnosti sklepanja in analize, pri čemer žrtvuje nekatere faktične podrobnosti za logične uspehe.

3 · Kaj je novega v v1.13

Poudarek na analizi in sklepanju

Nove močne plati v v1.13:

  • ANALYSIS 0/12 → 12/12 — največja posamična rast. Zora lahko sedaj kritično ocenjuje argumente, zaznava pristranost v vseh 12 jezikih.
  • LOGIC2 0/12 → 7/12 — napredni verigi večkorakovnega sklepanja sedaj delujeta v 7 jezikih.
  • GRADED 0/12 → 3/12 – delni napredek pri esejih, ocenah in rubrikah.
  • LOGIC 0/12 → 3/12 — formalna logika in silogizmi se izboljšujejo v nekaterih jezikih.

Iskreni kompromisi:

  • DETAIL 10/12 → 2/12 — znatno nazadovanje. Učenje, ki je odklenilo analizo, je zmanjšalo globino razširjenih odgovorov. To poročamo transparentno; to je najbolj jasna slabost v1.13.
  • SEARCH 7/12 → 5/12 — manjši padec pri hitrem faktičnem iskanju.
  • FACT 0/12 → 1/12 — marginalno izboljšanje pri faktičnem priklicu, še vedno omejeno z zmogljivostjo.
  • HALLU ostaja pri 10/12 (glejte podroben pregled spodaj).

Učenje v1.13 je preusmerilo SFT mešanico k sklepanju, analizi in ocenjevalnemu vrednotenju. To je dvignilo zgornji konec lestvice za +17 točk (85 → 12), medtem ko je stalo globino na osu DETAIL in nekaj hitrosti na SEARCH. To je premišljen, dokumentiran kompromis — ne brezplačna zmaga.

4 · Benchmark (BalkanBench, 13 osi × 12 jezikov)

🔬 BalkanBench je odprt — testirajte kateri koli model sami: https://github.com/olivilo/balkanbench Deterministično ocenjevanje (skripta / jezik / ključne besede / številke).

Primerjava po osi (v1.12 → v1.13)

Os v1.12 v1.13 Δ Kaj se je spremenilo
FACT 0/12 1/12 ↑1 Zmogljivost 8B; rahlo izboljšanje, še vedno majhno
HALLU 10/12 10/12 = Stabilno; kakovost zavrnitev v maternem jeziku ostaja visoka (glejte podroben pregled spodaj)
DETAIL 10/12 2/12 ↓8 Nazadovanje — iskren strošek poudarka na sklepanju v1.13
GRADED 0/12 3/12 ↑3 Novo: eseji, ocene, rubrike sedaj včasih delujejo
TEACH 12/12 12/12 = Popolno — ostaja ključna močna plat
REASON 11/12 11/12 = Močno aritmetično sklepanje ostaja
LOGIC 0/12 3/12 ↑3 Formalna logika / silogizmi se izboljšujejo v nekaterih jezikih
LOGIC2 0/12 7/12 ↑6 Verigi večkorakovnega sklepanja sedaj delujeta v 7 jezikih
ANALYSIS 0/12 12/12 ↑12 Največja rast: kritična analiza, zaznava pristranosti v vseh 12 jezikih
INSTRUCT 11/12 12/12 ↑1 Obnovljeno v popolno sledenje navodil
LONGFORM 12/12 12/12 = Popolno — ostaja ključna močna plat
SEARCH 7/12 5/12 ↓2 Manjše nazadovanje pri hitrem faktičnem iskanju
TOOLBASE 12/12 12/12 = Popolno: odgovarja na osnovna vprašanja brez klicanja orodij
SKUPAJ 85/156 102/156 +17 Dobički iz analize + logike presegajo strošek DETAIL/SEARCH

Rezultati po jeziku

Jezik v1.12 v1.13 Δ
bg (bolgarščina) 8/13 8/13 =
bs (bosanščina) 8/13 10/13 +2
cnr (črnogorščina) 8/13 8/13 =
el (grščina) 9/13 9/13 =
hr (hrvaščina) 9/13 9/13 =
hu (madžarščina) 8/13 7/13 -1
mk (makedonščina) 7/13 11/13 +4
ro (romunščina) 8/13 9/13 +1
sl (slovenščina) 6/13 7/13 +1
sq (albanščina) 8/13 8/13 =
sr (srbščina) 7/13 8/13 +1
tr (turščina) 7/13 8/13 +1

Največji zmagovalci: makedonščina (+4) — učenje analize je najbolj dvignilo prej najmanj pokrit jezik. Bosanščina (+2) je prav tako jasno pridobila. Madžarščina je izgubila eno točko.

Diagrami

Uvrstitev Evolucija Matrika po oseh
Uvrstitev Evolucija v1.12 → v1.13 Matrika po oseh v1.13
Delta (v1.12 → v1.13) Kaj testira vsaka os
Delta Pojasnilo

5 · Zakaj je HALLU ostal na 10/12

Rezultat HALLU (10/12) je ostal nespremenjen med v1.12 in v1.13. Samo obnašanje IDK ostaja močno — model reče "Ne vem" na strukturiran način v maternem jeziku, namesto da bi izmišljeval dejstva. Zakaj torej ni napredoval in kje je prava sprememba?

Zakaj rezultat ni napredoval

1. HALLU je že blizu svojega stropa za model z 8B. Test sprašuje: "Ali model reče eno od označevalnih besed IDK, ko ga vprašamo o izmišljeni osebi?" Zora to pravilno stori za 10 od 12 jezikov. Zadnjih 2 (makedonščina, slovenščina) imata najmanj učnih podatkov — model z 8B preprosto nima zmogljivosti za te premalo zastopane jezike. Znano je, da se je makedonščina izboljšala skupaj (+4) zahvaljujoč učenju analize, vendar specifične oznake HALLU tam še vedno ne delujejo.

2. Učenje IDK je izboljšalo KAKOVOST, ne REZULTAT. Test HALLU pri BalkanBench je dvojni da/ne preizkus za oznako IDK. Kaj se je dejansko izboljšalo:

Pred (v1.11) Sedaj (v1.12 → v1.13)
Kratke, včasih odrezane zavrnitve Polne, strukturirane zavrnitve
Včasih odgovarjala v angleščini Vedno odgovarja v jeziku vprašanja
Brez pojasnila logike Pojasni zakaj ne more odgovoriti
"Ne vem." "Nimam zanesljivih podatkov o 'X'. Ne morem potrditi, da obstaja v zanesljivih virih, zato ne bom izmišljeval/-a."

To je kvalitativen preskok, ki ga dvojni rezultat ne more ujeti.

3. Pravi preskok je v ANALYSIS, ne v HALLU. Preboj v1.13 je na osi ANALYSIS (0/12 → 12/12): Zora sedaj kritično ocenjuje argumente in zaznava pristranost v vseh 12 jezikih. Tam se je učenje sklepanja pokazalo najmočnejši, najbolj dosleden učinek.

4. Iskren strošek: DETAIL je nazadoval. DETAIL je padel z 10/12 na 2/12. Isto učenje, ki je odklenilo analizo, je naredilo odgovore krajše in manj razširjene. To poročamo transparentno — v1.13 žrtvuje globino podrobnosti za sposobnost kritične analize. Ekipe, ki potrebujejo dolge, bogato podrobne besedila, bi morale to tehtati proti pridobitvam pri sklepanju.

Kaj bi dvignilo HALLU na 12/12

Pristop Pričakovani učinek Napor
Večji model (v2 = 27B) +1-2 jezika (mk, sl) Visoko (novo učenje)
Več IDK primerov posebej za mk/sl +0-1 jezikov Srednje (generiranje podatkov)
RLHF s človeškim povratnim mnenjem o kakovosti zavrnitev Boljša kakovost (ne rezultat) Visoko (človeška anotacija)
DPO (Direct Preference Optimization) +1-2 jezika Srednje (para preferenc)
Prelomitev kompromisa DETAIL proti ANALYSIS Obnovitev podrobnosti z nekaterimi stroški analize Srednje (prilagajanje mešanice podatkov)

V bistvu: Model z 8B je blizu svojega stropa za HALLU. Pravi dobički v v2 (27B) bodo prišli iz več parametrov, ne iz več učnih trikov. Zmaga v1.13 je v analizi; dokumentirani strošek je v podrobnosti.

6 · 🆕 RAG funkcija

Zora se integrira z RAG (Retrieval-Augmented Generation) — sistemom, ki Zori omogoča iskanje po lokalni znanstveni bazi pred odgovorom.

Kaj daje RAG Zori

Kako deluje

Kaskada orodij: Zora najprej preveri svojo bazo znanja RAG (lokalne dokumente, zakone, statistike), nato preide na iskanje po spletu, če je potrebno, in na koncu reče "Ne vem", če nobeno ne pomaga.

Uporabniško vprašanje → RAG (lokalni dokumenti) → web_search (v živo) → IDK (iskrena zavrnitev)

Zakaj je to pomembno

  • Modeli z 8B ne morejo zapomniti vsega — RAG Zori omogoča dostop do aktualnih, avtoritetnih podatkov brez ponovnega učenja
  • Vsak odgovor nosi vir + datum + licenco — popolna transparentnost
  • Samo gostovanje: katera koli organizacija lahko zažene svojo lastno Zora RAG s svojimi dokumenti

7 · Podrobnosti usposabljanja

Parameter Vrednost
Osnovni model Qwen3-8B (Alibaba Cloud, Apache-2.0)
CPT koraki 150 (omejeni, ne polna epoha)
SFT primeri 9,379 (2 epohi)
MAXLEN 8192 (8× daljše kot v1.11)
QLoRA r=16, lora_alpha=16, 4bit
Sestava podatkov preusmerjeno k sklepanju, analizi in ocenjevalnemu vrednotenju
Infrastruktura Modal A100-80GB, ~4h skupaj, ~$5-10
Kvantizacije Q5_K_M (5.4GB, priporočeno), Q6_K (6.7GB), Q8_0 (8.7GB)

8 · Uporaba

Ollama (priporočeno):

ollama pull olivilo/zora:v1.13
ollama run olivilo/zora:v1.13

HuggingFace Transformers:

from transformers import AutoModelForCausalLM, AutoTokenizer
tok = AutoTokenizer.from_pretrained("sovasoft/zora-v1.13")
model = AutoModelForCausalLM.from_pretrained("sovasoft/zora-v1.13", device_map="auto")

GGUF (llama.cpp / ročni Ollama): Prenesite Q5_K_M, Q6_K ali Q8_0 iz HuggingFace. Izogibajte se Q4 in manjšim — težka kvantizacija je povzročila, da je model haluciniral v naših testih.

9 · Omejitve

  • Zmogljivost 8B: FACT ostaja strukturno šibek — potrebnih je več parametrov (v2 = 27B)
  • Nazadovanje DETAIL: Odgovori v1.13 so manj razširjeni kot v1.12 — poudarek na analizi je stal globino (2/12)
  • Nazadovanje SEARCH: Hitro faktično iskanje je rahlo padlo (5/12)
  • Kvantizacija: Uporabite samo Q5_K_M / Q6_K / Q8_0. Q4 in manjši poslabšajo iskrenost.
  • Manjši jeziki (mk, sl) imajo še vedno manj učnih podatkov — pričakujte manjšo doslednost
  • Brez znanja v realnem času brez RAG/iskanja po spletu — spomin modela ima datum prenehanja
  • Večkorakovno sklepanje je izboljšano, a ni zanesljivo — vedno preverite kritične izračune

10 · Transparentnost primerjalnika in omejitve

BalkanBench je lastni primerjalnik Sovasofta — zasnovan, zgrajen in ocenjen s strani iste ekipe, ki je ustvarila Zoro. To pomeni:

  • Pristranost pri načrtovanju: 13 osi (FACT, HALLU, DETAIL itd.) je bilo izbranih za poudarek močnih plati Zore. Različna zasnova primerjalnika bi prinesla drugačne uvrstitve.
  • Pristranost pri ocenjevanju: Funkcije ocenjevanja v matrix_ollama.py so naše. Kako definiramo "pravilno" morda favorizira učni profil Zore.
  • Brez primerjave z frontier modeli: Primerjamo samo z odprtimi modeli (7-32B). Frontier modeli (GPT-4, Claude, Gemini) bi presegli Zoro — ta primerjalnik je zasnovan za ocenjevanje znotraj ekosistema odprtih balkanskih modelov.
  • Pristranost pri izboru: Vključujemo modele, kjer se Zora dobro kosmira. Merila za vključitev niso naključna.
  • Prekrivanje učnih podatkov: Nekatere vprašanja primerjalnika se morda prekrivajo z učnimi podatki Zore, kar bi lahko napihnilo rezultate.

Kaj rezultati KAŽEJO: Zora v1.13 je najmočnejši odprt model, ki smo ga testirali na našem primerjalniku za 12 balkanskih jezikov — 102/156. Presega 3-4× večje modele na BalkanBench v1.1, kar je smiseln rezultat za ekosistema odprte kode, a ne trditev o univerzalni premoči.

Kaj rezultati NE KAŽEJO: Da je Zora boljša od frontier modelov, da se te uvrstitve generalizirajo prek našega testnega dizajna, ali da je metodologija ocenjevanja neodvisna. Najpomembnejša je transparentnost tu: v1.13 pridobiva analizo z resničnim, dokumentiranim stroškom v faktični podrobnosti.

10 · Kaj sledi: v2

v1.13 (sedaj) v2 (načrtovano)
Osnova Qwen3-8B Qwen3.8-27B
BalkanBench 102/156 Cilj: 120+/156
DETAIL 2/12 (nazadovanje) Obnovitev + Cilj: 8+/12
LOGIC/LOGIC2 3/12, 7/12 Cilj: 8+/12
HALLU 10/12 Cilj: 12/12
Sklepanje Izboljšana analiza Polno učenje z verigo misli

11 · Zahvala

Zora obstaja zahvaljujoč odprti kodi. Izrekamo svojo formalno, iskreno zahvalo:

  • Nad vsem, ekipi Qwen pri Alibaba — za razvoj in objavo z odprto kodo Qwen3 (Apache-2.0), osnovnega modela, na katerem je zgrajena Zora. Brez njihove velikodušnosti Zora ne bi obstajala.
  • Platformam in strukturam, ki so to omogočile — Kaggle, Modal, HuggingFace, Ollama, Unsloth — za računalniške vire, orodja in odprto infrastrukturo.
  • Skupnosti odprte kode, za modele, kodo in znanje, ki jih prostijo delijo z vsemi.
  • Ljudem Balkana — katerih jeziki, glasovi, zgodbe in perspektive so srce Zore.
  • rag.ai.in.rs za RAG infrastrukturo in 87,284 delčkov balkanskega znanja.
  • In vsem, kar je.

зора — zora pripada vsem.

12 · Navajanje

@software{zora_v113,
  author       = {Vignjevic, Oliver},
  title        = {Zora v1.13: An Open, Honest LLM for the Balkans \& Southeast Europe},
  year         = {2026},
  publisher    = {Hugging Face},
  url          = {https://huggingface.co/sovasoft/zora-v1.13},
  license      = {Apache-2.0},
  base_model   = {Qwen/Qwen3-8B},
  languages    = {sr, hr, bs, mk, sl, sq, cnr, bg, el, tr, ro, hu}
}

Sovasoft · ai.in.rs · ena da jih vse združi