Fine-tuning (modelio pritaikymas)

Fine-tuning (liet. modelio pritaikymas, papildomas mokymas) – tai jau išmokyto kalbos modelio mokymas toliau su jūsų pavyzdžiais, kad jis nuosekliai atliktų konkrečią užduotį: atsakytų jūsų tonu, grąžintų tikslų formatą ar teisingai skirstytų užklausas į kategorijas. Modelio svoriai (arba prie jų pridėtas nedidelis adapteris) pakeičiami, todėl naujas elgesys veikia be ilgų instrukcijų prompte.

Svarbiausia, ką reikia žinoti 2026 m. spalį: fine-tuning moko elgsenos, o ne patikimų žinių. Jei norite, kad pokalbių robotas žinotų jūsų prekių kainas, grąžinimo taisykles ar sandėlio likučius, reikia RAG, o ne fine-tuning. Faktai, „įmokyti“ į svorius, pasensta su kiekvienu kainų pakeitimu ir nesuteikia šaltinio nuorodos, o modelis vis tiek gali haliucinuoti.

Kaip veikia fine-tuning: nuo duomenų iki modelio

1. Užduoties apibrėžimas. Viena aiški užduotis: pvz., „klientų laiškus suskirstyti į 12 kategorijų ir grąžinti JSON“. Fine-tuning blogai tinka „visam kam“.
2. Duomenų rinkinys. Poros „įvestis → teisingas atsakymas“, dažniausiai JSONL formatu, toks pat kaip pokalbio žinutės (sisteminė, naudotojo, asistento). Kokybė svarbesnė už kiekį: 500 patikrintų pavyzdžių dažnai naudingesni nei 5 000 atsitiktinių.
3. Padalijimas. 80–90 % pavyzdžių mokymui, likusieji – vertinimui. Vertinimo pavyzdžiai niekada nepatenka į mokymą.
4. Mokymas. Paslauga arba savo GPU kelis kartus (epochomis) praeina per duomenis. Mokymo žetonai = duomenų rinkinio žetonai × epochų skaičius.
5. Vertinimas. Lyginate pritaikytą modelį su baziniu modeliu ir geru promptu tame pačiame vertinimo rinkinyje. Jei skirtumas nedidelis, fine-tuning neapsimoka.
6. Naudojimas ir priežiūra. Pritaikytas modelis kviečiamas per API savo pavadinimu. Kai bazinis modelis nustojamas palaikyti, pritaikymą reikia kartoti su nauju.

Fine-tuning tipai: SFT, LoRA, RFT

LoRA metodą 2021 m. aprašė Hu ir kt.: vietoj milijardų parametrų mokomi tik nedideli matricų sluoksniai, todėl adapterio failas užima megabaitus, o ne gigabaitus. QLoRA (Dettmers ir kt., 2023) parodė, kad 65 mlrd. parametrų modelį galima pritaikyti vienoje 48 GB vaizdo plokštėje. Tai leidžia atvirojo svorio modelius pritaikyti ir naudoti lokaliai.

Kur galima daryti fine-tuning 2026 m.

Rinka per metus smarkiai pasikeitė. Pagrindiniai variantai 2026-10-13:

OpenAI pranešė, kad jau pritaikyti modeliai veiks tol, kol nebus nustoti palaikyti jų baziniai modeliai. Jei jūsų sprendimas remiasi OpenAI pritaikytu modeliu, verta jau dabar planuoti perėjimą: geresnis promptas su pavyzdžiais, RAG arba kitas tiekėjas.

Fine-tuning ar promptas, ar RAG: kaip apsispręsti

Naudokite laiptų principą (žr. schemą). Pradėkite nuo prompto, tada pridėkite pavyzdžių, jei trūksta žinių – RAG, ir tik tada, jei išmatuotai trūksta elgsenos, – fine-tuning.

Kiek pavyzdžių reikia fine-tuning

Nėra vieno skaičiaus. Paprastam formatui ar tonui dažnai užtenka kelių šimtų gerų pavyzdžių, klasifikavimui – bent kelių dešimčių kiekvienai kategorijai, o sudėtingesnei užduočiai – tūkstančių. Kur kas svarbiau, kad pavyzdžiai būtų nuoseklūs: jei du žmonės tą patį laišką priskyrė skirtingoms kategorijoms, modelis išmoks nenuoseklumą. Lietuviškiems duomenims verta įtraukti ir parašytus be diakritikų, su klaidomis ir mišria kalba – taip, kaip rašo tikri klientai.

Fine-tuning ir lietuvių kalba

Fine-tuning nepadaro silpno lietuviškai modelio stipriu. Jei bazinis modelis daro gramatikos klaidų, keli tūkstančiai pavyzdžių jo kalbos žinių iš esmės nepakeis – tam reikia milijardų žetonų. Mūsų bandyme su vietiniais modeliais (žr. lokalus LLM) mažieji atvirieji modeliai 90 žodžių prekės aprašyme padarė nuo 5 iki 9 kalbos klaidų, o debesijos modelis – nė vienos. Todėl lietuviškoms užduotims pirmiausia rinkitės modelį, kuris gerai rašo lietuviškai, o fine-tuning naudokite formatui ir stiliui.

Rizikos ir apribojimai

• Asmens duomenys. Jei mokymo pavyzdžiuose yra klientų vardai, adresai ar susirašinėjimas, juos reikia pašalinti arba pseudonimizuoti; išmokytus duomenis iš modelio ištrinti beveik neįmanoma.
• Priklausomybė nuo tiekėjo. Pritaikytas modelis neperkeliamas: pakeitus tiekėją ar bazinį modelį, mokyti reikės iš naujo.
• Užmiršimas. Per agresyvus mokymas gali pabloginti bendrus gebėjimus (angl. catastrophic forgetting).
• Kaina naudojant. Pritaikytų Gemini 3+ modelių užklausos 1,5 karto brangesnės, todėl sutaupymas atsiranda tik tada, kai fine-tuning leidžia gerokai sutrumpinti promptą arba pereiti prie pigesnio modelio.

Lietuvos įmonėms fine-tuning dažniausiai aktualus trims užduotims: klientų užklausų klasifikavimui, dokumentų duomenų ištraukimui (sąskaitos, užsakymai, sutartys) ir vieningam prekės ženklo tonui prekių aprašymuose. Visais atvejais duomenų rinkinys būna nedidelis – šimtai ar keli tūkstančiai pavyzdžių – todėl pirmiausia verta įvertinti, ar užteks prompto su pavyzdžiais.

Jei mokymo duomenyse yra asmens duomenų, taikomas BDAR, o priežiūrą vykdo Valstybinė duomenų apsaugos inspekcija (VDAI): reikia teisinio pagrindo, duomenų mažinimo ir, jei įmanoma, pseudonimizavimo. Google Gemini fine-tuning galima vykdyti ES regione europe-west4 (Nyderlandai). Jei pritaikytas modelis naudojamas didelės rizikos srityje, pavyzdžiui, kandidatų atrankai, taikomos ES DI akto pareigos, o reikšmingai pakeitęs tokią sistemą diegėjas gali tapti jos tiekėju.