Att träna en egen AI-modell behövs nästan aldrig för ett SME. Målet bakom önskan, att AI:n ska kunna era produkter, era regler och ert sätt att skriva, nås i första hand med instruktioner och exempel i prompten och med RAG, där modellen hämtar ur era egna dokument och system när den svarar. Finjustering, att justera modellens inre parametrar på era exempel, blir aktuell först när ett beteende ska upprepas i hög volym och prompten inte räcker.
Att bygga en språkmodell från grunden är inget alternativ, eftersom det kräver resurser som inget SME har. Valet mellan de tre vägarna avgörs av vad modellen brister i: kunskap, beteende eller språk.
Vill ni att modellen ska veta något, ge den dokumenten. Vill ni att den ska göra något på ett visst sätt, ge den instruktioner och exempel. Först när det inte räcker, och volymen är hög, är finjustering värd besväret.
Tre vägar, i den ordning ni bör pröva dem
Prompt: instruktioner och exempel. Allt som går att beskriva eller visa läggs i instruktionen: er ton, ert format, era regler, fem exempel på bra svar och två på dåliga. Det kostar lite att prova och ändras på en minut, och OpenAI skriver i sin guide för modelloptimering att promptarbetet kan vara allt som behövs. Gränsen nås när instruktionen blir så lång att den kostar i varje anrop, eller när modellen ändå glider i beteende över tusentals anrop.
RAG: hämta ur era källor. När problemet är kunskap, vad som står i era avtal, produktblad och servicehistorik, ska modellen inte minnas utan slå upp. Vid varje fråga hämtas relevanta avsnitt ur era dokument och system, och modellen svarar utifrån dem med hänvisning till källan. Kunskapen ligger i dokumenten, inte i modellen, så den är aktuell så länge dokumenten är det. Att modellen svarar ur en text i stället för ur minnet minskar också risken för påhittade svar, och svaret går att kontrollera mot stycket det bygger på.
Finjustering: justera modellens beteende. När det är beteendet som ska ändras och prompten inte räcker: en klassificering av ärenden i era 40 kategorier med hög volym, en extraktion i ett mycket specifikt format, en ton som ska hållas i miljontals korta svar. Då kan en modell finjusteras på granskade exempel och sedan klara uppgiften med en kort instruktion. Vinsten, skriver OpenAI i samma guide, är kortare promptar som sparar tokens i stor skala och att en mindre, billigare modell kan tränas för en uppgift där en större inte lönar sig.
Hur avgör ni vilken väg?
Är det fakta som ändras? Priser, regler, produkter, historik: då är svaret RAG, aldrig finjustering. En finjusterad modell som lärt sig prislistan i mars är fel i april, och den kan inte visa var svaret kom ifrån.
Är det format, ton eller ett fast beslut? Då är svaret prompt först. Skriv instruktionen, lägg till exempel och mät. Räcker det inte och volymen är hög är uppgiften en kandidat för finjustering.
Är det språket? Facktermer, jargong och interna förkortningar löses med en ordlista i instruktionen och med RAG mot era dokument, där termerna används i sitt sammanhang. Er jargong är för liten för att träna på men lätt att lista.
Vägarna går att kombinera: en instruktion för ton och regler, RAG för kunskapen och i något enstaka högvolymsteg en finjusterad mindre modell.
Vad krävs för att AI ska svara ur era egna dokument?
När målet är att medarbetare eller kunder ska få svar ur era rutiner, avtal och produktblad avgörs kvaliteten mer av underlaget än av modellen.
Dokument som gäller. Ligger samma rutin i tre versioner, eller motsäger två dokument varandra, speglar svaren det. Bestäm vilka dokument som gäller och vem som äger dem innan något indexeras.
Behörigheter som följer användaren. Lösningen ska bara hämta det den som frågar får se. Microsoft anger i sin dokumentation för Microsoft 365 Copilot (oktober 2026) att Copilot bara visar organisationsdata som användaren har minst läsbehörighet till. En mapp som delats med för många blir alltså åtkomlig för dem genom en enkel fråga, så rensa delningarna innan AI kopplas på.
Källa och testfrågor. Varje svar ska hänvisa till stycket det bygger på, och för frågor där ett fel får följder behövs ändå en människa som granskar. Samla verkliga frågor med rätta svar och kör dem vid varje ändring, enligt metoden i testa AI-lösningar. Frågorna som får dåliga svar visar vilka dokument som behöver skrivas om.
När räcker en mindre modell?
Mindre språkmodeller har blivit kapabla snabbt. Enligt Stanfords AI Index 2025 var PaLM, med 540 miljarder parametrar, 2022 den minsta modell som nådde över 60 procent på jämförelsetestet MMLU. År 2024 klarade Microsofts Phi-3-mini samma nivå med 3,8 miljarder.
En mindre modell räcker när uppgiften är avgränsad och har facit: sortera ärenden, plocka belopp och datum ur fakturor, sammanfatta enligt en fast mall. Den lönar sig när volymen är så hög att priset per anrop märks. Lokal drift är motiverad när underlaget, som källkod eller personuppgiftstunga flöden, inte bör lämna er egen miljö, men då byter ni leverantörsrisk mot eget driftansvar för uppdateringar, övervakning, säkerhet och kapacitet.
Den mindre modellen räcker inte för bred allmänkunskap, långa resonemang eller fritt skrivande. Låt den därför ta det första högvolymssteget, att sortera och extrahera, och skicka svåra fall vidare till en större modell eller en människa enligt tydliga regler. Att blanda små och stora modeller på det sättet i agentsystem förordar också forskare vid NVIDIA i ett positionspapper från 2025.
Vad kostar prompt, RAG och finjustering?
Prompt kostar tokens och en människas tid att skriva och testa. RAG kostar arbetet att städa och indexera dokumenten, i grunden datakvalitetsarbete, plus fler tokens per anrop. Finjustering kostar granskade exempel, en träningskörning, ett testset som visar att den finjusterade modellen faktiskt är bättre än grundmodellen med bra prompt, och en ny träning när grundmodellen byts ut. Exemplen behöver inte vara tusentals för en första prövning: OpenAI anger att förbättringar syns vid 50 till 100, och Google rekommenderar att börja med 100 och skala upp vid behov, båda per oktober 2026.
Den sista posten gör finjustering till ett åtagande och inte ett projekt. Enligt OpenAI:s lista över utfasningar (oktober 2026) följer finjusterade versioner samma avvecklingsschema som sina grundmodeller, så när grundmodellen stängs måste ni träna om på en ny. OpenAI avvecklar dessutom sin självbetjänade finjustering, och från 6 januari 2027 kan inte heller befintliga kunder starta nya träningsjobb. Driftkostnaden per anrop för stora och små modeller beskrivs i vad AI kostar.
Vad säger lagen om att träna på er data?
Innehåller träningsdatan personuppgifter, som kundmejl eller ärenden, är träningen en behandling av personuppgifter enligt GDPR. Europeiska dataskyddsstyrelsen (EDPB) konstaterade i sitt yttrande 28/2024 från december 2024 att en modell som tränats på personuppgifter inte i alla lägen kan anses anonym. Pseudonymisera därför exemplen innan träning och gör en konsekvensbedömning om datan är känslig.
Per oktober 2026 har EDPB också riktlinjer om anonymisering och om webbskrapning för träning av generativ AI ute på samråd till 30 oktober 2026, de senare med IMY som huvudrapportör. Där slås fast att GDPR gäller när skrapningen omfattar personuppgifter. Tränar ni på material som andra har skapat tillkommer frågan om rätten att använda det.
Så börjar ni utan att träna något
Ta det flöde där modellen i dag svarar fel eller ojämnt. Skriv en instruktion med exempel och mät mot ett testset med kända rätta svar. Koppla på RAG mot de dokument svaren borde komma ifrån och mät igen. Räcker det har ni en lösning vars kunskap uppdateras genom att byta ett dokument. Räcker det inte har ni nu de exempel och det testset som finjustering kräver, och belägg för att den behövs. Vilka flöden och dokument det gäller kartläggs i förstudien, första fasen i varje bygge, som beskrivs under AI-strategi. Själva bygget beskrivs under AI-utveckling för företag.
Vill ni att modellen ska kunna er verksamhet?
Byron Calles bygger AI-lösningar där modellen får er kunskap ur era egna källor och finjustering används först när mätningen visar att den behövs. Boka ett samtal så går vi igenom vad er "egna AI" behöver kunna.
Vanliga frågor
Tränas AI-leverantörens modell på det vi skickar in?
Inte i företagstjänsterna hos OpenAI, Anthropic och Microsoft, om ni inte själva väljer det. Per oktober 2026 anger OpenAI att data som skickas till API:et inte används för träning sedan 1 mars 2023, om kunden inte valt att dela den. Anthropic anger att in- och utdata i de kommersiella produkterna, som API:et och Claude for Work, som standard inte används för träning. Microsoft anger att prompter, svar och data som Microsoft 365 Copilot hämtar via Microsoft Graph inte används för att träna grundmodellerna. Konsumentversionerna har egna villkor, och data kan sparas en tid för missbruksövervakning, hos OpenAI som standard i upp till 30 dagar. Kontrollera villkoren för just er tjänst och plan, och skriv in kravet i avtalet.
Kan vi byta AI-modell senare?
Ja, om lösningen byggs för det. Med prompt och RAG ligger kunskapen i dokumenten, indexet och instruktionerna, så ett byte innebär att köra testsetet mot den nya modellen och justera instruktionerna där resultaten skiljer sig. Bytet blir dyrare om modellen är finjusterad, eftersom den då måste tränas om, och om ni byter den modell som gör om texterna till sökbara vektorer, så kallade embeddings, eftersom vektorer från olika modeller inte går att blanda och indexet då måste byggas om. Versionshantera instruktioner, exempel och testset, och bygg modellanropet som en utbytbar komponent.