Hallucinationer i AI – vad är det och hur undviker ni dem?
AI kan låta tvärsäker även när svaret är fel. För företag är det inte bara ett irritationsmoment – det kan bli felaktiga kundlöften, missvisande beslutsunderlag, dåliga policyer eller juridiska risker. Lösningen är inte att sluta använda AI, utan att bygga in källkrav, mänsklig granskning och tydliga stoppregler.
Ladda ner mallen
Risk-/dataklassningsmatris, kontrollista eller incident-/DPIA-exempel. Word-dokumentet är redigerbart, kompakt formaterat och har en logotyp som enkelt kan bytas ut mot er egen.
Kort svar: behandla AI-svar som utkast, inte som facit
En AI-hallucination är när ett AI-system ger ett svar som är felaktigt, vilseledande eller påhittat, men formulerat som om det vore sant. Det kan handla om falska källor, fel datum, felaktiga lagtolkningar, påhittade funktioner i ett system, fabricerade citat, sammanfattningar som lägger till information eller analyser som låter övertygande men bygger på antaganden.
Det viktigaste för svenska företag är att förstå att hallucinationer inte bara är ett tekniskt problem. Det är en arbetsprocessfråga. Om medarbetare använder AI för idéer och första utkast är risken ofta hanterbar. Om samma svar används i kundkommunikation, HR, juridik, säkerhet eller beslutsunderlag utan granskning blir risken betydligt större.
Använd AI för struktur, förslag och utkast. Låt människor verifiera fakta, särskilt när svaret påverkar kunder, medarbetare eller avtal.
En snygg hänvisning räcker inte. Kontrollera att länkar, dokumentnamn, datum och citat faktiskt finns och säger det AI påstår.
Om AI används regelbundet i en process bör användningsfallet in i AI-registret med ägare, risknivå och kontrollrutin.
EU:s AI Act gör dessutom AI-kunnighet till en konkret skyldighet. Artikel 4 innebär att organisationer som tillhandahåller eller använder AI-system behöver se till att personer som hanterar systemen har tillräcklig AI-kunnighet utifrån kontext, erfarenhet och användning. För hallucinationer betyder det: medarbetare behöver veta när AI kan ha fel, hur de kontrollerar svaret och när de ska stoppa användningen.
Vad är en AI-hallucination?
Begreppet används framför allt om generativ AI, till exempel chattbotar, textgeneratorer och analysverktyg. Modellen producerar sannolika ord och mönster baserat på sin träning och den kontext den får. Den “vet” inte på samma sätt som en människa eller en databas. Därför kan den fylla luckor med något som låter rimligt, även när underlaget saknas.
I praktiken kan hallucinationer se olika ut. AI kan hitta på en lagparagraf, ange en icke-existerande källa, blanda ihop två leverantörers villkor, påstå att en funktion finns i ett affärssystem, tolka en kunds avtal fel eller sammanfatta ett mötesprotokoll med beslut som aldrig fattades. Ju mer professionellt språket låter, desto lättare är det att missa felet.
IBM beskriver AI-hallucinationer som situationer där modellen skapar nonsens eller felaktiga output. Google Cloud beskriver det som felaktiga eller vilseledande resultat som kan orsakas av exempelvis bristande data, felaktiga antaganden eller bias i träningsdata. Det är alltså inte bara “dumma svar”, utan en känd riskkategori för generativa AI-system.
Varför hallucinerar AI?
Det finns flera orsaker. Träningsdata kan vara ofullständig, gammal eller motsägelsefull. Prompten kan vara otydlig. Modellen kan sakna tillgång till aktuell information. Verktyget kan vara optimerat för hjälpsamma svar snarare än för att säga “jag vet inte”. I vissa fall kan modellen också blanda ihop liknande begrepp, källor eller personer.
För företag är den praktiska slutsatsen viktigare än den tekniska detaljen: AI behöver kontext, gränser och kontroll. Om ni ber AI “skriv en sammanfattning av vad som gäller enligt nya regler” utan att ge källa, datum och jurisdiktion får ni ofta ett välformulerat svar – men inte nödvändigtvis ett korrekt svar. Om ni däremot ger relevant källa, ber modellen citera stöd och låter en ansvarig person granska minskar risken.
Rött, gult och grönt: när är hallucinationer farliga?
Alla hallucinationer är inte lika allvarliga. Ett fel i en brainstorming-lista är sällan katastrof. Ett fel i ett kundlöfte, en arbetsrättslig rekommendation eller en säkerhetsinstruktion kan däremot få konsekvenser. Därför bör ni klassificera användningsfall efter konsekvens och kontrollbarhet.
Gröna användningar är exempelvis idéer, rubrikförslag, första utkast och intern brainstorming där en människa ändå bearbetar resultatet. Gula användningar är texter, sammanfattningar och analyser som kan publiceras, skickas till kund eller påverka interna beslut. Röda användningar är områden där fel kan ge juridisk, ekonomisk, säkerhetsmässig eller personalrelaterad skada.
Idéer, struktur, språkförslag och interna utkast. Kräv mänsklig kontroll innan extern användning.
Kundmaterial, rapporter, policydokument, sammanfattningar och utbildningsinnehåll. Ange granskare.
Juridiska slutsatser, HR-beslut, medicinska råd, säkerhetsinstruktioner och känsliga personärenden.
Så bygger ni faktakoll i praktiken
Det räcker inte att skriva i policyn att “AI-svar ska kontrolleras”. Medarbetare behöver en rutin som går att använda i vardagen. Den bör vara enkel, rollbaserad och anpassad efter risk. En marknadsförare ska kunna granska produktpåståenden. En kundservicemedarbetare ska veta när en svarsmall måste kontrolleras mot avtal eller supportpolicy. HR och juridik ska ha tydliga stoppregler.
Anthropic rekommenderar bland annat att AI tillåts säga “jag vet inte”, att man ber om citat och källor, att relevant kontext tillhandahålls och att man testar output. NIST:s AI Risk Management Framework och generativa AI-profil pekar i samma riktning: risker behöver kartläggas, mätas, hanteras och styras, inte bara diskuteras abstrakt.
Säg vad AI ska och inte ska göra. Förbjud gissningar.
Be om öppningsbara källor, datum och citat.
Jämför mot avtal, systemdata, lagtext eller intern policy.
Låt rätt funktion godkänna gula och röda användningar.
Lägg återkommande användning i AI-registret.
En bra prompt kan också minska risken. Skriv till exempel: “Använd endast informationen i texten nedan. Om svaret inte finns i materialet, skriv ‘det framgår inte’. Markera alla antaganden. Ange vilken mening eller punkt i underlaget som stödjer varje slutsats.” Det gör inte svaret garanterat korrekt, men det gör felet lättare att upptäcka.
Exempel på policytext om AI-hallucinationer
Policytexten bör vara kort, konkret och kopplad till användningsfall. Undvik att bara skriva att “AI kan ha fel”. Skriv vad medarbetaren ska göra när AI kan ha fel.
Exempel: AI-genererade svar ska behandlas som utkast tills de har granskats. Medarbetare får inte använda AI-svar som ensamt underlag för kundlöften, juridiska bedömningar, HR-beslut, säkerhetsinstruktioner eller publicerade faktapåståenden. För material som skickas externt eller påverkar beslut ska källor, datum och originalunderlag kontrolleras. Om AI inte kan ange verifierbar källa eller om konsekvensen av ett fel är hög ska ärendet eskaleras till ansvarig funktion. Återkommande AI-användning i verksamhetsprocesser ska dokumenteras i AI-registret.
Exempel: säkrare prompt för faktakoll
Komplettera gärna med utbildning. AI Act artikel 4 handlar inte bara om en policy i en pärm, utan om faktisk AI-kunnighet. Medarbetare behöver känna igen risker, förstå begränsningar och veta när de ska fråga.
Checklista: innan ni litar på ett AI-svar
Använd checklistan som ett praktiskt stoppfilter. Om flera svar är “nej” eller “vet inte” bör AI-svaret inte användas utan mer granskning.
Kontrollpunkter
- Är syftet med AI-svaret tydligt?
- Är svaret baserat på en angiven källa eller bara på modellens allmänna kunskap?
- Går källorna att öppna och kontrollera?
- Finns datum på källan och är den aktuell?
- Har AI markerat antaganden och osäkerheter?
- Har någon jämfört svaret med originaldata, avtal, policy eller lagtext?
- Kan ett fel i svaret påverka kund, medarbetare, avtal, säkerhet eller regelefterlevnad?
- Finns ansvarig granskare för gula eller röda användningsfall?
- Är användningen dokumenterad i AI-registret om den återkommer?
- Finns instruktion för när medarbetaren ska stoppa och fråga?
Slutsatsen är enkel: AI-hallucinationer kan inte elimineras helt, men de kan hanteras. Gör AI till ett stöd i processen, inte en okontrollerad beslutsmotor. Bygg källkrav, faktakoll, rollgranskning och dokumentation direkt i arbetssättet.
Vill ni minska risken för felaktiga AI-svar?
Börja med AI-registret: dokumentera vilka verktyg och användningsfall som finns, vem som äger dem och vilka kontroller som krävs.