Virksomheten har ansvaret for KI-hallusinasjoner i egen kundeservice. Chatboten er ikke en egen juridisk person, og det den sier, regnes som virksomhetens egne opplysninger. Overfor forbrukere kan feil svar gi mangelskrav, og villedende svar kan bryte markedsføringsloven. En ansvarsfraskrivelse i chatvinduet hjelper lite.
En kunde spør chatboten på nettsiden om hun kan få refusjon. Chatboten svarer ja og viser til en ordning som ikke finnes. Kunden handler i tillit til svaret og krever senere pengene tilbake. Spørsmålet er hvem som har ansvaret, og svaret er nesten alltid virksomheten.
Hva er KI-hallusinasjoner?
KI-hallusinasjoner er uriktige opplysninger som en språkmodell presenterer som fakta, med samme sikre tone som korrekte svar. Det kan være priser, vilkår, frister eller rettigheter som ikke stemmer. Modellen vet ikke selv at den tar feil, og varsler sjelden at den gjetter.
I kundeservice er risikoen særlig stor, fordi chatboten svarer på vegne av virksomheten, i sanntid og uten at et menneske ser svaret før kunden gjør det.
Er virksomheten ansvarlig for det chatboten sier?
Ja, som hovedregel. Chatboten er et verktøy virksomheten selv har valgt å bruke i sin kundekommunikasjon. Det den sier, regnes som virksomhetens egne opplysninger, på samme måte som tekst på nettsiden eller svar fra en ansatt.
Den mest kjente saken er Moffatt v. Air Canada fra februar 2024. Air Canadas chatbot fortalte en kunde at han kunne søke om sorgrabatt i etterkant av reisen, noe flyselskapets egne regler ikke tillot. Air Canada anførte at chatboten var en egen juridisk enhet med ansvar for egne handlinger. Tvisteløsningsnemnda i British Columbia avviste dette og fant at selskapet var ansvarlig for all informasjon på nettsiden, enten den kom fra en statisk side eller fra en chatbot. Kunden fikk dekket prisforskjellen.
Chatboten er ikke en egen juridisk person. Det den sier, sier virksomheten.
Saken er kanadisk og avgjort etter kanadisk rett. Det finnes per i dag ingen tilsvarende norsk avgjørelse. Resultatet samsvarer likevel godt med norske kontrakts- og erstatningsrettslige prinsipper, og det er vanskelig å se at en norsk domstol ville komme til et annet resultat på tilsvarende faktum.
Hvilke regler gjelder når kunden er forbruker?
Overfor forbrukere er rettsstillingen klarest, og virksomhetens handlingsrom minst.
| Regel | Hva den betyr for feil svar fra chatboten |
|---|---|
forbrukerkjøpsloven § 16 første ledd bokstav c |
Varen har en mangel hvis den ikke svarer til opplysninger selgeren har gitt i markedsføringen eller ellers |
forbrukerkjøpsloven § 3 |
Reglene kan ikke fravikes til skade for forbrukeren |
markedsføringsloven § 7 |
Uriktige opplysninger om pris, egenskaper eller forbrukerens rettigheter kan være villedende handelspraksis |
markedsføringsloven § 42 |
Vesentlige brudd kan gi overtredelsesgebyr |
Opplysninger fra chatboten om en vare er opplysninger selgeren har gitt «ellers». Lover chatboten en egenskap varen ikke har, kan kunden gjøre gjeldende mangelskrav, som retting, prisavslag, heving eller erstatning. Selgeren går bare fri hvis opplysningen ble rettet før kjøpet på samme eller tilsvarende måte, eller ikke kan ha virket inn på kjøpet.
Gir chatboten systematisk feil opplysninger om pris, angrerett eller reklamasjonsrett, kan det også være villedende handelspraksis. Forbrukertilsynet kan da treffe vedtak om forbud, tvangsmulkt og overtredelsesgebyr etter markedsføringsloven § 39.
Hva gjelder når kunden er en annen virksomhet?
Mellom næringsdrivende er reglene i større grad fravikelige, men utgangspunktet er det samme. Etter kjøpsloven § 18 gjelder reglene om mangler også når tingen ikke svarer til opplysninger selgeren har gitt i markedsføringen eller ellers, og som kan antas å ha virket inn på kjøpet.
Ved tjenester og programvare finnes det ingen tilsvarende lovregel, men et uriktig svar fra chatboten kan likevel få betydning for hva som er avtalt, eller gi grunnlag for erstatning etter ulovfestede regler. Hvor langt ansvaret går i slike tilfeller, er ikke avklart i norsk rettspraksis.
Hjelper det å skrive at chatboten kan ta feil?
Lite, særlig overfor forbrukere. Et forbehold i chatvinduet kan ikke frata forbrukeren rettigheter etter forbrukerkjøpsloven, og det endrer ikke at villedende opplysninger kan bryte markedsføringsloven. Overfor næringskunder kan et forbehold ha noe større vekt, men en generell fraskrivelse av ansvar for egne opplysninger kan settes til side etter avtaleloven § 36 dersom det vil virke urimelig å gjøre den gjeldende.
Et forbehold er likevel ikke verdiløst. Det kan redusere kundens berettigede tillit til svar om forhold chatboten åpenbart ikke kan avgjøre, som individuelle avtaler eller unntak fra vilkårene.
Hva sier KI-forordningen?
KI-forordningen art. 50 nr. 1 pålegger leverandører av KI-systemer som samhandler med mennesker, å sørge for at brukerne får vite at de kommuniserer med et KI-system. Plikten gjelder i EU fra 2. august 2026.
I Norge gjelder forordningen ennå ikke. Den må først innlemmes i EØS-avtalen og gjennomføres i norsk lov. Regjeringen tar sikte på ny høring høsten 2026 og en lovproposisjon våren 2027. Åpenhetsplikten regulerer uansett bare at kunden skal vite at det er en chatbot. Den fritar ikke virksomheten for ansvar for det chatboten sier.
Hvordan begrenser virksomheten risikoen?
- Begrens kunnskapsgrunnlaget. La chatboten svare ut fra godkjente kilder som vilkår, prislister og hjelpesider, ikke fra modellens generelle kunnskap.
- Sett klare grenser. Chatboten skal ikke love refusjon, rabatt, kompensasjon eller unntak fra vilkårene. Slike spørsmål sendes videre til et menneske.
- Test før lansering og løpende. Still de spørsmålene kundene faktisk stiller, også de vanskelige, og kontroller svarene.
- Logg samtalene. Logger gjør det mulig å avdekke feil, rette dem og dokumentere hva som faktisk ble sagt. Husk personvernreglene når logger lagres.
- Forhandle leverandøravtalen. Krev kvalitet, testing, varsling av endringer i modellen og et ansvar som står i forhold til risikoen. Se hva som er realistisk i artikkelen om ansvarsbegrensning i SaaS-avtaler.
- Gi én person ansvaret. Noen i virksomheten må eie chatboten på samme måte som de eier nettsiden. Tydelige KI-retningslinjer for ansatte gjør rollene klare, og styret bør etterspørre kontrollen, se styrets ansvar for KI.
KI-hallusinasjoner kan ikke fjernes helt, men risikoen kan styres. Virksomheter som behandler chatboten som en ansatt i kundeservice, med opplæring, instrukser og kontroll, står langt sterkere enn de som behandler den som et teknisk verktøy uten eier. Les også om vibe lawyering og risikoen ved KI-skrevne kontrakter og pilarsiden om kunstig intelligens.
Spørsmål og svar
Kan vi skrive i chatvinduet at svarene ikke er bindende?
Det kan dere, men det hjelper lite. Overfor forbrukere kan forbrukerkjøpsloven ikke fravikes til forbrukerens skade, og et generelt forbehold endrer ikke at villedende opplysninger kan bryte markedsføringsloven. Forbeholdet bør kombineres med tekniske begrensninger i hva chatboten kan svare på.
Kan vi kreve tapet dekket av KI-leverandøren?
Bare hvis avtalen gir grunnlag for det. Standardvilkårene til de store leverandørene begrenser som regel ansvaret sterkt. Krav om kvalitet, testing, logging og ansvar må derfor forhandles inn før avtalen signeres.
Må vi opplyse kundene om at de snakker med en chatbot?
I EU gjelder plikten i KI-forordningen art. 50 fra 2. august 2026. I Norge er forordningen ennå ikke gjennomført, men åpenhet anbefales uansett. Det kan også være villedende etter markedsføringsloven å gi inntrykk av at kunden snakker med et menneske.
Neste faglige kontroll: 1. april 2027