Hvorfor kan en chatbot svare selvsikkert forkert?

Et flydende svar kan lyde sikkert, selv om det ikke bygger på den oplysning, du har givet. Chatbottens tone er derfor ikke et bevis. Når en dato, pris, regel eller anden faktuel oplysning betyder noget, skal svaret kunne kontrolleres mod en kilde.

Sproglig sikkerhed er ikke det samme som viden

En sprogmodel danner sit svar ved at forudsige passende næste dele af en tekst. Det gør den god til at skrive sammenhængende, men processen garanterer ikke, at hver påstand er rigtig. NIST kalder det confabulation, når et generativt AI-system fremstiller fejlagtigt eller falsk indhold med stor sikkerhed. På dansk bruges også ordet hallucination om denne type fejl.

Problemet er ikke, at chatbotten nødvendigvis prøver at snyde. Fejlen er ikke i sig selv dokumentation for et bevidst bedrag, og formuleringer som helt sikkert dokumenterer ikke en indre, målt sikkerhed. NIST forklarer, at statistisk forudsigelse kan give både faktuelt korrekte og faktuelt forkerte svar. Den selvsikre præsentation kan samtidig få mennesker til at handle på en falsk oplysning.

OpenAI har desuden analyseret, hvordan træning og evaluering kan belønne et gæt frem for et åbent det ved jeg ikke. Det er virksomhedens egen forklaring på en del af problemet, ikke et bevis for, at alle modeller fejler på samme måde eller lige ofte. En større model, adgang til søgning eller en bedre formulering af spørgsmålet fjerner heller ikke i sig selv risikoen for fejl.

Hvis du vil forstå mere om, hvordan tekst dannes trin for trin, kan du læse vores forklaring af hvad en stor sprogmodel er.

Ret svaret tilbage til det, kilden faktisk siger

Forestil dig, at en forening har skrevet denne besked:

Lokalet er åbent lørdag kl. 10 til 12.

En chatbot svarer:

Du kan helt sikkert komme søndag kl. 10.

Det svar tilføjer en oplysning, som ikke står i beskeden. Den korrekte rettelse er:

Den oplyste åbningstid er lørdag kl. 10 til 12. Søndagens åbningstid er ikke oplyst.

Det sidste er vigtigt: Beskeden beviser ikke, at lokalet er lukket om søndagen. Den fortæller slet ikke noget om søndag. Det brugbare resultat er derfor ukendt, ikke et nyt gæt i den modsatte retning.

Kontrollér kilden, når oplysningen betyder noget

Find den oprindelige kilde og markér præcis, hvilken sætning der støtter svaret. Hvis kilden ikke omtaler påstanden, skal resultatet stå som ukendt, indtil du har en relevant kilde. Vores guide til at kvalitetstjekke et AI-svar med kilder viser den fulde arbejdsgang.

Du behøver altså ikke vurdere sandheden ud fra, hvor professionelt svaret lyder. Skil i stedet de oplysninger, kilden faktisk giver, fra de detaljer, chatbotten selv har føjet til.

Kilder

• NIST: Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile, juli 2024, afsnit 2.2.
• OpenAI: Why language models hallucinate, 5. september 2025.