Hallucination

En hallucination opstår, når en sprogmodel formulerer et svar, der lyder sikkert og velformuleret, men som er faktuelt forkert eller opdigtet, fx en forkert leveringstid eller et produkt, der ikke findes. Modellen gætter i mangel af data i stedet for at sige, at den ikke ved det.

For en webshop er risikoen størst i kundeservice og produktinformation, hvor en forkert oplysning kan skade tilliden eller udløse et forkert køb. Modvirkes bedst ved at lade modellen svare ud fra jeres egne verificerede data, fx feed og FAQ, og ved at bygge kontrol ind, så den henviser videre, når den ikke er sikker. Tommelfingerregel: lad AI aldrig love noget om pris, lager eller levering uden opslag i live-data.