Forklarlighed

Forklarlighed betyder noget, når en beslutning har konsekvenser: afvisning af en ordre, en pris, en kreditvurdering. Sprogmodeller kan begrunde deres svar, men begrundelsen er ikke nødvendigvis den faktiske årsag, og det skal man være ærlig om.

I praksis skaber vi forklarlighed omkring modellen i stedet for inde i den: vis hvilke kilder svaret bygger på, log input og output, og gør det muligt at spole tilbage og se, hvad systemet vidste, da det svarede.