Guardrails

Guardrails er de tekniske og indholdsmæssige begrænsninger, der er bygget ind i en AI-løsning for at forhindre den i at handle uden for sit formål, fx love penge tilbage den ikke må, bruge forkert tone eller dele følsomme data. De kan bestå af faste regler, tjek af output før det vises, og afgrænsning af, hvilke data modellen har adgang til.

For en webshop, der bruger AI i kundeservice eller på sitet, er guardrails det, der afgør, om løsningen kan stå alene uden konstant opsyn. Tommelfingerregel: test løsningen med bevidst provokerende eller ledende spørgsmål, før den går live, og lad den eskalere til et menneske, når den er i tvivl.