Menneske i loopet

Menneske i loopet er princippet om, at et menneske skal godkende eller have mulighed for at overstyre en AI-baseret beslutning, når konsekvensen ved en fejl er stor, fx ved automatiske svar til kunder, prisændringer eller ordrer over en vis størrelse. AI'en foreslår eller udfører, men et menneske har sidste ord eller kan gribe ind.

For en webshop er princippet en sikkerhed mod, at en enkelt AI-fejl for eksempel sender et forkert løfte om levering til hundredvis af kunder på én gang. En praktisk model er, at AI selv håndterer simple, lavrisiko-sager, mens alt, der involverer penge, klager eller undtagelser, altid går forbi et menneske, før det sendes eller udføres.