Rate limit

Et rate limit er en grænse for, hvor mange kald et system, fx en AI-model eller en betalingsudbyder, tillader inden for en given periode, før det begynder at afvise eller forsinke yderligere forespørgsler. Det er en teknisk beskyttelse mod overbelastning, men rammer også legitim brug, hvis grænsen sættes for lavt.

For en webshop, der bruger AI eller eksterne tjenester i høj volumen, fx til produktbeskrivelser eller en kundeservice-assistent, er det vigtigt at kende rate limits på forhånd og bygge løsningen, så den håndterer at blive afvist midlertidigt, i stedet for at fejle synligt for kunden i en travl periode som Black Friday.