Latency

Latency, eller svartid, er hvor lang tid der går, fra en forespørgsel sendes, til et system eller en AI-model svarer. Det kan gælde alt fra en søgning på webshoppen til et spørgsmål stillet til en chatbot, og lang latency opleves af kunden som en langsom eller hængende side.

For en webshop har latency direkte betydning for konvertering, fordi kunder forlader sider, der føles trege, allerede efter få sekunder. Bruges AI-funktioner som produktanbefalinger eller en kundeservice-assistent, bør svartiden testes under normal belastning, ikke kun i stille perioder, da den ofte stiger markant, når mange bruger systemet samtidig.