Ordbog · AI
Bias
Systematisk skævhed i en models svar, som stammer fra skævheder i træningsdata eller i den måde, opgaven er stillet på.
Bias viser sig i praksis som svar, der konsekvent favoriserer bestemte formuleringer, sprog eller produkter. I e-handel ses det ofte i anbefalinger, hvor populære varer bliver endnu mere populære, fordi modellen lærer af klik.
Det håndteres ved at måle: er fordelingen af anbefalinger rimelig på tværs af sortimentet, og rammer klassifikatoren lige godt på alle varegrupper. Når skævheden er målt, kan den korrigeres i data eller i reglerne omkring modellen.
I praksis
Vil I se, hvordan vi arbejder med bias? Det hører til under AI.
Relaterede begreber