LoRA

LoRA er en metode til at tilpasse en stor model uden at træne den forfra. I stedet for at opdatere alle modellens vægte indsættes små matricer ved siden af de eksisterende lag, og kun de bliver trænet. Resultatet er en fil på få megabyte, der lægges oven på grundmodellen og kan skiftes ud eller slås fra uden at røre modellen selv.

For en webshop er det relevant, når en model skal lære en bestemt tone, et bestemt format eller et visuelt udtryk, som en prompt ikke kan holde stabilt over tid. Det kræver eksempler af ordentlig kvalitet, ikke bare mange af dem. Prøv altid at løse opgaven med prompt og opslag i egne data først. Finjustering koster vedligehold, hver gang grundmodellen skiftes ud.