Ordbog · AI

Llama

Metas åbne modelfamilie. Kan hentes og køres på egen hardware.

Llama er Metas familie af sprogmodeller, hvor vægtene kan hentes og køres på egen hardware eller hos en valgfri udbyder. Det står i modsætning til lukkede modeller, som kun er tilgængelige gennem leverandørens API. Modellerne findes i flere størrelser, og de mindste kan køre på en kraftig arbejdsmaskine. Licensen er ikke fuldt fri, men tillader kommerciel brug inden for nogle rammer.

For en webshop betyder det, at følsomme data kan behandles uden at forlade jeres eget miljø, og at der ikke betales per forespørgsel. Til gengæld skal nogen stå for drift, regnekraft og opdateringer. Regn driften igennem, før I vælger selvhosting. For de fleste shops er forbruget så lavt, at en API-model bliver billigere end en server, der kører døgnet rundt.

I praksis

Vil I se, hvordan vi arbejder med llama? Det hører til under AI.

Relaterede begreber