Generativ AI och språkmodeller

LLM

Engelsk term
LLM (Large Language Model)
Svensk term
LLM (stor språkmodell). Förkortningen LLM används oftast även på svenska. Synonymen "språkrobot" finns men är ovanlig.

Vad är LLM?

En LLM (large language model, eller stor språkmodell på svenska) är en typ av AI tränad på enorma mängder text. Den kan förstå, skriva och bearbeta mänskligt språk på ett sätt som liknar hur vi själva kommunicerar. ChatGPT och Claude är två välkända tjänster som bygger på stora språkmodeller.

Flödesbild där meningen "Katten satt på" går in i en språkmodell, som ger sannolikheter för tre möjliga nästa ord: mattan, taket och bordet. Det mest sannolika ordet läggs till meningen och en pil leder tillbaka till början.
Svaret byggs ett ord i taget. Varje nytt ord läggs till texten och blir en del av underlaget för nästa val. Siffrorna är påhittade, och i verkligheten väljer modellen mellan tiotusentals tokens.

Modellen skriver sitt svar en token i taget, ungefär ett ord eller en del av ett ord. För varje steg räknar den ut vilka fortsättningar som är mest sannolika utifrån allt som står före, väljer en av dem, lägger till den och börjar om. Det betyder inte att den bara tänker ett ord framåt. Den kan till exempel bestämma vilket ord en rad ska rimma på innan den skriver sig fram dit.

Därför fungerar själva modellen inte som en sökmotor. En sökmotor letar upp sidor som redan finns, medan språkmodellen formulerar ett nytt svar som låter troligt. Oftast stämmer det, men när modellen saknar kunskap skriver den lika flytande och säkert ändå.

Ursprung och källa

Google ('Attention Is All You Need', 2017); OpenAI (GPT-2, 2019; ChatGPT, 2022)

Se även

Läs mer