Generativ AI och språkmodeller
LLM
Vad är LLM?
En LLM (large language model, eller stor språkmodell på svenska) är en typ av AI tränad på enorma mängder text. Den kan förstå, skriva och bearbeta mänskligt språk på ett sätt som liknar hur vi själva kommunicerar. ChatGPT och Claude är två välkända tjänster som bygger på stora språkmodeller.
Modellen skriver sitt svar en token i taget, ungefär ett ord eller en del av ett ord. För varje steg räknar den ut vilka fortsättningar som är mest sannolika utifrån allt som står före, väljer en av dem, lägger till den och börjar om. Det betyder inte att den bara tänker ett ord framåt. Den kan till exempel bestämma vilket ord en rad ska rimma på innan den skriver sig fram dit.
Därför fungerar själva modellen inte som en sökmotor. En sökmotor letar upp sidor som redan finns, medan språkmodellen formulerar ett nytt svar som låter troligt. Oftast stämmer det, men när modellen saknar kunskap skriver den lika flytande och säkert ändå.
Ursprung och källa
Google ('Attention Is All You Need', 2017); OpenAI (GPT-2, 2019; ChatGPT, 2022)
Se även
Läs mer
Nu kan du det här ordet.
Hur många fler har du koll på? Spela Ordkollen →