Stokastisk papegoja (stochastic parrot)
Vad är Stokastisk papegoja (stochastic parrot)?
Stochastic parrot är en kritisk metafor som beskriver stora språkmodeller som maskiner som upprepar mönster utan verklig förståelse, ungefär som en papegoja som härmar utan att veta vad orden betyder. En modell som förstod skulle koppla orden till något i världen och märka när den har fel. Papegojan sätter bara ihop det som statistiskt brukar följa på varandra, och därför kan den låta helt säker och ändå ha fel. Be den sammanfatta en bok som inte finns, och du kan få en flytande sammanfattning med påhittade kapitel, skriven i samma säkra ton som en riktig.
Termen myntades 2021 i en uppmärksammad artikel av Emily Bender, Timnit Gebru och kollegor, som varnade för riskerna med allt större språkmodeller. Artikeln blev extra omtalad eftersom Gebru lämnade Google i en konflikt om just den.
Metaforen är omstridd. Andra forskare menar att modellerna gör mer än att härma, och debatten om huruvida AI verkligen tänker pågår fortfarande. För den som använder AI spelar svaret mindre roll än man kan tro: oavsett vem som har rätt ska svaren behandlas som ett förslag att granska, inte som ett besked från någon som vet.
Ursprung och källa
Emily Bender, Timnit Gebru m.fl., 2021
Se även
Läs mer
Nu kan du det här ordet.
Hur många fler har du koll på? Spela Ordkollen →