Model collapse (modellkollaps)
Vad är Model collapse (modellkollaps)?
Model collapse beskriver hur en AI-modell blir sämre när den huvudsakligen tränas på data som genererats av andra AI-modeller, istället för data skapad av människor. Modellen tappar variationen i sin kunskap över generationer, ungefär som när en kopia av en kopia av en kopia blir suddigare för varje gång. Fenomenet beskrevs i en uppmärksammad Nature-artikel 2024 och blir mer relevant när webben fylls av AI slop, vilket gör mänskligt skapad data alltmer värdefull.
Ursprung och källa
Ilia Shumailov m.fl. (Nature), 2024