Ablation
Vad är Ablation?
Ablation, eller en ablationsstudie, är en metod för att mäta vad en enskild del av ett AI-system faktiskt bidrar med, genom att ta bort den och jämföra resultatet med och utan. Det är som att skruva loss en del ur en maskin för att se om den fortsätter fungera lika bra utan, fast tillämpat på AI-modeller, agent-verktyg eller promptinstruktioner.
Termen kommer från neurovetenskapen, där ablation betyder att man tar bort eller skadar vävnad, till exempel i hjärnan, för att studera vilken funktion den hade. AI-pionären Allen Newell lånade in begreppet 1974 i en handledning om taligenkänning, med samma logik: ta bort en del av systemet och se vad som händer med helheten.
En praktisk tillämpning är att avgöra när en AI-skill (en instruktionsfil som lär en agent en specifik uppgift) är dags att pensionera. Kör samma uppgift med och utan skillen: presterar agenten lika bra eller bättre utan den har den underliggande modellen redan lärt sig det du en gång byggde in, och skillen gör mer nytta borttagen än kvarhållen. Ett konkret exempel: en ingenjör upptäckte genom en sådan ablation att en av hans skills faktiskt gjorde agenten sämre (77 procent rätt med skillen, mot 97 procent utan), just för att modellen numera klarade uppgiften bättre på egen hand.
Ursprung och källa
Allen Newell, 1974 (publicerad 1975)