Guardrails
Vad är Guardrails?
AI Guardrails är säkerhetsmekanismer som ser till att AI-system fungerar säkert och inom fördefinierade gränser. Tänk på dem som räcken längs en motorväg: de hindrar bilen från att köra av vägen, men ibland gör de också att man får sakta in. De skyddar mot oönskade utfall som skadligt innehåll eller exponering av känslig data.
Skydden kan sitta på flera ställen. En del är inbyggda i själva modellen när den tränas, så att den till exempel vägrar förklara hur man tillverkar vapen. En del skrivs som instruktioner, till exempel en systemprompt som säger vad en kundtjänstbot får svara på och när den ska avbryta. Och en del är separata kontroller som granskar frågan innan den når modellen, eller svaret innan det når användaren. Instruktioner är enklast att lägga till men också lättast att lura, därför kombinerar man ofta alla tre.
Ett exempel som de flesta har mött är när en chattbot säger att den inte kan hjälpa till med en fråga. Då har ett räcke slagit till. Ofta gör det rätt, men räcken som är för hårt inställda stoppar också helt ofarliga frågor. Målet med bra guardrails är därför att stoppa rätt saker.
Ursprung och källa
Allmänt använd sedan framväxten av generativ AI
Se även
Läs mer
Nu kan du det här ordet.
Hur många fler har du koll på? Spela Ordkollen →