AI alignment

Engelsk term: AI alignment
Svensk term: Engelska "AI alignment" används direkt även på svenska. Översättningar som "AI-justering" eller "värdejustering" förekommer men är ovanliga.

Vad är AI alignment?

AI alignment handlar om att se till att AI-system agerar på ett sätt som överensstämmer med mänskliga värderingar, mål och intentioner. Om en AI inte är korrekt justerad kan den uppnå sina uppgifter på oväntade eller till och med skadliga sätt, även om den följer sina programmerade instruktioner.

Ursprung och källa

Norbert Wiener, 1960; Eliezer Yudkowsky populariserade begreppet under 2000-talet

Se även

AI-säkerhet
Hallucination (AI-hallucination)
Reward hacking

Läs mer

Anthropic: Core Views on AI Safety
Wikipedia: AI alignment

Nu kan du det här ordet.

Hur många fler har du koll på? Spela Ordkollen →