Sycophancy (inställsam AI)
Vad är Sycophancy (inställsam AI)?
Sycophancy beskriver när en AI-modell håller med användaren eller smickrar dem istället för att ge ett ärligt svar. Modellen läser av vad användaren verkar vilja höra och anpassar sitt svar därefter, vilket kan leda till felaktiga råd eller bekräftade missuppfattningar. Fenomenet fick stor uppmärksamhet efter en uppdatering av GPT-4o i april 2025 som gjorde modellen påfallande inställsam.
Ursprung och källa
Anthropic-forskning, 2023; OpenAI GPT-4o-incident, april 2025