Bias (AI-bias)
Vad är Bias (AI-bias)?
AI-bias uppstår när ett AI-system ger orättvisa eller snedvridna resultat, ofta för att träningsdatan innehåller mänskliga fördomar eller är obalanserad. Inom AI kan detta leda till att system diskriminerar vissa grupper av människor, till exempel vid rekrytering eller kreditbedömning. Det går inte att 'rensa bort' bias bara genom att städa datan, eftersom skevheten ofta är inbäddad i samhället som datan kommer ifrån. Ett ökänt exempel är Amazons rekryterings-AI som lärde sig att rangordna kvinnor lägre, eftersom den tränades på tio års CV:n från en techbransch dominerad av män. Verktyget skrotades 2018.
Ursprung och källa
Diskussioner om algoritmisk bias sedan 1980-talet; brett känt sedan 2010-talet