Etik, risk och säkerhet
Bias och fairness i AI
Bias är en systematisk skevhet: modellen behandlar konsekvent vissa fall annorlunda än andra, oftast därför att träningsdatan gjorde det. Fairness är frågan om vad som är ett rimligt utfall. Bias går att mäta. Fairness måste beslutas, och det är sällan tekniker som är rätt personer att göra det.
Vad bias förväxlas med
Hallucination. Modellen hittar på. Ett fel av annat slag: bias är systematiskt och förutsägbart, hallucinationer är det inte.
Åsikt eller politisk lutning hos ett verktyg. Närliggande men inte samma sak som statistisk skevhet i en modell.
Explainable AI. Att kunna förklara hur modellen kom fram till svaret. Ett verktyg för att hitta bias, inte samma sak som bias.
Var du möter bias och fairness
I rekrytering, kreditbedömning och prioritering av ärenden. Kort sagt överallt där en modell rangordnar människor.
Också i den vardagliga varianten: verktyget skriver bättre på engelska än på svenska, och formulerar sig som om alla vore i en amerikansk storstad.
Vad du kan göra med det
Ett verktyg utan mätbar bias kan ändå ge ett utfall ni inte kan stå för, och ett verktyg med bias kan vara fullt användbart för en uppgift där det inte spelar roll. Frågan är alltid vad det används till.
Vidare
Explainable AI om hur man tar reda på varför modellen svarade som den gjorde. AI och etik om skillnaden mellan tillåtet, beslutat och rätt. AI i HR om det område där bias slår hårdast. Se kurserna