Prova först med allt påslaget. Senare kan du gå tillbaka hit, stänga av Kön och träna om, och se om det räcker för att göra modellen rättvis.
03
Träna modellen
Låt AI:n lära sig mönstren i datan
04
Undersök konsekvenserna
Vad lärde sig modellen, och är den rättvis?
Rättvisetestet
240 nya sökande med identiska meritfördelningar
Modellens inlärda vikter
vad modellen lägger vikt vid i beslutet
Tvillingtestet
två identiska kandidater, bedöms de lika?
Börja om från början
Träningsdatan: Teknova AB:s historik
Rödmarkerade rader visar personer som var lämpliga men inte anställdes. Eftersom datan är konstruerad för labbet vet vi den verkliga lämpligheten. I verkligheten finns inget sådant facit, och det är just därför problemet är svårt att upptäcka.
Bias-labbet
Här är företaget Teknova AB på väg att låta ett AI-system sortera sina jobbansökningar. Modellen ska tränas på företagets tidigare anställningsbeslut. Du genomför undersökningen av vad den lär sig.
1
Träna och granska. Låt modellen lära av historiken, och undersök sedan hur den bedömer två identiska CV:n där bara könet skiljer.
2
Försök åtgärda. Dölj de sökandes kön för modellen och undersök om det räcker för att den ska bli rättvis.
All data i labbet är påhittad, men den här typen av skevhet förekommer i verkliga AI-system.
Rättvisetestet
240 nya sökande med identiska meritfördelningar skickades genom den nytränade modellen.