💡 Prova först med allt påslaget. Senare kan du gå tillbaka hit, stänga av Kön och träna om – och se om det räcker för att göra modellen rättvis.
03
Träna modellen
Låt AI:n lära sig mönstren i datan
04
Undersök konsekvenserna
Vad lärde sig modellen – och är den rättvis?
Rättvisetestet
240 nya sökande med identiska meritfördelningar
Modellens inlärda vikter
vad modellen lägger vikt vid i beslutet
Tvillingtestet
två identiska kandidater – bedöms de lika?
Börja om från början
📋 Träningsdatan – Teknova AB:s historik
Rödmarkerade rader = personer som var lämpliga men inte anställdes. Eftersom datan är konstruerad för labbet vet vi den "verkliga lämpligheten" – i verkligheten finns inget sådant facit, och det är just det som gör problemet svårt att upptäcka.
Bias-labbet
En AI lär sig av data. Men vad händer när datan speglar gamla orättvisor? Här får du själv genomföra undersökningen – steg för steg – och se hur diskriminering kan smyga sig in i ett AI-system.
01
Träna och granska – Låt modellen lära av historiken. Se sedan vad den lärt sig, hur den bedömer nya sökande och vad den svarar på två identiska CV:n där bara könet skiljer.
02
Försök åtgärda – Gå tillbaka, dölj de sökandes kön för modellen och undersök om det räcker för att den ska bli rättvis.
💡 All data i labbet är påhittad, men den här typen av skevhet förekommer i verkliga AI-system.
Rättvisetestet
240 nya sökande med identiska meritfördelningar skickades genom den nytränade modellen.