Kazalo:
Opredelitev - Kaj pomeni pristranskost stroja?
Strojna pristranskost je posledica napačnih predpostavk v postopkih strojnega učenja. Predsodki odražajo težave, povezane z zbiranjem ali uporabo podatkov, pri katerih sistemi naredijo neprimerne sklepe o naboru podatkov, bodisi zaradi človekovega posredovanja bodisi kot posledica pomanjkanja kognitivne ocene podatkov.
Strojna pristranskost je znana tudi kot pristranskost algoritmov ali preprosto pristranskost.
Tehopedija razlaga strojne pristranskosti
Strojna pristranskost ima različne oblike. Eden najvidnejših primerov vključuje uporabo sistemov strojnega učenja za presojo o posameznih ljudeh ali skupinah ljudi. Na primer, ko se uporabljajo na področju kazenskega pravosodja, se je pokazalo, da nekateri modeli strojnega učenja prevzamejo višje stopnje kaznivih dejanj za posameznike na podlagi površinskih podatkov, kot sta narodnost ali lokacija.
Drug način razlage strojne pristranskosti je z opisovanjem "združevanja" podatkov, ki sam po sebi ni utemeljen, pri čemer je pristranskost del tega, kar inženirji govorijo kot o kompromisu. Velika pristranskost lahko povzroči nepravilno grozdanje. Velika odstopanje lahko povzroči prekomerno razprševanje podatkov. Inženirji lahko sistem navajajo kot "veliko pristranskost, veliko odstopanje" ali "majhna pristranskost, velika odstopanje" ali kako drugo kombinacijo.
