V:
Zakaj je strojno pristranskost težava pri strojnem učenju?
A:Na to vprašanje je mogoče odgovoriti na dva različna načina. Prvič, zakaj je težava strojne pristranskosti, kot v, zakaj obstaja v postopkih strojnega učenja?
Strojno učenje, čeprav je prefinjeno in zapleteno, je v določeni meri omejeno na podlagi podatkovnih nizov, ki jih uporablja. Izdelava nabora podatkov vključuje prirojeno pristranskost. Tako kot v medijih, kjer lahko opustitve in namerne izbire vključitve kažejo določeno pristranskost, je treba tudi pri strojnem učenju preučiti nabore podatkov, da se ugotovi, kakšna pristranskost obstaja.
| Prosti prenos: Strojno učenje in zakaj je pomembno |
Na primer, pri testiranju tehnologije in procesih oblikovanja je pogosta težava, da bi imeli prednost ene vrste uporabnikov pred drugo. En velik primer je neenakost med spoloma v tehnološkem svetu.
Zakaj je to pomembno in zakaj to velja za strojno učenje?
Ker pomanjkanje obstoječih samic v testnem okolju lahko privede do proizvedene tehnologije, ki je za uporabnike manj uporabna. Nekateri strokovnjaki to opisujejo tako, da brez obstoječih testiranj na ženskah končni izdelek morda ne prepozna vnosa žensk - morda ne bo imel orodij za prepoznavanje ženske identitete ali za ustrezno obravnavo ženskega vložka.
Enako velja za različne etnične pripadnosti, ljudi različnih veroizpovedi ali katero koli drugo demografsko vrsto. Brez pravih podatkov algoritmi strojnega učenja za določen uporabniški niz ne bodo delovali pravilno, tako da je treba podatke o vključevanju namerno dodati v tehnologijo. Namesto, da bi vzeli samo primarne naloge podatkov in okrepili prirojeno pristranskost, morajo ljudje, ki se ukvarjajo z ravnanjem z ljudmi, resnično preučiti težavo.
Drug primer je stroj za strojno učenje, ki sprejme informacije o delovnih mestih in plačah ter izpusti rezultate. Če ta inherentni niz podatkov ne bo analiziran, bo stroj okrepil pristranskost. Če zaznamo, da imajo moški veliko večino delovnih mest pri vodstvenih delavcih in postopek strojnega učenja vključuje filtriranje po surovem naboru podatkov in vračanje ustreznih rezultatov, bo vrnil rezultate, ki kažejo moško pristranskost.
Drugi del vprašanja vključuje, zakaj je ta pristranskost tako škodljiva. Brez ustreznega nadzora in testiranja lahko nove tehnologije škodijo našemu občutku vključenosti in enakosti, ne pa tudi pomagajo. Če bo predstavljen nov tehnološki izdelek, ki prepoznava obraze s svetlejšo kožo, ne pa temnejše kože, lahko to vodi do stopnjevane etnične napetosti in občutka, da zadevno podjetje ni občutljivo na raznolikost. Če algoritem strojnega učenja reproducira in povečuje pristranskost podatkovnih nizov, bo umetna inteligenca dodala svoj glas človeškim glasom in človeškim nagnjenjem, ki že obstajajo v družbenem sistemu, ki dajejo prednost eni skupini ljudi nad drugo.
Najboljši način za reševanje tega je natančen pregled temeljnih nizov podatkov, uporaba izbire funkcij, dodajanje spremenljivega vnosa in manipuliranje samih surovih nizov podatkov ter povečanje resnične moči strojnega učenja z namernim človeškim ustvarjanjem podatkov, da bi dobili rezultat, ki prinaša veliko analitične moči, pa tudi nekatere človeške vpoglede, ki jih računalniki še ne morejo ponoviti.
