Domov Zvok Kakšna so etična vprašanja v zvezi s strojnim učenjem?

Kakšna so etična vprašanja v zvezi s strojnim učenjem?

Anonim

V:

Kakšna so etična vprašanja v zvezi s strojnim učenjem?

A:

Etična vprašanja, povezana z strojnim učenjem, vključujejo ne toliko algoritmov strojnega učenja, temveč način uporabe podatkov.

Škandal Cambridge Analytica s Facebookom, kjer je politično svetovalno podjetje brez vednosti ali privolitve uporabnikov uporabljalo podatke s spletnega mesta družabnih omrežij, ponazarja veliko težav, povezanih z zbiranjem in uporabo podatkov uporabnikov. Medtem ko veliko licenčnih pogodb za končne uporabnike določa način uporabe podatkov uporabnikov, mnogi uporabniki družbenih medijev ne morejo prebrati drobnega tiska.

Prosti prenos: Strojno učenje in zakaj je pomembno

Druga težava je, da so ti algoritmi strojnega učenja morda "črne škatle", kjer je nemogoče videti, kako resnično delujejo. Morda je nemogoče vedeti, zakaj se je algoritem strojnega učenja odločil.

Eno področje strojnega učenja je postavljanje medicinskih diagnoz. Algoritem bi lahko preučil rentgenske žarke, da bi našel raka. Človeški zdravnik nam lahko razloži, zakaj so postavili diagnozo, vendar morda ne vemo, kako je algoritem strojnega učenja določil, ali ima bolnik raka ali ne.

Sprostitev programov strojnega učenja pod licencami odprtega koda je ena rešitev. Ko lahko ljudje pogledajo izvorno kodo programa, lahko vidijo, kako sprejema odločitve.

Druga težava je uporaba podatkov o strojnem učenju in morebitne pristranskosti. Obstajalo je več primerov rasnih in drugih pristranskosti, ki so jih nenamerno vključili v programe strojnega učenja. En algoritem je temnopolte opredelil kot gorile, drugi pa je spremenil obrazne lastnosti barvnih ljudi, da so videti bolj “evropske”, hkrati pa trdil, da jih polepšajo.

Eden od načinov za preprečevanje tega je več ljudi iz različnih okolij na področju AI.

Druga težava je varna uporaba strojnega učenja in umetne inteligence. AI in programi strojnega učenja lahko razvijejo vedenje, ki si ga ljudje ne bi želeli, na primer preprečevanje, da bi jih ljudje izključili.

Kakšna so etična vprašanja v zvezi s strojnim učenjem?