V:
Zakaj DARPA raziskuje "razložljivo AI"?
A:Na splošno je razložljiva umetna inteligenca vse bolj napovedan del vrhunskega dela na področju podatkovnih znanosti. Pomaga pri vodenju človeškega nadzora nad prirojeno hlapno in dinamično vrsto tehnologije - razložljiv AI pomaga odgovoriti na številna naša kolektivna vprašanja o tem, kako bo delovala umetna inteligenca.
Če želite razumeti razložljivo AI, pomaga razumeti, kako izgleda "navadna AI". Ko se AI začne oblikovati, je tipičen projekt sestavljen iz domišljijske nove programske zmogljivosti, ki se skriva v algoritmih in učnikih ter linearni kodi, kar je nekakšen "blok box" za uporabnike. Vedo, da deluje - samo ne vedo točno, kako.
To lahko privede do "vprašanj zaupanja", pri katerih lahko uporabniki dvomijo o tem, na podlagi katere tehnologije odločajo. To je tisto, na kar naj bi se razlagal AI: Razložljivi projekti AI imajo dodatno infrastrukturo, da končnim uporabnikom prikažejo namero in strukturo AI - zakaj počne to, kar počne.
V dobi, ko vrhunski inovatorji, kot sta Bill Gates in Elon Musk, izražajo zaskrbljenost nad tem, kako bo delovala umetna inteligenca, se zdi razložljivo AI izjemno privlačno. Strokovnjaki trdijo, da bi lahko dobro razložljiv AI končnim uporabnikom pomagal razumeti, zakaj tehnologije počnejo tisto, kar počnejo, povečati zaupanje in tudi povečati enostavnost uporabe in uporabe teh tehnologij.
DARPA pa posebej pojasnjuje, zakaj se zanima za nove projekte. Na strani DARPA je razvidno, da ministrstvo za obrambo predvideva "hudournik" aplikacij za umetno inteligenco in nekaj razvoja kaosa v svojem razvoju.
"Nenehni napredek obljublja, da bo ustvaril avtonomne sisteme, ki bodo zaznavali, se učili, odločali in delovali po svoje, " piše David Gunning. "Vendar pa je učinkovitost teh sistemov omejena s sedanjo nezmožnostjo naprave, da bi svoje uporabnike razložil svojim odločitvam in dejanjem. … Razložljiva AI - še posebej razložljivo strojno učenje - bo bistvenega pomena, če bodoči bojevniki razumejo, ustrezno zaupajo in učinkovito upravljajo nastajajočo generacijo umetno inteligentnih partnerjev stroja. "
Gunsov spletni esej namiguje, da bodo razložljivi sistemi AI pomagali „utemeljiti“ tehnologije, prikazali njihove prednosti in slabosti ter naredili primere uporabe preglednejši. Grafični prikaz na strani prikazuje, kako bi izravnalni program umetne inteligence iz podatkov o vadbi dopolnil nekaj, kar imenujemo razložljiv model in razložljiv vmesnik, ki bo uporabniku pomagal odgovoriti na vprašanja. Gunning še nakazuje, da bo imel razlagalni program AI dve glavni področji osredotočenja - eno bi bilo presejanje večpredstavnostnih podatkov, da bi našli tisto, kar je uporabnikom koristno, drugo pa bi bilo simuliranje procesov odločanja za podporo odločanju.
DARPA upa, da bo zagotovila „orodje“, ki bo pripomoglo k razvoju prihodnjih sistemov AI, ki jih je mogoče razložiti.
