V:
Zakaj nekatere skrbi umetna inteligenca?
A:Sprememba ni enostavna in mnogi se ji težko prilagajajo. To še posebej velja za tehnološke spremembe. Ugledni profesor s Harvarda Calestous Juma je napisal knjigo na temo "Inovacije in njeni sovražniki: zakaj se ljudje upirajo novim tehnologijam." Knjiga opisuje napetost med inovacijami in družbenim redom, ki temelji na 600-letni zgodovini. Vpliv tehnologije je še posebej moten, če gre za umetno inteligenco.
Niso vsi škodljivi tem napredkom. Ray Kurzweil, avtor knjig "Singularnost je blizu" in "Doba duhovnih strojev", ni nič drugega kot evangelist, ki promovira prednosti genetike, nanotehnologije in robotike (izraz, ki se uporablja za nebiološko inteligenco). Toda to sta ista vprašanja - in Kurzweil ista oseba -, ki sta leta 2000 povzročila veliko zaskrbljenost za Billa Joyja, glavnega znanstvenika pri Sun Microsystems.
Joy je o svojih težavah pisal v zdaj že znanem članku revije Wired z naslovom "Zakaj nam prihodnost ne potrebuje." Verjel je, da je ogrožena prihodnost človeške rase. Joy je v zvezi s konkurenco evolucijske zgodovine zapisal: "Biološke vrste skoraj nikoli ne preživijo srečanj z nadrejenimi tekmeci." Na misel mi prihajajo vizije distopijske prihodnosti.
Predpostavimo, da lahko znanstveniki razvijejo stroje z umetno nadinteligenco (ASI), stopnjo inteligence, višjo od človeške. Joy pravi, da se lahko zgodi ena od dveh stvari: ali bodo stroji lahko sami sprejemali svoje odločitve, ali pa bodo ljudje nad njimi ohranili nadzor. Kaj se zgodi, če motor predate moči? Kakšni bi lahko bili rezultati?
Bill Joy ni edini, ki izraža zaskrbljenost. Tehnični guru Elon Musk je dejal: "Z umetno inteligenco prikličemo demona." To je poimenoval "naša največja eksistencialna grožnja." Fizik Stephen Hawking je udeležencem na tehnološki konferenci dejal, da "ne moremo vedeti, ali nam bo AI neskončno pomagal, ali ga ignorira in stransko obloži, ali pa ga utegne uničiti. "In rekel je za revijo Wired:" Bojim se, da bi AI lahko v celoti nadomestil ljudi. "
So ti strahovi upravičeni? Znanstveni filmi, kot je "Transcendenca", kjer lik Johnnyja Deppa povezuje umetno inteligenco in pustoši, spominjajo na Kurzweilove napovedi, kako bi se ljudje lahko stopili s stroji. Domišljije divjajo o vseh načinih, kako bi umetna inteligenca lahko šla narobe. Kaj se zgodi, ko stroji prevzamejo nadzor?
Dva primera iz resničnega življenja ponazarjata, kako je skrb za umetno inteligenco morda razumljiva. Leta 2007 je z robotskim topom ubil devet ljudi in ranil 14. Nekateri napredno vojaško orožje samodejno izberejo svoje tarče, a počakajo, da človek sproži sprožilec. Kdo je odločal tukaj? Leta 2016 je 300-kilogramski varnostni robot strmoglavil in naletel na šestnajstmesečnega malčka. Kdo je imel v tem primeru nadzor: človek ali stroj?
Razlog, da nekatere ljudi skrbi umetna inteligenca, je, da so tveganja resnična. Naslednje vprašanje: Kako bomo obvladali ta tveganja?
