V:
Ali lahko AI zazna svojo spolno ali politično usmerjenost samo tako, da pogleda svoje slike z obraznim prepoznavanjem?
A:Skratka: Ja, lahko, in še boljši so kot ljudje pri tem. Glede na zelo pretresljivo študijo z univerze Stanford slike človeških obrazov vsebujejo veliko informacij, ki jih človeški možgani preprosto ne morejo obdelati, umetna inteligenca pa lahko. Po njihovi raziskavi je globoka nevronska mreža lahko razlikovala med geji in heteroseksualnimi moškimi v 81 odstotkih primerov in v 74 odstotkih primerov žensk v primerjavi z le 61 odstotki moških in 54 odstotkov žensk za človeške sodnike. Če bi algoritem imel najmanj pet slik osebe za pregled, se je odstotek uspeha povečal na 91 oziroma 83 odstotkov.
AI ni le mogel razlikovati nekaterih "netipičnih" spolov značilnosti, kot so stil nege in modne izbire, stroj je v svojih obraznih potezah določil tudi nekatere posebne fenotipske lastnosti, na primer geji, ki imajo ožje čeljusti, večja čela in daljše nosove. Ne glede na potencialne posledice tega odkritja (na primer ideja, da je usmeritev spola morda povezana z nekaterimi genetskimi značilnostmi), je zelo zastrašujoče, kako škodljive bi bile lahko aplikacije te tehnologije. Na primer, lahko bi ga uporabile vlade, ki preganjajo LGBT osebe, da jih "pregledajo", ali pa preprosto kršijo zasebnost neštetih uporabnikov za vse vrste zlonamernih namenov - usmerjeni marketing je najmanj zlo od vseh.
Še bolj neprijetno pa je, da so podobne tehnologije že na voljo in se že uporabljajo. AI lahko zazna veliko več kot samo spolnost, če pogleda sliko človeškega obraza: lahko zazna čustva, IQ in celo politične preference. Podobne tehnologije psihometričnega profiliranja na AI so bile uporabljene za črpanje podatkov iz Facebook profilov in sklepanje o osebnih željah in izbiri življenjskega sloga. Tako bodo volivci videli samo določeno podmnožico usmerjenih političnih oglasov, ki bi lahko neupravičeno usmerjali njihove politične odločitve.
Ustvarjalec tega eksperimenta, psiholog Michal Kosinski, je izrazil zaskrbljenost zaradi možnih tveganj, če bi to tehnologijo uporabili v zle namene, do te mere, da sta skupaj s svojo ekipo porabila veliko časa za razmislek, ali naj bodo rezultati sploh objavljeni. Politično svetovalno podjetje Cambridge Analytica je v resnici domnevno uporabljalo informacije, zbrane s družbenih omrežij, za prikazovanje oglasov, ki so vplivali na ameriške predsedniške volitve leta 2016, in morda celo na britansko kampanjo Brexit. Glede na tekočo preiskavo je ogromna vojska botov začela širiti številne natančno usmerjene lažne novice o Hillary Clinton, da bi usmerila njene potencialne volivce v glasovanje za Donalda Trumpa. Mnogi od teh oglasov so nastali na kraju samem z inteligentnimi algoritmi, da bi se ljudem prikazovali med večjimi dogodki ali volilnimi razpravami. AI je merila tudi odzive ljudi, da bi okrepila njihovo učinkovitost pri vplivanju na Clintonove volivce, ker so verjeli, da je huda in ustrahovana oseba.
Po škandalu je bila agencija zaprta, vendar podobne tehnologije še vedno obstajajo in jih je še vedno mogoče uporabljati zlonamerno. Kosinski je mnogo govorov opozarjal na to tveganje že veliko pred škandalom, vendar človeške narave žal ni mogoče spremeniti. V neobjavljenem eksperimentu je trdil, da je njegov AI lahko ločil obraze republikancev in demokratov, čeprav je priznal, da bi brade lahko spremenile. Torej, za vse teoretike zarote (in ljudi, ki so varni do zasebnosti), tukaj je velik namig - če želite preprečiti, da bi vlada pokradla v vaše zasebno življenje, samo gojite brado. Ogromen, če je le mogoče.
