Lahko zaupate AI? Bi morali sprejeti njene ugotovitve kot objektivno veljavne brez vprašanja? Težava je v tem, da tudi samo spraševanje o AI ne bi dalo jasnih odgovorov.
AI sistemi običajno delujejo kot črno polje: Podatki se vnašajo in podatki izhajajo, vendar so procesi, ki te podatke pretvorijo, skrivnost. To ustvarja dvojno težavo. Eno je, da ni jasno, kateri algoritmi so najbolj zanesljivi. Drugi je ta, da se na videz objektivni rezultati lahko izkrivijo vrednote in pristranskosti ljudi, ki programirajo sisteme. Zato je potrebna preglednost za navidezne miselne procese, ki jih takšni sistemi uporabljajo, ali "razložljiv AI."
Etični imperativ je postal pravni za vsakogar, za katerega velja GDPR, ki ne vpliva samo na podjetja s sedežem v EU, ampak na vsa podjetja, ki imajo tam opravka z ljudmi ali organizacijami. Vsebuje številne določbe o varstvu podatkov, ki se na državljane EU nanašajo na „pravico, da ni podvržen samo avtomatiziranemu odločanju, razen v določenih situacijah“ in „pravico, da se dobijo pomembne informacije o logiki, ki je vključena v odločitev. . "
