V:
Zakaj lahko podjetje ustavi AI projekt chatbot?
A:Podjetja bi lahko iz več razlogov ustavila projekte chatbota z umetno inteligenco, toda najverjetneje jih je mogoče razvrstiti v par kategorij. Prvič, podjetja lahko izklopijo tehnologije chatbotov, če delujejo na način, ki bi družbi lahko naredil neprijetno, kot je na primer spodbujanje neupravičenega govora. Podjetja lahko prekinejo projekt chatbota, če začne izkazovati čustvo in sposobnost, ki jih bodisi ni mogoče enostavno nadzorovati, bodisi lahko predstavljajo kakršno koli morebitno grožnjo javnemu zdravju in varnosti.
Oba scenarija imamo dokumentirana v novejši zgodovini. Microsoftov eksperiment s Tatovim klepetalnico se je končal, ko je Tay začel prevzeti nekatere najhujše lastnosti svojih človeških kolegov - rasistične in agresivne komentarje ter na splošno nasprotujoče si dejavnosti, od katerih se je večina jasno naučila ali celo parotirala neposredno od uporabnikov.
V zelo drugačni študiji primerov je bila nastavitev chatbota, ki jo je sprožil Facebook, zaustavljena, ko so znanstveniki opazovali dve chatboti, ki sta medsebojno komunicirali na način, ki je bil nekoliko izključen za človekovo opazovanje. Obstaja trditev, da so subjekti za klepet začeli "govoriti v nekakšni kodi", ki je bila zanje bolj priročna in manj pregledna za njihove ljudi. To je primer tiste zelo resnične skrbi glede umetne inteligence na splošno - da moramo ljudje, ko se zelo krepimo pri napredovanju močne umetne inteligence, vsebovati in nadzorovati kakršne koli primere izvajanja AI, da ne bi prešli meje. Obstaja veliko etičnih pomislekov in varnostnih vprašanj, ki jih je treba reševati z močno umetno inteligenco, in to je eden od glavnih razlogov, da bodo nekateri klepeti ali drugi projekti umetne inteligence v prihodnosti lahko ustavili zainteresirane strani, ki so zgradile in jih podpiral skozi določen postopek.
