Može li umjetna inteligencija u budućnosti nadvladati čovjeka?

U emisiji Etički ataše bavimo se umjetnom inteligencijom. Kristijan Vujičić o tome razgovara s filozofom Tomislavom Bracanovićem autorom knjige „Etika umjetne inteligencije" objavljene 2022. u izdanju Instituta za filozofiju a u kojoj se obrađuju etički problemi koji nastaju primjenom umjetne inteligencije u raznim područjima ljudskoga života. 

U emisiji saznajemo oko čega bismo trebali biti predostrožni u vezi s umjetnom inteligencijom, te zašto bi autonomna vozila morala biti znatno sigurnija od konvencionalnih vozila kojima upravljaju ljudi. Razmotrit ćemo kako socijalna robotika – odnosno strojno učenje – može predstavljati prijetnju ljudskim vrlinama i vrijednostima poput pravednosti i autonomnosti te dobrome životu , ima li smisla pripisati moralni status robotima, je li primjena inteligentnih letjelica, poput dronova, u ratovima moralno dvojbena, te postoje li opravdani razlozi za zabrinutost da će umjetna inteligencija u budućnosti nadvladati čovjeka. 

Filozof Tomislav Bracanović znanstveni je savjetnik u Institutu za filozofiju u Zagrebu. Od 2019. izvodi nastavu iz kolegija Etika i nove tehnologije na Fakultetu elektrotehnike i računarstva Sveučilišta u Zagrebu. Trenutno je voditelj znanstveno-istraživačkog projekta Hrvatske zaklade za znanost „Umjetna inteligencija, autonomija i pravednost“.Objavio je tri autorske monografije: Evolucijska teorija i priroda morala, Normativna etika i Etika umjetne inteligencije, te niz poglavlja u knjigama i članaka u domaćim i svjetskim znanstvenim časopisima. Bio je član UNESCO-ove Svjetske komisije za etiku znanstvenog znanja i tehnologije, a njegovi istraživački interesi su etika, primijenjena etika i filozofija znanosti i tehnologije.O znanstveno-istraživačkom projektu Hrvatske zaklade za znanost „ Umjetna inteligencija, autonomija i pravednost"  kaže:

-Projekt se bavi sa nekoliko različitih izazova suvremenih primjena umjetne inteligencije kao što su autonomni naoružani sustavi, autonomna vozila ali i neke nove teme; upotreba umjetne inteligencije u informiranju, komunikaciji i pogotovo u raznim poslovnim i pravnim kontekstima. Koja je misao vodilja? Dakle sustavi umjetne inteligencije imaju sve više autonomije, mi im prepuštamo sve više i više poslova jer su jako učinkoviti, brzi i precizni u tome. No s druge strane to nam otvara pitanja pravednosti tj. da li će ti sustavi u svojim odlukama koje smo mi njima prepustili poštivati pravednost odnosno imati isti osjećaj za pravednost koji imaju ljudi u nekim situacijama koje bi mogle biti dvojbene poput ponašanja u prometu, do ponašanja autonomnih dronova u ratnim uvjetima itd... No meni je najzanimljivije u ovom projektu taj dio etičnosti jer je umjetna inteligencija na neki način opet revitalizirala etiku, pokazala je da trebamo tu disciplinu kako bi shvatili svijet oko nas.

Jedno poglavlje knjige sadrži pitanje etičkih postavki autonomnih vozila. Naročito je zanimljivo pitanje kako se uvođenje autonomnih vozila u promet suočava s etičkim izazovom izbora – u očekivanim situacijama neizbježnih sudara – između žrtvovanja većeg ili manjeg broja ljudi, odnosno vozača ili pješaka?

- To su jako složena pitanja. Činjenica je da će autonomna vozila zamijeniti vozače i takvih primjera već ima u nekim zemljama. Zašto? Zato je se pretpostavlja da će biti bolji vozači od ljudi. Ljudi su umorni, ljudi popiju nešto, gledaju na mobitele dok voze ili nisu iskusni vozači…Ti sustavi će imati puno veću brzinu reakcije i donositi odluke koji ljudi u prometu ne mogu. Znači u nekoj situaciji neizbježnog sudara čovjek često ne može reagirati racionalno, što da učini, ali za autonomno vozilo pretpostavlja se da će moći donijeti tu odluku. No postavlja se pitanje što u „dilematičnim“ situacijama, što ako mora izabrati da žrtvuje jednog čovjeka, bilo svog putnika ili pješaka da bi spasio veći broj ljudi ili nešto tome slično. Dakle pitanje je kako nam povećane tehnološke mogućnosti otvaraju probleme s pravednošću , moramo odlučiti želimo li da ta vozila donose takve odluke i ako želimo na koji način će se ravnati, kojim kriterijem, utilitarističkim, deonotološkim i slično. Meni se čini da je ta rasprava zanimljiva onako heuristički kao neki paradigmatski primjer toga do kojih situacija razne druge tehnologije umjetne inteligencije mogu dovesti ne samo u prometu već i u medicini i slično.

- U knjizi piše i o socijalnoj robotici.

 - Socijalna robotika je malo drukčija. Radi se o sustavima koji su otjelovljeni. Imamo umjetnu inteligencija koja je prisutna u prostoru, recimo autonomna vozila su zapravo roboti kad se malo bolje pogleda, roboti koji voze ljude. Socijalni roboti su roboti koji su posebno dizajnirani za rad s ljudima bilo u uslužnim djelatnostima , u domovima za starije i nemoćne, u radu s djecom i tome slično. No kako dizajnirati taj odnos između ljudi i robota? Roboti moraju imati nekakav izgled koji može biti odbojan, privlačan i slično. Imamo recimo namjerno dizajnirane socijalnih robote i nenamjerno dizajnirane. Ima nekih studija koje tvrde je neka vrsta socijalnih robota jako korisna u radu s autističnom djecom. Čini se da djeca s nekim spektrom autizma jako dobro reagiraju na takve robote, čak bolje nego na ljudske terapeute. Teško je reći zašto ali postoji dokazana građa koja to sugerira. I sad je pitanje da li bi bilo moralno koristiti takve robote u terapiji s takvom djecom. S jedne strane ako su učinci korisni to je sasvim u redu ali s druge strane postoji neugodan osjećaj da li će ta djeca misliti da su to pravi prijatelji. Postoje dakle dilema između korisnosti i etičke prihvatljivosti takvih sustava. Drugi primjer je socijalni robot koji uopće nije bio namijenjen tome. To je slučaj američkih vojnika u iračkom ratu koji su koristili robotskog psa za eliminiranje eksplozivnih naprava koje je neprijatelj postavljao.Robotski pas je funkcionirao tako da bi nakon obavljenog posla sam sebe raznio. I sad, vojnici su se znali jako vezati za te robote jer su ih podsjećali na prave pse što pokazuje da je dizajn takvih robota vrlo osjetljiva stvar jer je moguće da će se čovjek krenuti žrtvovati za robota umjesto obratno.

Cijelu emisiju  Etički ataše autora i voditelja Kristijana Vujičića i  urednice Gordane Ostović  možete poslušati  23.4. u 15:05 na Trećem programu Hrvatskog radija  a potom i u Slušaonici.