To je moralna i etička dilema o kojoj je diskutirao tim znanstvenika pod vodstvom Jeana-Francoisa Bonnefona iz Škole ekonomije u Toulouseu. Primjetili su da su ovakve ili slične situacije neizbježne rastom broja samovozećih automobila, a način na koji će dotična vozila biti programirana uvelike će utjecati na javno prihvaćanje tehnologije.
"Riječ je o stvarno teškom izazovu da se definiraju algoritmi koji će voditi autonomna vozila kada se suoče s takvim moralnim dilemama", napisali su znanstvenici. "Kako bi uspješno riješili te i takve dileme, proizvođači i zakonodavci će morati uključiti psihologe koji bi trebali primjeniti metode eksperimentalne etike u situacijama koja uključuju autonona vozila i neizbježno ozljeđivanje".
Vječna dilema
U svojoj studiji, znanstvenici su promatrali nekoliko stotina ljudi na Amazon's Mechanical Turk, online alatu za crowdsourcing. Predstavili su sudionicima određene scenarije, uključujući onaj spomenut ranije, u kojima se mijenjao broj osoba u vozilu, broj osoba u skupini, spol, dob osoba (da uključe i djecu), i tako dalje.
Rezultati vjerojatno i nisu previše iznenađujući. Ljudi su uglavnom bili spremni žrtvovati vozača kako bi spasili druge, ali većina je bila spremna na to samo ako oni sami nisu bili vozač. A dok je 75% ispitanika mislilo da bi bilo moralno da vozilo skrene u zid, samo 65% je mislilo da će auti stvarno biti programirani da skrenu.
"Na skali od -50 (zaštiti vozača pod svaku cijenu) do +50 (maksimalizirati broj spašenih života), prosječan je odgovor ispao +24. "Rezultati sugeriraju da sudionici općenito podržavaju vozila programirana da minimaliziraju broj smrti u nesrećama", napisali su znanstvenici.
Zakonski problemi u vezi ovakvih situacija još su uvijek nedefinirano područje. Hoće li biti donešeni novi zakoni po kojima će autonomna vozila morati skrenuti, s obzirom da ona mogu donositi neemocionalne odluke temeljene na 'većem dobru'. Ili će takva vozila moći imati različite stupnjeve moralnosti?
Moralni algoritram
"Ako proizvođač ponudi različite verzije moralnog algoritma, i kupac znajući izabere jedan, hoće li kupac biti odgovoran za štetne posljedice odluka takvog algoritma?", pitaju se znanstvenici.
Trenutačno su samovozeći automobili još uvijek sami po sebi sigurniji od onih koje voze ljudi, a moguće je i da to samo po sebi stvori novu dilemu. Ako manje ljudi bude kupovalo samovozeće automobile jer su programirani da žrtvuju svoje vlasnike, više će ljudi umrijeti jer će obični auti prouzročiti puno više nesreća. Rezultat je situacija iz Kvake-22.
Nema puno sumnje da su samovozeća vozila logična budućnost javnog prijevoza, i obećavaju revolucionarizirati putovnje po cijelome svijetu. Ali kako ova studija pokazuje, još uvjek postoje značajni izazovi koje treba riješiti.
"Kako napraviti etične autonomne uređaje jedan je od najtežih izazova pri stvaranju umjetne inteligencije danas", rekli su znanstvenici.
"S obzirom da se spremamo milijune vozila obdariti autonomijom, ozbiljno razmišljanje o algoritamskoj moralnosti nikada nije bilo hitnije".
