Alexander Reben projektirao je robota da nanese minimalnu količinu boli, ali da, tehnički, ipak nanese ozlijedu. I to krvavu. Ako robot tako odluči, dobiti ćete sitan ubod u jagodicu prsta. Ili će vas možda ostaviti na miru.
Nitko ne može sa sigurnošću reći što će se dogoditi, čak ni njegov kreator Reben, robotičar i umjetnik iz Berkeleya, Kalifornija.
Sam krši Prvi zakon robotike
Radi se o prvome robotu koji "autonomno i namjerno" krši Prvi zakon robotike, jedan od tri poznata principa robotike koje je izmislio poznati pisac znanstvene fantastike Isaac Asimov još 1942. godine, a koji glasi da robot ne smije ozlijediti čovjeka ili dopustiti da, zbog svog nedjelovanja, čovjek bude ozlijeđen. (Drugi zakon je da robot mora poštovati naređenja koja mu zada čovjek, dokle god nisu u suprotnosti sa Prvim zakonom, a Treći je da robot mora štititi vlastitu egzistenciju dokle god to nije u suprotnosti s Prvim ili Drugim zakonom.)
Unatoč tome što podriva 74 godine star zakon, rebenov je robot jednostavan stroj. Sastoji se od robotske ruke i baze ne veće od A4 papira. Senzor, sličan track padu na laptopu, primjeti kada netko stavi prst ispod ruke. Ako robot odluči udariti, to napravi brzo.
Kod ljudi stvara nervozu i strah
Ubod je taman dovoljan ta napravi mali otovr na koži. Ali i to je dovoljno prijeteće, kaže Reben, da izludi ljude. "Svi se oznoje i postanu nervozni."
U demonstracijskom videu i sam Reben uzvikne, ali kaže kako je to od iznenađenja, ne od boli, zaboravio je da je zamijenio staru iglu novom.
Prvi koji sam donosi odluke
Ono što je bitno, tvrdi Reben, je da robot sam donosi odluku da nanese ozlijedu, za razliku od dosadašnjih robota. "Mislio sam i na vojne robote, ali ni oni nisu prava stvar", kaže Reben. U slučaju Predator drona i drugih bespilotnih letjelica, ljudski operater je taj koji donosi odluke.
A radarski upravljani stražarski topovi koji se razvijaju za američku mornaricu pucaju na leteće uljeze koji se slažu s unaprijed programiranim opisom. Takvi sustavi ne biraju sami kada će pucati, kao ni što mine ne biraju same da će eksplodirati kada netko stane na njih.
S druge strane, ubod robota koji krši asimovljeve zakone rezultat je njegove odluke. Prst na senzoru pokreće softverski proces, čiji je rezultat ubod ili ne.
"Odluku da li da ozlijedi osobu robot donosi na način da je to ne mogu predvidjeti", kaže Reben. Softver ne koristi strojno učenje ili umjetnu inteligenciju, ali nije niti jednostavno 50:50 bacanje novčića. Niti sam kreator ne zna kolika je vjerojatnost da robot nekoga ubode.
Reben bi želio spriječiti histeriju (na MIT-u je studirao kako ljudi i roboti mogu zajedno raditi), kao i hepatitis B (koristi sterilne igle). Umjesto toga, želi da robot bude provokativan.
Pitanje buduće odgovornosti
"Jasno je da sam ga ja programirao, pa je ljudima lako reći da sam ja odgovoran", kaže. Ali ako se radi o velikom robotskom sustavu koji je gradilo puno ljudi i puno koorporacija, "na kome će onda ležati odgovornost?"
Prvi robot programiran da prekrši set hipotetskih zakona više nije hipotetski. Radi se o prevome stroju koji zahtjeva dobre živce, a svako malo i flaster.
