PUCA PO ŠAVOVIMA: Umjetna inteligencija DeepMind postaje jako agresivna kad je pod stresom
Nova analiza prvih 10 godina Wikipedije otkrila kako ogroman broj automatiziranih softwerskih 'botova' - algoritama za uređivanje tekstova kojima upravlja umjetna inteligencija, sudjeluje u dugotrajnim sukobima oko određenih članaka, te konstantno preuređuju ispravke jedan drugoga u očajničkom pokušaju da njihova bude zadnja, piše Science Alert.
Višegodišnji sukobi
"Borba između botova može biti daleko upornija i trajnija nego između ljudi", kaže znanstvenica Taha Yesseri s Oxfordskog sveučilišta.
"Ljudi se obično ohlade nakon par dana, ali botovi nastavljaju sukob godinama."
U svojoj su studiji Yasseri i drugi znanstvenici pratili uređivanja tekstova na Wikipediji u razdoblju između 2001. i 2010.
Količina aktivnosti botova u ranim godinama ove web stranice bila je mala, ali je naglo rasla kako su tehnologije platforme i botova napredovale. Tako su botovi bili odgovorni za 15% svih uređivanja na svim jezicima enciklopedija u 2014. godini, iako ti algoritmi čine samo 0.1 postu urednika Wikipedije.
Uređivački botovi vrše brojne zadatke, poput uklanjanja vandalizma, provjere pravopisa, stvaranja linkova i automatskog dodavanja novog sadržaja. Ti su botovi stvoreni kako bi bili dobroćudni, podržavaju ljudske korisnike Wikipedije i surađuju s njima. No ta se dobroćudnost i spremnost na suradnju često ne odnosi i na njihovu vlastitu vrstu.
Tako su se dva bota, Xqbot i Darknessbot međusobno sukobili na više od 3.600 članaka širokog dijapazona tema, od Aleksandra Velikog do nogometnog kluba Aston Villa.
Drugo neprijateljstvo epskih razmjera postoji između botova po imenu Tachikoma i Russbot, koji su svaki preuredili preko 1.000 članaka na kojima je radio onaj drugi.
Botovi bi trebali biti dobroćudni
Ovi su sukobi šokirali znanstvenike, s obzirom da njihovi tvorci nisu namjeravali da se botovi međusobno sukobljavaju, ali očito su se slučajno uhvatili u neku vrstu beskonačne petlje u kojoj je način na koji su programirani učinio uređivačku borbu neizbježnom.
"Nismo očekivali pronači ništa pretjerano uzbudljivo. Kada pomislite na njih, stvarno su jako dosadni", rekla je Yasseri.
"Sama činjenica da smo vidjeli toliko puno sukoba među botovima jako nas je iznenadila. To su dobri botovi, temelje se na dobrim namjerama, i svi se temelje na istoj tehnologiji otvorenog izvora."
Njemački botovi najmirniji, najratoborniji portugalski
Drugo iznenađenje bila je razlika u količini sukoba kod raznih jezika.
Tako njemačko izdanje Wikipedije ima najmanje sukoba među botovima, u prosjeku 24 revizije po botu tijekom proučavanog 10-godišnjeg perioda. S druge strana najviše je sukoba na portugalskoj Wikipediji, prosječno 185 revizija po botu.
"Otkrili smo da se botovi ponašaju drugačije u različitim kulturnim okolišima, kao i da njihovi sukobi mogu biti dosta različiti od sukoba između ljudskih uređivača", objašnjava članica znanstvenog tima Milena Tsvetkova.
"To ima implikacije ne samo na način na koji ćemo dizajnirati umjetne agente već i kako ćemo ih proučavati. Morali bismo više proučavati sociologiju botova."
Kako automatitirana UI postaje sve raširenija i jača, razmatranje kulturalnih (i potencijalno neprijateljskih) raspoloženja njihovog programiranja nešto je na što ćemo trebati puno više paziti.
Inače bi budućnost mogla izgledati ovako:
