Jedna australska poduzetnica našla se u središtu digitalne noćne more nakon što je na svom Instagram profilu objavila, kako je mislila, potpuno bezazlen video.

Snimka njezina tri psa kako gledaju kroz prozor pokrenula je lavinu događaja koja je rezultirala suspenzijom njezinih računa, teškim optužbama i financijskim gubitkom od gotovo 30.000 eura. 

Njezin slučaj bolno ilustrira kako algoritmi tehnoloških divova mogu postati nemilosrdni suci i porotnici, ostavljajući male poduzetnike bez prava na žalbu i s uništenim poslovanjem.

Rochelle Marinato, direktorica tvrtke Pilates World Australia, u lipnju prošle godine podijelila je kratki video svojih ljubimaca na privatnom profilu.

Ubrzo nakon toga primila je email od Mete, krovne tvrtke Instagrama, Facebooka i WhatsAppa, u kojem je obaviještena da je prekršila smjernice zajednice koje se odnose na "seksualno iskorištavanje djece, zlostavljanje i golotinju". 

Unatoč njezinu inzistiranju da u videu uopće nije bilo ljudi, Metin automatizirani sustav suspendirao je i njezin privatni i poslovni račun.

Borba s vjetrenjačama: Kad algoritam postane sudac

Za Marinato, majku četvero djece, uslijedilo je razdoblje frustracije i nemoći. Pri pokušaju da ispravi očitu pogrešku, kontaktirala je Metu čak dvadeset i dva puta, no svaki njezin apel odbila je, kako tvrdi, umjetna inteligencija. 

Njezini računi ostali su onemogućeni, a poslovanje, koje se uvelike oslanjalo na vidljivost na Instagramu, počelo je trpjeti ozbiljne posljedice. Prodaja je pala za čak 75 posto, a financijska šteta popela se na 50.000 australskih dolara.

"Primila je email od Mete koji ju je obavijestio da joj je račun suspendiran", izvijestio je Sky News Australia. Očajna, angažirala je i odvjetnike koji su slali dopise u Metine urede u Sydneyu i Kaliforniji, ali ni to nije urodilo plodom. 

Bez ikakvog pristupa ljudskoj podršci i suočena s kolapsom poslovanja, odlučila se na riskantan potez. Platila je usluge treće strane za oporavak računa iako je sumnjala da se radi o prevari. 

"Bila sam toliko očajna, poslovanje je bilo toliko pogođeno da sam bila spremna preuzeti rizik", izjavila je. Na njezino olakšanje, usluga je uspjela i računi su joj vraćeni.

No, gorak okus je ostao. "Jako je teško i pomisliti da će se nešto tako ozbiljno povezivati s imenom moje tvrtke i mojim digitalnim otiskom. To je zaista zastrašujuće, a sve zbog pogreške umjetne inteligencije", rekla je, naglašavajući kako je nemoguće znati što će Metin algoritam sljedeće prepoznati kao kršenje pravila.

Problem je puno širi: Od lažnih ulaganja do zlouporabe osobnih tragedija

Slučaj Rochelle Marinato samo jedan od primjera kako rigidni i često neprecizni automatizirani sustavi mogu nanijeti golemu štetu, dok istovremeno sofisticirani prevaranti uspješno zaobilaze iste te sustave. 

Dok je Marinato kažnjena zbog videa pasa, platforme poput Facebooka i Instagrama preplavljene su oglasima koji promoviraju lažne investicijske sheme, često koristeći lica poznatih osoba bez njihova dopuštenja. Istrage poput one koju je proveo OCCRP otkrile su postojanje cijelih "carstava prevara" koja djeluju iz pozivnih centara i godišnje od naivnih ulagača otimaju stotine milijardi dolara.