ŠTO KADA UMJETNA INTELIGENCIJA SAMA DONOSI ODLUKE: /

Evo što je napravila ovom čovjeku

Image
Foto: Thinkstock

Što se dogodi kada se umjetnoj inteligenciji dopusti da sama donosi zaključke, bez mogućnosti ljudskog uplitanja

26.6.2018.
8:30
Thinkstock
VOYO logo

"Nije bilo prvi put da mi kartica za ulaz ne radi, pa sam pomislio da je vrijeme da ju zamijenim." Tako je započeo niz događaja koji je rezultirao otkazom Ibrahima Dialla, ali nije ga dobio od svoje šefice nego od stroja, piše BBC.

Odjednom blokiran

Svoju je priču detaljno opisao na svom blogu, te se nada da će poslužiti kao upozorenje tvrtkama da se ne pouzdaju previše na automatizaciju. "Automatizacija može biti korisna kompaniji, no mora postojati način da ljudi preuzmu ako stroj počini grešku", piše Diallo.

Tekst se nastavlja ispod oglasa

Priča o Diallovom otkazu počinje kada njegova kartica za ulaz u neboder u Los Angelesu gdje je bio smješten njegov ured, te je morao zamoliti zaštitara da ga pusti unutra.

"Čim sam došao na moj kat, otišao sam reći direktorici što se dogodilo. Obećala je da će mi odmah naručiti novu." Zatim je primjetio da je izlogiran sa svog radnog sustava, a kolega mu je rekao kako je pored njegovog imena riječ "Neaktivan". Dan je išao s lošega na gore. Nakon ručka, i 10-minutnog čekanja da ga kolega pusti natrag u ured, upraviteljica mu je rekla kako je dobila e-mail u kojem se navodi kako je njegov ugovor terminiran. Obećala mu je da će srediti problem.

Tekst se nastavlja ispod oglasa

Slijedećeg je dana Diallo bio isključen iz svakog sustava "osim mog Linux stroja", a zatim, nakon ručka, kod nejgovog radnog stola pojavila su se dva čovjeka. Rekli su mu da je zaprimljen e-mail u kojem im je rečeno da ga isprate iz zgrade.

Šefovi bespomoćni

Njegova je šefica bila zbunjena ali bespomoćna. "Dobio sam otkaz. Moja šefica nije mogla učiniti ništa u vezi toga. Ni sam direktor nije mogao napraviti ništa. Bespomoćno su stajali dok sam ja kupio svoje stvari i odlazio iz zgrade."

U to je vrijeme radio osam mjeseci od trogodišnjeg ugovora i slijedeća tri tjedna pratio je e-mail korespodenciju u vezi njegovog slučaja. "Promatrao sam kako ovo eskalira do sve viših i moćnijih titula u hijerarhiji, a opet nitko nije mogao ništa učiniti. S vremena na vrijeme pridodali bi e-mail sustava. "Bio je potpuno bez duše i napisan crvenim tekstom kao da daje naređenja koja diktiraju moju sudbinu. Isključi ovo, isključi ono, oduzmi pristup ovdje, oduzmi pristup tamo, isprati iz prostorija, itd. sustav je bio žedan naše krvi a ja sam bio prva žrtva."

Diallovim je šefovima trebalo punoa tri tjedna dok nisu otkrili zašto je dobio otkaz. Njegova je tvrtka prolazila kroz temeljite promjene, kako po pitanju sustava tako i ljudi koje je zapošljavala. Njegov prvi šef nedavno je bio smjenjen i poslan da radi od kuće ostatak vremena koji će provesti u firmi te u međuvremenu nije obnovio Diallov ugovor u novom sustavu. Nakon toga strojevi su potpuno preuzeli stvar, i označili ga kao bivšeg zaposlenika.

Tekst se nastavlja ispod oglasa
Image
Foto: idiallo.com

Automatizirana naređenja

"Sva nužna naređenja šalju se automatski a izvršavanje svakog naređenja aktivira slijedeće. Na primjer, nakon što je poslano naređenje za blokiranje moje ulazne kartice, jednostavno više nije bilo moguće da mi se reaktivira. Nakon što je blokirana, poslan je e-mail zaštitarima o nedavno otpuštenom zaposleniku. Pokušaj skeniranje te kartice uključuje alarm. Poslana je i naredba za blokiranje mog Windows računa. Kao i mog Jira računa. I tako dalje i dalje."

Image
ROBOTI DOLAZE PO VAŠ POSAO: /

Zašto je digitalna pismenost važna za budućnost?

Image
ROBOTI DOLAZE PO VAŠ POSAO: /

Zašto je digitalna pismenost važna za budućnost?

Iako je Ibrahim Diallo na kraju ponovo dobio svoj posao, propustio je tri tjedna plaće te je ispraćen iz zgrade "poput lopova". Morao je drugima objašnjavati svoj nestanak i zamijetio je kako su se njegvi kolege udaljili od njega. Diallo je odlučio pronaći drugi posao.

Tekst se nastavlja ispod oglasa

Njegova bi priča mogla poslužiti kao upozorenje o odnosima ljudi i strojeva, misli stručnjak za UI Dave Coplin. "Radi se o primjeru pogreške u ljudskom razmišljanju gdje su dozvolili da situacije bude ljudi protiv strojeva umjesto ljudi plus strojevi", rekao je. "Jedna od temeljnih vještina svih ljudi u UI svijetu je odgovornost, samo zato što algoritam kaže da je nešto točan odgovor, ne znači da to i je."

Tekst se nastavlja ispod oglasa
pikado
Gledaj odmah bez reklama
VOYO logo