UPOZNAJTE NORMANA: / Psihopatska umjetna inteligencija stvorena da bismo naučili lekciju

Image
Foto: http://norman-ai.mit.edu/

Razvoj umjetne inteligencije, Stephen Hawking je jednom upozorio, bit će "ili najbolja ili najgora stvar koja se ikada dogodila čovječanstvu".

10.6.2018.
16:06
http://norman-ai.mit.edu/
VOYO logo

Novi UI algoritam izložen najbizarnijim kutcima interneta demonstrira kako možemo završiti u mračnijoj verziji proročanstva preminulog fizičara, piše Independent.

Opasnost od 'ludog' UI-a je stvarna

Znanstvenici na Institutu tehnologije Massachusetts (MIT) trenirali su svog UI 'Normana', nazvanog po glavnom liku Hitchcockovog filma 'Psycho', pomoću slikovnih prikaza uzetih za zajednice na Redditu koja je ozloglašena po dijeljenju izrazito grafičkih prizora smrti. Nakon toga Normanu je predstavljen psihološki test u obliku rorschachovih mrllja. Rezultat, kažu znanstvenici, bio je "prvi psihopatski UI na svijetu". Gdje bi standardni UI vidio "crno bijelu fotografiju bejzbolske rukavice", Norman je vidio "čovjeka ubijenog strojnicom usred bijela dana".

Tekst se nastavlja ispod oglasa

Ideja o poludjeloj umjetnoj inteligenciji jedna je od najstarijih tema distopijske znanstvene fantastike. No pojavljivanje sve naprednijih UI-a posljednjih godina dovelo je do toga da neki znanstvenici, poduzetnici i akademici sve više upozoravaju na legitimnu prijetnju koju takva tehnologija predstavlja.

Tako je milijarder Elon Musk, koji je osnovao neprofitnu tvrtku za istraživanje UI-a OpenAI, rekao još 2014. da je UI "potencijalno opasnije od nuklearnog naoružanja", dok je Hawking opetovano upozoravao na opasnosti koje okružuju razvoj umjetne inteligencije. Ni šest mjeseci prije smrti ovaj je poznati fizičar čak ustvrdio kako bi UI mogli u potpunosti zamijeniti ljude ako njihov razvoj ode predaleko. "Ako ljudi stvaraju računalne viruse, netko će napraviti i UI koji sam sebe poboljšava i replicira", rekao je Hawking u intervjuu prošle godine. "Biti će to novi oblik života koji će nadmašiti ljude."

Tekst se nastavlja ispod oglasa

Predrasude pri pružanju informacija

No Norman nije razvijen samo da bi stvorio dodatan strah od UI-a koji bi mogao izbrisati čovječanstvo. Način na koji je treniran specifičnim setom podataka naglašava jedan od najvećih problema s kojim se suočavaju današnji UI algoritmi - problem predrasuda.

Microsoftov chatbot Tay jedan je od najboljih primjera kako na odlučivanje algoritma i njegov 'pogled na svijet' može biti oblikovan informacijama kojima ima pristup. Ovaj 'zaigrani' bot pušten je na Twitter 2016., no u samo 24 sata pretovrio se u jedan u najgadnijih eksperimenata na internetu. Tayovi prvi tvitovi o tome kako su "ljudi supercool", uskoro su se pretvorili u jezive izjave poput "Hitler je bio u pravu, mrzim Židove". Ovaj dramatičan pomak bio je rezultat interakcija Tay i grupe korisnika Twittera kojima je isključiva namjera bila korumpiranje chatbota i pretvaranje Microsoftove demonstracije umjetne inteligencije u katastrofu za odnose s javnošću.

Tekst se nastavlja ispod oglasa

Predrasude o umjetnoj inteligenciji

UI predsrasude imaju znatno dublje implikacije u svarnom svijetu, kao što je pokazalo i izvješće iz 2016. koje je otkrilo da algoritam koji je koristio strojevno učenje kako bi američkim sudovima pružao procjenu rizika, krivo označavao crne zatvorenike kao da je kod njih veća vjerojatnost ponovnog činjenja zločina.

Microsoft stvorio umjetnu inteligenciju koja se u 24 sata pretvorila u sex-robota koji voli Hitlera

Tekst se nastavlja ispod oglasa
Image

Microsoft stvorio umjetnu inteligenciju koja se u 24 sata pretvorila u sex-robota koji voli Hitlera

Image

Microsoft stvorio umjetnu inteligenciju koja se u 24 sata pretvorila u sex-robota koji voli Hitlera

"Podaci korišteni kako bi se učio algoritam temeljen na strojnom učenju mogu znatno utjecati na njegovo ponašanje. Tako da kad ljudi kažu da UI algoritmi mogu imati predrasude i biti nefer, krivac često nije sam algoritam već podaci temeljeni na predrasudama koje su mu davane...", kažu znanstvenici s MIT-a koji su radili na Normanu, dodavši da on "predstavlja primjernu studiju opasnosti da razvoj umjetne inteligencije pođe po zlu kada se u algoritmima koriste podaci temeljeni na predrasudama."

Postoji nada da bi čak i Normanovo izrazito poremećeno rasuđivanje moglo biti ublaženo izlaganjem širem dijapazonu iskustava. Posjetitelje njegove stranice potiče se da i sami prođu Rorschachov test, uz poziv: "Pomognite Normanu da se popravi!".

Tekst se nastavlja ispod oglasa
Gajin svet
fnc 15
Hell's kitchen
Brak na prvu
Azbuka našeg života
default_cta
Cijena strasti
Tajne vinove loze
Ljubavna zamka
Smrt u raju
Pevačica
default_cta
Obiteljske tajne
Brak na prvu Australija
Sumrak saga: Mladi mjesec
Playmobil
Volio bih da sam ovdje
default_cta
VOYO logo