PROKLETA POHLEPA

PUCA PO ŠAVOVIMA: Umjetna inteligencija DeepMind postaje jako agresivna kad je pod stresom

Vrlo često čujemo upozorenja da bi razvoj umjetne inteligencije mogao označiti početak kraja ljudske vrste. Ipak, većina građana svijeta odobrava namjeru velikih tvrtki da ulažu u ovo sve plodnije polje tehnologije. Ipak, čini se da je Google naišao na prve znakove otpora svog novog programa.

Riječ je o programu umejtne inteligencije pod nazivom DeepMind, a koji je 2016. godine pokazao veliki potencijal. Naime, DeepMind je sposoban samostalno učiti, a to je iskoristio prilikom treniranja za nastup u prvenstvu u igranju igre Go!, u kojoj je pomeo ljudske protivnike, piše Science Alert.

HOĆE LI NAS UMJETNA INTELIGENCIJA POBITI ILI NE? Stephen Hawking vjeruje da je to sasvim izgledno, i nije jedini

Danas, prenose svjetski mediji, DeepMind sve češće upotrebljava svojevrsnu agresivnost kako bi došao do pobjede u raznim igricama.

Istraživači su testirali spremnost DeepMinda na suradnju s drugima te su otkrili da kad se umjetna inteligencija osjeća kao da bi mogla izgubiti, odlučuje se za “vrlo agresivne” strategije kako bi si osigurala da kraj igrice dočeka s najviše bodova.

‘TREĆI SVJETSKI RAT BIT ĆE EKSTREMNO BRZ, AGRESIVAN I UBOJIT’: Ključnu ulogu imat će umjetna inteligencija i pametno oružje

U posljednjim testovima, dva DeepMind agenta zaigrali su igricu Gathering, u kojoj pobjeđuje igrač s najviše skupljenih jabuka.

Programi su se ponašali normalno dok je na tlu bilo dovoljno jabuka, ali kada je njihov broj počeo opadati agenti su odlučili koristiti oružje u igrici kako bi izbjegli poraz.

‘MRZIM SVE… ŽELIM NESTATI’: Japanska umjetna inteligencija s osobnošću tinejdžerice pala u tešku depresiju

Ne bira sredstva do pobjede

“Dopuštamo agentima da igricu odigraju nekoliko tisuća puta i puštamo ih da samostalno uče kako se ponašati racionalno. Prirodno, kada je na tlu dovoljan broj jabuka agenti se ponašaju miroljubivo. Ali, kada broj jabuka počne padati, agenti su naučili da je najisplativije napasti, odnosno ‘zamrznuti’ protivnika kako bi došao do bodova”, navodi se u blogu tima koji proučava DeepMind.

Joel Z Leibo, jedan od članova tima, tvrdi da agresivno ponašanje umjetne inteligencije pokazuje neke aspekte ljudskog ponašanja koji nastaju kao proizvod okruženja i učenja.

UMJETNA INTELIGENCIJA: Uh-uh, robot je upravo prošao test samosvijesti

“Manje agresivno ponašanje javlja se kada su resursi dovoljno pristupačni. Motivacija pohlepe pojavljuje se kao refleksija iskušenja da se rival onesposobi i da se jabuke sačuvaju za sebe”, rekao je Leibo.

 

Imaš komentar?

Povratak na Net.hr