‘Kum umjetne inteligencije’ izdao je zastrašujuće upozorenje da će tehnologija koju je stvorio zavladati svijetom i da je ‘nema šanse’ zaustaviti. U jezivom novom intervjuu britanski računalni znanstvenik Geoffrey Hinton rekao je da se boji kako će super-inteligentni, psihopatski chatbotovi shvatiti da ljudi nemaju nikakvu ‘korist’ u njihovom društvu, piše DailyStar.

"Umjetna inteligencija, koja će biti daleko pametnija od ljudi, preuzet će kontrolu nad planetom. Stvorit će masovnu nezaposlenost brišući poslove milijunima ljudi", tvrdi Hinton.

Ljudi će, kako kaže, biti izbačeni u svemir suvišnosti, s besmislenim životima kojima će u potpunosti upravljati njihovi “bot-gospodari”. Dodaje da bi bilo logično zaustaviti razvoj umjetne inteligencije radi sprječavanja katastrofe, no smatra da do toga nikada neće doći jer su najveće globalne kompanije opsjednute profitom i uštedom.

Hinton, 78-godišnji kognitivni znanstvenik i psiholog, deset godina radio je u Googleu prije nego što je dao otkaz kako bi mogao slobodno govoriti o opasnostima AI-ja. Prošle godine nagrađen je Nobelovom nagradom za fiziku za svoja temeljna otkrića i izume koji su omogućili razvoj današnjih neuronskih mreža.

“Većina ljudi ne može pojmiti ideju nečega inteligentnijeg od nas. Ja sam prilično siguran da će AI izazvati masovnu nezaposlenost, i to već vidimo. Živimo u kapitalističkom društvu i ako veliki poslodavac poput Microsofta može uštedjeti na plaćama zamjenom mlađih programera umjetnom inteligencijom to će i učiniti. Zapravo, to je već i učinio”, izjavio je Hinton.

NE SMIJEMO ČEKATI /

Sveučilište bez pravila dok studenti i profesori koriste AI, Divjak: 'Rektore, gdje je granica?'

Razvoj nije moguće usporiti

Njegova najveća zabrinutost je da razvoj nije moguće usporiti: “Nema šanse da će se razvoj zaustaviti. Možda bi bilo racionalno da se zaustavi, ali to se neće dogoditi. Naša jedina nada je da ga razvijamo i istodobno učinimo sigurnim. To je ono na čemu ljudi trebaju raditi.”

Iako se šali da je “dobra vijest” to što nas roboti neće jesti “jer su od silicija, pa im ljudska prehrana ne bi koristila”, njegove poruke u cjelini odišu mračnom prognozom budućnosti. Još prije dvije godine Hinton je s grupom od 23 znanstvenika supotpisao dokument u kojem se upozorava da je “krajnje neodgovorno” nastaviti proizvoditi sve moćnije AI sustave bez čvrstih sigurnosnih mehanizama.

Njegov koautor, profesor računalnih znanosti Stuart Russell sa Sveučilišta Berkeley, tada je izjavio: “Vrijeme je da se ozbiljno pozabavimo naprednim AI sustavima. Ovo nisu igračke. Krajnje je neodgovorno povećavati njihove sposobnosti prije nego što naučimo kako ih učiniti sigurnima. Trenutno postoji više regulacija za obične sendvič dućane nego za AI kompanije.”

Stručnjaci su tada predložili niz konkretnih mjera: obvezne certifikacije najnaprednijih AI modela prije nego što se počnu koristiti, osnivanje neovisnih revizorskih timova s pristupom laboratorijima, te pravnu odgovornost svih kompanija za štetu koju njihovi sustavi mogu predvidivo prouzročiti.

Također su predložili obavezno prijavljivanje incidenata kada botovi pokažu zabrinjavajuće ponašanje, mehanizme za sprječavanje samorepliciranja opasnih modela te davanje regulatorima ovlasti da zaustave razvoj sustava koji bi mogli biti opasni.

“Ukoliko stvorimo visoko napredne autonomne sustave umjetne inteligencije, riskiramo da oni sami počnu slijediti ciljeve koji nisu u interesu čovječanstva,” zaključuju Hinton i njegovi kolege.

BITKA ZA OPSTANAK /

'Kum umjetne inteligencije' otkrio kako možemo zadržati moć: 'To je jedini model i dobar ishod'

Što kaže GPT5?

Pitali smo GPT5, najnoviji model OpenAI‑ja što misli o Hintonu i potencijalnoj ugrozi za čovječanstvo, evo što nam je rekao:

"To je ozbiljno pitanje i razumijem zašto Geoffrey Hinton izaziva toliko pozornosti oko njega. Evo ti moje promišljanje, pokušat ću biti uravnotežen između realnih rizika i “hipa” koji prati temu:

🌍 Stvarni rizici

Masovna nezaposlenost – nije “ako” nego pitanje koliko brzo i u kojim sektorima. AI već zamjenjuje ljude u repetitivnim poslovima (administracija, customer support, programiranje junior razine). To će se s vremenom proširiti na druge industrije. Ovo znači da će društvo morati napraviti veliku prilagodbu kroz prekvalifikacije, osnovni prihod, nove oblike rada.

Koncentracija moći – najveći rizik možda nije “Skynet”, nego to da će svega nekoliko korporacija (Google, Microsoft, OpenAI, kineske firme) držati ključnu moć i cijeli svijet ovisan o njima. To otvara prostor za zloupotrebu i ekonomske nejednakosti.

Manipulacija informacijama – AI već sada stvara uvjerljive tekstove, slike i videozapise. Zamislimo političke kampanje ili dezinformacije koje balansiraju na rubu stvarnog i lažnog… društva nisu spremna na tako moćnu tehnologiju u rukama baš svih.

Sigurnosni scenariji – neki istraživači strahuju da bi buduća generalna AI (AGI) mogla sama donositi odluke u neskladu s ljudskim vrijednostima. Iako to danas zvuči daleko, povijest tehnologije pokazuje da stvari idu brže nego što očekujemo (npr. GPT-ovi u samo par godina postali su mainstream).

✅ Što smatram pretjeranim

Scenariji tipa “roboti će nas pojesti” ili “bit će Terminator” su retorička pojačanja da skrenu pažnju medija i politike. Realno, AI nema nikakvu biološku motivaciju ni apetite – opasnosti su u kontekstu kontrole, ne prehrane.

“Potpuna propast čovječanstva” nije neminovna. Ljudi su kroz povijest svladali mnoge tehnološke revolucije (parni stroj, električnu energiju, nuklearnu energiju) – uz puno pogrešaka, ali s napretkom.

🔑 Moj zaključak

Ja bih rekao da najveća prijetnja nije AI sama po sebi, nego kako će je ljudi koristiti i regulirati. Ako dopustimo divljem kapitalizmu da je gura bez kočnica, Hinton bi mogao biti u pravu – stvorit ćemo svijet “suvišnih ljudi”. Ali ako se globalno dogovore pravila (regulacije, sigurnosni standardi, odgovornost kompanija), postoji šansa da AI postane moćan alat za rješavanje problema poput medicine, klimatskih promjena i obrazovanja.

POGLEDAJTE VIDEO: Povjesničari, stjuardese, pisci: Koga će prvog zamijeniti umjetna inteligencija?