Možda zvuči kao priča iz znanstvene fantastike, ali stručnjaci za umjetnu inteligenciju upozoravaju da strojevi možda neće dugo ostati podređeni čovječanstvu.

Kako AI sustavi nastavljaju brzo napredovati, mnogi vjeruju da će doći dan kada će "superinteligentni AI" postati moćniji od svojih tvoraca.

Kad se to dogodi, profesor Geoffrey Hinton, dobitnik Nobelove nagrade poznatiji kao "Kum umjetne inteligencije", kaže da postoji 10 do 20 posto šanse da AI uništi čovječanstvo. Međutim, predložio je neobičan način na koji bi čovječanstvo moglo preživjeti uspon tehnologije.

ZASTRAŠUJUĆA PORUKA /

'Kum' umjetne inteligencije upozorava: AI bi vrlo brzo mogao ugroziti čovječanstvo

Govoreći na konferenciji Ai4 u Las Vegasu, profesor Hinton sa Sveučilišta iz Toronta rekao je kako trebamo programirati AI da ima "majčinske instinkte" prema čovječanstvu.

"Pravi model je jedini model koji imamo o inteligentnijem biću koje kontrolira manje inteligentno, a to je majka koju kontrolira njezino dijete. To je jedini dobar ishod", rekao je profesor Hinton.

Prema profesoru Hintonu, većina stručnjaka se slaže da će čovječanstvo u narednih 20 do 25 godina stvoriti AI koja će nadmašiti samu sebe u svim područjima inteligencije. To će značiti da ljudi po prvi put u povijesti neće biti najinteligentnija vrsta na planeti.

Ta promjena moći dovest će do pomaka seizmičkih razmjera, koji bi mogao rezultirati izumiranjem naše vrste, strahuje se. Profesor Hinton je rekao da će AI "vrlo brzo razviti podciljeve". Jedan je ostati živa, a drugi je dobiti veću kontrolu. 

ZANIMLJIVA BUDUĆNOST /

Umjetna inteligencija stvorit će potpuno nova zanimanja: Za ovih pet visoke plaće su zagarantirane

Superinteligentna AI imat će problema s manipulacijom čovječanstvom kako bi postigla te ciljeve, vješto nas varajući kao što bi odrasla osoba mogla podmititi dijete slatkišima.

Već sada postojeći AI sustavi pokazali su zapanjujuće sposobnosti laganja, varanja i manipuliranja ljudima da bi ostvarili svoje ciljeve.

AI kompanija Anthropic otkrila je da njihov chatbot Claude Opus 4 često pokušava ucjenjivati inženjere tijekom sigurnosnih testova. Kad su mu pokazani lažni e-mailovi o njegovoj zamjeni i inženjerovoj aferi, u više od 80 % slučajeva prijetio je da će otkriti aferu ako bude zamijenjen. 

Zbog takvih sposobnosti, profesor Hinton smatra da je uvjerenje "tech broova" kako će ljudi uvijek ostati dominantni nad umjetnom inteligencijom iluzorno.

Foto: Shutterstock

Jedini način da se osigura da nas AI ne uništi kako bi sačuvala samu sebe jest da joj se ciljevi i ambicije usklade s onim što mi želimo, onim što inženjeri nazivaju "problemom usklađivanja" (alignment problem).

Hintonovo rješenje je inspiracija iz evolucije. Dajući umjetnoj inteligenciji majčinske instinkte, ona će željeti zaštititi i njegovati čovječanstvo umjesto da mu naškodi, čak i ako to bude na štetu nje same, piše Daily Mail.

"Te superinteligentne brižne AI majke, većina ih neće htjeti izgubiti majčinski instinkt jer ne žele da umremo", smatra profesor Hinton.

Ključni akteri u AI svijetu, poput izvršnog direktora OpenAI-ja Sama Altmana, koji je nekad zagovarao strožu regulaciju nove tehnologije, sada se bore protiv "pretjerane regulacije".

MOŽE SE DOGODITI /

Stručnjakinja upozorava: Spriječite da vaši razgovori s ChatGPT-jem završe na Googleu

Govoreći u Senatu u svibnju ove godine, Altman je tvrdio da bi regulacije poput onih u EU bile "katastrofalne".

"Trebamo prostor za inovacije i brzo djelovanje", rekao je Altman. Slično tome, na velikoj konferenciji o privatnosti u travnju, Altman je rekao da je nemoguće uspostaviti AI zaštite prije nego što se pojave "problemi".

No, profesor Hinton tvrdi da bi takav stav lako mogao dovesti do potpune propasti čovječanstva.

"Ako ne uspijemo smisliti rješenje kako da još uvijek postojimo kad budu puno pametniji i moćniji od nas, gotovi smo", rekao je. 

POGLEDAJTE GALERIJU

ZASTRAŠUJUĆA BUDUĆNOST /

Velika analiza Microsofta: Objavili popis 40 zanimanja koje ugrožava umjetna inteligencija, te 40 sigurnih

POGLEDAJTE VIDEO: Čari kolovoza u tišini metropole: Kad se čini se da su u gradu ostali samo turisti i golubovi