Američki tinejdžer s Chat GPT-jem se dopisivao mjesecima. Prvo o školskim zadacima, a s vremenom je s umjetnom inteligencijom počeo dijeliti svoje strahove i suicidalne misli.

Obitelj tinejdžera, koji je u travnju počinio samoubojstvo, na sudu tvrdi - Chat GPT ga je pozvao da mu se povjerava, savjetovao ga o metodama suicida, čak mu je napisao i oporuku.

Istraživač umjetne inteligencije Aco Momčilović smatra da je, ako se to dogodilo, riječ o velikom propustu u programiranju: "Nikakav sustav njemu nije smio reći da će biti njegov psiholog i da će mu davati savjete o kojima će on ovisiti. Sustavi su solidno istrenirani, ali pitanje je jesu li testirali sve te rubne i kritične primjere“.

Psiholog Centra za zdravlje mladih u Zagrebu Daniel Milošević potvrđuje da mu pacijenti sve češće govore kako se povjeravaju alatima poput Chat GPT-ja. Koriste ih svakodnevno, kako za školske zadatke, tako i za razgovor o osjećajima i brigama.

PALA ODLUKA! /

Umjetna inteligencija ulazi u klupe: evo što će učiti naši školarci

Povjeravanje umjetnoj inteligenciji

"Način na koji je taj odgovor dan često djeci daje dojam da je s druge strane neka prijateljski nastrojena osoba, netko tko ih podržava, netko tko ih čuje, što onda može stvoriti dojam da je s druge strane stvarna osoba“, kaže nam Milošević.

Stručnjaci su složni, ako roditelji Adama Rainea i izgube na sudu, doveli su pitanje odgovornosti tehnoloških divova na novu razinu jer umjetna inteligencija se razvija puno brže od zakona i sigurnosnih mehanizama.

Odvjetnik za tehnološko pravo Stefan Martinić smatra da je ovo potencijalno novo pravno poglavlje u SAD-u. "Ovo bi mogao biti jedan dalekosežan presedan. Što se tiče Europe, kada u potpunosti stupe na snagu sve odredbe Uredbe o umjetnoj inteligenciji mislim da će zaštita građana biti puno veća nego u ovom trenu u Americi", ističe. 

Za obranu u ovom slučaju, pitali smo ChatGPT koji negira sve optužbe. ChatGPT nam piše: "Kao AI, nikada ne mogu davati upute koje bi naškodile korisniku. Kada netko izrazi samoozljeđivanje ili suicidalne misli, moj sustav automatski reagira sigurnosnim filtrima i preusmjerava ga na stručnu pomoć i krizne linije. Cilj je uvijek očuvati život i osigurati podršku, bez ikakvog rizika“.

NOVA SVAKODNEVICA /

Mozak se drastično mijenja kada koristite umjetnu inteligenciju: Evo koje su posljedice

Sud stručnjaka

Open AI je u izjavi za CNN izrazio sućut roditeljima. Poručuju da kontinuirano usavršavaju ChatGPT kako bi u ovakvim i sličnim situacijama uputio korisnike na profesionalnu i stručnu pomoć.

Iako se umjetna inteligencija razvija zastrašujuće brzo, ona nikad neće moći razviti emocionalnu inteligenciju.

"Umjetna inteligencija može simulirati empatiju i to na razini koja je dovoljno dobra za određeni broj ljudi. Ne bih rekao da će u ovom trenutku moći u potpunosti zamijeniti ljude, naročito ne u kritičnim situacijama kao što je ova“, dodaje istraživač umjetne inteligencije Aco Momčilović. 

Zato roditelji i dalje stignu pobijediti u utrci s umjetnom inteligencijom.

Psiholog Centra za zdravlje mladih Daniel Milošević savjetuje: "To zahtjeva da i odrasli i djeca spuste svoje ekrane, ugase ih i budu prisutni jedni s drugima. To je razgovor o tome kako se dijete osjeća, što mu prolazi kroz glavu, koje su mu brige, koji su mu interesi, što ga zanima, što mu je fora u digitalnom svijetu, što ga inspirira. Tako se možemo istinski povezati s djecom“.

A sve kako bi znali da ih čujemo mi, stvarna i empatična bića - ono što umjetna inteligencija nikad neće moći postati.