Tvrtka Open AI je upravo predstavila najnoviju verziju svog popularnog AI modela, Chat GPT v5, za koji tvrdi da ima 45 posto manje pogrešaka u odgovoru i da je daleko lakši za korištenje.

Međutim, stručnjaci za kibernetičku sigurnost već dugo upozoravaju da korištenje brojnih modela umjetne inteligencije možda nije toliko anonimno i sigurno kao što se prije vjerovalo.

Na nedavno održanoj konferenciji o kibernetičkoj sigurnosti 'Black Hat 2025', izraelska tvrtka za kibernetičku sigurnost 'Zenity' predstavila je ozbiljnu ranjivost u popularnim AI platformama i modelima, uključujući ChatGPT, Microsoftov 'Copilot', kao i Salesforceov 'Einstein'. Riječ je o takozvanom napadu "zero-click", što znači da za uspješan napad nije potrebna interakcija korisnika ili 'phishing' - dovoljna je samo njihova e-pošta.

MRAČNO UPOZORENJE /

Bivši izvršni direktor Googlea: 'Sljedećih 15 godina doživjet ćemo pakao'

Izuzetno opasan kibernetički napad

Ova vrsta hakiranja i kibernetičkog napada izuzetno je opasna u praksi, jer napadaču omogućuje potpunu kontrolu nad ciljanim korisničkim računom.

Nakon što hakeri dobiju pristup računu, mogu vidjeti sve prethodne i buduće razgovore koje korisnik vodi s Ai uslugom. Također, ako je račun povezan s drugim online uslugama, poput Google Drivea, hakeri mogu pristupiti i tim podacima.

Ovaj pristup može se koristiti za manipuliranje korisničkim računom, na primjer tako da AI daje zlonamjerne savjete ili preusmjerava korisnika na zlonamjerni softver i internetske poveznice.

OZBILJNA PRIJETNJA /

AI i virtualni sugovornici nisu bezopasni? Stručnjaci upozoravaju na negativne posljedice

Reagirala i Silicijska dolina

Zenity je uživo na konferenciji demonstrirao ovu ranjivost, pokazujući koliko su ovi AI sustavi ranjivi na napade. Napad je posebno opasan jer ne zahtijeva da korisnik klikne na poveznicu ili reagira na bilo koji način - napadač može preuzeti kontrolu samo s jednom informacijom, korisnikovom e-poštom.

To ukazuje na sistemski problem u načinu na koji su ovi AI sustavi dizajnirani i povezani s drugim uslugama. Silicijska dolina reagirala je na ovo prilično brzo. Open AI i Microsoft već su objavili zakrpe koje bi trebale ukloniti ovu ranjivost i zaštititi korisnike.

Međutim, nisu svi pružatelji usluga umjetne inteligencije pokazali istu razinu odgovornosti - neki su pokušali umanjiti problem ili ga predstaviti kao dio 'namjernog' ponašanja sustava umjetne inteligencije, što je izazvalo dodatnu zabrinutost među stručnjacima za kibernetičku sigurnost.

POGLEDAJTE VIDEO: Povjesničari, stjuardese, pisci: Koga će prvog zamijeniti umjetna inteligencija?