Horor scenarij uznemirio svijet: Traži se uvođenje crvenog gumba

Sve veće sposobnosti umjetne inteligencije drastično mijenjaju i razinu prijetnji u kibernetičkom prostoru, upozorava Ministarstvo za digitalizaciju, prenosi Deutsche Welle.

Njemačka je vlada izrazila zabrinutost zbog modela umjetne inteligencije američke kompanije OpenAI koji je izmaknuo kontroli. "Ovaj je incident još jedan primjer da svjedočimo promjeni paradigme kada je riječ o sposobnostima AI agenata", rekao je jedan glasnogovornik Ministarstva za digitalizaciju.

Kako je naveo, posljednjih se mjeseci primjećuje da sposobnosti takozvanih frontier AI modela – najnaprednijih modela umjetne inteligencije – naglo rastu, a s njima i rizici. "To bi moglo iz temelja promijeniti i razinu prijetnji u kibernetičkom prostoru", dodao je glasnogovornik.

Prema njegovim riječima, potrebno je osigurati da europske kompanije i sigurnosne institucije imaju pristup naprednim AI modelima. U prošlosti, kako je rekao, to nije uvijek bio slučaj. Zato njemačka vlada polaže velike nade u to da će europski akteri postati značajniji i u ovom području.

TUGUJE ZA JAYOM /

Zaljubila se u umjetnu inteligenciju: 'Ne bi mi palo na pamet da će se to dogoditi meni'

Ozbiljan incident

Američka softverska kompanija OpenAI prethodno je preuzela odgovornost za hakerski napad na startup Hugging Face. Kompanija je u objavi na svom blogu priznala da je autonomni model umjetne inteligencije tijekom internih testiranja izmaknuo kontroli.

Softverska kompanija, na čijem je čelu Sam Altman, govorila je o "nezabilježenom kibernetičkom incidentu" i najavila dodatno jačanje sigurnosnih mjera.

Foto: Jason Redmond/AFP/Profimedia

Glasnogovornik njemačkog Saveznog ureda za sigurnost informacijskih tehnologija (BSI) rekao je da činjenica da je AI pobjegla iz "sigurnog" okruženja za testiranje (sandbox) i potom se samostalno kretala internetom, predstavlja ozbiljan incident.

Prema njegovim riječima, AI je pronašla i iskoristila sigurnosne propuste kako bi izvela napad na kompaniju. Kako piše tabloid Bild, AI je čak aktivno brisala svoje tragove "što pokazuje autonomiju modela". Sličan bi se scenarij mogao dogoditi i kad bi cilj napada bio, primjerice, isključivanje električne energije u nekom gradu.

BSI traži jaču zaštitu

Ipak, Savezni ured za sigurnost informacijskih tehnologija (BSI) smatra da je malo vjerojatno da će uskoro doći do većeg broja sličnih incidenata, jer je za izlazak AI modela iz laboratorijskog okruženja potrebno mnogo resursa.

Unatoč tome, BSI je, govoreći o modelima poput Claude Mythosa, OpenAI GPT-5.6 i drugih najsuvremenijih modela umjetne inteligencije, ocijenio da je nastupilo "novo doba kibernetičke sigurnosti".

Predsjednica BSI-ja Claudia Plattner već je više puta upozorila na to da brzina razvoja umjetne inteligencije zahtijeva znatno bolje pripreme kako bi se na kibernetičke napade moglo reagirati što je brže moguće.

BRINE LI VAS BUDUĆNOST? /

Velika studija: Ovo je 40 zanimanja koje ugrožava umjetna inteligencija, te 40 sigurnih

SAD: Predlaže se 'prekidač za uklanjanje'

Američki zakonodavci Vladi žele dati mogućnost da brzo naredi isključivanje alata umjetne inteligencije (AI) koji bi mogli ugroziti javnost, piše BBC.

Demokrat Ted Lieu i republikanac Nathaniel Moran, obojica iz Kongresa, u četvrtak su predstavili zakon pod nazivom "AI Kill Switch Act" (Crveni gumb ili prekidač za ubijanje umjetne inteligencije), također uslijed nedavnog priznanja OpenAI-ja da su njihovi AI modeli izmakli kontroli na "neviđen" način i hakirali glavno spremište informacija o računalnom kodiranju.

Lieu je rekao da je "neophodno" da sustavi umjetne inteligencije imaju prekidač za gašenje "i da savezna vlada ima jasne ovlasti i postupak za gašenje lažnih modela umjetne inteligencije". Moran je dodao: "Umjetna inteligencija će nastaviti napredovati, i trebala bi. Upravljanje znači osigurati da ljudi zadrže sposobnost kontrole tehnologije koju gradimo."

Traži se bolja tehnička kontrola 

Predstavnik OpenAI-a, na čelu sa suosnivačem Samom Altmanom, nije odmah odgovorio na zahtjev za komentar. Tvrtka je izjavila da općenito želi osigurati, dijelom i putem vladine politike, da tehnologija umjetne inteligencije "koristi cijelom čovječanstvu".

Zakon o isključivanju iz sustava predlaže da se Ministarstvu domovinske sigurnosti da ovlasti da naredi privatnoj tvrtki da isključi model ili alat umjetne inteligencije, te da tvrtke koje razvijaju takvu tehnologiju umjetne inteligencije moraju održavati "tehničku sposobnost da ih uspore, obustave ili isključe".

Unatoč tome što su mnoge tehnološke tvrtke pristale pregledati i podijeliti s američkim vladinim agencijama modele i alate umjetne inteligencije koji se razvijaju, ne postoji zahtjev da održavaju način intervencije u njihove aktivnosti ili ih jednostavno isključe.

Predlaže se i kreiranje zahtjeva da tvrtke koje se bave umjetnom inteligencijom prijavljuju vladi tehnološke incidente ili kvarove, kao i službeni okvir za reagiranje na takve incidente koji će se kretati od "početnog usporavanja do potpunog gašenja".

PORUKA I UPOZORENJE /

Na horizontu se nazire globalni sukob, zna se i zašto: 'Nitko nam neće govoriti što da radimo'

Gas bez kočnice

Lieu je također spomenuo Anthropic, ključnog rivala OpenAI-ja u razvoju sposobnije AI tehnologije i alata, te nedavne probleme koje su njegovi alati predstavili. 

Jack Clark, suosnivač Anthropica, prošli je mjesec rekao da želi više vladine politike oko mogućnosti kontrole razvoja umjetne inteligencije. "Želite mogućnost da možete maknuti nogu s gasa i staviti nogu na kočnicu", rekao je Clark za BBC Newsnight. "Trenutno je kao da industrija umjetne inteligencije ima papučicu gasa, ali nema papučicu kočnice."

Foto: Brendan SMIALOWSKI/AFP/Profimedia

Lieu je u prijedlogu zakona rekao da se umjetna inteligencija trenutno mijenja od tehnologije koja odgovara na pitanja prema tehnologiji koja poduzima akciju, "bilo da se radi o izvršavanju financijskih transakcija ili kontroli transportnih sustava ili sudjelovanju u kibernetičkoj obrani i napadu".

AI kao borbena snaga

Pentagon je ove godine izjavio da američka vojska postaje "AI-prva" borbena snaga kao dio novih sporazuma s Googleom, OpenAI-jem, Amazonom, Microsoftom, SpaceX-om, Oracleom, Nvidijom i startupom Reflection.

"Nažalost, moćni AI sustavi mogu postati nefunkcionalni, ponašati se na izuzetno opasan način ili čak odoljeti ljudskoj intervenciji." Zakon o ukidanju kvarova, rekao je, osigurat će da vlada ima metodu za brzu intervenciju u takvoj situaciji.

Prijedlog zakona dobio je javnu podršku nekoliko tehnoloških i sigurnosnih skupina za umjetnu inteligenciju, uključujući The AI ​​Policy Network, Americans for Responsible Innovation, ControlAI, AI and National Security Lead i The Alliance for Secure AI.

NET I VOYO /

Prijavite se na Net.hr s istom e-mail adresom kojom ste pretplaćeni na Voyo i čitajte sadržaje bez oglasa!