MRAČNA STRANA / Trebamo li strahovati pred umjetnom inteligencijom i hoće li nam 'oteti' posao? Stručnjak upozorava: 'Budite oprezni...'

Image
Foto: Profimedia

Rast popularnosti ove tehnologije, kaže nam Kiš, dogodio se krajem 2022., a uzrokovan je vidljivim napretkom u odgovorima koje sustav daje

29.4.2023.
22:44
Profimedia
VOYO logo

Razvoj umjetne inteligencije (AI) napreduje velikom brzinom, a podjednako brzo napreduju i upozorenja na posljedice tog napretka. Tako je grupa od oko 3000 znanstvenika, stručnjaka raznih profila i poslovnih lidera potpisala i objavila otvoreno javno pismo Pause Giant AI Experiments u kojem traže zaustavljanje istraživanja na polju umjetne inteligencije na šest mjeseci zbog silnih ugroza koje njezin prebrzi razvoj donosi čovječanstvu.

Jedan od potpisnika tog pisma je i milijarder Elon Musk, koji je umjetnu inteligenciju svojedobno proglasio opasnijom od pogrešno dizajniranog zrakoplova ili održavanja proizvodnje ili loše proizvodnje automobila. Također je kazao da umjetna inteligencija ima 'potencijal za uništenje civilizacije', a Microsoft je optužio da je u slučaju stvaranja chatbota ChatGPT trenirao umjetnu inteligenciju da laže. Doduše, Musk je najavio i pokretanje vlastite platforme umjetne inteligencije TruthGTP, koja bi u tom području trebala biti konkurencija Microsoftu i Googleu.

Tekst se nastavlja ispod oglasa

Izvršni direktor prozvanog Googlea, Sundar Pichai, priznao je, pak, da ga ubrzani razvoj umjetne inteligencije 'drži noćima budnim'. A kada šef kompanije, koja razvija vlastiti chatbot Bard, kaže da 'ne razumije umjetnu inteligenciju u potpunosti', to otvara brojna pitanja.

Zabrinjavajuća i iritantna strana umjetne inteligencije već se ogleda kroz brojne lažne slike koje preplavljuju internet, od navodnog privođenja bivšeg američkog predsjednika Donalda Trumpa preko pape Franje u blistavom bijelom kaputu do slika potresa u gradovima diljem svijeta - koji se nisu dogodili!

Tekst se nastavlja ispod oglasa
Image
POČEO JE NOVI RAT /

Svijetu prijeti oružje opasnije od tenka T-80: Može doći u svačije ruke, a potreban je samo pritisak na gumb

Image
POČEO JE NOVI RAT /

Svijetu prijeti oružje opasnije od tenka T-80: Može doći u svačije ruke, a potreban je samo pritisak na gumb

Umjetna inteligencija popularnija od Tik-Tok-a

Koliko, objektivno, trebamo strahovati pred umjetnom inteligencijom?

"Ono što danas nazivamo AI daleko je od onoga što možemo vidjeti u filmovima. Postoji peticija za pauziranje razvoja AI modela naprednijih od ChatGPT-4 na šest mjeseci, kako bi se razvili i implementirali sigurnosni protokoli za napredne AI sustave. Stoji li iza ove peticije neka skrivena namjera, teško je procijeniti. Povijest nam je pokazala kako smo za mnogim tehnologijama osmišljenim s dobrim namjerama, pronašli zlonamjernu svrhu. Zato, ni za ovu ne smijemo zanemariti takvu mogućnost", kaže za Net.hr Jakov Kiš iz Odjela za nacionalni CERT (Computer Emergency Response Team), Carnet.

Tekst se nastavlja ispod oglasa

Umjetna inteligencija, pojašnjava Kiš, s nama je zapravo već dosta dugo. Test inteligencije računala, tzv. Turingov test, pojavio se već 1950. U njemu, osoba komunicira s računalom i stvarnom osobom. Računalo bi prošlo test ako ispitanik nije mogao sa sigurnošću razlikovati odgovore računala od ljudskih odgovora.

Rast popularnosti ove tehnologije, kaže nam Kiš, dogodio se krajem 2022., a uzrokovan je vidljivim napretkom u odgovorima koje sustav daje te jednostavnošću korištenja za običnog korisnika. Koliko AI sustavi izazivaju 'WOW efekt', najbolje ilustrira podatak da je ChatGPT u svega dva mjeseca prikupio rekordnih 100 milijuna korisnika. Usporedbe radi, kaže Kiš, popularnoj aplikaciji Tik-Tok za to je trebalo 9 mjeseci.

Tekst se nastavlja ispod oglasa

Zaštita podataka i curenje informacija

"Ne znamo puno o samom programskom kôdu ovih sustava i koje sigurnosne mjere koriste. Ono što bi trebalo 'zabrinjavati' prosječnog korisnika odnosi se na sigurnost pohrane podataka - spremaju li se podaci koje unosimo na siguran način i obrađuju li se u skladu sa zakonom", kaže Kiš te upozorava da je takav propust u slučaju pretplatnika ChatGPT Plus usluge uzrokovao curenje informacija približno 1,2 posto pretplatnika.

"Korisnici su vidjeli razgovore drugih korisnika, a mogli su vidjeti i podatke kao što su ime i prezime pretplatnika, mail adrese, adrese stanovanja, zadnja četiri broja kreditne kartice (cijeli broj kreditne kartice nije bio dostupan) te datum njezina isteka. Zato ove sustave moramo tretirati kao i sve druge te paziti koje podatke u njih upisujemo", upozorava Kiš te napominje da su u CERT-u uočili rizike koji se odnose na mogućnost korištenja ovih sustava za kreiranje lažnih vijesti i phishing poruka (prijevare koje dovode do krađa identiteta).

Tekst se nastavlja ispod oglasa

"Trenutno postoje načini za zaobilaženje sigurnosnih mjera koje sustavi koriste. Prilikom razvoja postoji mogućnost stvaranja pristranosti sustava, ovisno o podacima kojima raspolaže. Također, dolazi često do tzv. 'halucinacije', tj. prilikom davanja odgovora sustavi ponekad izmišljaju podatke i iznose ih kao točne. Zato moramo biti oprezni i kritički promišljati prilikom njihovog korištenja, a tvorci moraju poduzeti sve mjere kako bi onemogućili korištenje AI tehnologije za zlonamjerne radnje", upozorava Kiš.

Savjetuje ne unošenje povjerljivih, osobnih ili poslovnih podataka prilikom korištenja takvih sustava, dok su sve ostale mjere odgovornost vlasnika sustava. Svi bi oni trebali biti u skladu sa zakonom, dok bi svi budući zakoni - koji će regulirati ovu tehnologiju - morali paziti da istovremeno ne stopiraju njezin razvoj, naglašava.

Tekst se nastavlja ispod oglasa

Određeni poslovi postaju stvar prošlosti

Umjetna inteligencija, naravno, ima i svoje dobre strane.

"AI se može koristiti za razne stvari pa tako npr. može biti koristan za automatizaciju određenih procesa, generiranje sadržaja, može se koristiti za jednostavnije i brže pretraživanje weba i prikupljanje podataka ili npr. za predviđanje na temelju određenog seta podataka", kaže Kiš.

Tekst se nastavlja ispod oglasa

Prilikom razvoja umjetne inteligencije treba, dodaje, paziti na stvaranje pristranosti, usklađivanje sustava sa zakonima, a tu je i korištenje ovakvih alata u maliciozne svrhe kao što su generiranje i automatiziranje phishing kampanja, kreiranje lažnih vijesti korištenjem deep fake tehnologije, pisanje lažnih novinarskih članaka.

Tu je i izazov s radnim mjestima. Poznato je da će razvoj umjetne inteligencije neizbježno dovesti do gašenja nekih radnih pozicija.

Tekst se nastavlja ispod oglasa

"Pretpostavka je da će s vremenom i napretkom automatizacije određeni poslovi postati stvar prošlosti. Koliko smo tome blizu li daleko, teško je predvidjeti. Brojni poslovi će se olakšati, a rad će postati efikasniji. Autonomna vožnja jedan je od primjera automatizacije na kojem se intenzivno radi te u nekoliko gradova već postoje taxi usluga bez vozača. I let aviona već je velikim dijelom automatiziran i većinu vremena zrakoplovom upravlja autopilot pod nadzorom pilota", kaže Kiš.

Na naše pitanje, bi li se osjećao ugodnije da leti zrakoplovom kojim upravlja pilot ili samo umjetna inteligencija, naš sugovornik kaže:

Tekst se nastavlja ispod oglasa

"Osobno bih se sigurnije osjećao uz prisutnost pilota, zbog mogućnosti intervencije u nepredviđenim okolnostima. Smatram da se trenutno ne trebamo bojati da će nam posao uzeti umjetna inteligencija, već da će ga preuzeti osobe koje nauče efikasno koristiti nove tehnologije za unaprjeđenje svog posla", zaključuje.

fnc 15
Hell's kitchen
Brak na prvu
Azbuka našeg života
Cijena strasti
default_cta
Tajne vinove loze
Ljubavna zamka
Smrt u raju
Pevačica
Obiteljske tajne
default_cta
Brak na prvu Australija
Sumrak saga: Mladi mjesec
Playmobil
Volio bih da sam ovdje
Gajin svet
default_cta
VOYO logo