Najviši savezni regulatori po prvi put upozoravaju da korištenje umjetne inteligencije (AI) predstavlja rizik za financijski sustav. Vijeće za nadzor financijske stabilnosti (FSOC), tim vodećih regulatora diljem američke vlade, službeno je klasificirao AI kao "ranjivost u nastajanju", piše CNN.
Sofisticirani modeli umjetne inteligencije posljednjih su godina eksplodirali u popularnosti, iako mnoga istaknuta imena u tom području kažu da bi nova tehnologija mogla imati katastrofalne učinke ako izmakne kontroli.
"AI ima potencijal za poticanje inovacija i učinkovitosti, ali njegova upotreba u financijskim uslugama zahtijeva promišljenu implementaciju i nadzor za upravljanje potencijalnim rizicima", upozorio je FSOC u svom godišnjem izvješću.
Određeni rizici
FSOC, koji je nastao nakon financijske krize 2008. godine i vodi ga ministrica financija SAD-a Janet Yellen, upozorio je kako umjetna inteligencija može "uvesti određene rizike", uključujući brigu o kibernetičkoj sigurnosti, rizike usklađenosti i pitanja privatnosti.
Regulatori su također izrazili zabrinutost zbog "komplicirajućih čimbenika" povezanih s generativnim AI modelima poput ChatGPT-a.
Na primjer, vijeće je označilo sigurnost podataka, zaštitu potrošača i rizike privatnosti koje predstavljaju financijske tvrtke koje koriste generativnu umjetnu inteligenciju. I označili su da generativni AI modeli mogu dati pogrešne rezultate poznate kao "halucinacije".
Neprobojna crna kutija
Još jedna briga za regulatore je da neki modeli umjetne inteligencije rade kao "crne kutije" - što znači da je njihov unutarnji rad neprobojan za strane osobe. FSOC je istaknuo da ovaj "nedostatak 'objašnjivosti' može otežati procjenu konceptualne ispravnosti sustava, povećavajući neizvjesnost o njihovoj prikladnosti i pouzdanosti."
Drugim riječima, ako se banke oslanjaju na misteriozne modele umjetne inteligencije, to otežava razumijevanje koliko su njihovi temeljni sustavi uistinu čvrsti. S tim u vezi, regulatori su izrazili zabrinutost kako bi ti sustavi umjetne inteligencije mogli "proizvesti i eventualno maskirati pristrane ili netočne rezultate". To bi zauzvrat izazvalo zabrinutost oko poštenog kreditiranja i drugih pitanja zaštite potrošača, istaknuo je FSOC.
Ovaj potez dolazi samo dvije godine nakon što su regulatori prvi put klasificirali klimatske promjene kao "nastalu prijetnju financijskoj stabilnosti SAD-a".
Ulaganje u umjetnu inteligenciju i njezino usvajanje doživjeli su procvat, iako neki stručnjaci upozoravaju na ozbiljne opasnosti s tom tehnologijom. Predsjednik Joe Biden nedavno je potpisao izvršnu uredbu kojom se saveznim agencijama nalaže da poduzmu korake za zaštitu razvoja umjetne inteligencije, koja je područje usvajanja i ulaganja u procvatu.
"Pogreške i pristranosti mogu postati još teži za identificirati i ispraviti kako se pristupi umjetne inteligencije povećavaju u složenosti, naglašavajući potrebu za oprezom od strane razvijača tehnologije, tvrtki u financijskom sektoru koje je koriste i regulatora koji nadziru takve tvrtke", rekao je FSOC.
Popularnost ChatGPT-a i drugih generativnih AI alata, koji koriste velike jezične modele za prepoznavanje uzoraka u podacima i stvaranje teksta i slika, samo je ubrzala interes za AI.
POGLEDAJTE VIDEO: Umjetna inteligencija u borbi protiv karcinoma
