"Ako izgledam kao emotivna ruševina, to je zato što plačem već dva sata jer sam mislila da je moj mali brat mrtav", počinje tiktokerica Brooke. "Netko je upotrijebio AI kako bi prevario mog djeda da misli da je moj mlađi brat doživio nesreću i umro", rekla je, i dalje vidno potresena. Glas koji je generirala umjetna inteligencija, oponašajući njenog mlađeg brata, rekao je njezinom djedu da će njezin brat doživjeti nesreću prije nego što se linija prekinula.
"Djed me nazvao i rekao da mi je mlađi brat doživio nesreću. Smjesta sam pomislila da je mrtav". kaže. Brooke je odmah pokušala kontaktirati brata i pronaći njegovu lokaciju. Ubrzo je otkrila da se radi o prevarantu koji pokušava doći do novca. "Djedu je rekao da je završio u zatvoru i da je ubio nekoga u prometnoj nesreći te da mu treba novac za jamčevinu", objašnjava.
'Zbog ovoga, mi imamo šifru'
"Ako vas ikad nazovu i traže novac za nekog koga znate, moguće je da koriste je*eni AI kako bi reproducirali glas", upozorila je u videu koji je prikupio gotovo dva milijuna pregleda.
U komentarima, svi se slažu da je zloupotreba umjetne inteligencije otišla predaleko. Neki ističu da se zbog ovakvih situacija niti ne javljaju na nepoznate broje, a drugi daju koristan savjet. "Moja obitelj i ja osmislili smo šifru za ovakve situacije. Ako dobiju poziv, a ta riječ nije izgovorena, onda će znati da nije stvarno."
