Tehnologija kojom se stvaraju tzv. deepfake fotografije postaje sve bolja, a "snimke" sve realističnije i sofisticiranije. Deepfake se rade korištenjem umjetne inteligencije koja producira ili mijenja fotografije ili video snimke. Iako snimke napravljene pomoću ovog alata mogu djelovati stvarno, radi se zapravo o umjetno stvorenom sadržaju.
Takva tehnologija može se iskoristiti za zabavu, ali i u zlonamjerne svrhe, a šteta koju naprave može biti velika – već je viđeno kako se takva tehnologija koristi da bi se prenosile recimo neistinite političke poruke, kao u slučaju koji je napravljen kao upozorenje na opasnosti deepfakea koji donosimo niže, ili pak u pornografiji kojoj je cilj nauditi nekoj osobi.
Stoga su programi za otkrivanje deepfake fotografija ili videa od velike važnosti. Članak objavljen na serveru arXiv prikazuje metodu kojom se takve snimke mogu razotkriti u odrazu oka.
Deepfake koji je generiran pomoću tzv. GAN tehnologije, koristi dvije neuralne mreže koja rade jedna protiv druge da bi proizvele što realističniju fotografiju. Autori smatraju kako ta tehnologija funkcionira zato što proučava i stvarne fotografije osoba. Na pravim fotografijama, oči osobe reflektiraju njihovo okruženje.
"Rožnica je savršena polusfera, te je reflektivna", u izjavi je rekao profesor Siwei Lyu. "Dva oka imaju gotovo isti reflektivni uzorak jer vide isti sadržaj. Inače to ne primjećujemo kada gledamo lica."
Unatoč tome, znanstvenici uočavaju velike razlike između dva oka koja su kompjuterski generirana i koja su stvarna. Popularni web servisi kao thispersondoesnotexist i Flickr Faces-HQ koristi umjetnu inteligenciju kako bi prikazao takve fotografije, a u očima se mogu uočiti razlike u odrazu ili osjetljivosti na svjetlo.
"Nalazimo usporedive razlike između pravih i računalno generiranih lica, te je program za razlikovanje istih učinkovit je 94 posto", pišu autori članka.
Znanstvenici smatraju kako je lako raspoznati "umjetne" fotografije zbog načina na koji oči reflektiraju svjetlost, a i zbog činjenice da je takva fotografija spoj više različitih fotografija. Svejedno, program nije mogao prepoznati neke fotografije koje nisu u portretu ili kojima je izvor svjetla blizu očiju. Autori navode da se takve fotografije još dodatno mogu urediti, posebice njihov odraz u očima.
Program za prepoznavanje lažnih fotografija može biti koristan u prepoznavanju profila na društvenim mrežama korištenih za trolanje i širenje lažnih vijesti. Svakodnevnim napredovanjem deepfake tehnologije, takve fotografije postaju novo sredstvo dezinformiranja. Deepfake fotografije koriste se i na lažnim profilima kako bi privukli ili zavarali naivne korisnike.
"Također su potencijalno oružje i u politici", zaključuje profesor Lyu. "Lažni videi koji prikazuju političare kako rade ili govore nešto što ne trebaju može biti iskorišteno u loše svrhe."
