U eksperimentu sa 10 testova, softver za prepoznavanje lica uspešno je prepoznao identitet i posle AI transformacija
Kompanija Kaspersky sprovela je eksperiment tokom Kaspersky Horizons konferencije, analizirajući kako sistemi za prepoznavanje lica reaguju na slike modifikovane generativnom veštačkom inteligencijom. Korišćenjem otvorenokodnih biblioteka za računarski vid, stručnjaci Global Research and Analysis Team-a testirali su 10 nezavisnih slučajeva transformacija lica kroz scenarije starenja i podmlađivanja. Softver za prepoznavanje lica u svim slučajevima identifikovao je AI-modifikovane slike kao originalne identitete, iako su vizuelne promene bile značajne i ljudskim posmatračima lica su delovala potpuno različito.
Nalazi pokazuju da savremeni sistemi za biometrijsku autentifikaciju ne zavise od površinskih vizuelnih sličnosti, već od dubljih geometrijskih i strukturnih karakteristika lica. Čak i kod velikih sintetičkih transformacija, algoritmi su uspešno detektovali postojane biometrijske markere. Ovo istovremeno potvrđuje otpornost softvera na određene AI manipulacije, ali otvara i pitanje potencijalne zloupotrebe generativne veštačke inteligencije za krađu ili kreiranje sintetičkih identiteta.
“Iako ovaj eksperiment ne predstavlja opsežnu studiju, on je dokaz koncepta potencijalnog AI napada o kojem industrija treba da razmišlja; on ilustruje ključnu praktičnu implikaciju: AI-generisane transformacije lica mogu zadržati biometrijski identitet čak i kada ljudska percepcija te slike tumači kao potpuno različite osobe. Ovo stvara nove izazove za digitalno poverenje, verifikaciju identiteta i prevenciju prevara u eri brzo razvijajućih sintetičkih medija”, izjavio je Maher Yamout, vodeći istraživač bezbednosti u Kaspersky Global Research and Analysis Team-u.
Istraživači kompanije Kaspersky ističu da je, s obzirom na brz napredak sintetičkih medija i generativne veštačke inteligencije, neophodna veća pažnja developera sistema digitalnog identiteta, stručnjaka za sajber bezbednost i regulatornih tela kako bi biometrijske tehnologije ostale bezbedne i otporne na nove AI-vođene pretnje.
