Crearea unei persoane false online, care are o față generată de computer, este mai ușoară ca niciodată, dar există o modalitate simplă de a identifica aceste imagini false – analizarea ochilor. Incapacitatea inteligenței artificiale de a genera pupile circulare dezvăluie dacă o față provine sau nu de la o fotografie reală.
Rețelele contradictorii generative (GAN) – un tip de inteligență artificială care poate genera imagini dintr-un set de date simple – pot produce fețe cu aspect realist. Deoarece sunt realizate printr-un proces de schimbări continue, este mai puțin probabil ca acestea să fie surprinse ca fiind false prin verificări simple, cum ar fi căutări de imagini inversate, care identifică reutilizarea imaginilor oamenilor existenți pe profiluri false de pe rețelele sociale.
Pupilele fețelor generate de GAN nu sunt perfect rotunde sau eliptice, spre deosebire de cele reale. De asemenea, pupilele reale sunt simetrice una cu cealaltă. Pupilele create de computer au adesea margini accidentate sau sunt asimetrice.
„Chiar dacă modelele GAN sunt foarte puternice, acestea nu înțeleg foarte bine biologia umană. Multe dintre aceste detalii foarte fine nu vor fi reprezentate în mod eficient de model”, a declarat Siwei Lyu din cadrul Universității din Albany din New York.
Lyu și colegii săi au dezvoltat un model de computer care identifică locația ochilor într-o imagine a feței, extrage forma pupilei și identifică forma acestora. Modelul verifică dacă pupilele sunt circulare sau eliptice. Dacă nu sunt conform tiparelor, se identifică imaginea ca fiind falsă. Dacă sunt conform tiparelor, se trece la următoarea verificare – dacă o pupilă are margini netede sau zimțate. Dacă pupila are un aspect zimțat, imaginea identificată este considerată ca fiind falsă.
„Pupilele sunt unele dintre primele lucruri pe care trebuie să le urmărim pentru erori”, a declarat Eliot Higgins, fondatorul site-ului de investigație Bellingcat, care spune că descoperirile reflectă experiența sa despre deepfakes – imagini umane sau videoclipuri artificiale realizate de inteligența artificială.
„Sistemul nu este complet infailibil: unele boli și infecții afectează forma pupilelor oamenilor, dar cazuri ca acesta sunt rare”, spune Lyu.
Acum, că a găsit o modalitate de a identifica imaginile false, Lyu și echipa sa investighează cum să fie cu un pas înaintea generării imaginilor false. „A face cercuri perfecte nu este atât de ușor, dar oamenii care realizează imagini cu ajutorul tehnologiei deepfakes pot găsi o cale de a rezolva acest lucru, pentru a continua să creeze identități false online. Cred că problema poate fi rezolvată cu utilizarea GAN-urilor”, a adăugat acesta.
