Facebook a dezvoltat o inteligență artificială despre care susține faptul că poate detecta imagini de tip deepfake și chiar să le analizeze pentru a-și da seama cum au fost făcute și pentru a identifica creatorii acestora.
Tehnologia deepfake redă imagini complet artificiale, create de un modul IA. Noul modul IA al Facebook analizează similitudinile dintre o colecție de imagini de tip deepfake pentru a vedea dacă au o origine comună, căutând modele unice, cum ar fi mici pete de zgomot sau mici anomalii în spectrul de culori al unei imagini.
Prin identificarea amprentelor digitale minore dintr-o imagine, modulul IA poate discerne detalii despre modul în care a fost proiectată rețeaua neuronală care a creat imaginea, cum ar fi cât de mare este modelul sau modul în care a fost îmbunătățit.
„Nu credeam că există o modalitate de a funcționa. Cum am putea, doar uitându-ne la o fotografie, să putem spune câte straturi a avut o rețea neuronală profundă sau cu ce funcție a fost antrenată?”, a declarat Tal Hassner din cadrul Facebook.
Hassner și colegii săi au testat modulul IA pe o bază de date care conținea 100.000 de imagini deepfake, generate de 100 de modele generative diferite, realizând câte 1.000 de imagini individuale. Unele dintre aceste imagini au fost folosite pentru a antrena modelul, în timp ce altele au fost reținute și prezentate modelului ca imagini de origine necunoscută.
Acest lucru a ajutat la testarea IA pentru scopul său final. „Ceea ce facem este să privim o fotografie și să încercăm să estimăm care este designul modelului generativ care a creat-o, chiar dacă nu am mai văzut niciodată acel model”, spune Hassner. Acesta a refuzat să împărtășească cât de exacte erau estimările modulului IA, dar susține faptul că are o performanță mai mare decât concurența.
„Este un mare pas înainte pentru amprentarea digitală”, spune Nina Schick, autoarea cărții Deep Fakes and the Infocalypse. Dar ea subliniază, la fel ca Hassner și colegii săi, că IA funcționează doar pentru imagini care au fost complet generate artificial, deși multe imagini de tip deepfake sunt videoclipuri create prin atașarea unei fețe pe corpul altcuiva.
De asemenea, Schick se întreabă cât de eficient ar fi modulul IA în afara laboratorului, întâlnind imagini de tip deepfakes din realitate. „Tipul de modele de detectare a feței pe care le vedem se bazează, în general, pe seturi de date academice și sunt implementate în medii controlate”, a declarat aceasta.
Hassner a refuzat să vorbească despre modul în care Facebook ar utiliza noua sa inteligență artificială, dar susține că acest tip de muncă este un joc de-a șoarecele și pisica împotriva oamenilor care creează deepfakes. „Dezvoltăm modele de identificare mai bune, în timp ce alții dezvoltă modele generative din ce în ce mai bune. Nu mă îndoiesc de faptul că la un moment dat va exista o metodă care ne va păcăli complet”, a adăugat Hassner
