Conturile de pe rețelele de socializare care prezintă mai multe indicații că ar fi false încă conving un număr mare de utilizatori să accepte cererile de prietenie. Acest lucru sugerează faptul că oamenii au prea multă încredere în ceea ce văd online.
Tehnologia deepfake, care poate genera imagini cu persoane inexistente folosind inteligența artificială, a fost folosită de escroci pentru a crea conturi false pe rețelele sociale. Oficialii serviciilor de informații americane au susținut faptul că spionii străini folosesc profiluri cu imagini false pentru a stabili contacte și pentru a culege informații pe rețeaua socială de afaceri LinkedIn.
Pentru a testa ușurința cu care oamenii pot fi păcăliți de profiluri manipulate, Jaron Mink și colegii acestuia din cadrul Universității Illinois din Urbana-Champaign (UIUC) au cerut unui grup format din 286 de participanți să se uite la câte trei profiluri de LinkedIn. Două dintre cele trei profiluri conțineau informații generate de computer, fie sub forma unei imagini de profil false, fie sub formă de text generat de IA.
Cercetătorii au creat cinci tipuri de conturi: unul în care imaginea și textul erau consecvente și fără erori, unul în care imaginea de profil conținea semne evidente de falsitate, precum erori, unul în care persoana părea mult mai tânără decât ar sugera anii de experiență menționați în text, unul în care textul prezenta multe erori gramaticale și unul în care textul conținea inconsecvențe de fapt.
Imaginile de profil au fost create folosind un modul generator de imagini bazat pe inteligență artificială, denumit StyleGAN2, în timp ce în profilurile cu inconsecvențe și biografia din secțiunea „despre” a profilului deepfake a fost creată de modelul de generator de text GPT-2, care a fost antrenat pe 1200 de CV-uri. Fiecare profil a primit unul dintre cele șapte nume neutre din punct de vedere al genului.
Rezultatele, care urmează să fie prezentate în cadrul Simpozionulio de securitate USENIX din Boston în luna august 2022, arată că participanții au acceptat cereri de prietenie de la 90% dintre profilurile deepfake care erau consecvente și între 79 și 85% dintre cele cu erori evidente. „Diferențele de vârstă nu par să fie observabile”, a declarat Mink. De asemenea, participanții au tratat greșelile gramaticale cu mai puțină suspiciune decât erorile de imagine.
Atunci când unor utilizatori li s-a spus că profilurile deepfake au fost folosite anterior pentru a înșela oamenii, nivelurile de acceptare pentru profilurile inconsistente au scăzut cu până la 43%. „Deși acei utilizatori instruiți sunt puțin mai buni la detectarea profilurilor false, statisticile generale arată că diferența nu este foarte mare față de celelalte persoane”, a declarat Gang Wang, un coautor al lucrării din cadrul UIUC.
Un lucru îngrijorător este faptul că unii participanți compensează excesiv, tratând profilurile legitime cu suspiciune. Wang a observat faptul că un participant semnala profilul unei femei de culoare ca fiind fals, deoarece numele ei era Chris. „Oamenii revin la stereotipuri”, a declarat acesta.
Cercetarea „nu este de bun augur pentru domeniile în care mizele sunt mari și încrederea este esențială”, a declarat Agnes Venema din cadrul Universității din Malta. Deși ea este de părere că platforma LinkedIn are mize relativ mici, escrocii ar putea exploata credulitatea oamenilor, păcălindu-i cu ajutor unor aplicații de dating.