Majoritatea dintre noi utilizăm sistemul de recunoaștere facială pentru a ne debloca telefoanele mobile și pentru a putea vizualiza conținutul specific sugerat în mod automat. Însă unii dintre noi au mai mult succes privind utilizarea inteligenței artificiale (IA) decât alții.
În cadrul unui studiu de recunoaștere facială prin intermediul IA s-a constatat faptul că sistemele companiilor de top, precum IBM, Microsoft și Amazon, au identificat în mod eronat fețele următoarelor femei afro-americane: Oprah Winfrey, Michelle Obama și Serena Williams. În cazul bărbaților albi nu a existat nicio problemă în recunoașterea acestora.
De asemenea, vocile asistenților digitali, precum Cortana sau Google Assistant, sunt reprezentate în mod implicit de voci feminine, acest lucru consolidând, probabil inconștient, stereotipul de subordonare a femeilor în mintea a milioane de utilizatori.
Particularitățile acestor sisteme IA sunt cauzate de faptul că, în mare parte, proiectanții actuali sunt bărbați albi cu vârste cuprinse între 20-30 de ani, fără dizabilități. În general, sunt persoane care au crescut în zone cu potențial socio-economic ridicat, adesea proveniți din medii educaționale similare.
În mod surprinzător, este posibil ca IA-urile rezultate să fie create și programate utilizând seturi de date restrânse și părtinitoare, care nu sunt reprezentative. De exemplu, un set de date al guvernului SUA, privind colectarea fețelor pentru instruirea sistemului IA, a conținut 75% bărbați și 80% persoane cu o culoare a pielii mai deschisă. În acest sens, nimic nu se întâmplă în mod deliberat, dezvoltatorii pur și simplu nu au observat aceste lucruri, din cauza faptului că nu au avut nicio experiență de diversitate.
Din fericire, acest flux de date se află într-o continuă schimbare, iar în prezent, majoritatea companiilor majore de tehnologie încearcă să identifice particularitățile nedorite și să le elimine.
