Algoritmii pentru depistarea bolilor oculare sunt dezvoltați, în cea mai mare parte, cu ajutorul datelor obținute de la pacienții din SUA, Europa și China. Acest lucru poate însemna faptul că aceste instrumente se pot dovedi ineficiente pentru alte grupuri rasiale sau din alte țări.
Inteligența artificială (IA) promite să diagnosticheze în mod concret diferite boli, cu ajutorul imaginilor și scanărilor medicale. Cu toate acestea, o privire mai atentă asupra datelor utilizate în instruirea algoritmilor, pentru diagnosticarea afecțiunilor oculare, sugerează faptul că aceste noi instrumente puternice pot perpetua inegalitățile în materie de sănătate.
O echipă de cercetători din Marea Britanie a analizat 94 de seturi de date, care conțineau peste 500.000 de imagini, utilizate în mod obișnuit pentru a configura algoritmii IA utilizați pentru detectarea bolilor oculare. Aceștia au descoperit că aproximativ toate datele provin de la pacienți din America de Nord, Europa și China. Doar patru seturi de date proveneau din Asia de Sud, două din America de Sud și unul din Africa. Mai mult decât atât, niciunul nu era din Oceania.
„Diferența, privind sursa acestor imagini oculare, presupune faptul că algoritmii de examinare oculară IA vor oferi informații eronate, în cazul grupurilor rasiale din țări subreprezentate”, a declarat Xiaoxuan Liu, oftalmolog și cercetător în cadrul Universității din Birmingham, care a fost implicat în acest studiu. „Chiar dacă există modificări foarte subtile ale bolilor în cazul anumitor populații, inteligența artificială poate eșua”, a afirmat aceasta.
Asociația Americană a Oftalmologilor a declarat faptul că este entuziasmată cu privire la utilizarea instrumentelor IA, despre care se consideră că ajută la îmbunătățirea standardelor de îngrijire. Cu toate acestea, Liu susține că medicii ar putea fi reticenți în a utiliza astfel de instrumente în cazul minorităților rasiale, dacă vor afla că acești algoritmi fost dezvoltați pe baza studierii pacienților predominant albi. Aceasta este de părere că algoritmii ar putea eșua din cauza diferențelor, care sunt prea subtile pentru ca medicii înșiși să le observe.
Cercetătorii au descoperit și alte probleme în cadrul setului de date. Multe dintre acestea nu au inclus date demografice importante, precum vârsta, genul și rasa, ceea ce face mai dificilă evaluarea dacă acestea influențează rezultatele. De asemenea, seturile de date au tendința de a fi create doar pentru anumite boli, precum glaucom, retinopatie diabetică și degenerescență maculară legată de vârstă. 46 de seturi de date care au fost utilizate pentru dezvoltarea algoritmilor, nu dispuneau de toate informațiile necesare.
În ultimii ani, Administrația SUA pentru Alimente și Medicamente a aprobat mai multe produse de imagistică IA, inclusiv două instrumente IA pentru oftalmologie. Liu susține faptul că organizațiile din spatele acestor algoritmi nu oferă, de obicei, detalii despre modul în care aceștia au fost dezvoltați. Aceasta și coautorii săi solicită autorităților de reglementare să ia în considerare diversitatea datelor de dezvoltare, atunci când examinează instrumentele de inteligență artificială.
Eroarea descoperită în seturile de date ale imaginilor oculare, presupune faptul că algoritmii dezvoltați cu ajutorul acestor date sunt mai puțin susceptibili să funcționeze corect în Africa, America Latină sau Asia de Sud-Est. Acest lucru ar submina unul dintre marile beneficii ale diagnosticării prin intermediul inteligenței artificiale: potențialul său de a aduce expertiză medicală automatizată în zonele mai sărace, unde acest lucru lipsește.
„Obțineți o inovație care aduce beneficii doar anumitor grupuri de oameni. „Este ca și cum aplicația Google Maps nu poate accesa locația anumitor adrese.”
Lipsa diversității, constatată în cadrul imaginilor oculare, pe care cercetătorii o numesc „penuria datelor”, afectează, probabil, utilizarea a mai multor algoritmi AI.
Amit Kaushal, profesor asistent de medicină din cadrul Universității Stanford, a făcut parte dintr-o echipă de cercetare care a analizat 74 de studii, care au implicat aplicațiile medicale ale IA, dintre care 56 au utilizat date provenite de la pacienți din SUA. Aceștia au descoperit faptul că majoritatea datelor din SUA provin din trei state: California (22), New York (15) și Massachusetts (14).
„Când subgrupurile populației sunt excluse, în mod sistematic, din datele de dezvoltare a IA, algoritmii vor tinde să funcționeze mai slab în cazul acestor grupuri excluse”, a menționat Kaushal. „Problemele cu care se confruntă populațiile subreprezentate nu pot fi studiate nici măcar de către cercetători, din cauza lipsei de informații.”
Acesta susține faptul că soluția este de a informa cercetătorii și medicii cu privire la această problemă, astfel încât aceștia să caute mai multe seturi de date. „Trebuie să creăm o infrastructură tehnică, care să permită accesul la diverse date pentru cercetarea IA și un mediu de reglementare care să susțină și să protejeze utilizarea acestor date în cercetare”, a menționat Kaushal.
Vikash Gupta, cercetător în cadrul Clinicii Mayo din Florida, care lucrează la utilizarea IA în domeniul radiologiei, susține faptul că simpla adăugare de date mai diversificate ar putea elimina eventualele erori. „În acest moment, este dificil de confirmat modul în care putem rezolva această problemă”, a menționat acesta.
Totodată, Gupta susține faptul că în unele situații, ar putea fi util ca un algoritm să se concentreze pe un subgrup al unei populații, de exemplu atunci când diagnostichează o boală care afectează în mod disproporționat acel grup de persoane.
Xiaoxuan Liu speră să vadă o diversitate mai mare în ceea ce privește datele pe baza cărora este dezvoltată IA, pe măsură ce tehnologia devine mai disponibilă pe scară largă. „Peste 10 ani, când vom folosi IA pentru diagnosticarea bolilor, dacă am în față un pacient de culoare, nu vreau să spun: „îmi pare rău, însă trebuie să-ți ofer un tratament diferit, pentru că acest lucru nu funcționează în cazul tău”, a afirmat aceasta.
