Recent, Scena9 a publicat un text relativ elogios despre AI și medicină. Acest text este o analiză critică a ceea ce înseamnă, de fapt, AI-ul și de ce trebuie să fim sceptici în privința așa-ziselor sale “performanțe remarcabile” în medicină și sănătate.

Totuși, pentru început, trebuie remarcat faptul că articolul de la Scena9 deschide multiple piste de discuție și dezbatere foarte importante și relevante despre inteligența artificială și medicină. Însă lasă de dorit în părțile sale mai sceptice sau mai critice. Multe lucruri rămân neclare, iar termenul de AI este imediat asociat unor produse comerciale (ChatGPT, Claude, Gemini etc.), de tip large language model, dominante pe piața globală de AI. 

Această confuzie poate fi periculoasă, fiindcă în literatura de specialitate însăși termenul de AI este contestat, în mod recurent, ca tehnologie specifică, iar la nivel european regulamente precum AI ACT reglementează mai multe tehnologii care pot fi clasificate drept AI (recunoaștere emoțională, aplicații de “nudify”, tehnologii biometrice, predictive policing, credit social automatizat etc.). Această subsumare semantică a AI = LLM = ChatGPT este problematică și înșelătoare din mai multe perspective. Ea poate duce la confundarea unor tehnologii concrete folosite în diverse forme pentru medicină (machine-learning pre-LLM folosit în medicină) cu produse comerciale de generare de conținut. 

Limbajul antropomorfizant – adică, comunicăm cu AI ca și când ar fi o “persoană” – este periculos în acest context. Mai ales în lipsa educației media. Când atribuim unor tehnologii intenții sau capacități omenești, riscăm să credem că prezicerea următorului cuvânt înseamnă cunoaștere sau expertiză. A prezice o secvență de cuvinte – ceea ce fac LLM-urile – nu este același lucru cu a ști ceva despre medicină. În ce măsură putem spune că un model de limbaj „analizează simptomele” medicale ale unui individ? Un model predictiv al limbajului nu poate interpreta nimic — oamenii interpretează situația ta medicală particulară pe baza experienței lor, a educației lor și a situației tale specifice. LLM-urile potrivesc cuvinte între ele, prezic următorul token, găsesc recurențe statistice, dar fără să poată valida un lucru la nivel analitic, cum face un om cu experiență și educație în domeniul medical. 

Riscurile legate de datele cu caracter personal oferite într-un prompt pentru AI sunt mult mai mari decât lasă acest articol să pară. Momentan, nu avem date concrete care să ne arate exact ce se întâmplă cu datele stocate în chatlogurile unei instanțe de utilizare a AI-ului. Nu avem acces la aceste realități care sunt foarte importante, chiar cruciale în unele cazuri, pentru protejarea vieții noastre private. Mai mult, faptul că outputul unui model devine progresiv mai personalizat în funcție de numărul de interacțiuni anterioare ridică niște bănuieli rezonabile despre posibila antrenare a modelului cu datele medicale sensibile ale unui utilizator. Rămân aceste date stocate la nivel local? Intră ele într-un flux de date mai mare care antrenează modelul per total? 

Răspunsurile posibile la întrebările astea s-ar putea să fie foarte neplăcute pentru orice utilizator de AI în scop medical – mai ales din perspectiva drepturilor omului și a vieții private. Tot acest mozaic complex de probleme legate de posibile atingeri aduse drepturilor omului prin folosirea unui model precum ChatGPT în scopuri medicale se complică și mai tare când ne uităm la literatura științifică despre AI în medicină.

Literatura de specialitate legată de AI în medicină e încă incipientă. O parte semnificativă din ea este cofinanțată sau captată de industrie într-o măsură sau alta, iar câștigurile reale sunt relativ minore, dacă nu doar circumstanțiale. Diagnosticele oferite de AI nu pot fi considerate câștiguri medicale reale pentru știință sau pentru omul de rând în acest context. Riscurile aduse de autodiagnosticare, de evitarea consultării cu medicul, de scepticism legat de instituțiile avizate din punct de vedere științific și medical sunt mult mai mari decât un răspuns oferit imediat pe baza unor analize de sânge, de exemplu. Legitimitatea socială a interpretării medicale făcută de un profesionist medical este dată de mai mulți factori decât de potrivirea unor cuvinte dintr-o bază de date. Sunt ani de pregătire, de evaluare, de monitorizare.

Dimensiunea instituțională este esențială în validarea unor analize medicale: un om acreditat o face, angajat undeva, cu responsabilitate în fața legii, nu un model de predicție statistică comercial. Dacă ChatGPT greșește, lucru pe care tinde să-l facă, cine răspunde? Un utilizator ar putea spune că riscurile sunt ale sale, pe persoană fizică, dar când fenomenul se generalizează, poate deveni o problemă macro, chiar de sănătate publică.

Mai mult, încadrarea acestor rezultate drept “performanțe remarcabile” este înșelătoare. Studiile citate sunt incipiente, neconcludente și publicate în niște zone care nu necesită peer-review (cum ar fi arXiV, linkuit în text). Dezvoltările contemporane din medicină se datorează mai multor factori, ele mergând aproape automat și fără AI prin intermediul altor tehnologii medicale specializate. O parte semnificativă din literatură este produsă de echipe de cercetare finanțate direct sau indirect de mari companii sau de altele aflate sub tutela lor ori chiar in-house, iar în acest tip de cercetare există tendința de a comasa orice dezvoltare științifică recentă din domenii precum neurobiologia computațională cu dezvoltările LLM-urilor. 

Prezentarea acestor tehnologii ca fiind miraculoase ignoră criticile legitime aduse de cercetătorii din domeniu. Cu atât mai mult cu cât materialul beneficiază de statutul de material jurnalistic. Conform lui Corry Doctorow, activist pentru drepturi digitale, scriitor și critic al industriei de AI, deseori, în contexte legate de folosirea AI-ului în radiologie, de exemplu, companiile tind să exagereze utilitatea reală a acestor tehnologii de predicție statistică a următorului cuvânt într-o goană rapidă pentru profit. 

Având în vedere că AI-ul nu este profitabil conform estimărilor economice de azi, se prea poate ca rezultatele așa-zise științifice sau valide din punct de vedere medical să fie exagerările unor actori care vor să-și vândă cât mai repede și cât mai mult produsele. Marketingul acestor companii a devenit extraordinar de rafinat, câteodată inducând în eroare și pe cel mai atent și bine-intenționat jurnalist.

EDITAT DE NICOLETA FOTIADE