Redactarea documentaţiei medicale consumă o parte importantă din timpul medicilor şi contribuie la suprasolicitarea personalului din sănătate. În ultimii ani, au apărut sisteme bazate pe inteligenţă artificială (AI) care promit să reducă această povară administrativă prin generarea automată a notelor medicale în timpul consultaţiilor. Specialiştii atrag însă atenţia că aceste tehnologii pot introduce erori în dosarele pacienţilor şi ridică întrebări legate de protecţia datelor personale.
Redactarea documentaţiei medicale consumă o parte importantă din timpul medicilor şi contribuie la suprasolicitarea personalului din sănătate. În ultimii ani, au apărut sisteme bazate pe inteligenţă artificială (AI) care promit să reducă această povară administrativă prin generarea automată a notelor medicale în timpul consultaţiilor. Specialiştii atrag însă atenţia că aceste tehnologii pot introduce erori în dosarele pacienţilor şi ridică întrebări legate de protecţia datelor personale.
În Australia, tot mai mulţi medici utilizează aşa-numiţii „scribi AI”, aplicaţii care ascultă conversaţiile din timpul consultaţiilor şi generează automat fişe medicale cu ajutorul unor modele lingvistice de inteligenţă artificială, similare celor pe care se bazează ChatGPT sau Claude.
Un articol publicat în The Conversation, care citează un raport al organizaţiei australiene Digital Rights Watch („Off the Record”), arată că peste 40% dintre medicii din Australia folosesc deja astfel de instrumente.
Pentru medici, avantajul este evident. Aceste aplicaţii reduc timpul alocat redactării documentelor şi permit medicului să acorde o mai mare atenţie pacientului. În plus, în sistemul australian de sănătate, timpul petrecut pentru completarea documentaţiei nu este remunerat separat, ceea ce face aceste soluţii şi mai atractive.
Autorii avertizează însă că beneficiile pentru pacienţi sunt mai puţin clare. În multe situaţii, nu este suficient de transparent cine are acces la datele medicale, cum sunt acestea procesate şi ce se întâmplă ulterior cu informaţiile sensibile colectate în timpul consultaţiilor.
Spre deosebire de un simplu program de transcriere, multe dintre aceste sisteme nu reproduc fidel conversaţia. Ele o rezumă şi o interpretează pe baza unor modele statistice care încearcă să anticipeze ceea ce ar fi dorit să consemneze medicul.
Această abordare poate genera aşa-numitele „halucinaţii” ale inteligenţei artificiale, acele informaţii formulate cu mare încredere, dar care nu au fost niciodată rostite în timpul consultaţiei. Autorii oferă exemplul unui pacient căruia medicul i-a recomandat să renunţe la fumat, iar aplicaţia a consemnat în fişa medicală că acesta a fost sfătuit să evite incendiile din locuinţă.
O altă problemă este reprezentată de prejudecăţile algoritmilor. Studiile au arătat că sistemele de AI pot produce rezultate influenţate de factori precum rasa, originea etnică, statutul social sau sexul. În cazul persoanelor care provin din medii culturale diferite sau pentru care limba engleză nu este limba maternă, interpretarea conversaţiei poate fi inexactă şi poate conduce la informaţii eronate în dosarul medical.
Primele cercetări au sugerat că până la 90% dintre notele generate automat necesitau corecturi. Studii mai recente indică faptul că aproximativ una din cinci fişe medicale redactate cu ajutorul AI conţine erori suficient de importante încât să poată influenţa stabilirea diagnosticului.
Verificarea acestor erori nu este întotdeauna simplă. Autorii explică faptul că medicii lucrează adesea sub presiunea timpului şi pot fi influenţaţi de aşa-numitul „bias de automatizare”, tendinţa oamenilor de a acorda încredere rezultatelor generate de sisteme automate fără a le verifica suficient de atent. Dacă erorile nu sunt identificate, ele pot afecta atât îngrijirea pacientului, cât şi deciziile medicilor care vor consulta ulterior dosarul medical.
În acelaşi timp, dacă fiecare fişă trebuie verificată minuţios înainte de a fi introdusă în evidenţele medicale, o mare parte din câştigul de productivitate promis de aceste aplicaţii se poate pierde.
Autorii subliniază şi dificultăţile legate de protecţia datelor. În prezent, mulţi pacienţi îşi dau acordul pentru utilizarea acestor sisteme fără a primi informaţii clare despre locul în care sunt stocate datele, cine le poate accesa şi ce modele de AI sunt folosite pentru prelucrarea lor. Medicii nu pot răspunde întotdeauna acestor întrebări, deoarece furnizorii acestor servicii oferă puţine detalii privind modul de funcţionare al platformelor.
Potrivit raportului Digital Rights Watch, autorităţile australiene ar trebui să trateze aceste aplicaţii ca dispozitive medicale şi să le supună aceloraşi cerinţe de evaluare a siguranţei şi performanţei ca în cazul altor echipamente utilizate în practica medicală.
În prezent, Administraţia australiană pentru Produse Terapeutice (Therapeutic Goods Administration – TGA) consideră că aceste sisteme intră în categoria dispozitivelor medicale doar dacă oferă recomandări de diagnostic. Autorii susţin însă că şi simpla redactare automată a fişelor poate influenţa deciziile clinice atunci când conţine informaţii incorecte.
Ei mai arată că este nevoie de reguli mai clare privind protecţia datelor şi de evaluări independente care să verifice atât acurateţea acestor sisteme, cât şi existenţa unor beneficii reale pentru pacienţi şi pentru activitatea medicilor.
Articolul nu prezintă rezultate ale unui studiu clinic, ci analizează dovezile disponibile şi concluziile unui raport privind utilizarea inteligenţei artificiale în documentaţia medicală. Autorii subliniază că aplicaţiile de acest tip sunt deja folosite pe scară largă, însă cadrul de reglementare şi evaluarea independentă a siguranţei lor nu au ţinut încă pasul cu ritmul adoptării.
Medikatv.ro
