Scribii AI din medicină introduc erori în fișele pacienților. O recomandare privind fumatul a devenit un sfat despre incendii

Adaugă-ne ca sursă preferată în Google Urmărește-ne pe Google News

Redactarea documentației medicale ocupă o parte importantă din timpul medicilor, iar sistemele bazate pe inteligență artificială sunt tot mai des folosite pentru a reduce această sarcină administrativă. Așa-numiții„scribi AI” ascultă conversațiile din timpul consultațiilor și generează automat fișe medicale, însă specialiștii avertizează că tehnologia poate introduce informații greșite în dosarele pacienților și ridică probleme importante privind protecția datelor medicale.

În Australia, utilizarea acestor sisteme s-a extins rapid. Potrivit unui raport al organizației Digital Rights Watch, citat de The Conversation, peste 40% dintre medicii australieni folosesc deja astfel de instrumente.

Cum funcționează „scribii AI” folosiți în cabinetele medicale

Sistemele de acest tip înregistrează și analizează conversația dintre medic și pacient, apoi folosesc modele lingvistice de inteligență artificială pentru a genera automat documentația medicală.

Pentru medici, avantajul este reducerea timpului petrecut pentru redactarea fișelor și posibilitatea de a acorda mai multă atenție pacientului în timpul consultației. În sistemul australian de sănătate, documentarea consultațiilor nu este remunerată separat, ceea ce face ca astfel de soluții să fie cu atât mai atractive.

Problema este că un „scrib AI” nu funcționează întotdeauna ca un simplu program de transcriere. Sistemul poate să rezume și să interpreteze conversația, folosind modele statistice pentru a estima ce informații ar trebui consemnate în fișa medicală.

O recomandare privind fumatul a devenit un sfat despre incendii

Această capacitate de interpretare poate duce la apariția așa-numitelor „halucinații” ale inteligenței artificiale, prin care sistemul generează informații care nu au fost rostite în timpul consultației.

Raportul citat oferă un exemplu relevant: unui pacient căruia medicul i-a recomandat să renunțe la fumat, sistemul i-a atribuit în documentația medicală recomandarea de a evita incendiile din locuință.

O astfel de eroare poate părea absurdă, însă consecințele devin mult mai importante atunci când informația greșită rămâne în dosarul medical și este consultată ulterior de alți medici.

Una din cinci fișe generate cu AI poate conține erori importante

Primele cercetări privind documentația medicală generată automat de AI au sugerat că până la 90% dintre notele produse de aceste sisteme necesitau corecturi. Studii mai recente indică însă o situație diferită: aproximativ una din cinci fișe medicale redactate cu ajutorul AI conține erori suficient de importante încât să poată influența stabilirea diagnosticului.

Aceste cifre arată de ce verificarea documentației generate automat rămâne esențială, chiar dacă scopul tehnologiei este tocmai reducerea timpului pe care medicii îl alocă acestei activități.

. Sursa foto: Pixabay

Medicii pot ajunge să aibă prea multă încredere în rezultatul generat de AI

Verificarea fiecărei informații poate fi complicată în condițiile în care medicii lucrează deja sub presiunea timpului. Specialiștii atrag atenția asupra unui fenomen numit „bias de automatizare”, prin care oamenii tind să acorde o încredere mai mare rezultatelor generate automat și să le verifice mai puțin atent.

Dacă o eroare nu este observată, aceasta poate influența îngrijirea pacientului și deciziile luate ulterior de alți medici care consultă dosarul.

În același timp, verificarea minuțioasă a fiecărei fișe înainte de introducerea ei în evidențele medicale poate reduce o parte importantă din câștigul de productivitate promis de aceste sisteme.

AI-ul poate interpreta diferit conversațiile unor pacienți

O altă problemă este reprezentată de prejudecățile algoritmice. Cercetările au arătat că sistemele de inteligență artificială pot produce rezultate influențate de factori precum rasa, originea etnică, statutul social sau sexul.

Riscul poate fi mai mare în cazul persoanelor care provin din medii culturale diferite sau pentru care limba engleză nu este limba maternă. O conversație interpretată greșit poate ajunge astfel să fie transformată într-o informație eronată în dosarul medical.

Cine are acces la datele medicale înregistrate de AI

Pe lângă acuratețea informațiilor, utilizarea acestor tehnologii ridică probleme privind protecția datelor personale.

Potrivit analizei citate, pacienții nu primesc întotdeauna informații suficient de clare despre locul în care sunt stocate datele, cine le poate accesa sau ce modele de inteligență artificială sunt folosite pentru prelucrarea lor.

Nici medicii nu pot răspunde întotdeauna acestor întrebări, deoarece furnizorii serviciilor oferă informații limitate despre modul în care funcționează platformele.

Digital Rights Watch cere reguli mai stricte pentru „scribii AI”

Raportul Digital Rights Watch susține că autoritățile australiene ar trebui să trateze aceste aplicații drept dispozitive medicale și să le supună unor cerințe de evaluare a siguranței și performanței similare celor aplicate altor tehnologii utilizate în practica medicală.

În prezent, Therapeutic Goods Administration (TGA) consideră că aceste sisteme intră în categoria dispozitivelor medicale atunci când oferă recomandări de diagnostic. Autorii raportului susțin însă că și simpla redactare automată a unei fișe poate influența deciziile clinice dacă documentul conține informații incorecte.

Raportul pledează, de asemenea, pentru reguli mai clare privind protecția datelor și pentru evaluări independente care să verifice atât acuratețea sistemelor, cât și beneficiile reale pe care acestea le aduc pacienților și medicilor.

Tehnologia este deja folosită, dar evaluarea siguranței nu ține pasul

Analiza nu prezintă rezultatele unui studiu clinic, ci examinează dovezile disponibile și concluziile unui raport privind utilizarea inteligenței artificiale în documentația medicală.

Concluzia autorilor este că aplicațiile de tip „AI scribe” sunt deja utilizate pe scară largă, în timp ce reglementarea și evaluarea independentă a siguranței lor nu au ținut încă pasul cu ritmul în care aceste tehnologii sunt adoptate în practica medicală.