Inteligența artificială de pe Google Search pune în pericol viețile oamenilor, demonstrează The Guardian

O investigație publicată de The Guardian a scos în evidență un risc major legat de modul în care Google afișează pe prima pagină a rezultatelor rezumatele generate de inteligența artificială, cunoscute sub numele de AI Overviews.

Aceste fragmente automate de text, create de algoritmi pentru a sintetiza rapid informații despre întrebări frecvente din căutări, pot conține sfaturi medicale eronate sau periculoase, punând în pericol sănătatea utilizatorilor care se bazează pe ele fără a verifica sursa originală.

Funcția AI Overviews oferă rezumate rapide, dar cu riscuri importante

Funcția AI Overviews a fost introdusă pentru a oferi utilizatorilor o sinteză a celor mai relevante date imediat ce își încep căutarea în Google. În loc să deschidă un articol sau un link, motorul de căutare plasează deasupra rezultatelor tradiționale un bloc generat de inteligență artificială care, teoretic, ar trebui să ajute utilizatorul să înțeleagă subiectul mai rapid.

Însă aceasta tehnologie, deși promovată de companie ca fiind “utile și de încredere”, a început să genereze semne de întrebare serioase cu privire la acuratețea sa, mai ales în domenii sensibile cum ar fi sănătatea.

Dan Andronic demontează explicațiile lui Călin Georgescu despre întâlnirea cu Ghiță: Este o minciună

Cel mai important lider din Iran, Ali Larijani, ucis de Israel. IDF a confirmat și eliminarea șefului Basij, Gholamreza Soleimani. Live text

Mecanismul AI Overviews își bazează rezumatele pe învățarea dintr-un volum imens de date de pe internet și își sintetizează răspunsurile folosind inteligența artificială. Deși funcția este concepută să economisească timp, experții avertizează că rezultatele pot fi incomplete, scoase din context sau – în anumite cazuri – complet greșite, dacă modelul nu interpretează corect complexitatea subiectelor medicale.

Exemple de informații medicale periculoase din rezumatele Google

Conform investigației, unele dintre cele mai problematice erori se referă la sfaturi medicale ce pot afecta deciziile persoanelor bolnave. Într-un exemplu descris ca „extrem de periculos”, rezumatul AI a recomandat pacienților cu cancer pancreatic să evite alimentele bogate în grăsimi, ceea ce contrazice recomandările medicale standard și ar putea reduce șansele de supraviețuire deoarece afectează aportul caloric necesar în tratament.

Alte situații includ informații greșite despre testele de funcție hepatică, unde rezumatele nu au luat în calcul factori esențiali precum vârsta, sexul sau etnia pacienților, ceea ce poate face ca un rezultat anormal să fie interpretat ca normal. Într-un alt caz, informațiile afișate despre simptomele și testele pentru cancerul vaginal au fost complet inexacte, riscând să deturneze utilizatorii de la consultarea medicală corectă.

Aceste erori pot avea consecințe grave. Specialiști din organizații de sănătate au avertizat că informațiile inexacte despre starea de sănătate pot determina persoane să ignore simptome reale, să întârzie consultul medical sau să ia decizii care le pot afecta grav sănătatea.

Critici din partea organizațiilor de sănătate

Organizații caritabile și profesioniști din domeniul medical au fost printre cei mai vocali critici ai acestor rezumate automate. Reprezentanții unor instituții precum Pancreatic Cancer UK și British Liver Trust au atras atenția că sfaturile inexacte promovate prin AI pot duce la pierderea tratamentului sau la renunțarea la îngrijirea necesară.

Reprezentanții unor organizații pentru sănătate mintală au ridicat, de asemenea, probleme legate de modul în care rezumatele AI tratează subiecte sensibile precum psihiatria sau tulburările alimentare, unde informațiile incomplete sau eronate pot încuraja comportamente dăunătoare în loc să sprijine utilizatorii în găsirea unor resurse de ajutor.

Google răspunde criticilor, dar recunoaște limitările

Reprezentanții Google susțin că majoritatea rezumatelor generate de AI sunt corecte și provin din surse de încredere și că polițele companiei prevăd revizuirea și corectarea conținutului problematic atunci când acesta este identificat. Compania a afirmat că aceste rezumate au o rată de acuratețe comparabilă cu funcțiile tradiționale de afișare a snippet-urilor, dar recunoaște că pot apărea erori și că lucrează continuu la îmbunătățiri.

Pe de altă parte, critici independenți și experți în AI spun că utilizatorii tind să aibă încredere în informațiile afișate la începutul căutării, fără să verifice sursele originale, ceea ce poate amplifica impactul negativ al unor date incorecte sau scoase din context. Acest fenomen pune în discuție rolul algoritmilor în influențarea opiniei publice și riscul ca inteligența artificială să devină un filtru decisiv în accesul la informație, mai ales în domenii critice precum sănătatea.

Google. Sursa foto: Pixabay

Rezumatele AI și efectele asupra percepțiilor oamenilor

Pe lângă riscurile directe pentru sănătate, cercetări academice arată că rezumatele generate de AI pot influența semnificativ modul în care utilizatorii își formează opiniile și credințele despre un subiect. Un studiu recent a constatat că plasarea rezumatelor AI în partea superioară a paginii de căutare poate modela percepțiile utilizatorilor, chiar dacă aceștia nu parcurg conținutul original, ceea ce ridică întrebări despre responsabilitatea designului acestor instrumente.

Aceste constatări sugerează că tehnologiile bazate pe inteligența artificială care sintetizează informații pentru utilizatorii de internet ar putea avea un impact amplu asupra educației, sănătății și atitudinilor sociale, dacă nu sunt însoțite de garanții solide de calitate și transparență.