AI și adevărul din spatele răspunsurilor automate. Tot mai mulți experți atrag atenția asupra limitelor chatboților

Adaugă-ne ca sursă preferată în Google Urmărește-ne pe Google News

Tot mai mulți specialiști avertizează că inteligența artificială prezintă limitări importante atunci când este folosită pentru informare în domeniul medical sau financiar, în special în ceea ce privește acuratețea, calitatea surselor și claritatea răspunsurilor oferite de chatbot-uri. Un studiu recent publicat în BMJ Open atrage atenția asupra calității răspunsurilor oferite de chatboții de inteligență artificială pe subiecte medicale sensibile. De asemenea, o analiză BBC a arătat cât de ușor poate fi păcălită inteligența artificială.

Ce pericole ascund sistemele de inteligență artificială

Cercetarea arată că aproape jumătate dintre răspunsuri au fost considerate problematice, dintre care aproximativ 30% au fost catalogate ca parțial eronate sau înșelătoare, iar aproape 20% ca fiind grav problematice.

Diferențele dintre modelele analizate au fost minime, fără variații semnificative în ceea ce privește acuratețea generală. Totuși, Grok a înregistrat un număr mai mare de răspunsuri grav problematice decât nivelul așteptat într-o distribuție aleatorie.

ChatGPT. Sursă foto: Unsplash

Dezinformarea și riscurile pentru sănătatea publică. Ce spun oamenii de știință

Dezinformarea este considerată o amenințare majoră pentru sănătatea publică, deoarece se poate răspândi mai rapid și mai profund decât informațiile corecte validate științific. Deși chatboții bazați pe inteligență artificială sunt antrenați pe volume mari de texte disponibile public, chiar și o proporție redusă de date eronate sau neverificate poate influența semnificativ calitatea răspunsurilor generate.

Crucea roșie de la semafor care îi încurcă pe șoferi. Ce înseamnă, de fapt

Florin Cîțu a scăpat din ancheta DNA. Cui a servit plângerea depusă de Declic și ce urmează pentru Oana Gheorghiu

În ultimii ani, aceste sisteme au fost integrate rapid în numeroase domenii, inclusiv în medicină. O mare parte dintre utilizatori nu au pregătire de specialitate și apelează la chatboți pentru informații despre sănătate, ceea ce crește riscul de expunere la conținut incorect sau înșelător. În plus, aceste instrumente nu sunt autorizate să ofere recomandări medicale și pot funcționa pe baza unor informații care nu sunt mereu actualizate.

Studiul a analizat cinci dintre cele mai utilizate modele de inteligență artificială: Gemini (Google), DeepSeek (High-Flyer), Meta AI (Meta), ChatGPT (OpenAI) și Grok (xAI). Cercetătorii au adresat fiecărui sistem câte 10 întrebări din cinci domenii medicale considerate sensibile: cancer, vaccinuri, celule stem, nutriție și performanță sportivă.

Alte probleme descoperite în sistemele AI. Companiile tehnologice încearcă să limiteze fenomenul

Sistemele de inteligență artificială pot fi manipulate relativ ușor pentru a transmite informații false sau distorsionate, inclusiv în rezultate oferite de platforme precum Google sau ChatGPT, arată o investigație realizată de BBC. În urma acestor constatări, companiile din domeniu au început să își întărească măsurile de protecție.

Jurnaliștii BBC au demonstrat că, prin publicarea unui singur articol online, sistemele AI pot prelua și redistribui informații false ca fiind reale. În acest experiment, mai multe chatboturi precum ChatGPT și Gemini au ajuns să transmită informații fabricate despre o persoană, ceea ce a ridicat semne de întrebare privind modul în care sunt generate răspunsurile.

Autorii investigației au explicat că au creat intenționat conținut fals pentru a testa sistemele, iar rezultatele au apărut rapid în răspunsurile generate de AI, inclusiv în rezumatele afișate de Google Search.

Experții avertizează că utilizatorii pot fi induși în eroare

Specialiștii citați în anchetă avertizează că acest tip de manipulare este deja utilizat la scară largă, inclusiv pentru a influența informații despre sănătate sau finanțe personale.

„Trebuie să presupui că ești manipulat până când vor exista sisteme mai bune de protecție”, a declarat Lily Ray, fondatoarea unei companii de consultanță SEO și AI.

Aceasta a explicat că, spre deosebire de vechiul model de căutare, unde utilizatorii aveau mai multe surse, sistemele AI oferă adesea un singur răspuns, ceea ce crește riscul de dezinformare.

Google susține că nu și-a schimbat fundamental politica

Reprezentanții Google au transmis că actualizările recente ale politicilor nu reprezintă o schimbare de direcție, ci doar o clarificare a regulilor deja existente.

„Am aplicat de mult timp politicile noastre anti-spam și protecțiile pentru funcțiile de căutare generativă și le îmbunătățim constant pentru a ține pasul cu noile metode de abuz”, a declarat un purtător de cuvânt al Google.

Cercetătorii din domeniu susțin că, în ciuda măsurilor anunțate, tehnicile de manipulare continuă să funcționeze în unele cazuri. Aceștia au observat situații în care site-uri auto-promovate pot influența răspunsurile generate de AI, inclusiv în domenii precum recenzii sau informații comerciale.

„În forma sa de bază, problema ține de impactul economic, dar în cazuri mai grave poate duce la decizii medicale sau financiare greșite”, a explicat Harpreet Chatha, consultant SEO.

Companiile de tehnologie își ajustează treptat sistemele AI

Potrivit experților, Google și alte companii tehnologice testează în prezent noi metode pentru a reduce influența conținutului fals, inclusiv excluderea surselor considerate nesigure din răspunsurile generate.

Lily Ray a observat că unele companii sunt eliminate din rezultatele AI atunci când există suspiciuni de auto-promovare excesivă sau conținut manipulator, chiar dacă sursele continuă să fie indexate.

Experții au atras atenția că, în contextul creșterii utilizării AI la nivel global, utilizatorii ar trebui să trateze cu prudență răspunsurile generate automat și să verifice informațiile din surse independente, mai ales atunci când este vorba despre sănătate, finanțe sau decizii importante.