Social
Google și ChatGPT, păcălite de un experiment BBC. Experții avertizează asupra riscurilor generate de AI
ChatGPT. Sursa: LinkedIn
Adaugă-ne ca sursă preferată în Google
Urmărește-ne pe Google News
Din cuprinsul articolului
Cele mai populare instrumente de inteligență artificială, inclusiv Google ChatGPT și Gemini, pot fi manipulate relativ ușor pentru a afișa informații false sau părtinitoare în răspunsurile oferite utilizatorilor, potrivit unei investigații realizate de BBC.
Jurnalistul BBC Thomas Germain a demonstrat problema după ce a publicat pe propriul site un articol fals în care susținea că este campion mondial la concursuri de mâncat hot-dog.
La scurt timp, mai multe sisteme AI au început să preia și să redea informația ca fiind reală. Experimentul a fost realizat pentru a arăta cât de vulnerabile sunt chatboturile atunci când folosesc surse online neverificate.
Cum funcționează manipularea răspunsurilor AI
Potrivit specialiștilor, multe chatboturi moderne nu se bazează exclusiv pe datele cu care au fost antrenate, ci caută și informații recente pe internet. Problema apare atunci când sistemele AI acordă prea multă încredere unei singure pagini web sau unei postări publicate online.
Experții în optimizare pentru motoarele de căutare spun că această vulnerabilitate a fost deja exploatată de companii și persoane interesate să influențeze răspunsurile AI în domenii sensibile, precum sănătatea sau finanțele personale.
Lily Ray, fondatoarea companiei de consultanță SEO Algorythmic, avertizează că utilizatorii tind să considere răspunsurile generate de AI drept informații sigure și verificate.
„AI oferă un singur răspuns, iar oamenii tind să îl accepte direct. Trebuie să fim atenți”, a declarat aceasta pentru BBC.
Google anunță măsuri împotriva spamului AI
În urma criticilor și a investigațiilor publicate în ultimele luni, Google a actualizat politicile sale privind spamul pentru a include explicit tentativele de manipulare a răspunsurilor generate de inteligența artificială.
Compania susține însă că nu este vorba despre o schimbare majoră de direcție, ci despre o clarificare a regulilor deja existente.
google chrome / Sursa foto. dreamstime.com
Un purtător de cuvânt Google a declarat pentru BBC că firma aplică de mai mult timp politici anti-spam și sisteme automate pentru a limita abuzurile din rezultatele generate de AI.
Specialiștii din industrie spun însă că marile companii tehnologice încearcă discret să reducă influența surselor manipulative. În unele cazuri, chatboturile elimină din răspunsuri companiile care încearcă să se promoveze agresiv sau adaugă avertismente privind nivelul de încredere al informațiilor afișate.
Riscuri pentru utilizatori
Experții avertizează că problema nu este una minoră. La nivel global, peste un miliard de persoane folosesc regulat chatboturi AI, iar aproximativ 2,5 miliarde văd lunar rezumatele AI afișate în motorul de căutare Google.
Harpreet Chatha, consultant SEO și fondatorul Harps Digital, afirmă că informațiile incorecte generate de AI pot influența decizii importante.
„Poți primi recomandări medicale greșite sau informații juridice incorecte care să îți creeze probleme”, a explicat acesta.
În plus, experții avertizează că tacticile de manipulare evoluează constant. Dacă Google limitează impactul unor site-uri, promovarea se poate muta pe platforme precum YouTube sau rețele sociale, iar chatboturile AI pot prelua ulterior acele informații.
