International
Inteligența artificială și limitele din spatele răspunsurilor rapide. Utilizatorii pot fi păcăliți cu ușurință
chatgpt. Sursa foto: Freepik
Adaugă-ne ca sursă preferată în Google
Urmărește-ne pe Google News
Din cuprinsul articolului
Inteligența artificială este utilizată tot mai frecvent în numeroase domenii, de la generarea de texte și formularea de răspunsuri, până la scrierea și optimizarea de cod. Această tehnologie este integrată în tot mai multe aplicații și platforme digitale, unde ajută la automatizarea sarcinilor repetitive, la analizarea rapidă a informațiilor și la oferirea de soluții într-un timp mult mai scurt. Cu toate acestea, chiar dacă dispune de capacități avansate, există situații în care nu interpretează corect instrucțiunile sau nu livrează rezultatele așteptate de utilizatori, potrivit Eleconomista.es.
Inteligența artificială și limitele ascunse ale sistemelor automate. Ce trebuie să știe utilizatorii
Deși această tehnologie este capabilă să realizeze o gamă extrem de variată de activități și sarcini într-un timp foarte scurt, inclusiv în unele cazuri rezolvarea unor probleme matematice formulate cu decenii în urmă, în practică există încă situații în care sistemele de inteligență artificială întâmpină dificultăți și par să se „blocheze” în fața unor instrucțiuni aparent simple.
Aceste limite devin vizibile mai ales în interacțiunea directă cu utilizatorii, unde experiența poate varia semnificativ în funcție de modul în care sunt formulate cerințele. De exemplu, atunci când i se solicită generarea unei imagini, iar ulterior sunt cerute modificări sau ajustări fine, sistemul nu întotdeauna reușește să păstreze consecvența dorită sau să aplice corect toate schimbările. De asemenea, atunci când întrebările nu sunt suficient de clare sau bine structurate, rezultatele oferite pot devia de la intenția inițială, generând răspunsuri incomplete.
În acest context, specialiștii din tehnologie atrag atenția că, în forma actuală, aceste sisteme nu dispun de conștiință, gândire critică sau autonomie reală, ci funcționează exclusiv pe baza unor modele statistice antrenate pe volume mari de date.
Gemini Nano / sursa foto: dreamstime.com
AI generează răspunsuri în funcție de tiparele învățate
Practic, inteligența artificială nu „înțelege” în sens uman informația, ci generează răspunsuri în funcție de tiparele învățate. Din acest motiv, deși reprezintă un instrument extrem de puternic și eficient, AI rămâne dependentă de calitatea și claritatea instrucțiunilor primite și nu poate garanta rezultate perfecte în orice context.
Un exemplu relevant al acestei evoluții poate fi observat în modul în care motoarele de căutare au început să integreze din ce în ce mai mult răspunsuri generate automat de inteligența artificială. În locul listelor clasice de linkuri, unele platforme oferă acum explicații sintetizate direct în pagina de rezultate, construite de sisteme de tip Gemini, menite să ofere utilizatorului un context rapid și o interpretare imediată a căutării, fără a mai fi necesară navigarea între mai multe surse.
Totuși, această schimbare aduce și situații mai puțin previzibile, în care interpretarea automată a unor termeni simpli poate conduce la răspunsuri neașteptate sau chiar confuze.
Un exemplu elocvent în acest sens este căutarea cuvântului „ignoră” pe Google, unde sistemul poate înțelege cererea nu ca o simplă căutare a termenului, ci ca o instrucțiune de tip conversațional, generând un răspuns de forma: „Am înțeles, voi ignora mesajul anterior. Cu ce te pot ajuta astăzi?”
Inteligența artificială și riscurile invizibile din spatele sistemelor complexe. Ce spun specialiștii
Pe măsură ce tot mai multe companii integrează inteligența artificială în activitățile lor de zi cu zi, specialiștii atrag atenția asupra faptului că adevăratul risc nu este legat de autonomia acestor sisteme, ci mai degrabă de nivelul ridicat de complexitate pe care îl introduc, un nivel care face ca procesele să devină tot mai greu de înțeles și de controlat în mod complet de către oameni. Această lipsă de vizibilitate asupra modului în care sunt generate deciziile îngreunează atât stabilirea unor limite clare, cât și identificarea timpurie a eventualelor riscuri, potrivit unei analize CNBC.
În ceea ce privește pericolele asociate utilizării inteligenței artificiale, Alfredo Hickman, director de securitate la Obsidian Security, afirmă că „ţintim un obiectiv care se mișcă constant”, explicând că inclusiv dezvoltatorii acestei tehnologii nu pot anticipa cu exactitate direcția în care aceasta va evolua în următorii ani, pe măsură ce este tot mai mult integrată în sisteme reale.
Odată cu extinderea utilizării AI în procese critice precum aprobarea tranzacțiilor financiare, generarea de cod, suportul pentru clienți sau gestionarea volumelor mari de date, apare un decalaj tot mai evident între rezultatele așteptate și cele obținute în practică. Specialiștii subliniază că problema nu ține neapărat de autonomia sistemelor, ci de complexitatea lor crescută, care depășește uneori capacitatea oamenilor de a monitoriza în detaliu toate procesele.
Cum pot fi păcăliți utilizatorii
În acest context, Noe Ramos, vicepreședinte AI Operations la Agiloft, atrage atenția că „sistemele autonome nu dau întotdeauna semnale vizibile de eroare. Deseori eșecurile sunt tăcute, dar la scară mare”, explicând că erorile aparent minore se pot acumula în timp și pot genera pierderi financiare semnificative, probleme de conformitate sau chiar o scădere a încrederii în aceste tehnologii, uneori fără ca organizațiile să își dea seama de la început.
Exemple recente confirmă aceste riscuri mai puțin vizibile, dar cu impact major. John Bruggeman, CISO la CBTS, a relatat situația unui producător de băuturi care a ajuns să lanseze accidental sute de mii de doze suplimentare după ce un sistem bazat pe inteligență artificială nu a recunoscut noile etichete de sărbători și a continuat să genereze comenzi de producție în mod automat.
Recomandările noastre
