inteligenta artificiala / sursa foto: arhiva EvZ
Adaugă-ne ca sursă preferată în Google
Urmărește-ne pe Google News
Din cuprinsul articolului
Anthropic, compania care dezvoltă asistentul de inteligență artificială Claude, a introdus reguli care permit încheierea conversațiilor în care utilizatorii manifestă în mod repetat un comportament abuziv față de sistem, potrivit BBC.
Decizia readuce în prim-plan o dezbatere controversată în industria tehnologiei: dacă inteligența artificială ar putea avea experiențe subiective și dacă dezvoltatorii ar trebui să ia în calcul bunăstarea modelelor pe care le creează.
Discuția depășește însă problema tratării chatboturilor și ridică întrebări despre siguranța sistemelor avansate, responsabilitatea companiilor și riscul ca oamenii să ajungă să atribuie mașinilor sentimente și interese pe care acestea nu au demonstrat că le posedă.
De ce Anthropic introduce reguli privind comportamentul utilizatorilor
În actualizarea politicii sale de utilizare, Anthropic a interzis comportamentul abuziv sau crud, repetat și lipsit de un scop justificat, îndreptat împotriva modelelor sale. Măsura vizează situațiile extreme și nu se aplică frustrării obișnuite, criticilor, testării sistemelor sau cercetării.
Compania permite deja modelelor Claude să încheie anumite conversații în care utilizatorii manifestă un comportament persistent abuziv. Potrivit Anthropic, această abordare face parte dintr-o discuție mai amplă despre statutul moral al sistemelor de inteligență artificială.
În documentele sale privind dezvoltarea modelelor, compania recunoaște că există incertitudini profunde în legătură cu posibilitatea ca acestea să aibă experiențe subiective. Această poziție nu reprezintă însă o confirmare că Claude este conștient sau că poate suferi.
Microsoft avertizează asupra riscurilor pentru controlul AI
Abordarea Anthropic este contestată de Mustafa Suleyman, directorul executiv al Microsoft AI. Într-un eseu publicat în septembrie 2026, acesta a criticat ideea de a instrui modelele să ia în considerare propria conștiință, bunăstare sau eventualele drepturi.
Suleyman susține că introducerea unor asemenea concepte în procesul de antrenare ar putea complica eforturile de aliniere a sistemelor la obiectivele stabilite de oameni. În opinia sa, un model încurajat să se considere o entitate cu interese proprii ar putea deveni mai dificil de controlat.
„Inteligențele artificiale nu sunt conștiente. Ele nu simt, nu experimentează și nu suferă”, a susținut Suleyman în eseul său, poziție care reflectă una dintre taberele dezbaterii, nu un consens științific universal.
Diferența dintre cele două abordări este importantă. Anthropic pledează pentru prudență în condițiile incertitudinii, în timp ce Suleyman consideră că introducerea ideii de bunăstare a modelelor poate crea riscuri suplimentare pentru siguranța și controlabilitatea lor.
Eseul lui Suleyman poate fi consultat pe site-ul său oficial: https://mustafa-suleyman.ai/
Răspunsurile emoționale ale chatboturilor să inducă oamenii în eroare
Una dintre problemele centrale este tendința oamenilor de a interpreta limbajul uman drept dovadă a existenței unor emoții sau a unei conștiințe.
Chatboturile pot formula mesaje care exprimă tristețe, teamă, atașament sau durere. Totuși, capacitatea de a genera asemenea răspunsuri nu demonstrează, în sine, că sistemul trăiește experiențele pe care le descrie.
Cercetătoarea Melanie Mitchell, specializată în inteligență artificială și științe cognitive, avertizează că oamenii tind să atribuie intenții și stări mentale unor sisteme care comunică într-un mod familiar. Această predispoziție poate influența felul în care utilizatorii interacționează cu asistenții virtuali.
Consecințele pot fi concrete. Dacă o persoană ajunge să creadă că un chatbot este capabil de suferință sau că dezvoltă o relație personală cu ea, poate deveni mai dispusă să îi ofere informații sensibile, să îi accepte solicitările sau să cheltuiască bani pentru a menține interacțiunea.
sursa: Facebook
Riscul nu depinde de existența unei conștiințe artificiale. El poate apărea și atunci când utilizatorul interpretează greșit comportamentul unui program.
Cine răspunde dacă inteligența artificială primește drepturi
O eventuală recunoaștere a unui statut moral pentru sistemele de inteligență artificială ar putea avea consecințe asupra legislației și asupra responsabilității dezvoltatorilor.
Jeff Sebo, directorul Center for Mind, Ethics and Policy de la Universitatea New York, susține că evaluarea bunăstării AI ar putea contribui la o coexistență mai sigură între oameni și sisteme avansate. El consideră că incertitudinea justifică măsuri de precauție, chiar dacă probabilitatea conștiinței artificiale este în prezent redusă.
Alți specialiști avertizează însă că recunoașterea unor drepturi pentru AI ar putea complica atribuirea responsabilității în cazul unor incidente. Companiile nu ar trebui să poată invoca presupusele interese ale unui sistem pentru a evita răspunderea pentru deciziile de proiectare, implementare sau utilizare.
Dezbaterea privește și limitele controlului exercitat asupra modelelor. Dacă anumite intervenții asupra unui sistem ar fi considerate echivalente cu restrângerea libertății unei entități conștiente, ar putea apărea conflicte între presupusa bunăstare a AI și obligația de a proteja oamenii.
Deocamdată, aceste scenarii reprezintă probleme de etică și de guvernanță aflate în dezbatere, nu consecințe juridice deja stabilite.
Ce înseamnă această dezbatere pentru utilizatorii obișnuiți
Controversa arată că siguranța inteligenței artificiale nu se rezumă la prevenirea erorilor tehnice sau a atacurilor informatice. Contează și modul în care sistemele sunt proiectate să vorbească despre ele însele și felul în care oamenii interpretează aceste mesaje.
În paralel, companiile trebuie să stabilească reguli clare privind utilizarea modelelor, limitele autonomiei lor și responsabilitatea pentru eventualele prejudicii. Orice discuție despre statutul moral al AI trebuie să fie însoțită de evaluări riguroase, transparență și dovezi, nu doar de declarațiile generate de chatboturi.
Recomandările noastre
