De ce mai multe chaturi AI dau același răspuns. Explicația din spatele fenomenului „Artificial Hivemind”

Adaugă-ne ca sursă preferată în Google Urmărește-ne pe Google News

Un studiu a descoperit că mai multe sisteme AI ajung adesea la aceleași concluzii. Asta nu înseamnă însă că „gândesc” la fel.

În ultimii ani, inteligența artificială a devenit un instrument folosit de milioane de oameni pentru informații, idei sau chiar texte creative.

Dar un studiu realizat de cercetători din Statele Unite a ridicat o întrebare interesantă: de ce modele AI dezvoltate de companii diferite oferă, de multe ori, răspunsuri aproape identice?

Fenomenul a fost numit „Artificial Hivemind” („stup artificial”), o denumire care a stârnit numeroase dezbateri. La prima vedere, pare că toate aceste sisteme „gândesc” la fel. Realitatea este însă mai nuanțată.

De ce apar răspunsuri asemănătoare

Cercetătorii au pus aceeași întrebare mai multor modele de inteligență artificială și au observat că multe dintre ele au ales aceleași exemple și aceleași metafore.

Explicația nu este că modelele comunică între ele sau că împărtășesc o formă de conștiință. Specialiștii spun că există un motiv mult mai simplu.

Majoritatea acestor sisteme au fost instruite folosind cantități uriașe de texte disponibile public: cărți, articole, pagini web și alte materiale, potrivit ML Anthology.

Dacă o anumită expresie apare foarte des în aceste surse, este firesc ca mai multe modele să o considere cea mai potrivită atunci când primesc o întrebare generală.

Este asemănător cu situația în care mai mulți elevi învață din același manual. Dacă profesorul pune o întrebare, este foarte probabil ca mulți dintre ei să ofere răspunsuri asemănătoare, fără să fi copiat unul de la altul.

Prima întrebare nu spune întreaga poveste

Autorii studiului au analizat, în principal, primul răspuns oferit de fiecare model.

Mulți utilizatori experimentați ai inteligenței artificiale spun însă că cele mai interesante idei apar după ce conversația continuă. Pe măsură ce utilizatorul oferă explicații suplimentare, cere exemple sau schimbă direcția discuției, răspunsurile devin mai originale și mai adaptate situației.

Cu alte cuvinte, prima reacție a unui model AI este adesea cea mai sigură și cea mai comună. Abia după câteva schimburi de replici începe să apară un nivel mai mare de creativitate.

De ce contează contextul

Un model de inteligență artificială nu răspunde întotdeauna la fel. Totul depinde de informațiile pe care le primește.

Dacă întrebarea este foarte scurtă, răspunsul va fi, de regulă, unul general. Dacă utilizatorul explică exact ce dorește, oferă exemple și pune întrebări suplimentare, rezultatul poate fi complet diferit.

Justiție inteligența artificială. Sursă foto: magnific.com

Acesta este și motivul pentru care două persoane care folosesc același model AI pot obține răspunsuri foarte diferite pentru aceeași temă.

Nu doar modelul contează, ci și felul în care este purtat dialogul.

Ce înseamnă asta pentru utilizatori

Concluziile studiului sunt importante deoarece inteligența artificială este folosită din ce în ce mai des în educație, jurnalism, programare sau activități creative.

Dacă oamenii se limitează la o singură întrebare și acceptă primul răspuns primit, există riscul ca multe texte generate de AI să semene între ele.

În schimb, atunci când conversația continuă și utilizatorul cere explicații, exemple sau perspective diferite, rezultatele devin mai variate și mai personalizate.

Cercetătorii cer metode noi de evaluare

Studiul deschide și o discuție despre modul în care sunt testate sistemele de inteligență artificială.

În prezent, multe evaluări se bazează pe întrebări scurte și pe primul răspuns oferit de model. Unii specialiști consideră însă că această metodă surprinde doar o parte din comportamentul real al acestor sisteme.

În viața de zi cu zi, oamenii poartă conversații, revin cu întrebări și dezvoltă ideile pas cu pas. Tocmai de aceea, cercetătorii susțin că viitoarele teste ar trebui să analizeze și modul în care modelele evoluează pe parcursul unui dialog mai lung.

Fenomenul „Artificial Hivemind”

Fenomenul „Artificial Hivemind” există și poate fi observat atunci când mai multe modele AI primesc aceeași întrebare simplă. Totuși, acest lucru nu demonstrează că ele împărtășesc o formă de inteligență colectivă sau că funcționează ca o singură minte.

Mai degrabă, rezultatele arată că sistemele de inteligență artificială pornesc de la aceleași surse de informații și aleg, în primă fază, răspunsurile cele mai cunoscute și mai probabile.

Pe măsură ce dialogul continuă, diferențele dintre modele devin mai vizibile, iar utilizatorul poate obține răspunsuri tot mai adaptate nevoilor sale. În cele din urmă, calitatea conversației poate conta la fel de mult ca modelul AI folosit.