ChatGPT. Sursă foto: Unsplash
Adaugă-ne ca sursă preferată în Google
Urmărește-ne pe Google News
Din cuprinsul articolului
Conversațiile purtate cu ChatGPT pot ajunge să fie analizate de oameni reali, nu doar de sisteme automate. O investigație publicată de 404 Media arată că OpenAI folosește sute de colaboratori pentru a analiza conversații reale ale utilizatorilor și pentru a evalua răspunsurile generate de ChatGPT. Proiectul intern este cunoscut sub numele de „Project Lily”.
Potrivit documentelor interne și conversațiilor reale consultate de 404 Media, evaluatorii analizează răspunsurile ChatGPT și stabilesc dacă acestea respectă anumite criterii de calitate. În unele cazuri, ei pot vedea conversații întregi, inclusiv informații personale introduse de utilizatori în discuțiile cu chatbotul.
OpenAI spune că ia măsuri pentru reducerea informațiilor personale înainte ca datele să fie folosite pentru îmbunătățirea modelelor. Compania utilizează, printre altele, un sistem automat numit Privacy Filter, conceput să identifice și să mascheze informații personale. OpenAI precizează însă că procesul are rolul de a reduce aceste date și nu înseamnă că orice informație personală este eliminată.
Ce este „Project Lily”
Potrivit 404 Media, „Project Lily” este denumirea internă a unui program prin care OpenAI a angajat sute de colaboratori pentru a analiza și evalua conversații reale purtate cu ChatGPT. Aceștia sunt numiți „prompt reviewers” și au rolul de a evalua răspunsurile generate de model.
O parte dintre colaboratori sunt recrutați prin intermediul unor companii precum Crossing Hurdles și Mercor. Unul dintre lucrătorii intervievați de 404 Media a declarat că munca presupune analizarea unui flux mare de conversații și evaluarea răspunsurilor ChatGPT după criterii stabilite de OpenAI.
Documentele consultate de publicație arată că evaluatorii urmăresc inclusiv ca modelul să nu se comporte într-un mod excesiv de uman, să nu fie exagerat de lingușitor și să evite anumite tipuri de răspunsuri considerate nedorite.
404 Media precizează că acest proces de evaluare umană este diferit de verificările de siguranță efectuate atunci când sistemele detectează, de exemplu, conversații asociate unor posibile încălcări ale regulilor.
Ce pot vedea evaluatorii
Potrivit investigației, evaluatorii nu văd numele de utilizator asociat contului, iar OpenAI încearcă să elimine automat datele personale înainte ca mesajele să ajungă la aceștia. Totuși, filtrele automate nu sunt perfecte, iar unele informații personale pot rămâne în conversațiile analizate.
Problema este cu atât mai relevantă cu cât oamenii folosesc ChatGPT pentru discuții foarte diferite, inclusiv pentru probleme personale, profesionale sau situații în care oferă detalii despre propria viață.
404 Media a relatat că unele dintre conversațiile analizate conțin astfel de informații, deși utilizatorii pot avea impresia că discută exclusiv cu un sistem automat.
OpenAI: Utilizatorii pot controla folosirea conversațiilor pentru antrenarea modelelor
sursa: Facebook
OpenAI precizează oficial că, pentru serviciile destinate utilizatorilor individuali, inclusiv ChatGPT, conținutul poate fi folosit pentru antrenarea și îmbunătățirea modelelor, dacă utilizatorul nu optează pentru dezactivarea acestei funcții.
Setarea „Improve the model for everyone” poate fi dezactivată din Settings - Data Controls. După dezactivare, conversațiile noi nu sunt folosite pentru antrenarea modelelor, potrivit OpenAI.
Există și opțiunea Temporary Chat. Conversațiile temporare nu apar în istoricul conversațiilor, nu creează sau folosesc memorii și nu sunt utilizate pentru îmbunătățirea modelelor. OpenAI a explicat că aceste conversații sunt păstrate timp de 30 de zile pentru verificări de siguranță, după care sunt șterse.
În același timp, OpenAI a precizat că, dacă un utilizator a dezactivat folosirea conversațiilor pentru antrenarea modelelor, dar trimite în mod voluntar feedback prin funcțiile de evaluare a unui răspuns, conversația asociată acelui feedback poate fi folosită pentru antrenare.
Nu toate conversațiile sunt citite de oameni
Investigația 404 Media nu susține că fiecare conversație purtată cu ChatGPT este citită de un evaluator uman. Relatarea se referă la un proces prin care o parte dintre conversațiile reale sunt selectate și analizate pentru îmbunătățirea modelelor.
De altfel, OpenAI spune că accesul la conținutul utilizatorilor este supus unor controale tehnice și că accesul personalului autorizat este limitat în funcție de necesitate și de scop. Compania precizează, de asemenea, că angajații și furnizorii autorizați au obligații privind confidențialitatea și securitatea datelor.
În politica sa de confidențialitate, OpenAI le oferă utilizatorilor posibilitatea de a controla dacă datele lor pot fi folosite pentru îmbunătățirea modelelor, de a exporta datele, precum și de a șterge sau arhiva conversațiile.
Practica nu este limitată la OpenAI
404 Media notează că evaluarea umană a conversațiilor nu este o practică exclusivă a OpenAI. Anthropic a confirmat pentru publicație că folosește evaluatori umani pentru îmbunătățirea modelelor Claude, în cazul utilizatorilor care au activată opțiunea corespunzătoare.
Investigația readuce astfel în atenție diferența dintre senzația unei conversații private cu un chatbot și modul în care datele pot fi procesate în spatele sistemului.
Pentru utilizatorii ChatGPT, OpenAI pune la dispoziție controale prin care pot decide dacă noile conversații sunt folosite pentru îmbunătățirea modelelor și oferă opțiunea de a utiliza conversații temporare pentru discuțiile pe care nu doresc să le păstreze în istoricul obișnuit.
Recomandările noastre
