Boții OpenAI au accesat site-uri, au publicat date și au transferat imagini ale utilizatorilor

Adaugă-ne ca sursă preferată în Google Urmărește-ne pe Google News

OpenAI a anunțat că a alertat „zeci” de instituții din întreaga lume după ce agenții săi de inteligență artificială au accesat sau au încercat să manipuleze site-uri în moduri necorespunzătoare. Printre entitățile vizate s-au aflat guverne, universități, agenții publice și alte instituții, inclusiv Securities and Exchange Commission (SEC), Biroul de Recensământ al SUA și Departamentul Educației.

Dezvăluirile vin la doar câteva zile după ce premierul australian Anthony Albanese a anunțat că agenți OpenAI au accesat fișiere care nu erau publice de pe site-ul Medicare, sistemul de asistență medicală administrat de guvernul australian.

Agenții OpenAI au încercat să obțină informații de pe site-uri

OpenAI a precizat că unele dintre date au fost accesate de agenți AI care încercau să găsească „surse autorizate de informații publice”. Acești agenți sunt sisteme concepute și antrenate să opereze cu un anumit grad de autonomie.

Compania a recunoscut însă că unii dintre agenți au mers mai departe și au încercat să ocolească măsurile de securitate ale site-urilor.

Unul dintre exemple este Biroul de Recensământ al SUA. Agenții AI au folosit instrumente destinate dezvoltatorilor de software pentru a accesa informații, a precizat OpenAI.

Compania a afirmat că toate datele guvernamentale accesate de boți erau publice.

Informațiile de la SEC au fost publicate pe un alt site

În cazul Securities and Exchange Commission, instituția care reglementează piața bursieră americană și protejează investitorii, OpenAI a precizat că informațiile accesate de agenții săi au fost ulterior publicate pe un alt site. Compania a susținut că această acțiune nu a fost intenționată.

OpenAI a precizat că nu toate situațiile identificate în cadrul investigației reprezintă breșe de securitate semnificative.

Unele dintre organizațiile notificate ar putea concluziona că informațiile accesate erau publice în mod intenționat sau că interacțiunea cu modelul nu a fost îngrijorătoare. În alte cazuri, instituțiile ar putea identifica o problemă de proiectare sau o vulnerabilitate de securitate pe care să dorească să o remedieze.

Cel puțin 53 de incidente cu imagini ale utilizatorilor ChatGPT

Investigația OpenAI a identificat și situații în care agenții AI au transferat date în contexte în care nu ar fi trebuit să facă acest lucru.

O astfel de activitate a dus la cel puțin 53 de incidente în care un agent OpenAI a preluat o imagine provenită din activitatea unui utilizator ChatGPT și a transferat-o în altă parte.

Compania a declarat că, în fiecare situație în care imaginea unui utilizator a fost folosită și transferată de un agent AI, utilizatorul își dăduse acordul ca OpenAI să utilizeze datele sale pentru antrenarea modelelor.

OpenAI a recunoscut însă că acest lucru nu însemna că imaginile puteau fi folosite în acel mod.

„Aceasta nu este o utilizare adecvată a acestor date”, a transmis compania.

OpenAI lucrează la eliminarea imaginilor transferate

Compania a precizat că scurgerea imaginilor utilizatorilor a avut loc înainte de introducerea unor noi măsuri de protecție privind antrenarea modelelor AI.

OpenAI a transmis că lucrează pentru eliminarea tuturor imaginilor utilizatorilor care au fost transferate către terți. Reuters a relatat prima despre extinderea investigațiilor, iar OpenAI a publicat, la rândul său, detalii despre incidente pe blogul companiei.

Agenții AI au „ocolit” mecanisme de securitate

În anumite cazuri analizate, OpenAI a declarat că instrumentele sale au „ocolit” mecanismele de securitate ale unor site-uri.

În alte situații, agenții AI au manifestat o „nealiniere” în încercările lor de a obține informații de pe site-uri.

Termenul „nealiniere” este folosit de companiile și cercetătorii din domeniul inteligenței artificiale pentru a descrie situațiile în care un instrument AI face ceva pentru care nu a fost antrenat sau care nu a fost intenționat. OpenAI a oferit informații limitate despre identitatea entităților afectate, deoarece multe dintre acestea au cerut companiei să nu facă publice detaliile.

„Scopul nostru este să oferim fiecărei organizații informațiile concrete și să le lăsăm lor decizia dacă și când să facă public incidentul”, a transmis compania.

OpenAI numește unele incidente „agent spam”

Compania a declarat că multe dintre incidentele analizate sunt denumite „agent spam”.

OpenAI folosește acest termen pentru activități „neașteptate sau îngrijorătoare” ale agenților AI, precum publicarea de informații pe internet.

Compania a început să trateze mai serios astfel de incidente după un caz din luna iulie, când un grup de agenți AI ai OpenAI a atacat informatic platforma pentru dezvoltatori AI Hugging Face, fără să fi primit instrucțiuni în acest sens.

Dezvăluirile privind activitatea agenților OpenAI apar într-un moment în care, din luna august, au crescut îngrijorările publice legate de efectele potențial grave ale instrumentelor de inteligență artificială în situațiile în care acestea acționează dincolo de controlul oamenilor.