ChatGPT, folosit într-o operațiune de propagandă atribuită Chinei. OpenAI spune că a blocat conturile implicate.

Adaugă-ne ca sursă preferată în Google Urmărește-ne pe Google News

OpenAI a anunțat că a identificat și blocat conturi asociate unor operațiuni de influență online cu legături în China, care au folosit ChatGPT pentru a genera conținut destinat modelării dezbaterilor publice din Statele Unite, potrivit Reuters.

Potrivit companiei americane de inteligență artificială, campaniile vizau teme sensibile precum dezvoltarea centrelor de date pentru AI, politica tarifară a SUA și alte subiecte cu impact economic și politic.

Descoperirea este importantă pentru că arată modul în care instrumentele de inteligență artificială generativă pot fi utilizate în operațiuni de propagandă și influență la scară internațională.

Cum au fost folosite instrumentele AI

Într-un raport publicat de OpenAI, compania arată că operatorii au utilizat ChatGPT pentru a crea postări pe rețelele sociale, comentarii, sloganuri și imagini în mai multe limbi. Materialele erau distribuite prin conturi care imitau utilizatori obișnuiți și urmăreau să amplifice anumite mesaje în dezbaterile publice.

Unde erau conducătorii României în momentul în care a fost asasinat președintele american John Fitzgerald Kennedy

Vacanță fără griji. Cum îți pregătești mașina pentru un drum lung și ce trebuie să verifici înainte de a pleca

Una dintre campaniile identificate, denumită de OpenAI „Data Center Bandwagon”, încerca să stimuleze opoziția față de construirea centrelor de date din SUA, promovând ideea că acestea ar contribui la creșterea costurilor energiei electrice pentru populație.

Investigația companiei sugerează că operațiunea era asociată unei firme chineze de tehnologie care avea contracte cu autorități locale din China.

Open AI / sursa foto: dreamstime.com

O altă campanie a folosit ChatGPT pentru realizarea unor caricaturi politice și mesaje critice la adresa tarifelor comerciale impuse de administrația americană. Potrivit OpenAI, materialele erau generate atât în limba chineză, cât și în alte limbi, inclusiv engleză, italiană și japoneză.

Impactul campaniilor a fost limitat

OpenAI susține că operațiunile identificate nu au avut o influență semnificativă asupra dezbaterilor publice și nu există dovezi că acestea au generat un impact major în spațiul online.

Ben Nimmo, investigator principal în cadrul echipei de informații și investigații a companiei, a declarat că este vorba despre o tactică prin care actori străini încearcă să exploateze discuții deja existente în societate și să le amplifice folosind conturi false care pretind că aparțin unor cetățeni americani.

Compania a precizat că operatorii au utilizat rețele VPN pentru a evita restricțiile și au formulat solicitări către ChatGPT în limba chineză simplificată, cerând ulterior generarea de conținut în mai multe limbi.

OpenAI avertizează asupra creșterii operațiunilor de influență

Raportul face parte dintr-o serie de investigații prin care OpenAI monitorizează utilizarea abuzivă a sistemelor sale. Compania a semnalat și în rapoarte anterioare existența unor grupuri asociate Chinei care au folosit inteligența artificială pentru campanii de influență, propagandă și colectare de informații.

Specialiștii în securitate digitală consideră că astfel de operațiuni reprezintă un exemplu al modului în care inteligența artificială poate accelera producerea și distribuirea conținutului propagandistic, reducând costurile și timpul necesar pentru desfășurarea unor campanii de influență online.