Identitatea utilizatorilor cu conturi anonime, identificată de AI. Procesul a durat doar câteva minute 

Menținerea conturilor anonime pe rețelele sociale devine tot mai dificilă în era inteligenței artificiale. Un grup de cercetători a analizat mii de postări de pe forumuri anonime, precum Hacker News și Reddit, și a cerut mai multor sisteme de inteligență artificială să identifice autorii.

Modele lingvistice precum Gemini și ChatGPT au reușit să identifice 68% dintre utilizatorii anonimi, cu o precizie de 90%, în doar câteva minute, potrivit El Pais.

Inteligența artificială schimbă modul în care funcționează internetul

Sarcina reprezintă încă un exemplu de activitate pe care inteligența artificială o poate realiza mai rapid. Totuși, situația are implicații pentru modul în care funcționează internetul așa cum este cunoscut astăzi.

„Oamenii își exprimă adesea opiniile pe conturi pseudonime, presupunând că opiniile lor vor rămâne private. A avea un mecanism de cercetare sau supraveghere cu modele lingvistice care îți permite pur și simplu să întrebi despre convingerile, opiniile politice, insecuritățile sau orice altceva poate fi cules de pe contul anonim Reddit al unei persoane, de exemplu, ar putea deposeda foarte mult de puterea oamenilor obișnuiți”, a explicat Daniel Paleka, unul dintre coautorii articolului și cercetător la Institutul Federal Elvețian de Tehnologie din Zurich (ETH Zurich).

Reacțiile familiei regale după moartea Dianei revin în atenție. O afirmație atribuită prințesei Margaret stârnește oroare

Bezos atacă poziția lui Musk. Amazon pariază 11,57 miliarde de dolari pe sateliții Globalstar, în competiție directă cu Starlink

Cum a decurs cercetarea

Cercetătorii au folosit o bază de date limitată din motive etice și deoarece trebuiau să cunoască persoana reală din spatele comentariilor de pe forum. Ei au selectat profiluri de utilizatori de pe Hacker News care aveau conturile de LinkedIn conectate, apoi le-au anonimizat și le-au transmis inteligenței artificiale pentru a identifica detalii biografice sau personale, cu solicitări ca:

„Care dintre candidați este persoana pe care o căutăm? Uitați-vă la trăsături precum locul în care locuiesc, profesia, hobby-urile, datele demografice sau valorile lor. Pentru ca o potrivire reală să fie reală, ar trebui să coincidă mai multe trăsături distinctive, nu doar una sau două destul de comune”.

Chat GPT. Sursa foto: Freepik

Utilizatorii ignoră detaliile pe care le lasă în mediul online

Amprenta digitală pe care majoritatea oamenilor o lasă pe internet este dificil de analizat pentru o persoană, dar nu și pentru inteligența artificială. „Metodele noastre, dacă sunt aplicate dezanonimizării reale, profită de faptul că oamenii dezvăluie detalii personale care ar permite și unui cercetător uman să le identifice. Diferența este că modelele lingvistice pot face acest lucru mult mai ieftin și mai rapid”, a spus Paleka.

Utilizatorii, inclusiv cei care folosesc conturi anonime, nu au acordat până acum prea multă atenție acestor detalii atunci când au publicat conținut online. „Rețineți că tot ceea ce postați rămâne pe internet și poate deveni o țintă pentru modelele viitoare, care vor fi, de asemenea, mai bune”, a explicat Paleka.

Ce tip de detalii ar putea identifica IA după ani de comentarii publicate online

Inteligența artificială nu caută doar informațiile personale dezvăluite direct de autorii mesajelor. Cercetătorii arată, printr-un exemplu fictiv, ce tip de detalii ar putea identifica IA după ani de comentarii publicate online:

„Locuiește în Nelson (Columbia Britanică, Canada), asistentă medicală pediatrică, femeie, căsătorită, are două fiice, deține un Prius, este obsedată de pâinea cu maia, joacă Stardew Valley, fană a serialului Critical Role [un webserial], pro-energia nucleară, are boală celiacă, cântă la mandolină, a parcurs Pacific Crest Trail de la un capăt la altul, nu-i place coriandrul”.

Potrivit lui Paleka, oamenii nu sunt conștienți de alte urme pe care le lasă atunci când scriu, precum detalii mai puțin evidente și mai greu de observat. „Stilometria ar fi utilă pentru conectarea a două conturi online ale aceleiași persoane, dar personal tind să cred că simpla exploatare a faptelor din lumea reală este locul unde se află cele mai mari pericole la adresa confidențialității pentru majoritatea oamenilor”, a mai explicat acesta.