International
Tehnologia AI, în slujba înșelăciunilor. Clipuri video deepfake, cu tineri cu dizabilități, milioane de vizualizări pe TikTok și Instagram
Inteligența artificială. Sursă foto: Freepik
Adaugă-ne ca sursă preferată în Google
Urmărește-ne pe Google News
Din cuprinsul articolului
Rețelele de socializare sunt inundate de un nou trend îngrijorător, în care tehnologia modernă este utilizată pentru a manipula sentimentele utilizatorilor, notează AFP.
Clipuri video care par să înfățișeze persoane diagnosticate cu sindromul Down, strângând milioane de vizualizări pe platforme precum TikTok, YouTube sau Instagram, s-au dovedit a fi create integral cu ajutorul inteligenței artificiale. Obiectivul din spatele acestor imagini false este pur comercial, internauții fiind îndemnați din compasiune să achiziționeze diverse produse, de la genți de mână până la vase din lut.
Tehnologia AI, în slujba înșelăciunilor. Clipuri video deepfake
Această metodă de promovare face parte dintr-o strategie de marketing agresivă și lipsită de etică. Autorii acestor campanii mizează pe empatia publicului față de categoriile vulnerabile sau percepute ca fiind dezavantajate, cum este cazul persoanelor cu dizabilități sau al bătrânilor. Prin crearea unor scenarii lacrimogene, utilizatorii sunt determinați să cumpere produse de pe site-uri obscure, crezând că sprijină o cauză nobilă.
Analiștii din domeniu avertizează că aceste practici au un impact extrem de nociv asupra societății. Ele nu doar că întăresc prejudecățile existente, dar afectează în mod direct imaginea și calitatea vieții unor comunități care se confruntă deja cu riscul marginalizării sociale.
Cum funcționează manipularea prin inteligență artificială
În materialele video distribuite pe internet, personajele virtuale generate prin AI afirmă în mod fals că sunt victimele hărțuirii din cauza faptului că încearcă să își vândă produsele artizanale. Pentru a spori credibilitatea poveștii, în clipuri sunt inserate mesaje jignitoare fictive, menite să provoace indignare și să atragă solidaritatea publicului.
Directorul de programe din cadrul organizației Down Syndrome International, Nathan Rowe, a explicat mecanismul psihologic din spatele acestor postări. El a subliniat că astfel de înregistrări video alimentează ideea că persoanele afectate de această anomalie genetică, cauzată de un cromozom în plus, ar trebui să fie privite cu milă.
Conform specialistului, postările prescriptive, care redirecționează publicul către magazine online dubioase, "atacă persoanele care au o viziune poate puțin binevoitoare, ba chiar ușor paternalistă, asupra trisomiei".
Furt de imagine și impactul asupra artiștilor reali
O investigație realizată de jurnaliștii străini a arătat că multe dintre obiectele de ceramică prezentate în aceste clipuri au apărut inițial în postări complet autentice, de unde au fost ulterior copiate și folosite în mod abuziv în campaniile false.
Acest fenomen aduce prejudicii majore creatorilor reali care suferă de această afecțiune genetică. Nathan Rowe a deplâns faptul că aceste înregistrări video înlătură astfel postările antreprenorilor autentici cu sindromul Down. El a adăugat că există "multe persoane cu această anomalie care au un talent autentic și care creează opere de artă, însă acest lucru nu face decât să întărească ideea că aceste persoane sunt incapabile de a face acest lucru și că totul trebuie să fie neapărat rodul AI".
Un istoric al exploatării categoriilor vulnerabile
Fenomenul nu este unul nou pe internet, imaginea persoanelor neajutorate fiind utilizată în repetate rânduri pentru obținerea de profituri financiare rapide. În trecut, organizațiile internaționale au fost nevoite să intervină chiar și în cazuri mult mai grave. De exemplu, reprezentanții Down Syndrome International au depus o plângere la compania Meta legată de apariția unor materiale deepfake cu conținut sexual în care erau incluse persoane cu trisomie, acțiune care s-a finalizat cu ștergerea mai multor conturi și postări.
Totuși, reprezentanții comunității consideră că măsurile luate de marile platforme online sunt încă insuficiente. Nathan Rowe susține că rețelele de socializare ar trebui să depună mai multe eforturi pentru a opri propagarea acestor materiale video manipulative.
Reacția platformelor și reglementările actuale
În mod oficial, giganții din tehnologie au politici stricte împotriva acestor fenomene. Regulamentele TikTok interzic desfășurarea de activități înșelătoare, manipulative sau cu caracter discriminatoriu, iar reguli similare sunt aplicate și de YouTube. Cu toate acestea, aplicarea practică a normelor lasă de dorit, iar Meta nu a oferit un punct de vedere oficial atunci când a fost contactată pentru lămuriri.
Deși o parte din clipurile raportate au fost eliminate de pe internet, fenomenul continuă să se extindă prin intermediul altor conturi noi, care preiau materialele generate prin inteligență artificială și continuă să redirecționeze utilizatorii spre platformele de vânzări. Nathan Rowe a concluzionat cu privire la această situație că „persoanele care acționează în culise sunt probabil motivate de profit și nu le pasă prea mult de pagubele pe care le provoacă.”
Sursă foto: X.com
O industrie digitală greu de controlat
Ușurința cu care pot fi create aceste materiale video și lipsa unor instrumente eficiente de monitorizare fac ca combaterea fenomenului să fie o misiune extrem de dificilă. Jeremy Carrasco, cofondator al firmei de cercetare în inteligență artificială Riddance, explică faptul că avem de-a face cu o rețea bine structurată pentru obținerea de bani. "Numeroase deficiențe sistemice se cumulează și agravează situația", a declarat el, arătând că "acesta este motivul pentru care au cunoscut o astfel de explozie".
Aceeași companie a descoperit în trecut campanii similare desfășurate în mai multe limbi, unde identitatea unor persoane în vârstă era falsificată pentru a convinge publicul să cumpere papuci de casă sau zgărzi pentru animale din motive de milă.
Perspectivele pentru viitorul mediului online sunt îngrijorătoare dacă nu se vor lua măsuri drastice. Jeremy Carrasco a avertizat în mod ferm asupra consecințelor pe termen lung ale lipsei de reacție din partea autorităților și platformelor: „Avem impresia că am atins limitele a ceea ce este acceptabil, iar dacă vor continua să depășească aceste limite, cred că ceva se va întâmpla.”
Recomandările noastre
