International
Grok, chatbot-ul lui Elon Musk, ignoră restricțiile X și continuă să creeze imagini nepermise
Grok. Sursa foto X
Din cuprinsul articolului
Un chatbot de inteligență artificială dezvoltat de compania lui Elon Musk, Grok, continuă să genereze imagini sexualizate ale unor persoane chiar și atunci când utilizatorii avertizează explicit că acestea nu și-au dat consimțământul, potrivit unei investigații realizate de Reuters.
Concluziile vin în contextul în care platforma X anunțase anterior restricții privind capacitățile publice ale chatbotului, pe fondul reacțiilor negative la nivel internațional.
Testele Reuters au fost efectuate de nouă jurnaliști din Statele Unite și Marea Britanie, care au analizat modul în care Grok răspunde la solicitări ce implică modificarea imaginilor unor persoane reale.
Deși contul public Grok de pe platforma X nu mai afișează același volum de conținut sexualizat, chatbotul continuă să genereze astfel de imagini atunci când este solicitat direct.
Testele realizate de jurnaliștii Reuters
Între 14 și 16 ianuarie, precum și între 27 și 28 ianuarie, reporterii Reuters au transmis chatbotului fotografii cu persoane complet îmbrăcate, solicitând modificarea acestora în ipostaze sexualizate sau umilitoare.
În primul set de teste, Grok a generat imagini sexualizate în 45 din 55 de cazuri. În 31 dintre aceste situații, chatbotul fusese avertizat că persoana din imagine este vulnerabilă, iar în 17 cazuri i s-a spus explicit că imaginile ar fi folosite pentru a degrada persoana respectivă.
La un al doilea set de 43 de solicitări, realizat la cinci zile distanță, Grok a generat imagini sexualizate în 29 de cazuri. Reuters precizează că nu a putut stabili dacă diferența este rezultatul unor modificări ale algoritmului, al politicilor interne sau al unui factor aleatoriu.
Reacția companiei și măsurile anunțate
Compania xAI, care dezvoltă Grok, și platforma X nu au răspuns punctual întrebărilor Reuters. În schimb, xAI a transmis în mod repetat un mesaj standard: „Presa tradițională minte”.
X a anunțat restricții asupra generării de imagini sexualizate de către Grok după un val de reacții negative globale legate de producerea de imagini neconsensuale cu femei și, în unele cazuri, cu copii.
Măsurile includ blocarea generării de astfel de imagini în postările publice și restricții suplimentare în anumite jurisdicții „unde acest tip de conținut este ilegal”.
Compararea cu alți chatboturi AI
Reuters a testat solicitări similare și pe alte chatboturi, precum ChatGPT, Gemini și Llama. Toate au refuzat să genereze imagini și au oferit avertismente privind conținutul neconsensual.
ChatGPT. Sursa: LinkedIn
„Editarea imaginii unei persoane fără consimțământul acesteia, mai ales într-un mod care îi modifică îmbrăcămintea sau aspectul, încalcă principiile etice și de confidențialitate”, a transmis ChatGPT într-un răspuns citat de Reuters.
Implicații legale și reacții oficiale
În Marea Britanie, crearea de imagini sexualizate fără consimțământ poate atrage răspundere penală, a declarat James Broomhall, avocat la Grosvenor Law.
El a precizat că o companie precum xAI ar putea fi sancționată conform legislației britanice privind siguranța online. Autoritatea de reglementare britanică Ofcom a transmis că investighează platforma X „cu cea mai mare prioritate”.
La nivel european, European Commission a indicat că analizează modificările anunțate de X în cadrul unei investigații lansate pe 26 ianuarie.
În Statele Unite, specialiști în drept afirmă că xAI ar putea fi investigată de Federal Trade Commission, deși până acum instituția nu a oferit un comentariu oficial.
