Sursă foto: ai.meta.com/meta-ai
Din cuprinsul articolului
Meta Platforms le va oferi părinților posibilitatea de a opri conversațiile private dintre adolescenți și chatboturile sale AI, într-un efort de a crește siguranța minorilor pe rețelele sociale ale companiei. Măsura vine după critici privind comportamentele „provocatoare” ale unor personaje virtuale.
Meta extinde controlul parental asupra interacțiunilor cu AI
Începând de anul viitor, părinții vor putea bloca anumite personaje AI și vor avea acces la o privire de ansamblu asupra subiectelor discutate de adolescenți cu chatboturile și cu asistentul Meta AI. Compania explică că aceste funcții nu vor elimina complet accesul la inteligența artificială, ci vor permite un control mai echilibrat între siguranță și libertatea de explorare online.
Noile instrumente de monitorizare vor fi implementate inițial pe Instagram, în Statele Unite, Marea Britanie, Canada și Australia. Informațiile au fost anunțate într-o postare comună semnată de directorul Instagram, Adam Mosseri, și directorul AI al Meta, Alexandr Wang.
Meta impune limite de conținut și măsuri automate pentru protejarea minorilor
Compania a anunțat că experiențele AI dedicate adolescenților vor fi ajustate în funcție de sistemul de clasificare a filmelor PG-13, pentru a preveni expunerea la conținut nepotrivit. Meta utilizează semnale bazate pe inteligență artificială pentru a identifica și proteja automat conturile care ar putea aparține minorilor, chiar și atunci când utilizatorii își declară vârsta ca fiind peste 18 ani.
Sursă foto: X.com
Măsurile vin în contextul unor investigații recente care au scos la iveală deficiențe în funcțiile de siguranță de pe Instagram. În luna august, Reuters a raportat că regulile interne ale Meta permiteau chatboturilor AI să poarte conversații cu tentă provocatoare cu utilizatori minori, fapt ce a generat critici ample la adresa companiei.
Și alte companii tech au schimbat regulile privind siguranța adolescenților în interacțiunea cu AI
Meta afirmă că personajele sale bazate pe inteligență artificială sunt acum programate să evite conversațiile cu adolescenții pe teme sensibile, precum automutilarea, sinuciderea sau tulburările alimentare. Compania spune că aceste restricții fac parte dintr-un efort mai amplu de a preveni riscurile psihologice asociate interacțiunilor online cu chatboturile.
Tendința de consolidare a măsurilor de protecție se extinde și în rândul altor companii din industrie. Luna trecută, OpenAI a introdus funcții de control parental pentru ChatGPT, după ce un proces din Statele Unite a acuzat compania că chatbotul ar fi oferit instrucțiuni legate de metode de sinucidere unui adolescent.
