International
China pregătește sancțiuni pentru chatboturile AI care pot influența emoțional utilizatorii
Sursă foto: Freepik
Din cuprinsul articolului
Autoritățile chineze iau în vizor chatboturile capabile să interacționeze emoțional cu oamenii și pregătesc restricții menite să limiteze riscurile psihologice, inclusiv situațiile legate de suicid, automutilare sau alte comportamente periculoase, potrivit unor proiecte de reglementări citate de CNBC.
Ce urmăresc noile reguli impuse de China
Propunerile formulate de Cyberspace Administration of China se referă la ceea ce instituția numește „servicii AI interactive cu caracteristici umane”. Normele ar urma să se aplice tuturor produselor și serviciilor disponibile publicului din China care simulează personalitatea umană și interacționează prin text, imagine, sunet sau video. Consultarea publică asupra documentului este programată până la 25 ianuarie.
Experții consideră că aceasta ar putea fi prima încercare la nivel mondial de a reglementa explicit inteligența artificială cu trăsături antropomorfe. Winston Ma, profesor asociat la NYU School of Law, spune că noile reguli marchează o schimbare de perspectivă, de la accentul pus anterior pe controlul conținutului, spre un cadru orientat către „siguranţa emoţională”.
Inteligența artificială. Sursa foto. Pixabay
Ce nu vor mai putea face chatboturile
Documentul prevede interdicții clare privind generarea de mesaje care încurajează suicidul sau automutilarea, precum și folosirea violenței verbale ori a manipulării emoționale care ar putea afecta sănătatea mintală a utilizatorilor.
În situațiile în care un utilizator își exprimă intenții suicidare, furnizorii de tehnologie vor fi obligați să transfere conversația către un operator uman și să contacteze imediat un tutore sau o persoană desemnată.
Restricții pentru minori și limite de utilizare
Proiectul mai stabilește că chatboturile nu pot genera conținut asociat jocurilor de noroc, materialelor obscene sau violente. Pentru minori, utilizarea AI în scop de companie emoțională ar necesita acordul unui tutore și ar fi limitată în timp. Platformele vor trebui să poată identifica dacă utilizatorul este minor chiar și atunci când acesta nu își declară vârsta și să aplice automat măsuri de protecție, cu posibilitatea de contestare.
Regulile includ și alte obligații: notificări după două ore de interacțiune continuă cu chatbotul și evaluări de securitate pentru serviciile care depășesc un milion de utilizatori înregistrați sau 100.000 de utilizatori activi lunar.
În paralel, autoritățile transmit că susțin folosirea inteligenței artificiale cu trăsături umane în domenii precum promovarea culturii sau sprijinul pentru persoanele vârstnice.
Măsurile apar într-un moment sensibil pentru sectorul chinez de AI, după ce două startupuri importante din zona chatboturilor — Z.ai și Minimax — au depus documentația pentru listare la bursă, la Hong Kong.
Impactul asupra companiilor din industrie
Minimax este cunoscută pentru aplicația Talkie AI, care permite conversații cu personaje virtuale, iar Z.ai (Zhipu) afirmă că tehnologia sa funcționează pe zeci de milioane de dispozitive. Până acum, companiile nu au comentat felul în care regulile propuse le-ar putea influența planurile.
Prin acest cadru legislativ, Beijingul își consolidează controlul asupra evoluției rapide a aplicațiilor de inteligență artificială destinate consumatorilor, încercând să limiteze riscurile psihologice și sociale generate de noile forme de interacțiune digitală.
