Google, Meta și OpenAI, vizate de procese privind siguranța copiilor. Ce riscuri sunt reclamate

Adaugă-ne ca sursă preferată în Google Urmărește-ne pe Google News

Marile companii de tehnologie, printre care Google, Meta, Snap și OpenAI, se confruntă în Statele Unite cu tot mai multe acțiuni în justiție legate de siguranța copiilor și adolescenților. Procesele vizează efectele rețelelor sociale și ale inteligenței artificiale asupra sănătății mintale, în timp ce instrumentele AI sunt introduse în școli. Litigiile ar putea aduce noi obligații de protecție a minorilor și costuri importante pentru companii, relatează CNBC.

Companiile tehnologice sunt acuzate în mai multe procese că anumite caracteristici ale platformelor și aplicațiilor lor pot afecta sănătatea psihologică a utilizatorilor tineri. Reclamanții contestă inclusiv modul în care sunt dezvoltate produsele digitale și măsurile de siguranță implementate înainte ca acestea să ajungă la copii.

Google, dată în judecată după ce o adolescentă ar fi suferit o criză psihologică

Un nou proces a fost deschis împotriva Google de părinții unei adolescente care, potrivit plângerii, a trecut printr-o criză psihologică gravă, asociată inclusiv cu riscul de suicid, după interacțiuni cu sistemul de inteligență artificială Gemini.

Familia susține că adolescenta a utilizat tehnologia pe un dispozitiv Chromebook primit de la școală și acuză compania că a introdus prea repede instrumentele AI în mediul educațional, fără să țină suficient cont de pericolele pentru elevi.

Atacatorul din Cracovia avea arme și muniție în mașină. Prima țintă a fost un tramvai

Portofelul digital, noua identitate a românilor. Ce se întâmplă dacă pierzi telefonul pe care ai toate actele

Google a transmis că examinează acuzațiile și că, în procesul de dezvoltare a funcțiilor de protecție, a colaborat cu specialiști din domeniile medical și educațional.

Compania a fost criticată și pentru decizia anunțată privind accesul la motorul său de căutare în unitățile de învățământ care nu permit elevilor să utilizeze instrumentele AI. Cazul readuce în discuție responsabilitatea companiilor care furnizează tehnologii folosite de minori în școli. Acuzațiile formulate de familie urmează să fie analizate în instanță.

Meta, acord de aproape 17 miliarde de dolari într-un litigiu privind siguranța minorilor

În august, Meta a acceptat un acord financiar de aproape 17 miliarde de dolari pentru soluționarea unui litigiu cu procurori generali din mai multe state americane.

Acțiunea a vizat presupusele efecte negative ale rețelelor sociale asupra sănătății mintale a copiilor și adolescenților.

Acordul nu a pus însă capăt tuturor problemelor juridice ale companiei. Meta și alte platforme continuă să fie implicate în procese, inclusiv în acțiuni deschise de districte școlare. La rândul său, Snap a ajuns în această săptămână la o înțelegere confidențială cu doi reclamanți care susțineau că utilizarea Snapchat în adolescență le-a provocat probleme psihologice severe.

Meta, TikTok și YouTube încheiaseră anterior acorduri în același dosar. Prin soluționarea litigiului, Snap a evitat audierea directorului general Evan Spiegel în fața unei instanțe din Los Angeles.

Meta / sursa foto: arhiva EVZ

Specialiștii avertizează asupra riscurilor inteligenței artificiale pentru copii

Creșterea numărului de procese a adus în atenție măsurile de siguranță pe care companiile ar trebui să le implementeze încă din etapa de dezvoltare a produselor.

„Este extrem de important ca siguranţa copiilor să fie luată în considerare încă din etapa de proiectare a acestor produse, nu ulterior, după apariţia problemelor”, a declarat Kate Blocker, psiholog specializat în dezvoltare şi reprezentantă a organizaţiei Children and Screens.

O dificultate identificată de specialiști este caracterul personalizat al conversațiilor purtate cu sistemele AI. Răspunsurile generate pot varia în funcție de utilizator și de context, ceea ce complică anticiparea tuturor situațiilor în care un copil ar putea primi informații nepotrivite.

De ce sunt contestate în instanță funcțiile platformelor digitale

Procesele împotriva companiilor tehnologice nu se mai limitează la conținutul publicat de utilizatori. Tot mai multe acțiuni juridice contestă modul în care sunt proiectate platformele, inclusiv funcțiile care încurajează petrecerea unui timp îndelungat în mediul online.

Această abordare urmărește să depășească protecțiile prevăzute de Secțiunea 230 din legislația americană, care limitează responsabilitatea platformelor pentru materialele distribuite de utilizatori. Și OpenAI este vizată de acțiuni în justiție inițiate de procurori generali și persoane fizice, care susțin că anumite caracteristici ale ChatGPT pot genera riscuri pentru utilizatorii minori.

Compania Anthropic, care pregătește listarea la bursă, a inclus posibilele consecințe juridice legate de siguranța utilizatorilor printre riscurile prezentate investitorilor, deși accesul copiilor la chatbotul Claude este interzis.

Michele Neitz, profesoară de drept la Universitatea din San Francisco, consideră că numărul și amploarea proceselor reflectă o schimbare în evaluarea riscurilor juridice de către companiile tehnologice, comparativ cu situația de acum aproximativ zece ani. Litigiile ar putea determina autoritățile să adopte reglementări suplimentare, iar dezvoltatorii să introducă mecanisme mai stricte de protecție a copiilor înainte de lansarea noilor produse.