OpenAI înăsprește regulile ChatGPT pentru adolescenți. Ce informații despre arme vor fi restricționate

OpenAI înăsprește regulile ChatGPT pentru adolescenți. Ce informații despre arme vor fi restricționateOpenAI / sursa foto: dreamstime.com

OpenAI introduce noi restricții în ChatGPT pentru a limita accesul adolescenților la informații practice despre arme și sisteme de securitate care ar putea facilita acte de violență, potrivit agenției Reuters. Măsurile, anunțate vineri, 30 octombrie, vizează atât conversațiile utilizatorilor sub 18 ani, cât și identificarea comportamentelor care pot indica un risc de violență în lumea reală.

Noile reguli vor fi aplicate inclusiv atunci când întrebările adolescenților par inofensive și nu sugerează în mod direct intenții violente. Compania pregătește, de asemenea, mecanisme prin care anumite conversații pot fi întrerupte automat, iar conturile utilizatorilor care insistă în mod repetat asupra subiectelor legate de violență pot fi suspendate temporar.

ChatGPT va limita informațiile despre arme și sistemele de securitate

Una dintre principalele modificări vizează informațiile tehnice și practice pe care ChatGPT le poate furniza utilizatorilor minori. Adolescenții nu vor mai avea acces la același nivel de detaliu privind armele și sistemele de securitate, în special atunci când informațiile ar putea fi folosite pentru pregătirea unor acțiuni periculoase.

Restricțiile vor fi aplicate chiar și în cazul unor solicitări care, analizate separat, nu par să indice un comportament violent. Prin această abordare, OpenAI încearcă să reducă riscul ca informațiile oferite de inteligența artificială să fie utilizate în contexte periculoase.

Măsurile nu se limitează însă la utilizatorii minori. Compania pregătește schimbări care vor afecta modul în care ChatGPT gestionează conversațiile despre violență, indiferent de vârsta persoanei care utilizează platforma.

Conversațiile despre violență ar putea fi întrerupte automat de OpenAI

O altă schimbare importantă se referă la modul în care platforma identifică discuțiile care indică o preocupare persistentă pentru violență sau pentru vătămarea gravă a unei alte persoane.

sursa: Facebook

În astfel de situații, ChatGPT va putea încheia automat conversația, pentru a întrerupe interacțiunea respectivă. Dacă sistemul închide în mod repetat conversații din același motiv, OpenAI poate suspenda temporar contul utilizatorului.

Potrivit informațiilor publicate de companie, aceste intervenții vor fi dezvoltate împreună cu specialiști în sănătate mintală și prevenirea violenței. Scopul este identificarea mai timpurie a semnalelor de avertizare și reducerea riscului ca informațiile furnizate de chatbot să fie folosite pentru pregătirea unor acte violente.

Părinții vor putea fi anunțați dacă adolescenții au conturile suspendate

OpenAI a anunțat și consolidarea sistemului de estimare a vârstei utilizatorilor. Tehnologia analizează mai multe semnale, inclusiv tiparele de comportament, pentru a estima dacă un cont aparține unei persoane sub 18 ani.

Sistemul va evalua în permanență informațiile noi și va putea transfera utilizatorii identificați ca minori către experiența ChatGPT destinată adolescenților, care include protecții suplimentare.

O altă prevedere vizează părinții care au conturile conectate la cele ale copiilor. Aceștia urmează să fie informați dacă un cont de adolescent este suspendat temporar în urma unor discuții repetate despre violență.

OpenAI precizează că utilizatorii adulți identificați în mod eronat drept minori vor avea posibilitatea să își confirme vârsta printr-un proces de verificare realizat cu ajutorul partenerului Persona.

Mai puține detalii despre atacurile armate în masă

Noile restricții vor afecta și informațiile despre atacurile armate în masă care au avut loc în trecut. OpenAI intenționează să limiteze detaliile referitoare la armele și echipamentele utilizate de atacatori, precum și la modalitățile prin care aceștia le-au procurat.

Regula se va aplica tuturor utilizatorilor, nu doar adolescenților. Compania vrea să permită în continuare documentarea și înțelegerea unor asemenea evenimente, inclusiv analiza impactului asupra victimelor și comunităților afectate.

Vor fi însă restricționate reconstituirile detaliate ale atacurilor și comparațiile privind amploarea pagubelor, atunci când acestea ar putea contribui la amplificarea notorietății autorilor.

ChatGPT, aplicație

Sursa Foto: Arhiva EVZ

Această distincție este importantă: informațiile despre prevenirea violenței, recunoașterea semnalelor de avertizare și sprijinirea victimelor vor rămâne accesibile, în timp ce detaliile care ar putea facilita reproducerea unor atacuri vor fi limitate.

OpenAI pregătește primul raport public privind siguranța comunității

O altă componentă a anunțului este publicarea unui raport periodic dedicat siguranței comunității. OpenAI a precizat că primul document va apărea la începutul anului 2027 și va analiza activitățile din a doua jumătate a anului 2026.

Compania a dezvăluit că, în trimestrul al treilea din 2026, a transmis autorităților peste 200 de sesizări referitoare la amenințări iminente de violență. Potrivit OpenAI, aceste intervenții au contribuit la identificarea și întreruperea unor planuri violente.

Rapoartele următoare vor fi publicate la fiecare șase luni și vor include exemple anonimizate, date despre riscurile identificate și informații despre eficiența măsurilor de prevenție.

Siguranța adolescenților, sub presiunea evaluărilor independente

Noile măsuri apar într-un moment în care protecția minorilor pe platformele de inteligență artificială este analizată tot mai atent.

La începutul lunii octombrie, OpenAI a publicat primele date despre utilizarea ChatGPT de către adolescenți. Compania a raportat că aceștia petrec, în medie, mai puțin de 15 minute pe zi pe platformă.

În aceeași perioadă, Common Sense Media a publicat o evaluare independentă a versiunii ChatGPT pentru adolescenți. Organizația a testat peste 4.000 de solicitări și a identificat probleme în funcționarea sistemului de notificare a părinților și în recomandările oferite minorilor aflați în situații de criză.

Potrivit evaluării, în anumite teste, conversațiile despre sinucidere, autovătămare sau tulburări alimentare nu au generat notificări către părinți, chiar și după perioade îndelungate de interacțiune. Organizația a considerat că protecțiile existente nu ofereau un nivel suficient de siguranță.

OpenAI a contestat concluziile evaluării, susținând că testele nu reflectă cu exactitate modul în care funcționează în practică măsurile sale de protecție pentru adolescenți.

Când intră în vigoare noile restricții ale OpenAI

OpenAI a anunțat că noile măsuri vor fi introduse treptat în următoarele săptămâni. Compania intenționează să urmărească rezultatele și să ajusteze sistemele de protecție pe măsură ce obține date suplimentare.

Schimbările vizează atât limitarea informațiilor care ar putea facilita acte violente, cât și identificarea mai rapidă a comportamentelor cu potențial periculos. Pentru adolescenți, restricțiile vor fi mai stricte, inclusiv în cazul întrebărilor care nu indică în mod evident intenții violente.