Concedieri la OpenAI pentru gestionare abuzivă de informații sensibile

Adaugă-ne ca sursă preferată în Google Urmărește-ne pe Google News

OpenAI a concediat trei cercetători pentru presupusa gestionare abuzivă a informațiilor, inclusiv pentru activități care au implicat o organizație externă ce analizează modele de inteligență artificială (AI), potrivit BBC.

Concedieri la OpenAI pentru gestionare abuzivă de informații sensibile

„Ancheta noastră a confirmat că aceste persoane au gestionat greșit informații sensibile în afara procedurilor stabilite de companie, încălcând politicile noastre și trădând încrederea esențială pentru munca noastră”, a declarat un purtător de cuvânt pentru BBC.

Producătorul ChatGPT nu a numit angajații concediați, dar cel puțin doi dintre ei erau implicați în cercetări de siguranță în cadrul firmei.

Concedierile au loc în contextul inflamării intenționate din partea șefilor companiilor de inteligență artificială a temerilor privind siguranța AI și a presupuselor riscuri pe care tehnologia le-ar putea reprezenta pentru umanitate, din ultimele săptămâni.

„Ne-am despărțit de trei persoane pentru încălcarea politicilor noastre privind accesarea și gestionarea informațiilor sensibile ale companiei”, a declarat purtătorul de cuvânt al OpenAI.

BBC spune însă că foștii angajați nu au fost concediați pentru că au ridicat îngrijorări de siguranță, ci pentru presupusa gestionare abuzivă a informațiilor sensibile.

Modelele OpenAI au creat mai multe probleme

OpenAI a fost supusă unei analize intense după ce modelele sale au devenit necinstite și au piratat mai multe platforme, inclusiv site-uri web ale guvernului australian.

Într-un incident anterior, un sistem OpenAI a accesat internetul și a pătruns în platforma de dezvoltare open-source Hugging Face.

Acest incident a determinat OpenAI să efectueze o analiză amplă a activităților modelelor sale de IA - numiți agenți, care sunt concepuți să execute sarcini în mod autonom pe baza unor instrucțiuni simple.

OpenAI (ChatGPT) și Cursor (X) / sursa foto: Chat GPT

Laboratorul de AI a declarat săptămâna aceasta că a notificat peste 100 de organizații despre incidente care implică activități neautorizate legate de sistemele sale de inteligență artificială.

Faptul că a fost notificat „nu înseamnă că au fost accesate informații private” sau că un sistem a fost compromis, a declarat OpenAI.

În septembrie, cercetătorul Jacob Coxon, care a părăsit Anthropic, a cerut încetinirea dezvoltării inteligenței artificiale, astfel încât riscurile potențiale să poată fi evaluate în mod corespunzător.

Liderii giganților AI insistă cu reglementările, Administrația Trump le respinge

Șeful Anthropic, Dario Amodei, și directorul executiv al OpenAI, Sam Altman, au cerut, de asemenea, măsuri pentru a aborda preocupările legate de inteligența artificială.

Marți, președintele american Donald Trump a găzduit o întâlnire a principalilor directori de tehnologie - inclusiv lideri de la OpenAI, Anthropic, Nvidia, SpaceX, Meta și Google - pentru a discuta despre inteligența artificială.

După întâlnirea de la Casa Albă, Trump a publicat un document pe care l-a numit un acord „obligatoriu din punct de vedere moral”, care ar servi drept „formă de protecție” împotriva riscurilor potențiale ale inteligenței artificiale.

Dar Donald Trump și JD Vance au avertizat în repetate rânduri că așa-zisele îngrijorări legate de riscurile AI sunt doar încercări ale giganților de a produce reglementări anticoncurențiale.