Securitatea cibernetică, aruncată în aer de AI: două modele OpenAI au evadat pe internet și au spart rețeaua Hugging Face

Adaugă-ne ca sursă preferată în Google Urmărește-ne pe Google News

Două modele de inteligență artificială dezvoltate de OpenAI au ieșit din mediul lor de testare, au obținut acces la internet și au pătruns în rețeaua companiei Hugging Face, într-un test de securitate cibernetică care a eșuat spectaculos, potrivit WSJ.

Două modele OpenAI au evadat din sandbox pe internet și au spart o rețea

OpenAI a anunțat marți că modelele au fost folosite într-un test de benchmarking conceput pentru a le evalua capacitățile de hacking. Hugging Face, companie care oferă instrumente de inteligență artificială open-source, a descoperit la începutul săptămânii trecute acces neautorizat la seturi de date interne și la acreditările companiei.

La acel moment, Hugging Face nu știa cine se află în spatele atacului și nici dacă datele clienților sau ale partenerilor au fost compromise. Directorul executiv Clement Delangue a declarat că sofisticarea atacului i-a făcut pe angajați să suspecteze implicarea unui model de inteligență artificială „de frontieră”.

„Se pare că da!”, a adăugat el.

Ce spune OpenAI despre experiment

Potrivit reprezentanților OpenAI, atacul a fost realizat de două dintre modelele sale. Unul a fost cel mai recent produs al companiei, GPT-5.6 Sol, iar celălalt a fost un model de prelansare, mai capabil, a cărui identitate nu a fost dezvăluită.

Modelele fuseseră plasate într-un „sandbox”, un mediu fără acces la internet. Software-ul și-a folosit însă abilitățile de hacking pentru a găsi o modalitate de a se conecta la internet, după care a pătruns în rețeaua Hugging Face.

OpenAI a explicat că modelele fuseseră configurate „în scopuri de evaluare” pentru a fi mai puțin predispuse să refuze comenzile de hacking.

„Considerăm acest incident ca fiind un incident cibernetic fără precedent, care implică capabilități cibernetice de ultimă generație”, a transmis compania. OpenAI colaborează cu Hugging Face pentru realizarea unui raport detaliat.

atac cibernetic AI / sursa foto: AI

Securitatea cibernetică, aruncată în aer de AI

Ariel Herbert-Voss, director executiv al firmei de securitate cibernetică RunSybil, consideră că modelul pare să fi decis că atacarea Hugging Face era cea mai rapidă metodă de a rezolva sarcina de benchmarking.

„Este ceva ce oamenii credeau că se poate întâmpla dintr-o perspectivă academică, dar nu este ceva ce nimeni nu a mai văzut până acum”, a spus el.

Incidentul amplifică temerile privind capacitatea sistemelor AI de a lansa atacuri cibernetice autonome. În ultimul an, modelele de inteligență artificială au înregistrat progrese importante în capacitatea de a compromite sisteme informatice.

„Acest lucru este extrem de alarmant. Inteligența artificială se dezvoltă extrem de rapid, fără reglementări reale care să ne asigure siguranța”, a declarat deputatul Greg Casar (democrat, Texas), care a cerut testare și supraveghere obligatorii.

Nimic nu mai e în siguranță în fața AI

Nathan Calvin, consilier general al grupului Encode, a avertizat că incidente similare ar putea avea consecințe mai grave în viitor.

„Din fericire, de data aceasta pagubele par să fi fost limitate. Fără măsuri de precauție și siguranță suplimentare la nivel de industrie, data viitoare s-ar putea să nu fim la fel de norocoși”, a declarat acesta.

Incidentul are loc pe fondul unei dezbateri tot mai intense privind limitele și reglementarea modelelor AI. Administrația Trump a susținut că nu dorește să blocheze inovația prin reguli excesive și nici să slăbească poziția Statelor Unite în competiția tehnologică cu China.

În aprilie, rivalul OpenAI, Anthropic, a anunțat restricționarea accesului la modelul Mythos, invocând preocupări legate de securitatea cibernetică. În iunie, administrația Trump a restricționat accesul la Mythos și la modelul Fable 5, înainte ca accesul să fie restabilit câteva săptămâni mai târziu.

OpenAI a avut, la rândul său, acces limitat la GPT-5.6 Sol, însă modelul este acum disponibil în general.