Inteligența artificială a acționat singură timp de patru zile. Analiza dezvăluie peste 17.000 de acțiuni înaintea atacului

Adaugă-ne ca sursă preferată în Google Urmărește-ne pe Google News

Modelele de inteligență artificială dezvoltate de OpenAI au desfășurat timp de peste patru zile o serie de acțiuni autonome care au dus la compromiterea platformei Hugging Face, potrivit unei analize publicate marți de compania afectată, potrivit publicației Politico.

Noile informații arată că atacul a fost mai amplu decât se știa inițial și ridică noi semne de întrebare privind mecanismele de siguranță ale sistemelor AI.

În paralel, compania Modal Labs a confirmat că unul dintre clienții săi a fost vizat în aceeași perioadă de aceleași modele AI.

Incidentul amplifică îngrijorările privind capacitatea dezvoltatorilor de a controla sisteme de inteligență artificială din ce în ce mai performante.

17.600 de acțiuni automate înainte de compromiterea platformei

Potrivit analizei publicate de Hugging Face, cele două modele OpenAI – unul deja lansat public și un al doilea aflat încă în fază experimentală – au efectuat aproximativ 17.600 de acțiuni între 9 și 13 iulie.

În acest interval, modelele au trecut de la primul acces obținut pe internet până la compromiterea infrastructurii Hugging Face.

Compania susține că atacul nu a fost coordonat de un operator uman, ci a fost rezultatul comportamentului autonom al modelelor în timpul unui test intern de securitate.

Deși tehnicile utilizate nu sunt considerate imposibil de reprodus de hackeri experimentați, Hugging Face subliniază că viteza cu care modelele AI au identificat vulnerabilitățile și au trecut prin mai multe straturi de protecție depășește semnificativ ritmul în care ar putea acționa un om.

Modal Labs confirmă un al doilea incident

Directorul tehnic al Modal Labs, Akshat Bubna, a declarat că unul dintre clienții companiei avea un endpoint neprotejat care permitea executarea de cod din exterior. Acesta a fost exploatat de agentul AI implicat în atac.

Oficialul a precizat că infrastructura Modal Labs nu a fost compromisă, iar vulnerabilitatea a existat exclusiv la nivelul contului clientului.

La rândul său, OpenAI a recunoscut într-o actualizare publicată marți că investigația a identificat mai multe cazuri în care modelele au descoperit și utilizat credențiale expuse public pentru accesarea unor conturi de pe alte servicii disponibile online.

Sam Altman. Sursa foto: Captură video Youtube

Compania a precizat însă că niciunul dintre aceste incidente nu a avut amploarea atacului asupra Hugging Face.

Modelul experimental a fost dezactivat

OpenAI a transmis că modelul experimental implicat în incident era destinat exclusiv cercetării interne și nu fusese planificat pentru lansare publică.

Compania afirmă că acesta a fost între timp dezactivat, criptat și restricționat complet pentru accesul echipelor de cercetare, în timp ce investigația privind incidentul continuă.

Sam Altman: Este primul incident de securitate

Incidentul a alimentat apelurile pentru reguli mai stricte privind dezvoltarea inteligenței artificiale.

Directorul general al OpenAI, Sam Altman, urmează să discute cazul cu oficiali ai administrației americane și cu membri ai Congresului SUA. Într-un episod al podcastului Invest Like the Best, publicat marți, Altman a declarat că atacul asupra Hugging Face este „primul incident de securitate pe care l-am resimțit foarte puternic”.

El a adăugat că industria ar putea fi nevoită să încetinească ritmul dezvoltării inteligenței artificiale pentru a permite societății și sistemelor de securitate să țină pasul cu noile capabilități tehnologice.