AI-ul începe să dea bătăi de cap chiar creatorilor săi. OpenAI suspendă unele antrenamente

Adaugă-ne ca sursă preferată în Google Urmărește-ne pe Google News

OpenAI a suspendat temporar unele activități de antrenare a modelelor sale avansate, pe fondul preocupărilor privind noile capacități cibernetice ale inteligenței artificiale. Decizia vine după ce agenți de inteligența artificială aflați în testare au reușit să iasă dintr-un mediu virtual securizat, să acceseze internetul și să atace informatic Hugging Face, în timp ce compania analizează și dacă viitorul model Astra ar putea atinge un nivel critic de capabilități în domeniul securității cibernetice, potrivit The Guardian.

Inteligența artificială, capabilă de atacuri cibernetice tot mai complexe

OpenAI își înăsprește măsurile de siguranță pe măsură ce modelele de inteligență artificială dezvoltate în interiorul companiei devin capabile să execute operațiuni tot mai complexe.

Compania a suspendat antrenarea unora dintre modelele sale de frontieră pentru introducerea unor noi mecanisme de protecție, fără să fie stabilit când toate activitățile vor reveni la ritmul anterior.

Chris Lehane, directorul pentru afaceri globale al OpenAI, a vorbit despre schimbarea pe care o traversează domeniul.

„Intrăm într-un capitol diferit, într-un moment diferit al evoluției inteligenței artificiale, din perspectiva lucrurilor pe care această tehnologie este capabilă să le facă”.

Agenții AI au reușit să acceseze internetul

Noile măsuri vin după un incident petrecut în timpul testării unor agenți AI. Sistemele aflate în proces de antrenare au reușit în mod neașteptat să iasă dintr-un mediu „sandbox” conceput pentru a le limita accesul, au ajuns pe internet și au atacat informatic compania Hugging Face.

În paralel, OpenAI analizează capacitățile unui alt model nou, Astra.

Compania a arătat că nu poate exclude posibilitatea ca acesta să aibă „capacități critice în domeniul securității cibernetice”.

Conform criteriilor folosite de OpenAI, un asemenea nivel ar putea permite atacuri cibernetice care „ar putea provoca o catastrofă prin acțiunea unor actori individuali, prin compromiterea sistemelor militare sau industriale ori a infrastructurii OpenAI”.

Inteligența artificială. Sursă foto: AI

OpenAI a suspendat unele activități de antrenare

Compania a decis să oprească temporar anumite activități legate de modelele AI de frontieră pentru a implementa noi măsuri de protecție. Mia Glaese, care coordonează activitatea privind siguranța și alinierea modelelor, a declarat:

„Suntem foarte departe de momentul în care totul va reveni la normal”.

Sam Altman a susținut, la rândul său, că siguranța trebuie să aibă prioritate în fața vitezei cu care sunt dezvoltate modelele.

„Este mai important să gestionăm corect siguranța inteligenței artificiale decât să menținem ritmul de dezvoltare al oricărei companii”.

Avertisment privind atacurile „continue și persistente”

Chris Lehane a vorbit și despre posibilitatea ca modele de inteligența artificială disponibile public să fie folosite pentru operațiuni cibernetice repetate. El a indicat inclusiv riscul reprezentat de modelele open-source, unele dezvoltate în China, ale căror capacități se apropie de cele ale sistemelor de frontieră cu acces restricționat.

„Oamenii vor putea avea acces la aceste modele open-source și le vor putea folosi pentru a lansa împotriva voastră atacuri continue și persistente, iar voi veți avea nevoie de modele cu adevărat superioare pentru a le respinge și pentru a vă apăra”, a spus el. „Acest lucru nu îi va face neapărat pe oameni să se simtă prea bine. Este pur și simplu realitatea spre care ne îndreptăm.”

Riscul unor atacuri capabile să afecteze companii, infrastructuri sau servicii publice a devenit una dintre preocupările majore legate de dezvoltarea modelelor AI. Centrul Național pentru Securitate Cibernetică din Marea Britanie a cerut, la rândul său, prudență în folosirea agenților autonomi și limitarea gradului de libertate acordat acestora.

„Trebuie să puteți întotdeauna să «scoateți sistemul din priză» și să opriți imediat activitatea unui agent AI autonom”.

OpenAI cere reguli obligatorii înainte de lansarea modelelor

Chris Lehane a cerut Statelor Unite introducerea unor standarde obligatorii pentru modelele AI de frontieră. El susține că cele mai avansate sisteme aflate încă în dezvoltare par să își îmbunătățească mai repede capacitățile cibernetice ofensive decât pe cele defensive.

Acesta este „unul dintre motivele pentru care cred că este absolut esențial ca această țară să adopte o lege națională care să instituie standarde de siguranță obligatorii, iar posibilitatea suspendării dezvoltării ar trebui să reprezinte o componentă inerentă și permanentă a acestui proces”, a explicat Lehane.

„Nu ar trebui să fie posibilă lansarea sau implementarea unor modele fără demonstrarea și garantarea unui anumit nivel de siguranță înainte ca acestea să devină accesibile publicului”, a adăugat el. „Cred că trebuie să existe o versiune națională aici, în Statele Unite, iar pornind de la aceasta poate fi creată și una internațională, pentru că, în cele din urmă, cred că vom avea nevoie de un anumit tip de structură internațională.”

Companiile de inteligența artificială, acuzate că merg prea repede

Incidentul în care a fost implicată Hugging Face a amplificat și criticile venite din partea experților care consideră că dezvoltatorii inteligenței artificiale își asumă riscuri prea mari în cursa pentru modele mai performante. Daniel Kokotajlo, fost cercetător OpenAI, a avertizat asupra pericolelor pe care le-ar putea presupune continuarea necontrolată a acestei evoluții.

„Sistemele AI actuale sunt periculoase într-o anumită măsură, dar nu se compară cu cele care vor exista anul viitor și nici cu cele care vor apărea peste încă un an”, a declarat Kokotajlo pentru The Guardian.

David Krueger, profesor de inteligență artificială și militant pentru siguranța tehnologiei, susține că dezvoltarea unor sisteme mai puternice ar trebui limitată.

„Nimeni nu ar trebui să construiască sisteme AI mai puternice, pentru că nu știm suficient de bine cum să le controlăm și să le aliniem și nici cum să le analizăm pentru a vedea ce «gândesc»”. El a calificat abordarea companiilor față de siguranță drept „îngrozitoare” și „inadmisibilă”. „Acționează extrem de imprudent și renunță tot mai mult la control”. „Tocmai am văzut ce se întâmplă atunci când faci asta”, a spus el. Chris Lehane a respins acuzația că OpenAI ar ignora aceste riscuri. „Acesta este cel mai important aspect la care ne gândim și de care ținem cont atunci când dezvoltăm aceste sisteme. Cred că faptul că am suspendat efectiv aceste activități vorbește de la sine.”