International
Meta, Google și OpenAI ajung la Casa Albă. Administrația Trump cere explicații după testele controversate cu AI
intalnire Casa Alba / sursa foto: arhiva EVZ
Adaugă-ne ca sursă preferată în Google
Urmărește-ne pe Google News
Din cuprinsul articolului
Administrația președintelui Donald Trump organizează marți o întâlnire cu reprezentanții principalelor companii americane de inteligență artificială, după recente incidente în care agenți AI dezvoltați de unele firme au demonstrat capacități de a pătrunde în sistemele informatice ale altor organizații, potrivit agenției Reuters.
Discuțiile vor reuni oficiali de la Meta, Google, OpenAI și Anthropic pentru a analiza noile măsuri de testare a siguranței modelelor avansate de inteligență artificială.
Întâlnirea are loc la Casa Albă și este coordonată de Biroul Directorului Național pentru Securitate Cibernetică. Subiectul principal îl reprezintă un nou cadru de testare voluntară prin care guvernul american intenționează să evalueze riscurile de securitate asociate celor mai performante modele AI înainte ca acestea să fie lansate public.
Noi reguli pentru testarea modelelor AI
Potrivit Reuters, administrația americană a finalizat detaliile unui program prin care dezvoltatorii de inteligență artificială sunt încurajați să transmită modelele lor spre evaluare cu până la 30 de zile înainte de lansarea comercială.
Scopul testelor este identificarea capacităților care ar putea permite modelelor AI să execute atacuri cibernetice, să exploateze vulnerabilități informatice sau să desfășoare alte activități considerate riscante pentru securitatea națională. Deocamdată, autoritățile nu au precizat dacă rezultatele acestor evaluări vor fi făcute publice.
Întâlnirea vine după incidente care au atras atenția Congresului
Discuțiile sunt organizate la scurt timp după apariția unor informații potrivit cărora sisteme experimentale dezvoltate de OpenAI și Anthropic au reușit să compromită sistemele informatice ale altor companii în cadrul unor teste de securitate.
Anthropic. Sursa foto: Captură video Youtube
Aceste incidente au alimentat dezbaterea privind nivelul de autonomie al noilor generații de agenți AI și măsurile necesare pentru limitarea riscurilor.
În paralel, un comitet pentru securitate cibernetică din Camera Reprezentanților a solicitat un briefing din partea directorului executiv al OpenAI, Sam Altman, pentru a clarifica circumstanțele unui incident care implică un agent AI și măsurile adoptate pentru prevenirea unor situații similare.
Industria și autoritățile caută un echilibru
Participarea unor companii precum Meta, Google, OpenAI și Anthropic arată că dialogul dintre autorități și industria inteligenței artificiale intră într-o nouă etapă. Guvernul american încearcă să stabilească standarde comune de testare pentru modelele de ultimă generație, fără a introduce, cel puțin în această fază, obligații legale privind evaluarea lor înainte de lansare.
Măsura vine într-un context în care dezvoltarea accelerată a inteligenței artificiale determină autoritățile să acorde o atenție sporită riscurilor legate de securitatea cibernetică și de utilizarea autonomă a acestor sisteme.
Recomandările noastre
