Marile companii AI pregătesc un nou sistem de control. OpenAI, Google și Anthropic lucrează împreună

Adaugă-ne ca sursă preferată în Google Urmărește-ne pe Google News

OpenAI, Anthropic și Google DeepMind lucrează împreună la crearea unei structuri care să urmărească riscurile generate de inteligența artificială și să verifice siguranța noilor modele înainte ca acestea să ajungă pe piață. Informația a fost confirmată marți de OpenAI, într-un moment în care companiile din industrie cer tot mai insistent reguli mai clare pentru dezvoltarea AI.

Chris Lehane, directorul de politici globale al OpenAI, a declarat pentru AFP că producătorul ChatGPT colaborează cu Anthropic și Google DeepMind pe tema siguranței inteligenței artificiale.

Inițiativa pornește de la o propunere făcută de Demis Hassabis, care a condus Google DeepMind înainte de a deveni președintele companiei la începutul lunii august.

Modelul luat în calcul vine din industria financiară

Demis Hassabis a propus crearea unei entități inspirate de Autoritatea de reglementare a industriei financiare din Statele Unite, FINRA.

Organismul american funcționează în baza legislației federale și se află sub supravegherea SEC, autoritatea care reglementează piața financiară din SUA.

Ideea ar fi ca industria inteligenței artificiale să aibă o structură asemănătoare, care să poată stabili reguli și mecanisme de evaluare pentru noile modele dezvoltate de marile companii.

De mai multe luni, liderii sectorului AI solicită administrației americane să introducă un cadru de reglementare și să supravegheze mai atent riscurile asociate tehnologiei.

Administrația Trump a introdus deja un proces de evaluare

La începutul lunii august, administrația Trump a pus în aplicare un mecanism prin care noile modele de inteligență artificială pot fi evaluate. Participarea companiilor este însă voluntară. În plus, detaliile privind modul concret în care funcționează această evaluare nu au fost făcute publice.

Discuțiile despre o eventuală supraveghere mai strictă au devenit și mai intense după ce Dario Amodei, CEO-ul Anthropic, a cerut sâmbătă o încetinire a ritmului în care este dezvoltată inteligența artificială. Donald Trump și mai mulți membri ai partidului aflat la guvernare au reafirmat însă că nu vor măsuri care să încetinească sectorul.

Argumentul invocat este competiția cu China și riscul ca Beijingul să obțină un avantaj tehnologic dacă Statele Unite limitează prea mult dezvoltarea AI.

Noul organism ar putea avea nevoie de o lege

Crearea unei structuri comune de supraveghere de către marile companii din industrie ar ridica însă și probleme juridice. Un asemenea mecanism ar putea necesita adoptarea unei legislații speciale.

Una dintre explicații este necesitatea evitării acuzațiilor privind eventuale înțelegeri între companii sau încălcarea regulilor antitrust în interiorul sectorului inteligenței artificiale.

Propunerea lui Demis Hassabis merge tocmai în direcția unei organizații cu o structură clară și cu participare independentă.

OpenAI. Sursă foto: Unsplash

Noile modele AI ar putea fi verificate înainte de lansare

Într-un mesaj publicat online la jumătatea lunii iulie, Hassabis a propus ca noua structură să fie finanțată de companiile din industrie.

Conducerea ar urma să includă experți independenți, dar și reprezentanți ai ecosistemului open-source. După intrarea în funcțiune a organizației, marile companii de inteligență artificială ar trebui să își trimită noile modele la evaluare înainte de lansarea pe piață.

Verificările ar urma să pună un accent special pe siguranța sistemelor și pe riscurile asociate utilizării lor.

Dezvoltarea AI ar putea fi încetinită dacă riscurile devin prea mari

Structura propusă nu ar avea doar rolul de a verifica modelele înainte de lansare. Potrivit ideii prezentate de Demis Hassabis, organismul ar putea coordona inclusiv o încetinire a ritmului de dezvoltare a inteligenței artificiale.

O asemenea măsură ar putea fi luată în situația în care progresele tehnologice ar avansa mai repede decât capacitatea companiilor și a experților de a înțelege și controla riscurile.

Discuțiile dintre OpenAI, Anthropic și Google DeepMind arată astfel că marile companii din domeniu analizează varianta unui mecanism comun de supraveghere, în paralel cu dezbaterea politică din Statele Unite privind ritmul în care ar trebui să evolueze inteligența artificială.