Mark Zuckerberg respinge ideea unei frâne coordonate în AI. Fiecare laborator poate acționa singur

Mark Zuckerberg respinge ideea unei frâne coordonate în AI. Fiecare laborator poate acționa singurMark Zuckerberg / sursa foto: arhiva EvZ

Mark Zuckerberg susține că firmele de inteligență artificială au suficiente motive comerciale și juridice pentru a-și dezvolta singure măsurile de siguranță, poziționând Meta diferit față de companiile care cer o încetinire coordonată a dezvoltării AI, potrivit Reuters.

Declarația a fost făcută marți, 15 septembrie, într-un moment în care mai mulți lideri din industria tehnologică avertizează că ritmul de dezvoltare a modelelor avansate depășește capacitatea companiilor de a controla riscurile.

Poziția lui Zuckerberg vine la doar câteva zile după ce Dario Amodei, directorul executiv al Anthropic, a cerut companiilor de inteligență artificială să reducă ritmul de dezvoltare a capabilităților modelelor. Apelul său a fost susținut public de Sam Altman, CEO-ul OpenAI, și Elon Musk, fondatorul xAI.

Zuckerberg: companiile au propriile motive să dezvolte AI în siguranță

Într-o postare pe X, Zuckerberg a afirmat că fiecare laborator de AI are atât responsabilitatea, cât și stimulentele necesare pentru a-și adapta ritmul de dezvoltare astfel încât modelele să fie antrenate în condiții de siguranță.

Potrivit șefului Meta, competiția dintre companii și posibilitatea unor consecințe juridice importante reprezintă motive suficiente pentru ca laboratoarele să ia individual măsuri de protecție.

Zuckerberg a indicat drept exemplu decizia Meta de a amâna lansarea agentului de inteligență artificială Muse, pentru a consolida măsurile de securitate. El a susținut că Meta nu a condiționat această decizie de adoptarea unei măsuri similare de către alte companii.

„Nu am cerut tuturor celorlalți să facă acest lucru înainte să o facem noi. Pur și simplu am făcut-o ca parte a activității noastre de zi cu zi, pentru că era în mod clar lucrul potrivit pentru oameni și pentru noi”, a declarat Zuckerberg, potrivit Reuters.

Meta pune accent pe alinierea modelelor

Zuckerberg a susținut, de asemenea, că siguranța și „alinierea” modelelor vor deveni elemente importante în competiția dintre dezvoltatorii de AI.

„Încrederea și alinierea devin rapid cele mai importante capacități care vor diferenția agenții și modelele. Orice laborator care nu se concentrează pe aliniere va rămâne în urmă”, a afirmat CEO-ul Meta.

Meta spune că divizia sa dedicată dezvoltării superinteligenței utilizează deja evaluatori independenți pentru mai multe componente ale modelelor. Zuckerberg a descris această practică drept una care ar trebui să devină standard în industrie.

El a mai afirmat că o mare parte din resursele de calcul ale Meta sunt direcționate către produse destinate utilizatorilor, nu către sisteme capabile să se îmbunătățească singure.

Amodei cere o încetinire coordonată

Poziția Meta contrastează cu propunerea formulată de Dario Amodei pe 12 septembrie. CEO-ul Anthropic a cerut industriei să încetinească ritmul în care sunt dezvoltate capabilitățile modelelor AI, argumentând că măsurile de siguranță au nevoie de mai mult timp pentru a ține pasul cu progresul tehnologic.

Amodei a propus un cadru în trei etape care include evaluări independente, standarde comune pentru industrie și cooperare internațională.

Sam Altman și Elon Musk au susținut public apelul, ceea ce a adus în prim-plan ideea unei abordări coordonate între marile laboratoare de inteligență artificială.

Dezbaterea s-a intensificat după avertismente venite inclusiv din partea unor cercetători din domeniul siguranței AI, care au discutat despre riscurile asociate dezvoltării unor sisteme capabile să efectueze tot mai multe sarcini autonom și, în perspectivă, să contribuie la propria îmbunătățire.

Și autoritățile americane sunt împărțite

Disputa dintre companiile de tehnologie are loc în paralel cu o dezbatere la nivelul administrației și autorităților americane privind modul în care ar trebui reglementată inteligența artificială.

Președintele Donald Trump a minimalizat recent îngrijorările privind potențialele efecte negative ale AI și a susținut că Statele Unite au deja mecanisme de protecție. El a avertizat, de asemenea, că restricțiile suplimentare ar putea afecta competitivitatea americană în raport cu China.

La rândul său, Jensen Huang, CEO-ul Nvidia, a susținut că reglementările excesive ar putea afecta poziția companiilor americane în competiția tehnologică cu China.

În același timp, președintele Comisiei Federale pentru Comerț din SUA, Andrew Ferguson, a avertizat că trebuie privite cu suspiciune solicitările companiilor AI pentru excepții de la legislația antitrust. Mesajul său vine în contextul în care Amodei a solicitat săptămâna trecută permisiunea de a permite companiilor concurente să coopereze în privința încetinirii dezvoltării AI din motive de siguranță.

O industrie împărțită între siguranță și competiție

Divergențele dintre Zuckerberg, Amodei, Altman și Musk arată că marile companii AI nu au ajuns la o poziție comună privind ritmul de dezvoltare a tehnologiei.

Pe de o parte, există apeluri pentru mai mult timp destinat testării și evaluării riscurilor. Pe de altă parte, companiile operează într-o piață extrem de competitivă, în care Statele Unite și China încearcă să-și păstreze avantajul tehnologic.

Reuters a relatat că avertismentele recente privind riscurile AI au avut deja efecte asupra piețelor, acțiunile companiilor din domeniu fiind afectate de îngrijorările investitorilor privind ritmul viitor al dezvoltării și investițiilor în infrastructură.