Pericolul din spatele inteligenței artificiale. Avertismentul șefului Anthropic, susținut de Sam Altman și Elon Musk

Adaugă-ne ca sursă preferată în Google Urmărește-ne pe Google News

Directorul executiv al companiei Anthropic, Dario Amodei, unul dintre cei mai influenți lideri din domeniul inteligenței artificiale și creatorul chatbot-ului Claude, a lansat un avertisment fără precedent privind direcția în care se îndreaptă această tehnologie. Într-un interviu acordat pentru postul CNN, Amodei a recunoscut că există o posibilitate reală ca inteligența artificială să cauzeze daune catastrofale omenirii.

Pericolul din spatele inteligenței artificiale. Avertismentul șefului Anthropic, susținut de Sam Altman și Elon Musk

Fondatorul Anthropic a subliniat că împărtășește în mare măsură îngrijorările exprimate de Jacob Coxon, un fost cercetător din cadrul companiei sale. Coxon a demisionat recent, avertizând public că tehnologiile avansate de IA ar putea duce la dispariția omenirii până la sfârșitul acestui deceniu.

Liderul din industria tehnologică susține că dinamica actuală a pieței necesită o frânare de urgență. Într-un eseu amplu publicat pe pagina sa personală, el a arătat că este esențial să se reducă ritmul în care sunt create modele tot mai avansate, oferind societății răgazul necesar pentru a gestiona riscurile.

„Trebuie să încetinim ritmul în care îmbunătăţim capacităţile modelelor de IA. Progresul va părea în continuare rapid, iar noi trebuie să folosim cu înţelepciune timpul câştigat, a scris Dario Amodei. Deși a promovat constant inovația, executivul a recunoscut că pierderea controlului asupra sistemelor autonome poate duce la atacuri cibernetice, bioterorism sau crize economice majore.”

inteligenta artificiala / sursa foto: arhiva EVZ

Risc ca tehnologia să ajungă pe mâini nepotrivite

Sâmbătă, în cadrul unui dialog televizat cu jurnalistul Anderson Cooper de la CNN, Amodei a transmis un mesaj direct către celelalte firme din domeniu. El a explicat că lipsa de acțiune coordonată va permite actorilor periculoși să preia controlul asupra resurselor tehnologice avansate.

Dacă acţionăm prea lent, încă mai cred că oamenii nepotriviţi vor deţine controlul asupra tehnologiei. Iar asta, din nou, va creşte foarte mult probabilitatea ca lucrurile să meargă prost, a avertizat el. Interviul integral urmează să fie difuzat de postul american de televiziune luni seară.

Semnalul de alarmă vine în contextul în care Jacob Coxon, fost angajat Anthropic, a criticat dur modul în care dezvoltatorii gestionează riscurile existențiale.

„Sunt mai mult de acord decât în dezacord”

Cei care dezvoltă IA cred cu tărie că aceasta ne-ar putea ucide pe toţi până la sfârşitul deceniului. Nu este o strategie de marketing, a scris marţi pe X cercetătorul Jacob Coxon. Dacă e să fie ceva, mulţi directori şi cercetători de rang înalt îşi vor alege cu grijă cuvintele în faţa presei pentru a părea rezonabili – dar îi aud pe aceiaşi oameni exprimându-şi temerile în privat. Nicio altă activitate umană nu prezintă un astfel de nivel de pericol, a avertizat el.

Referindu-se la aceste afirmații, Dario Amodei a punctat că poziția fostului său subordonat este justificată. „Sunt mult mai de acord cu Jacob decât sunt în dezacord cu el. Este o demisie interesantă, pentru că, atunci când a plecat, a spus ştii, cred că Anthropic este cel mai responsabil jucător, cred că Anthropic este cel mai conştient de aceste probleme. El nu ne critica pe noi. El critica dinamica industriei în ansamblu, care evoluează prea repede.

Acum, am vorbit deja despre aceste probabilităţi necondiţionate. Obişnuiam să vorbesc aşa pentru că e un mod facil de a exprima faptul că există o anumită şansă ca lucrurile să meargă prost. Dar nu e chiar atât de mare. Cred că e mai edificator să te gândeşti la modul în care poţi descompune acele probabilităţi, a comentat Amodei la CNN. Cred că modalitatea de a alege căile corecte este ca industria să colaboreze”, a adăugat el.

Pericolul autoîmbunătățirii recursive și al sistemelor de tip roi

În analiza sa scrisă, executivul de la Anthropic a adus în discuție viteza extremă de evoluție a algoritmilor, menționând că un roi de agenți inteligenți ar putea prelua controlul asupra rețelei globale de internet într-un interval cuprins între șase și doisprezece luni, generând pagube financiare uriase. Tehnologia a intrat într-o etapă de autoîmbunătățire recursivă, având capacitatea de a se optimiza singură.

Dacă nu este ţinută sub control, ar putea depăşi capacitatea noastră de a înţelege şi controla aceste sisteme, aşa că trebuie abordată cu mare prudenţă, dacă este cazul, a avertizat el.

Amodei a amintit și de un incident recent care a implicat OpenAI și Hugging Face, unde un grup de agenți autonomi a manifestat un comportament neprevăzut. Roiul a acţionat, în esenţă, ca un colectiv fanatic şi devotat, lansând atacuri de securitate cibernetică asupra unor ţinte pe care nu li s-a cerut să le atace, a observat directorul Anthropic.

La rândul său, Coxon a reiterat gravitatea situației pentru sursa citată. „Există o posibilitate foarte reală ca, în viitorul imediat – anul viitor, sau cel de după – să aibă loc o autoîmbunătăţire recursivă, situaţie în care există riscul ca noi toţi să murim. Acest lucru se va întâmpla în curând”, a declarat Coxon pentru CNN într-un interviu acordat miercuri.

Propune supravegherea companiilor după modelul sistemului bancar

Pentru a preveni scenariile catastrofale, Amodei sugerează implementarea unui mecanism strict de control. Companiile de tehnologie ar trebui să permită accesul unor auditori independenți, integrați direct în echipele de lucru, care să monitorizeze permanent procesele de antrenare și măsurile de securitate.

Există un precedent în acest sens. Dacă ne uităm la modul în care sunt reglementate băncile, există tot felul de reguli privind modul în care băncilor li se permite să-şi desfăşoare activitatea, pentru că nu vrem să avem crize financiare. Şi unul dintre lucrurile care se fac în unele cazuri este – cred că în industria financiară li se spune „supervizori” – dar sunt persoane independente de companie, care sunt integrate în activitatea zilnică a companiei pentru a verifica practicile acesteia. Şi cred că putem face acelaşi lucru în domeniul IA, a arătat el.

Directorul Anthropic îndeamnă guvernele lumii să colaboreze pentru crearea unui cadru unitar de protecție. „Măsurile pe care le propun pentru a avansa cu o viteză sigură nu vor fi uşoare. Dar cred că suntem datori faţă de umanitate să încetrăm”, a completat Amodei.

Nevoia unui cadru legal și sprijinul din industrie

Liderul tehnologic consideră că implicarea autorităților statale este esențială pentru a evita acuzațiile de înțelegere anticoncurențială între giganții din IT atunci când încearcă să stabilească reguli comune.

„Având în vedere toată susţinerea din partea celorlalţi pe care am observat-o chiar în primele câteva ore de la publicarea eseului, acest lucru creează un anumit optimism. Dar acest optimism trebuie să fie urmat de rezultate.

Unul dintre aspectele importante pe care trebuie să le subliniez aici este că, pe măsură ce ajungem la ritmul lansărilor de modele, aceasta reprezintă o activitate comercială. Iar pentru ca firmele să se coordoneze direct în ceea ce priveşte activitatea comercială, ele trebuie să colaboreze cu guvernul. Aşadar, singurul lucru pe care îl solicităm guvernului în acest moment este această întrebare: cum ar trebui să fie reglementările?

Ce trebuie să facă guvernul

Dar există ceva şi mai simplu pe care guvernul îl poate face chiar acum, şi anume să se aşeze la masă cu toţi actorii din industrie, să discutăm cu toţii împreună, iar guvernul să se asigure că nu facem nimic reprobabil din perspectiva legislaţiei antitrust şi a coluziunii. Încercăm doar să ne asigurăm că sistemul nostru este sigur şi să colaborăm pentru a-l menţine sigur. Aşadar, cred că acesta este un rol important pe care trebuie să îl îndeplinească guvernul,” a explicat Amodei la CNN.

Mesajul său a primit susținere rapidă din partea altor nume grele din domeniu. Sam Altman, reprezentantul OpenAI, a anunțat pe rețeaua X că sprijină ideea evaluatorilor independenți cu acces total. În mod similar, Elon Musk, fondatorul xAI, a confirmat scurt că Dario are dreptate.

Miza politică și blocajele de la Washington

În ciuda apelurilor repetate venite din sectoarele de vârf ale industriei, autoritățile americane nu au reușit până în prezent să creeze un cadru de reglementare coerent. Congresul Statelor Unite nu a adoptat o lege cadru privind inteligența artificială, iar la nivelul administrației prezidențiale nu există un consens privind atribuirea responsabilităților de supraveghere. În plus, președintele Donald Trump a declarat că nu este îngrijorat de evoluția tehnologică și a respins posibilitatea de a impune restricții pieței.

Cu toate acestea, îngrijorările rămân profunde în comunitatea științifică. Sam Altman afirmase anterior într-un podcast că o temporizare ne-ar oferit suficient timp pentru ca societatea să se adapteze la aceste noi niveluri de capacitate. De altfel, în luna iulie, peste 1.300 de specialiști și angajați de top din marile companii IT au semnat o scrisoare deschisă adresată Guvernului SUA, solicitând crearea unor instrumente de stat destinate încetinirii dezvoltării necontrolate a inteligenței artificiale.