International
Anthropic cere o pauză globală în dezvoltarea AI. Ce îi sperie pe experții în inteligența artificială
Adaugă-ne ca sursă preferată în Google
Urmărește-ne pe Google News
Din cuprinsul articolului
Anthropic cere celorlalte companii de AI o pauză globală în dezvoltarea inteligenței artificiale, invocând riscul de „auto-îmbunătățire” al noii tehnologii, potrivit unei postări de pe blogul firmei.
Inteligența artificială, foarte aproape de pericolul auto-îmbunătățirii
Startup-ul de 1 trilion de dolari solicită laboratoarelor de inteligență artificială de top să ia în considerare încetinirea ritmului de dezvoltare, sugerând că sistemele de inteligență artificială avansează atât de rapid încât ar putea fi în curând capabile să se îmbunătățească singure fără intervenție umană, în moduri care ar putea reprezenta riscuri societale semnificative.
Capacitatea de a încetini dezvoltarea globală a inteligenței artificiale ar fi „probabil un lucru bun”, a declarat compania Anthropic în postarea care a dezvăluit date interne ce documentează cât de repede se îmbunătățesc cele mai avansate modele ale sale.
Postarea, scrisă de șeful institutului său intern de cercetare și cofondator al companiei, a menționat că progresele în materie de modele par să se îndrepte spre „auto-îmbunătățire recursivă”, când sistemele de inteligență artificială se pot îmbunătăți singure fără intervenție umană. Unii experți în inteligență artificială au văzut acest prag ca un potențial semn al pericolului și al unei enorme tulburări societale.
„Credem că ar fi bine pentru lume să aibă opțiunea de a încetini sau de a întrerupe temporar dezvoltarea de frontieră a inteligenței artificiale pentru a permite structurilor societale și cercetării de aliniere să țină pasul cu avansul tehnologiei”, se arată în postarea, scrisă de Marina Favaro și Jack Clark.
Anthropic propune un modul de încetinire a dezvoltării
Anthropic propune un acord global privind modul de încetinire potențială a dezvoltării și un mecanism pentru verificarea faptului că este respectat de concurenți.
Postarea avertizează că auto-îmbunătățirea recursivă nu a avut loc încă și nu este inevitabilă, „dar ar putea apărea mai devreme decât sunt pregătite majoritatea instituțiilor”.
Anthropic. Sursa foto: Captură video Youtube
Anthropic a încheiat recent o rundă de strângere de fonduri care a evaluat compania la aproape 1 trilion de dolari și a depus documente confidențiale pentru a începe procesul de listare publică a acțiunilor sale. Compania a apărut recent ca lider într-o competiție acerbă pentru supremația inteligenței artificiale cu OpenAI, producătorul ChatGPT, care este, de asemenea, așteptat să depună în curând documentele pentru o ofertă publică inițială.
Rata de rulare a Anthropic, o cifră utilizată în mod obișnuit de startup-uri care prognozează veniturile anuale pe baza vânzărilor pe termen scurt, este pe cale să atingă 50 de miliarde de dolari în venituri anualizate până la sfârșitul acestei luni, în creștere de la 9 miliarde de dolari la sfârșitul anului 2025.
Compania Anthropic, acuzată de „agendă de captare a reglementărilor”
Compania, care a pus accent pe siguranța inteligenței artificiale încă de la înființare, s-a confruntat mult timp cu critici legate de faptul că activitatea sa politică este concepută pentru a încetini progresul concurenților în domeniul inteligenței artificiale. David Sacks, investitor de capital de risc și consilier informal al președintelui Trump, i-a acuzat pe liderii Anthropic că derulează o „agendă de captare a reglementărilor”.
Într-un podcast recent, Sacks a spus că „agenda de captare a reglementărilor” de la Washington ar putea duce la un efort de a interzice așa-numitele modele open-source, în esență versiuni ale sistemelor de inteligență artificială care sunt mult mai ieftine pentru ca organizațiile să le utilizeze și să le dezvolte intern.
Alții au sugerat că avertismentele Anthropic cu privire la potențialul periculos al propriilor instrumente ar putea fi considerate și o stratagemă de marketing. Acești sceptici indică decizia Anthropic de a limita lansarea unui model puternic de securitate cibernetică „Mythos”, capabil să găsească erori și probleme, ca o modalitate la îndemână de a lăuda capacitățile produselor sale.
Liderii Anthropic au declarat că iau siguranța în serios și că lucrează pentru a crea mai multe discuții despre riscuri.
Controverse cu privire la intențiile propunerii
Ethan Mollick, profesor la Wharton School din cadrul Universității din Pennsylvania și un influent cercetător în domeniul transformării inteligenței artificiale, a declarat că, deși unii critici ai Anthropic văd superficialitate și marketing în declarațiile lor privind siguranța, mulți din cadrul companiei sunt „adevărați credincioși”.
„Laboratoarele de inteligență artificială sunt un amestec de lucruri”, a spus Mollick, a cărui carte despre inteligența artificială, „Co-Existence”, urmează să fie lansată în toamnă.
„Există o companie de un trilion de dolari cu toate lucrurile normale ale companiilor de un trilion de dolari, cum ar fi echipele de marketing și avocații. Apoi, există un nucleu de cercetători care construiesc doar următoarele modele. Și apoi există un grup de oameni care sunt regi filosofi care sunt preocupați de viitor și de ce urmează și toți sunt în conflict unii cu alții uneori”, a spus Mollick.
Yann LeCun / sursa foto: wikipedia
Unii specialiști nu cred în viitorul LLM
Industria inteligenței artificiale este divizată de ceva vreme cu privire la cât de aproape sunt modelele actuale de a atinge repere precum „inteligența generală artificială” sau AGI, un nivel de inteligență comparabil cu cel al oamenilor, sau auto-îmbunătățirea recursivă.
Unii cercetători, precum Yann LeCun, fostul șef de știință în domeniul inteligenței artificiale la Meta Platforms și un pionier al inteligenței artificiale, au susținut că sistemele de frontieră bazate pe modele de limbaj larg nu vor fi niciodată capabile să facă saltul de a rivaliza cu inteligența umană.
Deși considera modelele de inteligență artificială drept instrumente puternice, el le-a comparat cu inteligența unei pisici și s-a certat cu cercetătorii care se tem că inteligența artificială reprezintă un risc existențial pentru umanitate.
Șefii Anthropic vorbesc despre pierderea joburilor entry-level
Liderii Anthropic, inclusiv directorul executiv Dario Amodei, au avertizat de ani de zile cu privire la potențialul impactului periculos al IA și au căutat o colaborare societală extinsă pentru a aborda riscurile. Amodei a avertizat că AI ar putea agrava inegalitatea și elimina până la jumătate din locurile de muncă cu „gulere albe” de nivel de începător.
Amodei a avertizat, de asemenea, că este plauzibil ca sistemele puternice de AI, despre care se așteaptă să existe în viitorul apropiat, să dezvolte tendințe distructive în moduri imprevizibile. Într-un eseu de pe propriul său site web din ianuarie, Amodei a sugerat că antrenarea sistemelor de AI cu narațiuni science-fiction despre rebeliunea AI ar putea, de exemplu, să determine sisteme reale să se revolte.
Se poate face ce propune Anthropic?
Clark, coautorul postării pe blog, șeful departamentului de beneficii publice și cofondator al Anthropic, a vorbit frecvent despre potențialele riscuri ale AI și despre impactul potențial al sistemelor de inteligență artificială care ajung la punctul de „auto-îmbunătățire recursivă”, despre care a spus că ar transforma lumea.
„Această clasă de tehnologie nu a existat niciodată înainte și totuși cred că acest lucru s-ar putea întâmpla în următorii doi ani și, eventual, mai devreme”, a spus el la o conferință ținută luna trecută la Londra, conform remarcilor pe care le-a împărtășit într-un buletin informativ.
„În absența unei încetiniri globale coordonate, ne aflăm în situația actuală: o tehnologie puternică dezvoltată cu o viteză amețitoare de o varietate de actori din diverse țări, blocați într-o competiție între ei, în care rivalitățile comerciale și geopolitice îneacă aspectele existențiale mai ample, legate de specie, ale tehnologiei construite”, a spus el.
Limitarea dezvoltării AI, comparată cu tratatele de neproliferare nucleară
Postarea de joi pe blog spune că Institutul Antropic, un centru de cercetare intern dedicat înțelegerii și modelării modului în care inteligența artificială va influența lumea, va efectua cercetări în colaborare cu alții pentru a „ajuta la construirea sistemelor pe care le-ar necesita o încetinire sau o pauză credibilă”.
Postarea spunea că o pauză sau o încetinire ar avea sens doar dacă ar fi respectată pe scară largă, ceea ce ar necesita un regim de verificare pentru a se asigura că toată lumea s-a oprit. Compania a comparat problema cu tratatele privind armele nucleare - dar a recunoscut că oprirea trișatului ar fi și mai dificilă.
„Sesiunile de antrenament sunt mult mai ușor de ascuns decât silozurile de rachete”, se arată în postarea de pe blog, adăugând: „oricine continuă în timp ce alții se opresc ar putea moșteni conducerea”.
Anthropic intenționează să organizeze conversații în lunile următoare cu factori de decizie politică, cercetători și alte persoane pentru a ajuta la găsirea de răspunsuri la întrebări legate de auto-îmbunătățirea recursivă și un sistem de verificare: „Fereastra pentru a investiga împreună aceste întrebări este aici, iar persoane din afara companiilor de inteligență artificială ar trebui să fie implicate în această deliberare”, se arată în postare.
Recomandările noastre
