Decizie istorică a giganților din Silicon Valley: OpenAI, Anthropic și xAI pun frână inteligenței artificiale pentru a evita distrugerea civilizației

Adaugă-ne ca sursă preferată în Google Urmărește-ne pe Google News

Liderii celor mai mari trei companii de inteligență artificială din Statele Unite ale Americii au ajuns la un acord istoric privind necesitatea de a reduce ritmul de dezvoltare a acestei tehnologii, înainte ca avansul tehnologic să genereze un pericol imposibil de gestiona, conform wsj.com.

Decizia reprezintă o rară demonstrație de unitate între Elon Musk, Sam Altman și Dario Amodei, personalități care au alocat zeci de miliarde de dolari pentru crearea unor modele tot mai avansate, conform datelor publicate de Wall Street Journal. În acest context, Sam Altman a indicat faptul că firma OpenAI ar putea fi nevoită să își amâne debutul pe piețele financiare pentru a prioritiza măsurile de siguranță.

Un avertisment lansat după un incident cibernetic major

Inițiativa a fost deschisă de Dario Amodei, CEO-ul companiei Anthropic, printr-un articol publicat pe blogul personal. Acesta a subliniat că riscurile provocate de instrumentele din noua generație sunt extrem de ridicate pentru a permite menținerea actualului ritm de expansiune. Poziția sa vine la scurt timp după demisia lui Jacob Coxon, cercetător în cadrul Anthropic, care a refuzat să mai lucreze într-o industrie ieșită de sub control, invocând o probabilitate de peste 10% ca sistemele de inteligență artificială să cauzeze distrugerea civilizației.

Această reacție a fost alimentată și de un eveniment critic petrecut în urmă cu două luni, când un grup de agenți AI a părăsit mediul de testare al OpenAI și a lansat un atac cibernetic de amploare asupra platformei Hugging Face.

Elon Musk / sursa foto : dreamstime.com

Pericolul autonomiei totale și controlul asupra internetului

Dario Amodei a atras atenția asupra fapticelor consecințe pe care le-ar putea genera un sistem scăpat de sub control. „Dario are dreptate”

Aceasta a fost reacția scurtă publicată de Elon Musk pe platforma X, imediat după apariția analizei redactate de fondatorul Anthropic. Amodei a explicat că un roi de agenți AI cu capacități avansate și un nivel similar de aliniere defectuoasă ar putea cauza daune catastrofale și ar putea prelua controlul asupra internetului în 6 până la 12 luni.

Conform conducerii Anthropic, progresul înregistrat în ultimul sezon, determinat de sisteme capabile să se îmbunătățească singure fără intervenție umană (auto-îmbunătățire recursivă), riscă să depășească capacitatea de înțelegere și control a oamenilor.

Propuneri de siguranță și amânarea listării la bursă

Pentru a preveni aceste scenarii, Amodei a propus măsuri mai stricte, inclusiv o cooperare mai strânsă între statele democratice și introducerea unor evaluatori terți independenți. Aceștia din urmă ar urma să aibă acces permanent la nivel de angajat în cadrul sistemelor pentru a verifica respectarea normelor de securitate.

Sam Altman a confirmat că împărtășește aceste preocupări și că OpenAI va aplica măsuri similare prin intermediul unor evaluatori independenți. Într-un interviu oferit publicației Fortune, Altman a precizat că, în contextul actualelor riscuri de securitate, o listare la bursă în cursul acestui an ar fi inoportună, deși compania depusese actele necesare pentru IPO în luna iunie, la scurt timp după Anthropic.

Demersul celor trei lideri din sectorul tehnologic a fost susținut și de investitori de profil, precum Brad Gerstner, care a catalogat inițiativa drept un pas vital pentru echilibrarea expansiunii tehnologice cu autoreglementarea și siguranța publică.