Demisie la OpenAI, pe fondul temerilor privind siguranța inteligenței artificiale. Un expert acuză compania că ignoră riscurile

Adaugă-ne ca sursă preferată în Google Urmărește-ne pe Google News

David Robinson, unul dintre responsabilii cu siguranța de la OpenAI, și-a anunțat demisia și a criticat cultura organizațională a companiei, avertizând că dezvoltarea accelerată a inteligenței artificiale nu este însoțită de suficientă prudență. Acesta consideră că firmele din domeniu au nevoie de schimbări profunde, care să depășească simpla introducere a unor reguli și reglementări, potrivit The Guardian. 

Un responsabil OpenAI cere schimbări radicale și avertizează asupra pericolelor dezvoltării AI

Robinson a coordonat redactarea rapoartelor de siguranță care însoțeau lansările de produse ale companiei care dezvoltă ChatGPT. Într-un eseu intitulat „Am demisionat de la OpenAI deoarece cultura sa este defectuoasă”, acesta a susținut că ritmul rapid al lansărilor afectează atenția acordată riscurilor asociate inteligenței artificiale.

Fostul angajat a atras atenția și asupra incidentelor recente care implică agenți AI autonomi, pe care le consideră „tipice pentru această industrie, având în vedere viteza și flexibilitatea cu care oamenii acționează”.

Sursa foto: dreamstime.com

David Robinson cere schimbări profunde în cultura companiilor de inteligență artificială

În materialul său, publicat în revista The Atlantic, Robinson a explicat de ce consideră că firmele care dezvoltă tehnologii avansate de inteligență artificială trebuie să își schimbe abordarea în privința siguranței.

„Sunt de acord cu alți angajați care au părăsit recent compania că firmele care dezvoltă această tehnologie nu sunt nici pe departe suficient de prudente. Dar cred că trebuie să privim mai adânc decât regulile specifice sau noile legi. Trebuie să vorbim despre cultură. Pe măsură ce compania trece în viteză de la o lansare la alta, nu reușește să atingă nivelul de atenție pe care îl consider necesar”, a spus Robinson.

Acesta consideră că preocupările legate de siguranță nu ar trebui să se limiteze la reguli interne sau la adoptarea unor legi noi, ci trebuie să pornească de la modul în care companiile își organizează activitatea și iau decizii.

Robinson a subliniat că presiunea de a lansa produse noi într-un ritm accelerat poate determina companiile să acorde mai puțină atenție riscurilor pe care le presupun sistemele tot mai performante.

Fostul angajat propune două măsuri pentru creșterea siguranței AI

David Robinson a propus două direcții principale pentru îmbunătățirea siguranței în industria inteligenței artificiale.

Prima vizează preluarea experienței din domenii în care gestionarea riscurilor este esențială, precum industria nucleară și aviația. În opinia sa, companiile de inteligență artificială ar trebui să valorifice expertiza acumulată în aceste sectoare pentru a preveni incidentele și pentru a îmbunătăți procedurile de siguranță.

A doua propunere presupune dezvoltarea unei „științe noi”, care să permită menținerea sub control a viitoarelor sisteme puternice de inteligență artificială, inclusiv atunci când acestea funcționează autonom.

Robinson consideră că dezvoltarea unor metode capabile să garanteze controlul asupra acestor tehnologii reprezintă o necesitate, pe măsură ce sistemele de inteligență artificială devin tot mai complexe și mai independente.

Mai mulți specialiști au părăsit industria inteligenței artificiale

Demisia lui David Robinson vine după plecarea altor specialiști din domeniul inteligenței artificiale, care au atras atenția asupra riscurilor asociate dezvoltării accelerate a acestor tehnologii.

Printre aceștia se numără Jacob Coxon, cercetător care a lucrat atât la OpenAI, cât și la Anthropic, și care și-a anunțat retragerea din industria inteligenței artificiale în urmă cu câteva săptămâni.

Coxon a avertizat că inteligența artificială „ne-ar putea ucide pe toți până la sfârșitul deceniului”. Ulterior, Anthropic a atras atenția asupra posibilității ca tehnologiile AI să reprezinte un risc major pentru supraviețuirea umanității, estimând o probabilitate de peste 10% ca acestea să distrugă omenirea în următorii zece ani.

Aceste avertismente au readus în atenție dezbaterea privind limitele dezvoltării inteligenței artificiale și măsurile necesare pentru prevenirea unor eventuale consecințe grave.

OpenAI a suspendat dezvoltarea unor modele avansate după probleme de siguranță

OpenAI a adoptat, la rândul său, măsuri de precauție după incidentul Hugging Face. Compania a anunțat în această săptămână că renunță la lansarea unui model de inteligență artificială de nouă generație, după ce testele interne au scos la iveală probleme de siguranță.

Totodată, compania a suspendat antrenarea celor mai avansate modele ale sale.

Deciziile vin într-o perioadă în care dezvoltatorii de inteligență artificială se confruntă cu presiuni tot mai mari pentru a demonstra că produsele lor pot fi utilizate în condiții de siguranță.

Avertismentele formulate de foștii angajați readuc în discuție responsabilitatea companiilor din domeniu și necesitatea unor măsuri care să țină pasul cu evoluția rapidă a tehnologiei.