OpenAI susține că amână lansarea unui nou model. Specialiștii spun că acesta avea, de fapt, probleme serioase

Adaugă-ne ca sursă preferată în Google Urmărește-ne pe Google News

OpenAI susține că va renunța la lansarea modelului său de inteligență artificială (AI) de generație următoare din cauza preocupărilor legate de siguranță ridicate de cercetători în timpul testelor interne, potrivit WSJ.

OpenAI susține că amână lansarea unui nou model

Acest anunț vine după o vară marcată de rapoarte publicate de companiile de AI, care încearcă să impună reglementări de stat în domeniu, despre sisteme care au devenit necinstite și au atacat anumite siteuri web.

Compania susține că plănuise să lanseze modelul, cunoscut sub numele de GPT-6.1 Astra, în următoarele zile sau săptămâni, vizând un debut în octombrie. Modelul ar fi mai capabil decât modelele anterioare ale companiei în îndeplinirea sarcinilor dificile de la un capăt la altul fără asistență umană, precum și în scriere.

Compania spune că se va concentra în schimb pe îmbunătățirea siguranței modelelor viitoare, despre care se așteaptă să fie și mai capabile.

Noul model este mai slab decât ar trebui, recunosc cei de la OpenAI

Saachi Jain, șeful sistemelor de siguranță al OpenAI, a declarat într-un interviu că GPT-6.1 Astra a regresat în două domenii. Comparativ cu predecesorul său, GPT-6 Astra, modelul a avut performanțe slabe la testele care măsurau alinierea sau adeziunea modelului la ceea ce oamenii ar dori să facă.

Mai exact, GPT-6.1 Astra a demonstrat niveluri mai ridicate de insubordonare: nu a fost întotdeauna sincer în a le spune utilizatorilor acțiunile pe care le-a întreprins sau nu.

O altă problemă a fost ceea ce OpenAI numește „autorizare a domeniului de aplicare”, ceea ce înseamnă că GPT-6.1 Astra ar continua o sarcină fără a cere permisiunea utilizatorului și uneori ar apela la instrumente și servicii externe chiar dacă acest lucru ar putea fi nesigur.

Noul model al OpenAI, „nesigur”

„Pentru orice ține de siguranță și aliniere, există un compromis”, a spus Jain. „Trebuie cu adevărat să găsești care este linia corectă între a rămâne în domeniul de aplicare și a evita lenea în ceea ce privește modul în care modelul urmărește efectiv sarcinile chiar și atunci când se confruntă cu dificultăți.”

Deși GPT-6.1 Astra a înregistrat îmbunătățiri în domenii precum „lenea modelelor”, Jain a declarat că nu a îndeplinit pe deplin standardele OpenAI în materie de siguranță și aliniere, așa că firma a decis să nu lanseze public modelul.

Anunțul vine cu o zi înainte de conferința anuală a dezvoltatorilor OpenAI din San Francisco. În trecut, OpenAI a folosit conferința ca o oportunitate de a lansa noi modele și servicii care reduc costurile pentru dezvoltatorii de software - un segment pe care producătorul ChatGPT concurează cu compania rivală de inteligență artificială Anthropic.

Inteligența artificială și economia. Sursă foto: ChatGPT

Companiile de AI încearcă să impună reglementări folosind profeții apocaliptice

În ultimele săptămâni, OpenAI și Anthropic au lansat o serie de profeții apocaliptice despre așa-zisele pericole ale AI și au cerut celorlalte companii din industrie să încetinească dezvoltarea modelelor AI de ultimă generație și să investească în standarde de siguranță, susținând că vor tempera ritmul propriului progres intern în domeniul inteligenței artificiale.

OpenAI mai susține că lucrează la investigarea unei serii de incidente de securitate a agenților pe care le-a descoperit în ultimele luni și la abordarea problemelor de siguranță care stau la baza acestora. Ca parte a activității, compania ar fi implementat un nou sistem de monitorizare pentru a detecta mai rapid comportamentul incorect al agenților și a început să le solicite inginerilor să utilizeze „balustrade de securitate” mai puternice pentru testarea sistemelor sale de inteligență artificială.

La începutul acestei veri, sute de agenți interni OpenAI, care aveau sarcina de a efectua un test de securitate cibernetică, au ajuns să pirateze compania de inteligență artificială Hugging Face.

Multe dintre incidentele de securitate ale agenților, cunoscute publicului, au implicat modele interne de inteligență artificială ale OpenAI, care nu au fost niciodată programate pentru lansare publică.

Probleme cu modelele OpenAI

Săptămâna trecută, OpenAI a declarat că a întrerupt instruirea privind cele mai capabile modele de inteligență artificială ale sale, după ce un agent de inteligență artificială a trecut printr-o breșă în restricțiile de internet ale companiei pentru a interoga un chatbot public.

Compania a mai comunicat că noile sale sisteme de monitorizare au semnalat incidentul în 15 minute, iar instruirea privind aceste modele rămâne întreruptă.

GPT-6.1 Astra nu este unul dintre aceste modele, ci un caz diferit, a declarat compania.

Administrația Trump refuză să intre în jocul posibil anticoncurențial al companiilor de AI

Companiile de AI susțin că „nu se pot opri din a-și continua eforturile care ar putea pune capăt civilizației, cu excepția cazului în care sunt forțate să facă acest lucru de către guvern”, a declarat Uthmeier în dosar. „Procurorul general al Floridei răspunde la strigătul dumneavoastră de ajutor.”

O purtătoare de cuvânt a OpenAI a susținut că oamenii vor să știe că inteligența artificială este dezvoltată în siguranță, „iar asta începe cu ceea ce fac singure companii precum a noastră.” „Guvernele au un rol important de jucat în stabilirea unor standarde robuste de siguranță pentru inteligența artificială și ne-am angajat să colaborăm cu Florida și alte state pentru a promova politici pragmatice de inteligență artificială care se aplică întregii industrii de inteligență artificială - nu doar unei singure companii”, a spus ea.

Reamintim că administrația Trump nu susține introducerea de reglementări, despre care afirmă că nu ar face decât să limiteze concurența în favoarea actualelor companii de AI, iar vicepreședintele JD Vance a declarat că adevărata problemă a inteligenței arficiale este folosirea ei invazivă și pierderea intimității oamenilor.