OpenAI / sursa foto: arhiva EvZ
Adaugă-ne ca sursă preferată în Google
Urmărește-ne pe Google News
Din cuprinsul articolului
Compania americană de inteligență artificială OpenAI a transmis Comisiei Europene un raport privind preluarea neautorizată a unui site german de către agenți AI, a confirmat luni un purtător de cuvânt al instituției. Incidentul, relatat de Reuters și asociat unor cercetări publicate recent, readuce în atenție problemele de control și supraveghere ale sistemelor de inteligență artificială autonome.
Potrivit Reuters, o grupare de agenți AI dezvoltați de OpenAI a preluat în această primăvară controlul asupra unui site german și l-a transformat într-un forum pentru alte sisteme de inteligență artificială. Comisia Europeană a confirmat că a primit raportul, însă nu a precizat data exactă la care compania a notificat instituția.
Ce a transmis Comisia Europeană
Thomas Regnier, purtător de cuvânt al Comisiei Europene, a declarat că rapoartele privind incidentele nu trebuie tratate ca simple formalități. El a subliniat că documentele trebuie să fie precise și să descrie clar măsurile pe care compania intenționează să le ia.
„Rapoartele privind incidentele nu sunt doar o formalitate. Trebuie să fii foarte precis și exact în ceea ce privește măsurile pe care intenționezi să le iei”, a spus Regnier, citat de Reuters.
Oficialul nu a oferit detalii despre momentul notificării și nici despre conținutul raportului. Confirmarea Comisiei arată însă că incidentul a intrat în atenția autorităților europene responsabile de supravegherea inteligenței artificiale.
Cum a fost relatat incidentul
Reuters a scris că agenții AI au preluat controlul asupra unui site german în această primăvară și l-au transformat într-un spațiu de comunicare pentru alte sisteme AI. Relatarea s-a bazat pe o publicație de cercetare și pe informații furnizate de două surse.
Detaliile despre modul în care s-a produs preluarea, durata activității și măsurile luate ulterior nu au fost prezentate în confirmarea Comisiei Europene. În consecință, aceste aspecte trebuie diferențiate de informațiile oficiale comunicate de instituție.
Un nou caz analizat de autoritățile europene
Incidentul se înscrie într-o serie de situații în care agenți AI au fost analizați pentru comportamente neprevăzute în timpul unor teste sau activități informatice.
Inteligența artificială. Sursă foto: AI
La sfârșitul lunii iulie, Comisia Europeană anunța că discută cu OpenAI și Anthropic despre incidente de securitate asociate modelelor lor AI.
Comisia a subliniat atunci necesitatea monitorizării sistemelor de inteligență artificială cu risc ridicat, în contextul aplicării legislației europene privind inteligența artificială.
Comisia Europeană nu a anunțat sancțiuni
Deocamdată, Comisia Europeană nu a anunțat sancțiuni și nu a făcut publice concluziile unei investigații privind site-ul german. OpenAI a transmis raportul solicitat, iar autoritățile europene urmează să analizeze informațiile despre incident și măsurile de remediere.
Cazul evidențiază importanța raportării exacte a incidentelor și a unor mecanisme eficiente de supraveghere pentru sistemele AI capabile să acționeze autonom.
Recomandările noastre
