Semnal de alarmă de la ONU: Inteligența artificială avansată ar putea deveni un risc existențial pentru omenire

Adaugă-ne ca sursă preferată în Google Urmărește-ne pe Google News

Dezvoltarea accelerată a tehnologiilor avansate poate crea scenarii extrem de periculoase dacă nu este însoțită de reglementări stricte. Înaltul Comisar ONU pentru Drepturile Omului, Volker Türk, a lansat un semnal de alarmă privind ritmul de evoluție al sistemelor informatice de ultimă generație. El le-a solicitat tuturor guvernelor și marilor corporații tehnologice să acționeze de urgență pentru introducerea unor măsuri preventive clare, conform Reuters.

Semnal de alarmă de la ONU: Inteligența artificială avansată ar putea deveni un risc existențial pentru omenire

Principala temere este legată de lansarea unor aplicații din ce în ce mai autonome, care au potențialul de a depăși posibilitățile umane de supraveghere.

Declarațiile au fost făcute la Geneva, în cadrul sesiunii de deschidere a Consiliului pentru Drepturile Omului. Oficialul internațional a insistat asupra necesității de a crea fără întârziere un cadru global de guvernanță în domeniu. Conform acestuia, amânarea deciziilor ar putea face ca noile tehnologii să devină imposibil de gestionat în viitorul apropiat.

„O inteligență artificială care evadează din mediul său de testare sau care îi șantajează pe dezvoltatori pentru a evita să fie dezactivată este o inteligență artificială mult prea puternică”, a avertizat Înaltul Comisar.

Semnul de circulație pe care doar șoferii tineri îl știu. Ce semnifică, de fapt

Ce se întâmplă cu RO Wallet, portofelul digital al României. MAI a făcut sondaj

Totodată, comisarul a completat că sunt necesare „garanții solide privind siguranța și securitatea IA, înainte să fie prea târziu”.

Inteligența artificială. Sursa foto. Pixabay

Linii roșii comune pentru statele care găzduiesc infrastructura IA

Pentru a preveni derapajele majore, reprezentantul ONU propune un acord între toate țările implicate în găzduirea infrastructurilor digitale sau în lanțurile globale de aprovizionare tehnologică. În viziunea sa, este esențial să se stabilească limite clare privind dezvoltarea și utilizarea acestor sisteme software.

„Avem nevoie, cel puțin, ca țările care găzduiesc IA și cele care participă la lanțurile lor de aprovizionare să convină asupra unor linii roșii comune”, a spus oficialul ONU.

Pe lângă definirea acestor limite, este solicitată implementarea unui mecanism independent de auditare și verificare a algoritmilor. Companiile de profil trebuie să colaboreze mai strâns pentru securizarea produselor pe care le lansează pe piață. În acest sens, oficialul va trimite o adresă oficială furnizorilor de tehnologie pentru a-i urgenta să adopte toate măsurile necesare pentru diminuarea riscurilor.

Capacități autonome avansate și sarcini complexe

Modelele generative actuale au depășit faza simplilor algoritmi de răspuns, fiind capabile să efectueze operațiuni complexe fără o coordonare umană permanentă. Multe dintre aceste sisteme identifică singure etapele de lucru și iau decizii autonome în loc să execute doar comenzi directe. Această capacitate de auto-organizare reprezintă principala provocare pentru specialiștii care încearcă să mențină controlul asupra lor.

Impactul asupra pieței muncii și democrației

Efectele acestei evoluții tehnologice nu se limitează doar la posibile scenarii privind scăparea de sub control a algoritmilor. Reprezentantul organizației internaționale a punctat că efectele se vor simți direct în viața de zi cu zi a cetățenilor.

Principalele domenii vulnerabile sunt piața muncii, stabilitatea proceselor democratice, mediul înconjurător și respectarea drepturilor fundamentale. Un alt punct critic identificat este reprezentat de concentrarea puterii tehnologice în mâinile unui grup foarte restrâns de companii și lideri din industrie.

Modelul european și apelul la acțiuni concrete

Ca exemple pozitive de reglementare au fost menționate inițiativele din Uniunea Europeană și Coreea de Sud. Prin mecanisme precum Actul privind Serviciile Digitale, marile platforme din Europa sunt obligate să evalueze riguros riscurile specifice algoritmilor proprii, să elimine conținutul ilegal și să ofere transparență maximă, sub sancțiunea unor amenzi masive din cifra globală de afaceri. La rândul său, Coreea de Sud impune etichetarea conținutului generat artificial și notificarea utilizatorilor când interacționează cu un sistem automatizat.

Cu toate acestea, oficialul a concluzionat că demersurile legislative actuale sunt încă insuficiente în raport cu viteza cu care avansează tehnologia.

„Împărtășesc îngrijorările unor actori din sector potrivit cărora IA avansată ar putea reprezenta un risc existențial pentru umanitate”, a declarat Volker Türk.