ONU cere statelor să intervină urgent în cursa pentru dezvoltarea inteligenței artificiale

Adaugă-ne ca sursă preferată în Google Urmărește-ne pe Google News

Înaltul Comisar ONU pentru Drepturile Omului, Volker Turk, a cerut luni statelor și companiilor din domeniul tehnologiei să acționeze urgent pentru reglementarea celor mai avansate sisteme de inteligență artificială, avertizând asupra unor riscuri fără precedent pentru drepturile omului și pentru societate.

Volker Turk a transmis apelul într-o scrisoare deschisă adresată statelor și companiilor din sector, în care a cerut definirea unei direcții comune pentru gestionarea modelelor avansate de inteligență artificială.

„Fac apel la state și întreprinderi să se mobilizeze de urgență în cadrul forumurilor multilaterale pentru a defini o cale de acțiune pentru încadrarea modelelor de IA avansate”, a declarat Volker Turk.

Oficialul ONU a avertizat că dezvoltarea actuală a tehnologiei poate produce schimbări ireversibile, care vor afecta inclusiv generațiile viitoare.

„Suntem în zorii unei schimbări ireversibile care ne privește nu doar pe noi, ci și generațiile viitoare ale umanității”, a adăugat el.

Volker Turk a atras atenția că, în prezent, deciziile privind dezvoltarea inteligenței artificiale depind în mare măsură de un număr redus de companii puternice.

Volker Turk: „Toate drepturile omului sunt amenințate”

Înaltul Comisar ONU a declarat că extinderea rapidă a inteligenței artificiale pune în pericol o gamă largă de drepturi fundamentale.

„Toate drepturile omului sunt amenințate” de această tehnologie, a declarat Volker Turk, menționând dreptul la viață și la alimentație, dreptul la viață privată, precum și drepturile la sănătate și securitate.

Potrivit oficialului ONU, „cursa actuală către o IA din ce în ce mai puternică marchează o schimbare radicală, expunând toate aspectele vieților noastre unor riscuri existențiale crescute”.

El a avertizat în special asupra sistemelor de inteligență artificială agentică, capabile să efectueze în mod autonom anumite sarcini.

„Defecțiuni implicând sisteme IA agentică, interfețe capabile să efectueze sarcini în mod autonom, ar putea paraliza serviciile esențiale, întrerupe comunicațiile, destabiliza infrastructuri critice și ar putea afecta însăși inima instituțiilor democratice”, a declarat Volker Turk.

Acesta a adăugat că populații întregi ar putea ajunge să fie private de servicii esențiale.

„Populații întregi ar putea fi private de apă potabilă, încălzire și servicii financiare. Inteligența artificială capabilă să efectueze sarcini în mod autonom accelerează deja ritmul și amploarea conflictelor armate, erodând barierele care ne separă de lansarea armelor de distrugere în masă”, a mai avertizat responsabilul ONU.

Șefii marilor companii de tehnologie cer și ei prudență

Apelul lui Volker Turk vine în contextul în care mai mulți lideri din industria americană de tehnologie au pledat pentru încetinirea ritmului de dezvoltare a inteligenței artificiale.

CEO-ul Anthropic, Dario Amodei, s-a pronunțat sâmbătă în favoarea unei încetiniri, pentru a permite o mai bună înțelegere a riscurilor asociate noilor capacități ale IA.

Sursă foto: ChatGPT

Poziția sa a fost susținută public de CEO-ul OpenAI, Sam Altman, precum și de Elon Musk.

Președintele american Donald Trump și mai multe personalități din tabăra sa s-au declarat însă duminică împotriva încetinirii dezvoltării IA. Tehnologia a devenit unul dintre subiectele centrale ale campaniei pentru alegerile parlamentare de la jumătatea mandatului în SUA.

China avertizează asupra riscurilor pentru securitatea națională

Riscurile asociate inteligenței artificiale au fost invocate și de autoritățile chineze. Șeful serviciilor de informații din China a avertizat duminică faptul că IA poate reprezenta o amenințare pentru securitatea națională, în condițiile în care puteri străine ar putea utiliza această tehnologie pentru a destabiliza China.

Volker Turk avertizase deja, pe 7 septembrie, în fața Consiliului ONU pentru Drepturile Omului, că inteligența artificială ar putea constitui un „risc existențial pentru umanitate”.

ONU cere reguli comune pentru inteligența artificială

În scrisoarea transmisă luni, Înaltul Comisar ONU a indicat în special responsabilitatea Statelor Unite și a Chinei, unde se află principalele companii implicate în dezvoltarea celor mai avansate sisteme de IA.

Companiile de vârf în dezvoltarea IA, „situate în principal în Republica Populară Chineză și în SUA, au atât responsabilitatea, cât și capacitatea de a acționa fără întârziere pentru a reduce riscurile”, a declarat Volker Turk.

El a apreciat că autoreglementarea industriei reprezintă un prim pas, dar nu este suficientă.

„Autoreglementarea sectorului este un prim pas urgent, dar este departe de a fi suficientă de una singură”, a afirmat oficialul ONU.

Volker Turk a cerut statelor care găzduiesc companiile lider în domeniul IA să le impună reguli responsabile și să își armonizeze reglementările, pentru a evita ca rivalitatea dintre state și companii să conducă la relaxarea standardelor.

„Nicio țară nu poate reglementa singură această tehnologie. Nicio companie nu ar trebui să poată decide singură asupra riscurilor pe care lumea trebuie să le accepte”, a afirmat Volker Turk.