În ultima parte a interviului, Yuval Noah Harari face o pledoarie pentru reglementarea inteligenței artificiale de către puterea politică. El compară AI cu tehnologia nucleară și bombele atomice.

Cum va fi afectată umanitatea de Inteligența Artificială (AI)? Cum va fi schimbată cultura noastră și ce pericole prezintă dezvoltarea acesteia? Reprezintă Inteligența Artificială sfârșitul istoriei? Vor fi capabiili indivizii să producă instrumente cu AI pentru uz propriu? Cum să reglementăm Inteligența Artificială?

Sunt câteva dintre întrebările cărora le răspunde renumitul autor Yuval Noah Harari într-o conferință dedicată acestui subiect, înregistrată recent la Montreux, în Elveția, cu ocazia unui eveniment organizat de Frontiers Forum. Evenimentul zilei vă prezintă principalele idei ale istoricului și filosofului israelian. Al patrulea și ultimul episod conține considerațiile autorului despre necesitatea reglementării Inteligenței Artificiale.

Pericolele, altfel decât în filmele SF

„Pericolul potențial are, de asemenea, potențial pozitiv, dar pericolele sunt fundamentale diferite de cele mai multe lucruri imaginate în filmele SF și cărți.

Înainte oamenii se temeau mai ales de amenințarea fizică pe care o reprezintă mașinile inteligente, astfel că în Terminator au fost descriși roboți care alergau în pe străzi și împușcau oameni. Matrix presupunea că pentru a obține controlul total al societății umane, inteligența artificială ar trebui mai întâi să obțină controlul fizic asupra creierelor noastre și să ne conecteze direct creierele la rețeaua de calculatoare. Dar acest lucru este greșit, pentru că prin simpla stăpânire a limbajului uman, AI are tot ce-i trebuie pentru a crea modele într-o lume a iluziilor asemănătoare cu cea din Matrix.

Contrar a ceea ce presupun unele teorii ale conspirației, nu ai nevoie cu adevărat de implanta cipuri în creierul oamenilor pentru a-i controla sau pentru a-i manipula timp de mii de ani. Oamenii au fost bântuiți de o teamă mult mai profundă. Au apreciat întotdeauna puterea poveștilor, a imaginilor și a limbajului de a ne manipula mințile și de a crea iluzii, în consecință, încă din cele mai vechi timpuri, oamenii se temeau să fie prinși într-o lume a iluziilor.

O cortină cade peste realitate

Revoluția IA ne pune față în față cu demonul cărților, cu Peștera lui Platon, cu Maya, dacă nu suntem atenți, o cortina de iluzii ar putea coborî peste întreaga omenire și nu vom mai putea niciodată să rupem acea cortină sau chiar să ne dăm seama că este acolo, pentru că vom crede că aceasta este realitatea și social media. Dacă acest lucru sună exagerat atunci uitați-vă la social media care ne-a oferit o mică mostră a lucrurilor care vor urma.

În social media au fost folosite instrumente primitive de inteligență artificială, dar foarte primitive, nu pentru a crea conținut, ci pentru a selecta conținutul produs de oameni. Oamenii produc povești și videoclipuri, iar AI alege ce povești și ce videoclipuri vor ajunge la urechile și ochii noștri, selectându-le pe cele care vor primi cea mai mare atenție, care vor fi „virale”.

Deși foarte primitive, aceste instrumente de inteligență artificială au fost totuși suficiente pentru a crea acest fel de cortină de iluzii. O cortină care a crescut polarizarea societății în întreaga lume, ne-a subminat sănătatea mentală și a destabilizat democrația. În societăți democratice milioane de oameni au confundat aceste iluzii cu realitatea.

SUA dispune de cea mai puternică tehnologie informatică din întreaga istorie și cu toate acestea, cetățenii americani nu pot cădea de acord cine a câștigat ultimele alegeri sau dacă schimbările climatice sunt reale, dacă vaccinurile previn bolile. Noile instrumente de inteligență artificială sunt mult mai puternice decât aceste rețele sociale și ar putea provoca daune mult mai mari.

Pledoarie pentru reglementare. Comparația cu armele nucleare

Acum, bineînțeles, inteligența artificială are și un potențial pozitiv enorm, oamenii care dezvoltă inteligența artificială vorbesc în mod natural despre asta. Cu siguranță AI ne poate ajuta în în nenumărate feluri, de la găsirea de noi tratamente pentru cancer la descoperirea de soluții la criza ecologică cu care ne confruntăm. Pentru a ne asigura că noua inteligență artificială este folosită pentru bine și nu pentru rău, trebuie mai întâi să apreciem la adevărata lor valoare capacitățile și să le reglementăm foarte atent.

Încă din 1945 știam că tehnologia nucleară poate distruge fizic civilizația umană, dar și că putea să ne fie benefică prin producerea de energie ieftină și abundentă, de aceea am remodelat întreaga ordine internațională pentru a ne proteja. Pentru a ne asigura că tehnologia nucleară este folosită în primul rând pentru a face bine.

Acum trebuie să ne confruntăm cu o nouă armă de distrugere în masă care poate anihila lumea noastră mentală și socială, iar o mare diferență între armele nucleare și AI, este că AI nu pot produce arme nucleare mai puternice. Dar IA poate produce o IA și mai puternică, așa că trebuie să acționăm rapid înainte ca IA să iasă de sub controlul nostru.

Spre AI dominat de puterea politică?

Guvernele trebuie imediat să interzică imediat lansarea publică a oricăror alte instrumente revoluționare de inteligență artificială înainte ca acestea să devină din nou sigure. Nu mă refer la oprirea tuturor cercetărilor în domeniul IA. Primul pas este oprirea lansării produselor. Dacă nu încetinim cursa înarmării cu inteligență artificială, nu vom mai avea timp nici măcar să ne gândim la asta. Sau să înțelegem ce se întâmplă, ca să nu mai vorbim de ideea de a reglementa în mod eficient acest fenomen incredibil, această tehnologie incredibil de puternică.

Acum, poate vă întrebați dacă încetinirea implementării publice a inteligenței artificiale va face ca democrațiile să rămână în urmă? Răspunsul este că dezvoltarea nereglementată a Inteligenței Artificiale este ceea ce va face ca democrațiile să piardă în fața dictaturii, deoarece dacă vom dezlănțui haosul, regimurile autoritare ar putea mai ușor să stăpânească acest haos decât societățile deschise.

Democrația este, în esență, o conversație liberă, cu puncte de vedere diferite. În dictatura există o singură persoană care dictează!

Când inteligența artificială distruge limbajul, înseamnă că ar putea distruge capacitatea noastră de a purta dezbateri publice semnificative, distrugând astfel democrația, inspirând haosul.

„Ia-ți un moment pentru a te gândi la asta!”

Va fi prea târziu pentru a o reglementa în mod democratic. Poate că vom face într-un mod autoritar sau totalitar, dar cum poți reglementa ceva în mod democratic, dacă nu poți purta conversație despre asta.Dacă nu ai reglementat IA la timp nu vei putea, nu vom putea avea o discuție semnificativă.

Prima reglementare pe care aș sugera-o este de a face obligatorie pentru AI să dezvăluie că este o AI. Astfel, dacă am o conversație cu cineva și nu-mi pot da seama dacă este vorba de o ființă umană sau de o inteligență artificială, să mă anunțe.

(...)Tocmai v-am spus o poveste, iar această poveste este posibil să vă schimbe părerea despre anumite lucruri și poate chiar să vă determine să faceți anumite acțiuni. Acum, cine a creat această poveste pe care ați auzit-o și care tocmai v-a schimbat ceva în minte? Acum, v-am spus că eu am scris textul acestei prezentări eu însumi, cu ajutorul altor câteva ființe umane.

Acum un an nu era nimic pe Pământ, în domeniul public, în afară de o minte umană care să poată produce un text atât de sofisticat și de puternic, dar acum este diferit. Textul pe care tocmai l-ați auzit ar fi putut fi generat de un extraterestru non-uman. Așa că ia-ți un moment sau mai mult decât un moment pentru a te gândi la asta.”

Yuval Noah Harari este istoric, filosof și autor al unor best seller-uri precum „Sapiens: Scurtă Istorie a Omenirii” (2014), „Homo Deus: Scurtă Istorie a Viitorului” (2016), „21 de lecții pentru secolul XXI” (2018), precum și a seriei „Sapiens: O Istorie Ilustrată” (lansată în 2020, alături de David Vandermeulen și Daniel Casanave). Yuval Noah Harari predă la Universitatea Ebraică din Ierusalim.