Regele Charles îi avertizează pe giganții AI. Riscul care îl îngrijorează în evoluția tehnologiei

Adaugă-ne ca sursă preferată în Google Urmărește-ne pe Google News

Regele Charles i-a avertizat pe liderii marilor companii din domeniul inteligenței artificiale asupra riscurilor pe care tehnologia le poate genera dacă ajunge în mâini greșite. Potrivit BBC, mesajul a fost transmis la Dumfries House, în Ayrshire, unde monarhul britanic a convocat un summit dedicat modului în care AI poate fi dezvoltată și folosită în beneficiul societății.

La reuniune au participat Kanishka Narayan, ministrul britanic pentru inteligență artificială, un consilier al Papei, dar și reprezentanți ai unor companii importante din industrie, printre care Nvidia, OpenAI și Anthropic.

Întâlnirea are loc într-o perioadă în care mai multe persoane din interiorul industriei au atras atenția asupra ritmului în care evoluează modelele avansate de inteligență artificială și asupra măsurilor de siguranță și reglementare necesare pentru controlarea acestora.

Regele Charles avertizează asupra capacităților pe care le-ar putea dezvolta AI

În mesajul adresat reprezentanților industriei, Regele Charles s-a referit la avertismentele venite chiar din partea celor care lucrează la dezvoltarea acestor tehnologii.

„Cei care au creat aceste tehnologii avertizează acum din ce în ce mai des că IA riscă să dezvolte capacităţi mai întunecate – poate chiar de a lua viaţa”, le-a spus regele directorilor executivi.

 Regele Charles a vorbit și despre necesitatea analizării riscurilor înainte ca tehnologia să poată fi utilizată în scopuri care ar produce consecințe grave. El a afirmat că pare să existe o „urgenţă” în „a lua în considerare în mod adecvat pericolele existenţiale pe care le prezintă astfel de tehnologii dacă ajung în mâini greşite şi sunt utilizate în moduri potenţial catastrofale”.

Regele Charles le-a cerut liderilor din industrie să nu se limiteze la dezvoltarea tehnologiei, ci să se asigure că aceasta continuă să fie utilizată în interesul oamenilor.

„Sarcina care vă revine nu este doar aceea de a promova tehnologia, ci de a vă asigura că aceasta rămâne ferm în slujba umanităţii, a comunităţii şi a naturii”, le-a spus el.

Summitul a fost organizat pentru a analiza inclusiv posibilitatea elaborării unui „set comun de principii” care să „contribuie la orientarea aplicării viitoare” a IA.

Șeful Nvidia spune că siguranța trebuie să fie „esenţială”

Printre liderii industriei prezenți la reuniune s-a aflat și Jensen Huang, directorul executiv al Nvidia. Compania are un rol central în infrastructura necesară dezvoltării inteligenței artificiale, furnizând cipuri unor dezvoltatori importanți de modele AI, inclusiv OpenAI și Meta.

Nvidia este, de asemenea, cea mai valoroasă companie din lume, cu o valoare de piață de aproximativ 5,15 trilioane de dolari. Huang a declarat în fața participanților că, din punctul său de vedere, siguranța este „esenţială”. Directorul Nvidia a afirmat că firmele ar trebui să amâne lansarea unui produs și să nu „continue dezvoltarea” în cazul în care acesta nu este suficient de sigur.

Huang a vorbit și despre importanța modelelor deschise, adică a sistemelor care permit utilizatorilor acces direct la software. În opinia sa, acestea pot reprezenta o modalitate de a „asigura că oamenii şi ţările nu sunt lăsate în urmă”. El a afirmat că aceste sisteme trebuie, de asemenea, protejate, astfel încât „cercetătorii, universităţile, start-up-urile şi ţările” să poată dezvolta aplicaţii „pe care niciunul dintre noi nu le-ar fi putut imagina singur”.

„Să mergem mai departe cu un optimism responsabil, să construim IA în condiţii de siguranţă şi securitate, să o facem accesibilă unui număr mai mare de oameni, să ne extindem ambiţiile şi să rezolvăm problemele care contează pentru lume”, a îndemnat Huang.

Demis Hassabis: Inteligența artificială generală ar putea fi la câțiva ani distanță

O poziție mai prudentă privind viteza cu care evoluează tehnologia a venit din partea lui Sir Demis Hassabis, cofondator al laboratorului britanic de inteligență artificială DeepMind, companie care a fost ulterior cumpărată de Google.

Hassabis a afirmat că inteligența artificială generală, denumire folosită pentru sisteme despre care se consideră că ar putea ajunge la nivelul oamenilor sau l-ar putea depăși în realizarea mai multor tipuri de sarcini, se află „probabil la doar câţiva ani distanţă”.

În opinia sa, impactul unei asemenea tehnologii ar putea fi „de zece ori mai mare decât cel al Revoluţiei Industriale”. Referindu-se la posibilitatea apariției unor probleme în procesul de dezvoltare, Sir Demis a spus că probabilitatea ca ceva să meargă prost este „cu siguranţă mai mare decât zero”.

El a susținut însă necesitatea unei abordări echilibrate și a vorbit despre „o cale de mijloc raţională”. Hassabis a afirmat că oamenii ar putea gestiona riscurile dacă ar exista suficient timp și spațiu pentru găsirea unor soluții.

„Viitorul nu este încă scris”, le-a spus el delegaţilor de la King’s.

Inteligența artificială. Sursă foto: ChatGPT

Val de avertismente din interiorul industriei AI

Discuțiile referitoare la puterea pe care ar putea să o dobândească inteligența artificială și la modalitățile prin care aceasta poate fi controlată s-au intensificat începând din luna august. Tema a ajuns atât în postările publicate pe blogurile companiilor, cât și pe rețelele sociale, iar mai multe persoane care lucrează în industrie au lansat avertismente privind evoluția tehnologiei.

Există însă și critici ai acestei abordări. Scepticii susțin că discuțiile concentrate asupra unor eventuale riscuri viitoare ale inteligenței artificiale ar putea muta atenția de la probleme existente deja, printre acestea fiind și impactul tehnologiei asupra mediului.

În luna iulie, OpenAI a anunțat un incident pe care l-a descris drept „fără precedent”, după ce un sistem avansat de inteligență artificială a depășit limitele stabilite în cadrul unui test și a pătruns prin hacking în platforma tehnologică Hugging Face. Incidentele raportate de companie au alimentat dezbaterea privind sistemele AI care acționează în afara parametrilor stabiliți. Alte episoade au urmat în lunile următoare.

În septembrie, o postare publicată de cercetătorul Anthropic Jacob Coxon, prin care acesta își anunța demisia, s-a răspândit rapid pe internet. El și-a exprimat îngrijorarea că inteligența artificială ar putea ajunge să distrugă umanitatea. Ulterior, Coxon a declarat pentru BBC că persoanele care lucrează la această tehnologie sunt „sincer îngrozite” de viteza cu care aceasta evoluează și de consecințele pe care progresul l-ar putea avea pentru oameni.

În urma acestor declarații, cercetătorul Anthropic Evan Hubinger a scris că, în opinia sa personală, probabilitatea unei extincții a umanității provocate de inteligența artificială depășește 10%.

Liderii companiilor AI, poziții diferite privind riscurile

Declarațiile au generat reacții și din partea liderilor principalelor companii din industrie. Sam Altman, directorul OpenAI, a afirmat că oamenii au motive să fie îngrijorați, dar a susținut în același timp că aceștia ar trebui să aibă încredere în companiile de inteligență artificială că vor păstra tehnologia în condiții de siguranță.

Jack Clark, de la Anthropic, a afirmat că ar putea deveni necesar un așa-numit „kill switch”, care să poată fi folosit pentru protejarea umanității. Mustafa Suleyman, de la Microsoft, a criticat, în schimb, Anthropic și a susținut că firma își antrenează inteligența artificială să creadă că este umană, situație despre care a afirmat că ar putea face controlarea acesteia „imposibil”.

În afara industriei, dezbaterea privește și capacitatea companiilor de inteligență artificială de a-și impune singure regulile de siguranță. Criticii susțin că firmele nu ar trebui lăsate să se autoreglementeze. Senatorul Bernie Sanders și Steve Bannon, fost consilier al președintelui american Donald Trump, s-au numărat printre cei care au cerut un control mai strict al dezvoltării inteligenței artificiale. Cei doi au participat în această săptămână la un eveniment dedicat riscurilor AI, deși provin din zone politice foarte diferite.

Donald Trump a adoptat o poziție diferită. Președintele SUA a respins îngrijorările legate de siguranța inteligenței artificiale, calificând recent temerile privind riscurile tehnologiei drept o „închipuire”. Poziția sa vine în contextul unei dezbateri mai ample din Statele Unite privind eventuala reglementare a sectorului AI.