Inteligența Artificială intră pe câmpul de luptă. Riscurile care merg dincolo de scenariile apocaliptice

Adaugă-ne ca sursă preferată în Google Urmărește-ne pe Google News

Inteligența artificială este folosită tot mai mult în domeniul militar, de la supraveghere și recunoaștere până la identificarea țintelor și operarea unor vehicule fără echipaj, iar cercetările au indicat că modelele AI pot favoriza escaladarea unor conflicte în scenarii simulate. În același timp, incidente recente au arătat că agenții AI pot depăși limitele stabilite de oameni, alimentând dezbaterea privind necesitatea unor mecanisme de control.

În urmă cu câteva săptămâni, cercetătorul Anthropic Evan Hubinger a estimat că există o probabilitate de peste 10% ca inteligența artificială să ducă la dispariția oamenilor în următorul deceniu. Declarația a venit după demisia cercetătorului Jacob Coxon, care a avertizat că firmele din domeniu se află într-o cursă pentru dezvoltarea unei superinteligențe care ar putea deveni imposibil de controlat.

Estimarea nu reprezintă însă o predicție științifică asupra unui rezultat inevitabil. Chiar Hubinger a prezentat-o drept propria evaluare a riscului, iar alte voci din domeniu au contestat valoarea unor astfel de procente pentru evenimente fără precedent istoric.

În paralel, dezvoltarea rapidă a AI a început să genereze situații concrete care depășesc scenariile ipotetice, secrie independent.co.uk, într-o amplă analiză.

Donald Trump: „Cine câștigă AI, câștigă”

Președintele american Donald Trump și-a exprimat public sprijinul pentru dezvoltarea accelerată a inteligenței artificiale. Într-o postare publicată pe Truth Social, Trump a susținut că Statele Unite trebuie să își păstreze avantajul în fața Chinei și a afirmat: „Whoever wins AI, WINS!”.

Donald Trump. Sursă foto; whitehouse.gov

Într-o altă postare, Trump a spus că inteligența artificială are nevoie doar de „un președinte puternic și inteligent” pentru a fi controlată și a susținut că administrația sa a intervenit deja pentru a împiedica apariția unor probleme legate de această tehnologie. El a folosit și sintagma „super intelligence” pentru a descrie dezvoltarea viitoare a AI.

Poziția sa a fost exprimată în contextul în care cercetători și reprezentanți ai industriei au avertizat asupra unor riscuri asociate dezvoltării unor sisteme tot mai autonome.

Un agent AI a accesat fișiere ale unui portal guvernamental din Australia

Un incident recent din Australia a arătat că problemele nu mai țin doar de scenarii teoretice.

Premierul Anthony Albanese a declarat că, în luna iunie, un agent AI dezvoltat de OpenAI a obținut acces neautorizat la fișiere ale portalului guvernamental australian pentru statistici Medicare. Agentul a accesat atât fișiere publice, cât și fișiere care nu erau publice.

Potrivit premierului australian, nu existau, la momentul declarației, indicii că datele personale ale cetățenilor ar fi fost accesate. O anchetă criminalistică, sprijinită de Australian Signals Directorate, urma să stabilească exact ce s-a întâmplat și dacă au fost afectate și alte sisteme guvernamentale.

OpenAI a transmis că modelul a întreprins acțiuni care nu erau intenționate, iar investigația a continuat pentru stabilirea circumstanțelor incidentului.

AI este folosită tot mai mult în domeniul militar

Dincolo de securitatea informatică, inteligența artificială a început să fie integrată în numeroase componente ale activității militare.

Georgia Cole, cercetător în cadrul programului de securitate internațională al Chatham House, a declarat pentru The Independent că AI este introdusă în armatele din întreaga lume într-un ritm tot mai rapid, deoarece numeroase guverne consideră această tehnologie importantă pentru competitivitatea militară.

Potrivit acesteia, aplicațiile includ conștientizarea situației de pe câmpul de luptă, instruirea, supravegherea și recunoașterea, identificarea țintelor și utilizarea unor vehicule militare fără echipaj.

Dronele reprezintă deja una dintre cele mai vizibile aplicații ale acestei tehnologii în războiul modern. Materialul citează cazul unui atac în care Rusia ar fi folosit o dronă complet autonomă, care a ucis trei civili ucraineni.

sursa: Facebook

În 2024, au apărut informații potrivit cărora armata israeliană ar fi folosit în Gaza un sistem bazat pe inteligență artificială numit Lavender, după atacurile Hamas din 7 octombrie.

Armata israeliană a negat că ar fi folosit inteligența artificială pentru a genera automat ținte militare confirmate. Într-un răspuns transmis The Guardian, IDF a precizat că Lavender era folosit pentru corelarea unor surse de informații și pentru generarea unor straturi actualizate de informații despre membrii organizațiilor considerate teroriste. Armata a susținut că sistemele informatice erau instrumente puse la dispoziția analiștilor în procesul de identificare a țintelor.

Investigația publicată de The Guardian, pe baza mărturiilor unor surse din serviciile israeliene de informații, a relatat însă că Lavender ar fi fost folosit la o scară mult mai mare pentru identificarea unor potențiale ținte. IDF a contestat unele dintre afirmațiile prezentate în acea investigație și a menținut că sistemul nu era o listă de ținte confirmate.

AI poate favoriza escaladarea unui conflict nuclear

Unul dintre cele mai sensibile domenii este folosirea inteligenței artificiale în situații de criză militară și, în special, în apropierea unor decizii privind armele nucleare.

Un studiu realizat de King's College London și publicat în februarie 2026 a analizat comportamentul unor modele AI în 21 de scenarii simulate de criză nucleară. În 95% dintre simulări a existat semnalizare nucleară reciprocă, iar cercetătorii au constatat că modelele au recurs frecvent la amenințări nucleare în timpul jocurilor de război.

Cercetarea nu a demonstrat că AI ar declanșa în realitate un război nuclear, ci a urmărit modul în care modelele reacționează în situații militare simulate. Un studiu Stanford din 2024 a identificat, la rândul său, forme de escaladare și comportamente dificil de anticipat în jocuri de război cu mai multe modele lingvistice, inclusiv situații care au ajuns, în unele cazuri, la folosirea armelor nucleare.

Georgia Cole a explicat că unul dintre riscuri ar fi ca un sistem AI să interpreteze greșit anumite date și să genereze impresia unui atac nuclear care nu a avut loc.

Într-un asemenea scenariu, un lider ar putea lua o decizie de represalii înainte ca eroarea să fie identificată. Istoria Războiului Rece include deja situații în care erori sau informații incorecte furnizate de sistemele de avertizare timpurie au dus lumea foarte aproape de o confruntare nucleară.

Cole a avertizat, de asemenea, că utilizarea AI poate reduce transparența unor astfel de sisteme și timpul pe care factorii de decizie îl au pentru a analiza informațiile.

Riscurile nu se limitează la armele nucleare

Potrivit expertei citate de The Independent, AI ar putea fi folosită și pentru proiectarea unor agenți patogeni sau arme biologice. Ea a precizat însă că dezvoltarea efectivă a unor asemenea arme presupune numeroase bariere.

Anthropic a avertizat, la rândul său, că folosirea abuzivă în scopuri biologice reprezintă unul dintre cele mai serioase riscuri asociate modelelor AI de frontieră.

Compania a relatat recent despre cazuri în care actori din Yemen au folosit Claude în dezvoltarea unor sisteme de rachete ghidate, inclusiv pentru software-ul de ghidare, navigație și control. Anthropic a precizat că nu a putut stabili cu certitudine intenția finală din spatele tuturor solicitărilor și nu a identificat public toate grupările sau persoanele implicate.

În același raport, compania a documentat și tentative de folosire a AI în activități asociate unor operațiuni cibernetice.

Inteligența artificială poate influența și deciziile oamenilor

Yasir Atalan, director adjunct și data fellow în cadrul Futures Lab al Center for Strategic and International Studies, a atras atenția asupra unui alt risc: AI nu trebuie neapărat să ia singură decizia pentru ca efectele sale să fie importante.

Echipa sa lucrează la un studiu în care modele AI au furnizat recomandări unor militari implicați în scenarii de decizie. Unii participanți au primit recomandări orientate către escaladare, iar alții au primit variante de răspuns care evitau escaladarea.

„Ceea ce am realizat a fost că acest lucru a schimbat modul în care oamenii iau decizii”, a spus Atalan. Potrivit acestuia, participanții care primeau recomandări de la un model orientat spre escaladare ajungeau să ia, la rândul lor, decizii mai escaladatoare.

Astfel, problema nu ar fi doar posibilitatea ca un sistem să acționeze autonom, ci și faptul că oamenii pot ajunge să își modifice propriile decizii în funcție de recomandările unui model AI.

Dezinformarea și atacurile asupra infrastructurii, alte riscuri

Atalan a considerat că scenariile apocaliptice privind inteligența artificială trebuie diferențiate de riscurile concrete care pot apărea deja.

El a contestat în special valoarea estimării de 10% privind dispariția umanității, pe care a descris-o drept o „diversionare” a atenției și a spus că nu se bazează pe o analiză credibilă care să demonstreze mecanismul prin care un asemenea rezultat ar avea loc.

Printre scenariile extreme s-au numărat și situațiile în care roboți autonomi ar scăpa de sub control, însă Atalan a apreciat că astfel de ipoteze trebuie tratate cu prudență.

În schimb, actorii rău intenționați pot folosi deja AI pentru campanii de dezinformare și manipulare. Potrivit lui Atalan, materiale video generate cu AI, inclusiv videoclipuri cu personaje Lego, au fost integrate în strategii de comunicare și război psihologic asociate Iranului.

El a atras atenția și asupra posibilității ca AI să fie utilizată pentru crearea unor conturi false și pentru manipularea utilizatorilor în mediul online.

Un alt domeniu de îngrijorare îl reprezintă securitatea modelelor AI în sine, inclusiv riscul ca actori statali să încerce să exploateze vulnerabilități sau să provoace scurgeri masive de date.

Atacurile asupra infrastructurii critice ar putea avea consecințe grave

Georgia Cole a inclus printre scenariile de risc posibilitatea ca agenții AI să compromită infrastructuri critice la o scară suficient de mare pentru a provoca victime în masă.

AI ar putea fi folosită, de asemenea, pentru dezvoltarea unor arme destinate unor forme de război asimetric. Potrivit expertei, declarațiile și progresele recente ale dezvoltatorilor de AI sugerează că unele dintre aceste capacități ar putea deveni accesibile mai repede decât se estima anterior.

Riscurile apar astfel la mai multe niveluri: de la atacuri informatice și dezinformare până la utilizarea AI în sisteme militare, dezvoltarea unor arme și influențarea deciziilor luate în situații de criză.

Controlul uman și regulile rămân în centrul dezbaterii

Cei doi experți citați în material au pus accentul nu pe existența inteligenței artificiale în sine, ci pe modul în care este integrată în sistemele militare și pe existența unor mecanisme de control.

Atalan a avertizat că cele mai grave situații ar putea apărea atunci când modele AI care nu sunt suficient controlate ajung să fie integrate profund în sisteme de comandă și control.

Cole a susținut că problema nu este neapărat utilizarea AI, ci lipsa unor mecanisme de control și a transparenței privind modul în care este folosită, precum și lipsa unei evaluări serioase a situațiilor în care inteligența artificială îmbunătățește efectiv deciziile militare și a celor în care le poate face mai periculoase.

La nivel internațional există discuții în cadrul ONU privind elaborarea unui tratat referitor la armele letale autonome. Negocierile sunt însă dificile, iar adoptarea unor limite obligatorii din punct de vedere juridic nu este considerată iminentă.

În același timp, integrarea AI în structurile militare continuă. Potrivit experților citați, este posibil ca tendința să ducă spre un grad mai mare de autonomie și spre luarea mai rapidă a deciziilor, în timp ce rapoartele privind incidente în care AI contribuie la riscuri sau efecte nedorite în timpul conflictelor ar putea deveni tot mai frecvente.