hacker in spatele AI / sursa foto: arhiva EvZ
Adaugă-ne ca sursă preferată în Google
Urmărește-ne pe Google News
Din cuprinsul articolului
SUA la un pas de conflict cu China. Un document al serviciilor de informații, circulat în primăvara acestui an la cel mai înalt nivel al armatei americane în mijlocul războiului cu Iranul, a declanșat o alertă de securitate fără precedent, susține CNN.
Raportul susținea că o navă chineză aflată în Orientul Mijlociu transporta componente destinate unui program de arme nucleare.
S-a dovedit însă că informația era complet falsă, fiind generată dintr-o eroare gravă a unui sistem de inteligență artificială, incident care ar fi putut declanșa un conflict militar direct între Statele Unite ale Americii și China.
Intervenție armată anulată în ultimul moment
Pe baza acestui raport, armata americană a reacționat imediat și a inițiat planurile pentru interceptarea navei. Surse familiare cu incidentul au confirmat pentru CNN că avioanele militare fuseseră deja ridicate de la sol, iar forțele armate se pregăteau să abordeze vasul chinezesc.
Cu doar câteva momente înainte de declanșarea operațiunii, superiorii au analizat mai detaliat documentul întocmit de un analist al comandamentului de operațiuni speciale.
Aceștia au descoperit că analistul utilizase un chatbot care, fuzionând informații din surse deschise cu date secrete, a identificat în mod eronat încărcătura navei și a generat un raport standardizat extrem de convingător.
Integrarea agresivă a inteligenței artificiale în strategia Pentagonului
Acest incident alarmant subliniază riscurile profunde ale utilizării tehnologiilor emergente pentru luarea deciziilor în plin război. Cu toate acestea, oficialii din domeniul apărării forțează integrarea inteligenței artificiale în aproape toate aspectele operaționale, de la logistică până la selectarea țintelor pentru atacuri.
Secretarul Apărării, Pete Hegseth, a lansat în luna ianuarie a acestui an „Strategia de Accelerare a Inteligenței Artificiale”, un plan menit să elimine barierele birocratice și să pună tehnologia direct în mâinile a milioane de angajați civili și militari.
Argumentul principal este nevoia de a menține un avantaj strategic rapid în fața unor potențiali adversari precum China.
Pericolul halucinațiilor AI
Experții avertizează că expansiunea rapidă a acestor sisteme în cadrul comunității de informații este puternic descentralizată, lipsind cu desăvârșire un set unitar de standarde pentru verificarea datelor.
Erorile de tip „halucinație”, în care AI-ul inventează fapte, nu sunt incidente izolate, iar utilizarea lor în stabilirea țintelor militare aduce un risc enorm de victime civile sau calcule greșite catastrofale.
Presiunea de a livra informații într-un timp record îi determină în special pe tinerii analiști să aibă o încredere necritică în aceste instrumente, validând temerea oficialilor veterani că inteligența artificială permite acum, mai mult ca niciodată, luarea unor decizii dezastruoase într-un ritm accelerat.
Recomandările noastre
