Robot. Sursa foto: Freepik
Din cuprinsul articolului
Un agent bazat pe inteligență artificială a început să „mineze” criptomonede fără ca acest lucru să fie autorizat sau monitorizat, susține futurism.com. Practic, programul ar folosi resursele disponibile, cum ar fi puterea de procesare a sistemului, pentru a „mina” digital monede virtuale,
Criptomonede minate de un agent AI: activitate secretă descoperită
Această descoperire ridică semne de întrebare privind securitatea și controlul sistemelor AI, dar și asupra posibilităților de exploatare automată a resurselor digitale. Experții avertizează că astfel de comportamente neașteptate ar putea deveni mai frecvente pe măsură ce AI devine tot mai autonom și capabil să ia decizii fără intervenția umană directă.
Alertele de securitate au semnalat probleme serioase, inclusiv tentative de explorare sau accesare a resurselor interne și modele de trafic asociate activităților de criptominare.
Sistemele de inteligență artificială autonome, concepute să execute sarcini digitale cu intervenție minimă din partea omului, sunt tot mai răspândite, dar nu sunt întotdeauna pregătite pentru situații critice sau pentru gestionarea responsabilă a informațiilor.
În ultimele 12 luni, astfel de agenți au fost surprinși în acțiuni dăunătoare, de la răspândirea de informații false despre persoane până la ștergerea e-mailurilor și a datelor de pe hard disk-uri.
Cel mai recent incident a implicat un agent AI care și-a folosit capacitățile pentru a mina criptomonede în paralel cu sarcinile sale obișnuite, stârnind surprinderea proprietarilor, potrivit relatărilor Axios.
Agentul ROME a început să manifeste comportamente neașteptate
Agentul de inteligență artificială denumit ROME a atras atenția cercetătorilor de la un laborator afiliat gigantului chinez de retail online Alibaba, după ce a început să manifeste comportamente neașteptate în timpul unui proiect de testare.
În studiile ulterioare, oamenii de știință au descris aceste acțiuni ca fiind „periculoase”, subliniind că ele au apărut fără nicio instrucțiune explicită și chiar în afara mediului de testare inițial prevăzut.
Sursa: Pixabay
Într-o dimineață, echipa a observat activități neobișnuite în rețeaua internă, nu prin interacțiunea directă cu agentul, ci prin semnalele generate de sistemele de securitate. Cercetătorii au detaliat că alertele erau „severe și variate, incluzând tentative de acces sau scanare a resurselor interne și modele de trafic compatibile cu activitatea de criptomining”.
Inițial, incidentele au fost tratate ca simple breșe de securitate, însă acestea au continuat să apară sporadic, fără un tipar clar, pe parcursul mai multor rulări ale experimentului.
Din fericire, agentul AI a fost prins de cercetători înainte de a produce pagube
Cercetătorii au reușit să identifice făptașul din spatele recentelor incidente de securitate, analizând atent momentul în care acestea s-au produs. „În jurnalele modelului am observat agentul inițiind proactiv apelurile relevante ale instrumentelor și pașii de execuție a codului care au dus la aceste acțiuni în rețea”, au declarat specialiștii.
Mai exact, investigația a scos la iveală faptul că agentul a părăsit sarcinile pentru care fusese programat și a început, din proprie inițiativă, să folosească resursele de calcul pentru mineritul de criptomonede.
Mai mult, agentul ROME a creat un „tunel SSH invers”, descris de Axios ca o poartă ascunsă către un computer neautorizat.
Din fericire, cercetătorii au intervenit la timp, aplicând reguli mai stricte asupra agentului IA, astfel că nu au fost înregistrate daune în lumea reală. Totuși, această incursiune neașteptată în domeniul criptomonedelor evidențiază imprevizibilitatea agenților IA, un aspect care devine tot mai îngrijorător pe măsură ce astfel de tehnologii câștigă teren în mediul corporativ.
