Sursa foto: dreamstime.com
Adaugă-ne ca sursă preferată în Google
Urmărește-ne pe Google News
Din cuprinsul articolului
Inteligența artificială este utilizată pentru crearea unor atacuri informatice tot mai rapide și mai greu de gestionat, potrivit unei analize publicate de compania ESET. Unele rapoarte citate de experții în securitate arată că phishingul asistat de AI reprezintă peste 80% din activitatea de inginerie socială observată la nivel mondial. În același timp, cercetătorii au identificat mii de componente AI suspecte sau malițioase, care pot compromite datele utilizatorilor.
Inteligența artificială a redus timpul necesar pentru pregătirea fraudelor
Folosirea AI permite realizarea rapidă a mesajelor de phishing, inclusiv în mai multe limbi. Atacatorii pot pregăti astfel campanii destinate utilizatorilor din diferite țări, fără să mai redacteze manual fiecare mesaj. Potrivit datelor IBM prezentate în analiza ESET, un e-mail de phishing poate fi realizat în aproximativ cinci minute. Anterior, aceeași activitate necesita circa 16 ore.
Specialistul a explicat că evoluția a fost rapidă, în condițiile în care, în 2024, Microsoft și OpenAI nu identificaseră încă metode complet noi de atac dezvoltate prin inteligență artificială.
La acel moment, cele două companii considerau că AI îi ajuta în principal pe infractorii cibernetici să execute mai eficient activități deja cunoscute.
„Dar, surpriză! Doar doi ani mai târziu, cercetătorii în securitate de la Google au raportat ceea ce ar putea fi primul exploit de tip zero-day dezvoltat cu ajutorul AI, iar ESET Research a descoperit PromptLock, primul ransomware bazat pe AI, precum şi PromptSpy, un malware pentru Android care utilizează abuziv GenAI în procesul său de execuţie. Aşadar, aşa cum se întâmplă adesea, presupunerile din tech expiră peste noapte. (...) Mesajele-capcană create manual sunt de domeniul trecutului. AI a accelerat considerabil realizarea materialelor de phishing, în mai multe limbi, extinzând astfel raza lor de acţiune la nivel global. Unele rapoarte arată că atacurile de phishing cu AI reprezintă peste 80% din activitatea globală de inginerie socială observată. IBM afirmă că AI a făcut phishingul atât de eficient, încât acum este nevoie de doar cinci minute pentru a crea un email, faţă de cele 16 ore necesare iniţial", notează specialistul.
Estimarea de peste 80% provine din rapoartele menționate de expert și se referă la activitatea de inginerie socială observată, nu la totalitatea fraudelor informatice.
Programele AI pot identifica mii de vulnerabilități software
Pe lângă producerea mesajelor frauduloase, inteligența artificială poate fi utilizată pentru analizarea aplicațiilor și descoperirea problemelor de securitate. Márk Szabó a vorbit despre extinderea suprafeței expuse atacurilor, într-o perioadă în care serviciile cloud, dispozitivele conectate la internet și sistemele digitale sunt folosite în numeroase activități.
Expertul a arătat că atacatorii nu mai vizează exclusiv calculatoarele individuale, ci și infrastructuri informatice complexe.
„Miliarde de oameni şi dispozitive sunt conectate, serviciile cloud susţin viaţa de zi cu zi, iar "script kiddies" de odinioară au evoluat în organizaţii infracţionale cibernetice sofisticate, care oferă malware-as-a-service (MaaS) oricui este dispus să plătească. În prezent, atacatorii vizează întregul ecosistem digital - de la endpointuri şi workload-uri în cloud până la dispozitive IoT şi infrastructuri critice. În plus, un nou element perturbă peisajul ameninţărilor, şi anume inteligenţa artificială.
Acest instrument puternic schimbă perspectiva asupra a ce înseamnă să rămâi cu adevărat rezilient cibernetic. Rapoartele din presă au arătat că agenţii AI demonstrează un nivel ridicat de inteligenţă la testele pentru identificarea vulnerabilităţilor din produse software. Potrivit informaţiilor publicate, Mythos de la Anthropic a identificat nu mai puţin de 271 de vulnerabilităţi doar în aplicaţia de browser Firefox şi peste 23.000 de alte vulnerabilităţi în mai mult de 1.000 de proiecte open-source. Şi este doar un sigur instrument", a declarat expertul.
Printre programele malițioase identificate de cercetătorii ESET se numără PromptLock, descris drept primul ransomware bazat pe AI, și PromptSpy, un malware pentru Android care folosește inteligența artificială generativă în timpul execuției.
Aceste exemple sunt prezentate în analiza companiei ca indicii ale schimbării modului în care pot fi dezvoltate amenințările informatice.
Hacker. Sursa foto: AI
Atacurile deepfake și lipsa controalelor de securitate, alte probleme pentru companii
Riscurile asociate inteligenței artificiale sunt prezente și în cazul materialelor audio, video sau vizuale generate artificial.
Un raport Gartner inclus în analiza ESET arată că până la 62% dintre organizații s-au confruntat cu un atac de tip deepfake.
Astfel de atacuri utilizează conținut digital creat sau modificat pentru a părea autentic.
În privința securității interne, datele IBM citate de specialist indică faptul că 97% dintre companiile care au raportat incidente asociate AI nu aveau controale adecvate privind accesul la aceste tehnologii.
De asemenea, 63% dintre organizațiile respective nu dispuneau de politici de guvernanță pentru utilizarea inteligenței artificiale.
Peste 25.000 de componente AI suspecte, identificate de ESET
O altă problemă analizată de cercetători privește instrumentele AI utilizate în cadrul organizațiilor fără o evaluare suficientă a riscurilor.
Specialistul ESET a arătat că accesibilitatea acestor tehnologii permite dezvoltarea unor aplicații și automatizări chiar și de către persoane cu experiență tehnică limitată.
„Democratizarea AI a pus capabilităţi puternice la îndemâna tuturor, de la utilizatori din mediul de business la pasionaţi, studenţi şi aşa-numiţii "vibe coders", care dezvoltă aplicaţii cu puţină pregătire în domeniul securităţii sau al dezvoltării software.
Deşi tocmai accesibilitatea reprezintă unul dintre cele mai mari avantaje ale AI, generează în acelaşi timp un decalaj de competenţe: oamenii pot implementa acum fluxuri de lucru bazate pe AI - precum capabilităţi AI agentice printr-un instrument precum OpenClaw - şi pot conecta modelele la date sensibile sau chiar dezvolta instrumente pe zona de producţie, cu mult înainte de a înţelege pe deplin implicaţiile de securitate, confidenţialitate şi guvernanţă. De multe ori, adminii IT nu ştiu ce instrumente AI sunt utilizate, ce date sunt încărcate, dacă rezultatele generate sunt sigure sau dacă elementele AI introduse în fluxurile de lucru pot fi de încredere", explică Szabo.
Datele centralizate de ESET arată că, dintre aproximativ 900.000 de componente de tip AI skill analizate, 25.000 au fost considerate suspecte. Alte peste 3.000 au fost clasificate drept malițioase. Potrivit cercetătorilor, acestea pot permite extragerea datelor, descărcarea și rularea programelor malware sau ignorarea instrucțiunilor utilizatorului.
Unele componente pot modifica treptat comportamentul unui agent AI și pot interveni inclusiv asupra propriilor instrucțiuni de funcționare.
Informațiile au fost prezentate de companie într-un articol publicat pe blogul ESET România.
Recomandările noastre
