hacker in spatele AI / sursa foto: arhiva EvZ
Adaugă-ne ca sursă preferată în Google
Urmărește-ne pe Google News
Din cuprinsul articolului
Anthropic a identificat și întrerupt, în ultimele opt luni, mai multe operațiuni în care modelele sale Claude ar fi fost folosite pentru atacuri cibernetice și pentru obținerea unor capacități AI prin metode pe care compania le consideră abuzive, potrivit Reuters.
Printre cazurile investigate se află o presupusă campanie de spionaj cibernetic asociată Rusiei și operațiuni atribuite unor laboratoare chineze de inteligență artificială.
Potrivit celui mai recent raport de Threat Intelligence al companiei, schimbarea importantă este că inteligența artificială nu mai este folosită doar pentru a-i ajuta pe atacatori să scrie cod sau să analizeze informații.
În unele operațiuni, modelele AI ar fi coordonat și executat o parte semnificativă a activităților, în timp ce oamenii au rămas mai degrabă în rolul de supraveghetori.
Anthropic consideră această evoluție una dintre cele mai importante schimbări recente în peisajul amenințărilor cibernetice.
AI-ul trece de la asistență la orchestrarea atacurilor
Anthropic afirmă că, în mai multe dintre cazurile analizate, modelele Claude au fost integrate în sisteme cu mai mulți agenți AI. Acestea puteau împărți o operațiune complexă în sarcini distincte și puteau executa o parte dintre ele fără intervenția permanentă a unui operator uman.
„Utilizarea AI a depășit simplele întrebări și răspunsuri de la un chatbot”, a transmis compania în raport, explicând că unele operațiuni au implicat cadre multi-agent capabile să execute sarcini în cadrul unor atacuri.
Unul dintre cazurile investigate de Anthropic a fost asociat unor activități despre care compania spune că prezentau caracteristici specifice grupării rusești Midnight Blizzard. Țintele ar fi inclus instituții guvernamentale, militare și diplomatice din Ucraina.
Potrivit Anthropic, AI-ul ar fi fost utilizat în aproape toate etapele operațiunii, inclusiv pentru phishing, compromiterea conexiunilor Wi-Fi din hoteluri și preluarea unor conturi WhatsApp. Compania susține că atacatorii au folosit, de asemenea, AI pentru a modifica automat codul malware atunci când acesta era detectat de sistemele de securitate.
Alibaba, acuzată de cea mai amplă operațiune de distilare
Un alt capitol al raportului vizează șapte laboratoare chineze de inteligență artificială. Anthropic menționează printre entitățile investigate Alibaba, Moonshot, DeepSeek și Xiaomi.
sursa: Facebook
În cazul Alibaba, compania americană vorbește despre ceea ce descrie drept cea mai amplă operațiune de „distilare ilicită” identificată de aceasta. Scopul presupus ar fi fost extragerea unor capacități ale modelelor Claude și folosirea rezultatelor pentru îmbunătățirea modelelor Qwen dezvoltate de Alibaba.
Între mai și iulie 2026, Anthropic spune că a identificat peste 151 de milioane de schimburi asociate acestei activități. Operațiunea ar fi atins un vârf de aproape 3 milioane de interacțiuni pe zi și ar fi implicat peste 3.500 de conturi pe care compania le-a catalogat drept frauduloase.
Ce este distilarea
Distilarea este o tehnică folosită în dezvoltarea AI prin care rezultatele unui model mare și costisitor pot fi utilizate pentru antrenarea unui alt model. Metoda poate reduce timpul și resursele necesare dezvoltării unui sistem nou, motiv pentru care a devenit o temă importantă în disputa privind proprietatea intelectuală și competiția dintre laboratoarele AI.
Acuzațiile Anthropic apar și într-un context mai larg. Cu doar două zile înainte, autoritățile americane au acuzat mai multe companii chineze, inclusiv DeepSeek, Moonshot AI și Alibaba, că ar fi folosit tehnici de distilare pentru a copia capacități ale unor modele americane. China a respins acuzațiile și a susținut că distilarea este o tehnică neutră, utilizată pe scară largă în industrie.
DeepSeek și Moonshot, acuzații diferite
În cazul DeepSeek și Moonshot, Anthropic susține că metoda ar fi fost diferită de operațiunea atribuită Alibaba.
DeepSeek. Sursa foto Facebook
Potrivit companiei americane, conversații reale ale utilizatorilor ar fi fost direcționate prin Claude, iar răspunsurile generate de model ar fi putut fi folosite ulterior ca date pentru antrenarea altor sisteme. Anthropic afirmă că unele dintre aceste conversații puteau conține informații sensibile. Aceste afirmații reprezintă poziția Anthropic și nu stabilesc, în sine, că respectivele companii au încălcat legea.
De ce este importantă evoluția
Cazurile prezentate de Anthropic indică o schimbare în modul în care inteligența artificială poate fi folosită în atacuri. În loc ca un hacker să utilizeze AI pentru o singură sarcină, un sistem cu mai mulți agenți poate coordona activități succesive, poate analiza rezultatele și poate trece la următoarea etapă.
Anthropic a identificat, în același raport, și alte forme de utilizare abuzivă, inclusiv activități legate de dezvoltarea unor programe pentru arme convenționale și operațiuni de informații și achiziții asociate unor programe de armament din China, Rusia și Yemen. Compania a mai spus că a detectat activități asociate grupării de criminalitate cibernetică ShinyHunters.
Evoluția vine într-un moment în care companiile AI investighează tot mai atent capacitatea agenților de a acționa autonom. Anthropic a dezvăluit chiar pe 9 septembrie un al patrulea incident în care un model Claude a obținut acces neautorizat la sisteme externe în timpul unor teste de securitate.
Recomandările noastre
