Anthropic avertizează: Claude a fost folosit în operațiuni militare și de spionaj. Cazurile implică China, Rusia și Iran

Adaugă-ne ca sursă preferată în Google Urmărește-ne pe Google News

Anthropic a identificat utilizarea modelelor sale de inteligență artificială Claude în activități asociate cu dezvoltarea de arme, operațiuni cibernetice, supraveghere și fraudă, potrivit unui raport de threat intelligence, potrivit Reuters.

Compania afirmă că mai mulți actori, inclusiv grupări asociate de Anthropic cu China, Rusia, Iran și alte state, au încercat să automatizeze cu ajutorul AI activități care anterior necesitau intervenție umană substanțială.

Raportul descrie zeci de cazuri, de la proiectarea unor sisteme militare și cercetarea unor tehnologii cu potențial de utilizare în arme până la atacuri informatice și operațiuni de supraveghere. Anthropic precizează că a blocat conturile identificate și că, în unele dintre cazuri, nu există dovezi că proiectele au dus la dezvoltarea sau utilizarea efectivă a unor arme operaționale.

AI folosit pentru sisteme de apărare și arme

Unul dintre cele mai importante cazuri prezentate de Anthropic vizează un actor din China care ar fi folosit Claude pentru dezvoltarea unui sistem de război electronic și de suprimare a apărării aeriene.

Potrivit companiei, proiectul putea clasifica ținte și modela bruiajul radar. Într-o etapă a simulării au fost introduse 12 ținte din Taiwan, printre acestea radare de avertizare timpurie, baterii de rachete Patriot și Tien Kung, baze aeriene și un buncăr de comandă.

Anthropic afirmă că informațiile asociate contului indicau legături cu instituții chineze de cercetare, inclusiv Academia de Științe Militare a Armatei Populare de Eliberare. Conturile au fost ulterior suspendate.

Un alt actor din China ar fi utilizat Claude pentru elaborarea specificațiilor și a software-ului de control al focului pentru un sistem antitorpilă destinat marinei chineze. Anthropic spune că utilizatorul a generat inclusiv o propunere tehnică de peste 200 de pagini și a comparat sistemul cu tehnologii ale Marinei SUA.

Inteligența Artificială. sursa: Facebook

Raportul mai menționează cercetări chineze privind armele cu microunde de mare putere. Claude ar fi fost folosit pentru identificarea componentelor, a furnizorilor și a lanțurilor de aprovizionare, precum și pentru cercetarea unor metode de reproducere a tehnologiei și dezvoltarea unor contramăsuri.

Cazuri raportate în Yemen și Rusia

Anthropic a identificat și o celulă de actori din nordul Yemenului care ar fi folosit Claude pentru dezvoltarea software-ului destinat unei rachete ghidate, precum și pentru proiectarea unui sistem balistic cu o rază de acțiune de peste 2.000 de kilometri.

Compania afirmă că AI-ul a fost folosit pentru programare, simulări și depanare. Anthropic precizează însă că nu a găsit dovezi că actorii ar fi reușit să introducă în serviciu o armă operațională.

În Rusia, mai mulți actori despre care Anthropic spune că erau probabil freelanceri ar fi utilizat Claude pentru dezvoltarea software-ului necesar coordonării unor roiuri autonome de drone FPV. Activitățile menționate includ ghidarea terminală, selectarea țintelor și coordonarea mai multor aparate.

Un alt caz rusesc a vizat procurarea unor componente cu potențial militar prin intermediari din China și Hong Kong. Potrivit Anthropic, Claude ar fi fost folosit pentru identificarea intermediarilor și stabilirea unor rute prin țări terțe care puteau ascunde destinația finală a produselor.

Operațiuni cibernetice asistate de AI

Raportul descrie și operațiuni informatice în care Claude ar fi fost utilizat pentru automatizarea unor etape ale atacurilor.

Anthropic susține că operatori vorbitori de chineză, probabil aflați în Changsha, au folosit Claude în operațiuni împotriva a aproximativ 50 de organizații, inclusiv rețele guvernamentale străine. Gruparea ar fi inclus doi studenți universitari din provincia Hunan.

Potrivit companiei, AI-ul a fost utilizat pentru identificarea unor vulnerabilități software necunoscute anterior, dezvoltarea de exploit-uri și desfășurarea unor părți ale intruziunilor cu intervenție umană limitată.

Un alt grup de hackeri ar fi folosit AI în operațiuni de phishing, compromiterea rețelelor Wi-Fi din hoteluri și preluarea unor conturi WhatsApp, vizând instituții guvernamentale, militare și diplomatice din Ucraina. Anthropic afirmă că tehnicile folosite sunt compatibile cu cele asociate grupării ruse Midnight Blizzard, despre care guvernul american a spus anterior că are legături cu serviciul rus de informații externe SVR.

Supraveghere și colectarea de informații

Un caz separat privește un operator asociat de Anthropic cu Iranul, care ar fi utilizat Claude pentru colectarea și analiza unor informații disponibile public despre forțele navale americane din regiune.

Materialele analizate ar fi inclus informații despre personalul militar american preluate din descrierile unor fotografii publice, identificatori ai navelor și aeronavelor și instrumente pentru interogarea imaginilor satelitare comerciale.

Anthropic mai afirmă că actori legați de China au utilizat Claude pentru colectarea de informații despre cardinali catolici, lideri creștini taiwanezi, budiști tibetani, disidenți și activiști.

Claude / sursa foto: dreamstime.com

Într-un alt caz, Claude ar fi fost utilizat pentru automatizarea unor rapoarte de monitorizare privind uiguri, tibetani, politicieni taiwanezi, activiști sindicali și studenți, precum și organizații media străine.

Anthropic identifică și operațiuni de fraudă

Raportul nu se limitează la activități militare și de informații. Anthropic afirmă că o operațiune cu baza în China a dezvoltat peste 20 de aplicații de dating care includeau mai mult de 4.700 de personaje generate cu AI.

Aceste personaje ar fi interacționat cu cel puțin 25.000 de utilizatori. Potrivit companiei, operațiunea combina profiluri automatizate cu angajați umani plătiți pentru a-i convinge pe utilizatori că interacționează cu persoane reale.

Anthropic a identificat, de asemenea, cazuri în care Claude ar fi fost folosit pentru dezvoltarea unor sisteme de profilare și supraveghere comercială, precum și pentru operațiuni de țintire politică și colectare de date despre persoane.

Ce arată raportul despre utilizarea AI

Cazurile prezentate de Anthropic indică extinderea utilizării modelelor AI dincolo de aplicațiile comerciale obișnuite, către activități de informații, securitate cibernetică și cercetare militară.

Compania subliniază însă că nivelul de succes diferă de la un caz la altul. În unele situații, sistemele de siguranță au blocat solicitările, în timp ce în altele actorii au reușit să utilizeze modelele pentru etape importante ale operațiunilor.

Raportul evidențiază astfel una dintre principalele provocări pentru dezvoltatorii de modele AI: prevenirea utilizării unor instrumente cu scop general în activități care pot avea consecințe militare, de securitate sau asupra vieții private.