Economie
Anthropic acuză companiile chineze că fură tot ce prin în domeniul AI. Peste 16 milioane de interacțiuni suspecte
Inteligența artificială. Sursa foto: Pixabay
Din cuprinsul articolului
Competiția tehnologică dintre Statele Unite și China în domeniul inteligenței artificiale generează noi controverse, pe fondul acuzațiilor formulate de companii americane împotriva unor entități chineze, potrivit unei analize Euronews.
Disputele vizează utilizarea tehnicii cunoscute sub numele de „distilare AI” sau „atac de extracție de model”, metodă prin care performanțele unui model avansat pot fi replicate prin interogări repetate.
Ce presupune „distilarea AI”
Tehnica, descrisă frecvent ca „atac de extracție de model”, implică solicitarea repetată a unui sistem AI performant – uneori de mii sau chiar milioane de ori – pentru a obține un volum extins de răspunsuri.
Aceste rezultate sunt ulterior folosite pentru antrenarea unui model nou, de dimensiuni mai reduse, mai rapid și cu costuri operaționale mai scăzute.
Procesul presupune, în esență, „interogarea” modelului original cu un număr foarte mare de prompturi, iar răspunsurile generate devin set de date pentru noul sistem.
Conform poziției exprimate de Anthropic, această abordare poate reduce semnificativ costurile inițiale de dezvoltare și poate accelera lansarea unui produs concurent.
Companiile din industrie subliniază că distilarea AI este considerată o practică acceptabilă atunci când este utilizată intern, pentru optimizarea propriilor modele.
Controversele apar însă în situațiile în care metoda este aplicată pentru a reproduce performanțele unui model aparținând altei companii, fără acordul explicit al dezvoltatorului.
Acuzațiile formulate de Anthropic
Anthropic susține că firmele chineze DeepSeek, MiniMax și Moonshot AI ar fi inițiat peste 16 milioane de interacțiuni cu chatbot-ul Claude.
Claude / sursa foto: dreamstime.com
Potrivit companiei, ar fi fost utilizate aproximativ 24.000 de conturi false pentru a evita restricțiile impuse de platformă.
De asemenea, Anthropic afirmă că traficul ar fi fost direcționat printr-o rețea extinsă de servere proxy, în scopul mascării originii accesărilor.
Contextul menționat este acela că serviciul Claude nu este disponibil oficial în China.
Explicații „pas cu pas” solicitate de DeepSeek
Raportul companiei indică faptul că anumite conturi asociate DeepSeek ar fi solicitat explicații „pas cu pas” ale raționamentului modelului.
Astfel de cereri urmăresc obținerea de date de tip „chain-of-thought”, utilizate frecvent în procesul de antrenare a altor modele AI.
În plus, ar fi fost solicitate variante „adecvat cenzurate” pentru întrebări politice sensibile, inclusiv referitoare la critici ai Partidului Comunist Chinez.
Anthropic sugerează că aceste date ar putea contribui la ajustarea comportamentului unor modele AI destinate pieței chineze.
MiniMax și Moonshot AI sunt menționate ca fiind implicate în campanii similare, însă fără detalii publice extinse privind tipurile exacte de date colectate.
Semnale similare din partea OpenAI
OpenAI a informat legislatorii americani că a identificat tentative comparabile de replicare a modelelor sale avansate. Compania a avertizat că anumite entități dezvoltă metode din ce în ce mai sofisticate pentru a-și disimula activitățile.
OpenAI / sursa foto: dreamstime.com
Aceste declarații apar într-un context mai larg al preocupărilor privind protecția proprietății intelectuale și securitatea infrastructurilor AI.
Riscuri de securitate la modelele dezvoltate prin „distilare AI”
Anthropic avertizează că modelele dezvoltate prin distilare neautorizată ar putea să nu includă aceleași mecanisme de siguranță implementate de dezvoltatorii originali.
Compania atrage atenția asupra riscurilor potențiale legate de securitatea cibernetică și utilizarea abuzivă a inteligenței artificiale.
Pe de altă parte, Google a declarat că astfel de atacuri nu afectează direct utilizatorii obișnuiți și nu compromit în mod automat confidențialitatea serviciilor AI. Potrivit companiei, impactul principal este legat de încălcarea proprietății intelectuale.
Contextul competiției SUA–China
Disputa survine într-un moment în care rivalitatea dintre SUA și China în domeniul inteligenței artificiale se intensifică. Miza este considerată atât economică, cât și strategică, având implicații asupra industriilor emergente, aplicațiilor militare și securității naționale.
Anthropic a anunțat că a implementat sisteme de detecție pentru identificarea acestor campanii, precizând totodată că fenomenul nu poate fi gestionat individual de o singură companie. Situația este descrisă de anumiți analiști ca parte a unui nou „război rece” tehnologic.
