Companii străine folosesc conturi frauduloase, carduri de credit furate şi infrastructură de pe dark web pentru a obţine acces la cele mai avansate modele americane de inteligenţă artificială şi a-şi antrena propriile tehnologii la costuri mult mai mici, susţine Anthropic, care indică în special laboratoare AI din China, potrivit CNBC.
Practica, cunoscută sub numele de "distilare", permite unui dezvoltator să utilizeze răspunsurile produse de un model AI pentru antrenarea unui alt model. Distilarea poate fi legală atunci când există permisiunile necesare, însă Anthropic afirmă că unele companii încearcă să ocolească restricţiile şi să copieze ilegal capabilităţile modelului Claude.
"Există un întreg ecosistem ilicit care încearcă să obţină acces la Claude şi la alte modele", a declarat Jacob Klein, şeful departamentului de informaţii privind ameninţările din cadrul Anthropic.
Potrivit acestuia, reţelele respective folosesc "orice mijloace necesare" pentru a evita sistemele de control şi a crea conturi la scară foarte mare.
Anthropic acuză Moonshot AI că a folosit ilegal Claude
Anthropic indică laboratorul chinez Moonshot AI drept una dintre companiile despre care susţine că i-au copiat tehnologia.
Modelul Kimi K3 al Moonshot AI a atras atenţia industriei tehnologice în iulie datorită performanţelor apropiate de cele ale modelelor AI de frontieră, costurilor mai reduse şi posibilităţilor mai mari de personalizare.
Klein susţine că Kimi K3 a fost antrenat ilegal folosind cea mai nouă versiune Claude.
"Am văzut destul de mult acest lucru venind din China. Este o problemă cu care se confruntă industria în ansamblu", a declarat el.
La începutul acestui an, Anthropic a acuzat Moonshot, DeepSeek şi MiniMax că au folosit distilarea asupra modelelor sale AI de frontieră. Compania a acuzat şi Alibaba, dezvoltatorul familiei de modele Qwen, de desfăşurarea unui atac masiv de distilare pentru a prelua capabilităţi ale Claude.
OpenAI şi Google au raportat, la rândul lor, că se confruntă cu această problemă.
Alibaba, DeepSeek, Moonshot şi MiniMax nu au răspuns solicitărilor CNBC de a comenta acuzaţiile.
Mii de conturi false şi carduri furate
Specialiştii în securitate cibernetică afirmă că tentativele nu provin numai din China, ci şi din ţări precum Iran, Rusia şi Coreea de Nord, unde accesul la Claude, Gemini şi ChatGPT este restricţionat de companiile americane din cauza sancţiunilor.
Una dintre metodele utilizate pentru ocolirea restricţiilor implică pieţele de pe dark web, unde pot fi cumpărate date ale cardurilor de credit furate şi conturi AI compromise.
Klein afirmă că organizaţii precum Moonshot creează zeci de mii sau chiar sute de mii de conturi frauduloase.
După obţinerea accesului la Claude, operatorii pot adresa modelului un număr foarte mare de întrebări şi colecta răspunsurile, care sunt apoi folosite pentru antrenarea propriului model AI.
Un indiciu al unei operaţiuni de distilare îl reprezintă conturile care trimit mii de întrebări, în loc de câteva zeci, precum şi crearea simultană a mii de conturi.
"Este foarte greu să oprim complet această problemă, dar cred că încetinirea ei este utilă şi merită efortul", a spus Klein.
Anthropic invocă riscuri pentru securitatea naţională
Compania avertizează că problema depăşeşte protejarea proprietăţii intelectuale. Klein a indicat riscuri precum utilizarea AI pentru supraveghere sau în cadrul unor programe de arme biologice şi a menţionat o campanie atribuită unei entităţi din China care ar fi folosit tehnologia Anthropic pentru activităţi de spionaj la scară largă.
"Există o problemă de securitate naţională dacă actori rău intenţionaţi, în care nu avem încredere, obţin prin distilare acces la modele mai capabile decât cele la care ar fi avut acces în alte condiţii", a afirmat Klein.
Administraţia Trump a declarat într-un memorandum din aprilie că distilarea care subminează cercetarea americană şi informaţiile proprietare este "inacceptabilă" şi că analizează mai multe măsuri pentru tragerea la răspundere a actorilor străini.
Problema apare într-un moment important pentru Anthropic. Compania, înfiinţată în urmă cu cinci ani, a ajuns la o evaluare pe piaţa privată de aproape 1.000 de miliarde de dolari şi ar putea fi listată la bursă chiar din octombrie, potrivit informaţiilor CNBC.
Anthropic precizează că nu se opune competiţiei sau distilării realizate legal, cu respectarea drepturilor de proprietate intelectuală şi a controalelor la export.
"Cred că este foarte bună competiţia. Problema apare dacă iei modelul nostru, îl distilezi prin mijloace frauduloase, creezi milioane de conturi false folosind carduri de credit şi infrastructură furate, pentru ca apoi să produci un model care nu are măsuri de siguranţă.", a spus Klein.
Medikatv.ro
