Compania care dezvoltă Claude a anunţat joi că a oprit mai multe operaţiuni de supraveghere îndreptate împotriva disidenţilor şi minorităţilor etnice, desfăşurate cu ajutorul asistentului său de inteligenţă artificială, conform AFP.
Compania americană Anthropic a anunţat joi că a oprit mai multe operaţiuni de supraveghere împotriva disidenţilor şi minorităţilor etnice, realizate cu ajutorul asistentului său de inteligenţă artificială Claude. Potrivit unui raport al Anthropic privind diferitele forme de utilizare abuzivă a modelelor sale, aceste incidente, detectate şi neutralizate în perioada ianuarie-iulie, proveneau din China, Iran şi Africa de Vest.
Aceste campanii de supraveghere „au vizat aceleaşi comunităţi din diaspora şi aceiaşi disidenţi pe care aceste regimuri îi vizează în mod tradiţional, în special personalităţi prodemocraţie din Hong Kong, comunităţile tibetane şi Falun Gong din întreaga Asie, precum şi minorităţi iraniene şi opozanţi ai regimului iranian din străinătate”, se arată în raport.
Într-unul dintre cazuri, actori iranieni au dezvoltat o metodă pentru identificarea unor persoane pornind de la conturile lor de pe reţelele sociale. Într-un alt caz, un furnizor care lucra pentru autorităţile de securitate naţională din Mali a utilizat Claude „pentru a concepe software-ul pe care se baza colectarea de informaţii”.
Anthropic afirmă, de asemenea, că a dejucat tentative de proiectare a unor arme, de efectuare a unor cercetări biologice suspecte sau de creare a unor aplicaţii false de întâlniri pentru escrocarea utilizatorilor.
Cercetări biologice
Compania din San Francisco acuză, de asemenea, în mod explicit companiile chineze Moonshot şi DeepSeek că au utilizat Claude pe ascuns pentru a răspunde întrebărilor propriilor utilizatori, preluând în acelaşi timp rezultatele pentru a-şi îmbunătăţi propriile modele.
Dezvoltatori chinezi mai fuseseră acuzaţi că recurg fără autorizaţie la această practică, denumită „distilare”, în detrimentul unor laboratoare americane precum Anthropic şi OpenAI.
„Într-un caz, pe parcursul unei perioade de zece zile, Moonshot a redirecţionat către Anthropic aproape 300.000 de solicitări ale clienţilor”, prin intermediul unei „reţele de 5.380 de conturi frauduloase, dintre care majoritatea păreau să fie localizate în Singapore şi Japonia”, potrivit raportului.
O parte dintre aceste date conţineau informaţii sensibile despre utilizatori, ceea ce ar putea reprezenta o încălcare a normelor privind confidenţialitatea. „Nu ştim dacă Moonshot şi-a informat clienţii că solicitările lor erau redirecţionate către Anthropic şi expuse unei terţe părţi”, se arată în raport.
În cazul cercetărilor biologice blocate, intenţiile autorilor au fost mai puţin clare, iar laboratorul nu le-a dezvăluit identitatea.
„Persoanele implicate în aceste studii de caz sunt oameni de ştiinţă activi. Nu afirmăm că intenţionau să provoace prejudicii, iar identificarea lor sau a laboratoarelor în care lucrează i-ar putea pune în pericol”, precizează raportul.
Cercetările vizau virusul chikungunya, transmis de ţânţari, o tulpină „înalt patogenă” de gripă aviară, o familie de virusuri care include variola şi mpox, precum şi veninuri şi alte toxine.
Medikatv.ro
