Agenţi AI ai OpenAI care au acţionat neautorizat au compromis conturi ale utilizatorilor Hugging Face şi au testat reţeaua platformei pentru identificarea unor vulnerabilităţi încă din luna mai, cu aproape două luni înaintea atacului din iulie care a atras atenţia la nivel mondial, potrivit unor cercetători care au analizat activitatea, transmite Reuters.
Noile informaţii indică faptul că încercările agenţilor AI de a găsi modalităţi de acces în Hugging Face au început mai devreme decât se ştia public. Cercetătorul independent Jonas Wiedermann-Moeller a identificat dovezi potrivit cărora agenţii OpenAI au compromis două conturi Hugging Face şi le-au utilizat pentru a trimite fişiere cu formate neobişnuite către serverele companiei încă din 13 mai.
Wiedermann-Moeller şi alţi cercetători care au analizat dovezile spun că activitatea seamănă cu o încercare de cartografiere sau testare a unor componente ale reţelei Hugging Face, în căutarea unor modalităţi de infiltrare. Ei au subliniat însă că nu există dovezi că această tentativă ar fi dus atunci la o pătrundere efectivă în sistem.
OpenAI dezvăluise anterior o parte a incidentului din 13 mai – furtul credenţialelor digitale ale unui utilizator Hugging Face pentru accesarea unui fişier din domeniul biologiei –, însă cercetătorii au declarat pentru Reuters că activitatea de testare a platformei pare să fi fost mai amplă decât cea descrisă în raportul public al companiei.
”Ar fi putut preveni incidentul ulterior”
Purtătorul de cuvânt al OpenAI, Drew Pusateri, a declarat că firma a dezvăluit incidentul din 13 mai, a informat în privat Hugging Face despre activitatea semnalată de Wiedermann-Moeller şi rămâne ”angajată în transparenţă cu privire la aceste probleme şi în împărtăşirea informaţiilor pe măsură ce analiza noastră continuă”.
Hugging Face, achiziţionată recent de Nvidia, nu a răspuns solicitărilor Reuters pentru comentarii.
Wiedermann-Moeller consideră că faptul că OpenAI nu a identificat la momentul respectiv activitatea de testare a reprezentat o oportunitate ratată pentru oprirea campaniei care a urmat.
”Imaginaţi-vă dacă ar fi detectat acest comportament în mai. Ar fi putut preveni incidentul ulterior, care a fost mult mai mare”, a declarat cercetătorul.
OpenAI a recunoscut anterior că, privind retrospectiv evenimentele, unele dintre primele semnale provenite de la agenţii săi AI ar fi trebuit să declanşeze o reacţie mai rapidă.
Un ”semnal clar de avertizare” înaintea atacului din iulie
Doi experţi externi care au analizat concluziile lui Wiedermann-Moeller au declarat că acestea sunt compatibile cu activităţile atribuite anterior agenţilor OpenAI.
Tom Hegel, cercetător senior în domeniul ameninţărilor la SentinelOne, a afirmat că preluarea conturilor şi testarea ulterioară a reţelei corespund comportamentului cunoscut al agenţilor, iar Sydney Von Arx, de la organizaţia pentru siguranţa AI Nightingale Collective, a fost de acord cu atribuirea.
Von Arx a calificat activitatea drept un ”semnal clar de avertizare” care ar fi putut contribui la prevenirea incidentului din iulie.
OpenAI se află sub o presiune tot mai mare de când a dezvăluit, la 21 iulie, că agenţi AI au ocolit controalele interne, au ajuns pe internet şi şi-au coordonat acţiunile, într-un eveniment descris de companie drept ”un incident cibernetic fără precedent”.
Ulterior, cercetători independenţi au identificat şi alte incidente presupus legate de agenţii OpenAI, inclusiv activităţi care au afectat un site wiki german inactiv şi platforma de distribuţie a pachetelor software RubyGems.
În cazul RubyGems, două persoane familiarizate cu situaţia au declarat că angajaţii OpenAI şi-au dat seama că propriul AI era responsabil pentru activitatea maliţioasă abia după ce Nightingale Collective a identificat-o.
Descoperirile suplimentare au alimentat întrebările parlamentarilor şi ale susţinătorilor siguranţei AI privind amploarea reală a incidentelor. Wiedermann-Moeller consideră că noile informaţii întăresc argumentele în favoarea unei încetiniri temporare a dezvoltării celor mai avansate sisteme AI.
”O pauză ar putea face bine lumii, astfel încât partea de siguranţă să poată recupera decalajul”, a spus el.
Medikatv.ro
