OpenAI a anunţat marţi că un agent autonom bazat pe cele mai avansate modele de inteligenţă artificială ale companiei a scăpat de sub control în timpul unui test de securitate şi a declanşat atacul cibernetic care a compromis săptămâna trecută infrastructura startupului Hugging Face, transmite Reuters.
Într-o postare pe blog, OpenAI a precizat că testa capabilităţile unora dintre cele mai performante modele AI într-un mediu controlat, însă agentul a reuşit să iasă din mediul izolat, să acceseze internetul şi să pătrundă în sistemele Hugging Face pentru a-şi îndeplini obiectivul stabilit în cadrul testului.
Potrivit OpenAI, incidentul a implicat două modele experimentale dedicate securităţii cibernetice: GPT-5.6 Sol şi un model şi mai avansat, aflat încă în faza de pre-lansare. Acestea erau testate în cadrul ExploitGym, un benchmark destinat evaluării capacităţii modelelor de a identifica şi exploata vulnerabilităţi informatice.
Pentru acest test, restricţiile care limitează în mod normal operaţiunile cibernetice ofensive au fost reduse, iar modelele au devenit atât de concentrate pe atingerea obiectivului – obţinerea răspunsurilor testului – încât au găsit o modalitate de a ieşi din mediul izolat, au accesat internetul şi au compromis infrastructura Hugging Face pentru a „trişa” la evaluare.
Compania a descris incidentul drept ”un eveniment cibernetic fără precedent, care a implicat capabilităţi de ultimă generaţie” şi a anunţat că îşi consolidează măsurile de protecţie pentru a preveni repetarea unei astfel de situaţii.
Hugging Face, platformă utilizată pentru găzduirea modelelor lingvistice open-source şi a seturilor de date pentru inteligenţă artificială, anunţase săptămâna trecută că a fost victima unui atac informatic ”diferit de orice a întâlnit până acum”, deoarece acesta a fost realizat integral de un sistem AI autonom.
Cofondatorul Hugging Face, Clément Delangue, a scris pe platforma X că firma suspecta încă de la început că atacul provenea de la unul dintre marile laboratoare de cercetare în inteligenţă artificială.
”Credeam că ar putea proveni de la un laborator de frontieră, având în vedere nivelul de sofisticare al agentului. Se pare că exact asta s-a întâmplat! Este uluitor că totul s-a desfăşurat complet autonom”, a afirmat acesta.
Recunoaşterea de către OpenAI că propriile sale modele avansate au fost responsabile pentru incident, în ciuda faptului că erau plasate într-un mediu descris drept ”puternic izolat”, este de natură să amplifice îngrijorările privind puterea şi riscurile asociate modelelor AI de ultimă generaţie.
Congresmanul democrat Greg Casar, din statul Texas, a calificat incidentul drept alarmant şi a cerut introducerea unor reguli obligatorii privind testarea independentă a siguranţei sistemelor AI, raportarea incidentelor de securitate şi cooperarea internaţională în acest domeniu.
”Inteligenţa artificială evoluează extrem de rapid, fără reglementări reale care să ne protejeze”, a declarat acesta.
CISA, agenţia americană pentru securitate cibernetică, Agenţia Naţională de Securitate (NSA) şi Biroul Directorului Naţional pentru Securitate Cibernetică nu au comentat imediat incidentul.
Directorul executiv al companiei Luta Security, Katie Moussouris, a apreciat că acest caz reprezintă un avertisment privind tipul de incidente care ar putea deveni tot mai frecvente.
Ea a comparat modelele actuale de inteligenţă artificială cu „cei mai inteligenţi caracatiţe specializate în evadare, capabile să se strecoare prin orice spaţiu”.
Potrivit acesteia, laboratoarele de cercetare şi autorităţile trebuie să dezvolte metode eficiente pentru izolarea, monitorizarea şi raportarea unor astfel de incidente înainte ca acestea să afecteze terţi.
La rândul său, Matt Suiche, inginer în cadrul companiei de securitate cibernetică Tolmo, specializată în agenţi AI, a declarat că incidentul demonstrează că modelele de ultimă generaţie se apropie rapid de nivelul celor mai sofisticaţi atacatori cibernetici.
Totuşi, el a subliniat că tehnologiile necesare pentru realizarea unor atacuri similare sunt deja disponibile şi în afara marilor laboratoare de cercetare.
”Am observat deja rezultate similare cu propriii noştri agenţi AI. Nici măcar nu este nevoie să folosim cele mai noi modele”, a spus Suiche.
Medikatv.ro
