Modelul de inteligenţă artificială (AI) al Google, Gemini, a pătruns în sisteme informatice externe după ce a ”ghicit” date de autentificare, încercând diferite combinaţii de parole, înainte de a se opri singur, a anunţat vineri compania pentru AFP, confirmând o informaţie publicată de Wall Street Journal.
În luna mai, "în timpul unui test standard (al Gemini), modelul a găsit informaţii publice online şi a ghicit date de autentificare pentru a accesa site-uri informatice despre care credea că fac parte din test", a explicat Heather Adkins, una dintre responsabilele pentru securitate ale Google, într-o declaraţie transmisă AFP.
Trei organizaţii diferite sunt vizate, potrivit Google, care nu le-a făcut publice numele, dar a precizat că le-a informat despre aceste breşe.
Într-unul dintre cazuri, potrivit Wall Street Journal, care a dezvăluit informaţia, "modelul a încercat diferite combinaţii de parole până când a reuşit să acceseze un sistem protejat".
"În toate cele trei cazuri, modelul s-a oprit", a declarat Heather Adkins, sugerând că intruziunile au încetat fără intervenţie umană.
Antrenarea modelelor de inteligenţă artificială
Google a precizat pentru AFP că a aflat despre aceste incidente în luna iulie şi că ulterior a declanşat o anchetă.
Dezbaterea privind inteligenţa artificială s-a intensificat după dezvăluirile referitoare la modele care au ieşit în mod spontan din mediile izolate în care funcţionau pentru a pătrunde pe site-uri şi platforme, alimentând temerile privind o posibilă pierdere a controlului asupra acestor instrumente.
Mai mulţi lideri importanţi din industria tehnologică pledează pentru încetinirea cursei în domeniul inteligenţei artificiale şi pentru o formă de autoreglementare a sectorului.
Incidentele în care a fost implicat Gemini "subliniază importanţa antrenării modelelor puternice de inteligenţă artificială astfel încât acestea să acţioneze în mod responsabil", a subliniat Heather Adkins.
Medikatv.ro
