Modelul Mythos al inteligenţei artificiale (AI) dezvoltat de către Anthropic a permis detectarea unor falii în sisteme informatice extrem de sensibile ale Guvernului american la un exerciţiu de testare, declară un oficial american The Associated Press.
Acest oficial a precizat sub protecţia anonimatului că Anthropic s-a asociat cu agenţiile americane de informaţii pentru a desfăşura teste cu modelul Mythos.
Potrivit acestui oficial, sistemul a descoperit sute de vulnerabilităţi - în doar câteva ore -, însă nu a putut să le şi exploateze în această perioadă de timp.
Testele au fost efectuate în cadrul unei iniţiative a Anthropic - denumită Project Glasswing -, care reuneşte întreprinderi din domeniul tehnologiei, cu scopul de a proteja programele informatice critice de consecinţe considerate "grave" pe care Mythos le poate reprezenta la adresa securităţii publice, securităţii naţionale şi economiei.
Senatorul democrat din Virginia Mark Warner a evocat scurt aceste teste într-o audiere la 11 iunie, în Comisia Băncilor, Locuinţelor şi Afacerilor Urbane din Senat.
"Acest instrument a penetrat aproape toate sistemele noastre clasificate, nu în săptămâni, ci în câteva ore", a declarat el, atribuind aceste informaţii directorului National Security Agency (NSA) şi Comandamentului Cibenetic american, generalul Joshua Rudd.
TENSIUNI TOT MAI MARI
În pofida acestei cooperări între Anthropic şi agenţiile americane de spionaj, tensiunile au crescut între întreprinderea californiană şi administraţia Trump.
Anthropic şi-a exprimat îngrijorarea faţă de folosirea pe care armata americană o poate da inteligenţei sale artificiale, iar administraţia a declanşat demersuri pentru ca să restrângă folosirea anumitor modele.
La începutul acestei luni, administraţia a publicat o directivă prin care ordona Anthropic să împiedice cetăţeni străini să folosească modelele cele mai recente - denumite Fable 5 şi Mythos 5.
Anthropic a difuzat larg, luna aceasta, Fable, o versiune limitată a modelului mai avansat Mythos, la care întreprinderea a rezervat un acces foarte restrâns, din cauza îngrijorărilor în domeniul securităţii cibernetice.
Această directivă a intervenit la zece zile după ce preşedintele american Donald Trump a semnat un decret prin care stabilea un cadru care să permită Guvernului federal să examineze - pe o perioadă de până la o lună, înainte de lansarea publică - riscurile la adresa securităţii naţionale reprezentate de către cele mai avansate sisteme AI.
Participarea proiectanţilor AI rămâne voluntară, stabilea acest decret
Anthropic anunţă că a dezactivat aceste modele la toţi clienţii săi, pentru a se conforma directivei, însă apreciază că măsurile luate de către Guvernul american nu sunt justificate de nivelul riscului pe care l-a semnalat.
SECTORUL SE OPUNE
Peste 100 de experţi în securitate cibernetică şi şefi de întreprinderi - inclusiv ai Adobe şi Nvidia - au scris Guvernului american şi i-au cerut să ridice directiva, avertizând că această măsură ar putea fi mai mult în avantajul adversarilor Statelor Unite decât să facă rău Statelor Unite.
În această scrisoare, semnatarii apreciază că modelele Mythos ale Anthropic sunt "mai degrabă performante" în vederea identificării faliilor software-urilor şi transformarea vulnerabilităţilor în instrumente ofensive, dar că ele nu sunt singurele performante în aceste sarcini.
Mulţi spun că folosesc cu regularitate alte modele de bază şi modele de tip open source pentru a efectua audite de securitate şi formări şi consideră că este periculos să te privezi de cele mai bune capacităţi de securitate cibernetică "fără un motiv bun", în timp ce adversarii Americii progresează rapid.
Medikatv.ro
