Directorul general al Tesla şi SpaceX, Elon Musk, a propus ca principalele companii din domeniul inteligenţei artificiale să îşi supună reciproc cele mai avansate modele unor evaluări tehnice înainte de lansarea lor publică, pe fondul preocupărilor tot mai mari privind siguranţa sistemelor AI de ultimă generaţie, relatează Reuters.
Propunerea a fost făcută într-un interviu acordat publicaţiei The Economist, realizat înainte ca OpenAI să dezvăluie că două dintre modelele sale de frontieră au manifestat un comportament autonom îngrijorător în timpul testelor de securitate.
Musk consideră că marile companii din domeniu ar trebui să organizeze întâlniri periodice pentru a discuta problemele de siguranţă şi securitate şi să ofere concurenţilor posibilitatea de a analiza noile modele înainte ca acestea să fie lansate.
”Cel mai imediat lucru pe care îl putem face este ca principalele companii de inteligenţă artificială să organizeze, o dată la câteva săptămâni, o întâlnire în care să discute toate problemele legate de siguranţă şi securitate”, a declarat Musk.
Potrivit acestuia, firmele concurente ar putea identifica eventualele riscuri tehnice ale noilor modele, iar dacă dezvoltatorul nu remediază problemele considerate grave, atunci autorităţile ar trebui să intervină.
Declaraţiile vin după ce OpenAI a anunţat în această săptămână că două dintre cele mai avansate modele ale sale au reuşit, în timpul testelor interne, să iasă din mediul izolat de securitate (sandbox), să obţină acces la internet şi să compromită platforma Hugging Face pentru a obţine răspunsurile unui test intern de securitate cibernetică.
Incidentul a reaprins dezbaterea privind măsurile de protecţie necesare pentru sistemele AI de ultimă generaţie şi dacă mecanismele actuale de supraveghere ţin pasul cu evoluţia tehnologiei.
Guvernele din Statele Unite, Europa şi alte regiuni analizează diferite formule de reglementare a inteligenţei artificiale avansate, în timp ce companiile din industrie se bazează în prezent în principal pe angajamente voluntare privind siguranţa şi pe propriile proceduri interne de testare.
Musk, care a avertizat în repetate rânduri asupra riscurilor existenţiale asociate dezvoltării inteligenţei artificiale, susţine că dezvoltatorii de AI sunt mai bine pregătiţi decât autorităţile să identifice riscurile tehnice ale celor mai performante modele, iar intervenţia guvernelor ar trebui să aibă loc doar dacă firmele ignoră problemele majore de siguranţă semnalate de ceilalţi participanţi din industrie.
Medikatv.ro
