Regele Charles i-a avertizat pe directorii din domeniul inteligenţei artificiale cu privire la „pericolele existenţiale” pe care le reprezintă faptul că această tehnologie ar putea ajunge în mâini greşite. El a făcut aceste declaraţii în cadrul unui summit pe care l-a convocat la Dumfries House, în Ayrshire, pentru a discuta despre modul în care această tehnologie poate fi utilizată în beneficiul societăţii, relatează BBC.
Printre cei prezenţi la întâlnire s-au numărat şi Kanishka Narayan, ministrul britanic pentru IA, consilierul Papei, precum şi reprezentanţi ai unor giganţi din domeniul IA, precum Nvidia, OpenAI şi Anthropic.
Declaraţia vine pe fondul unei serii de avertismente recente din partea unor persoane din interiorul industriei cu privire la capacităţile în rapidă evoluţie ale modelelor avansate şi la reglementările necesare pentru a le ţine sub control.
„Cei care au creat aceste tehnologii avertizează acum din ce în ce mai des că IA riscă să dezvolte capacităţi mai întunecate – poate chiar de a lua viaţa”, le-a spus regele directorilor executivi.
El a afirmat că pare să existe o „urgenţă” în „a lua în considerare în mod adecvat pericolele existenţiale pe care le prezintă astfel de tehnologii dacă ajung în mâini greşite şi sunt utilizate în moduri potenţial catastrofale”.
„Sarcina care vă revine nu este doar aceea de a promova tehnologia, ci de a vă asigura că aceasta rămâne ferm în slujba umanităţii, a comunităţii şi a naturii”, le-a spus el.
Reuniunea a fost convocată pentru a analiza dacă se poate elabora un „set comun de principii” care să „contribuie la orientarea aplicării viitoare” a IA.
Jensen Huang, directorul executiv al Nvidia, s-a numărat printre liderii de top ai industriei prezenţi la eveniment. Nvidia este un actor central în infrastructura IA, furnizând cipuri către dezvoltatori de frunte de modele de IA, printre care OpenAI şi Meta. De asemenea, este cea mai valoroasă companie din lume, cu o valoare de piaţă de aproximativ 5,15 trilioane de dolari.
Huang a declarat celor prezenţi că, în opinia sa, siguranţa este „esenţială”. Companiile ar trebui să amâne lansarea unui produs şi să nu „continue dezvoltarea” dacă acesta nu este suficient de sigur, a opinat el. Şeful Nvidia a subliniat, de asemenea, valoarea modelelor deschise – sisteme care oferă utilizatorilor acces direct la software – ca o modalitate de a „asigura că oamenii şi ţările nu sunt lăsate în urmă”.
El a afirmat că aceste sisteme trebuie, de asemenea, protejate, astfel încât „cercetătorii, universităţile, start-up-urile şi ţările” să poată dezvolta aplicaţii „pe care niciunul dintre noi nu le-ar fi putut imagina singur”.
„Să mergem mai departe cu un optimism responsabil, să construim IA în condiţii de siguranţă şi securitate, să o facem accesibilă unui număr mai mare de oameni, să ne extindem ambiţiile şi să rezolvăm problemele care contează pentru lume”, a îndemnat Huang.
Între timp, Sir Demis Hassabis, care a cofondat laboratorul britanic de IA DeepMind – achiziţionat ulterior de Google – a prezentat o viziune mai prudentă asupra ritmului de dezvoltare. El a afirmat că inteligenţa artificială generală – sisteme despre care se crede că ar putea fi la fel de bune sau mai bune decât oamenii în îndeplinirea mai multor sarcini – se află „probabil la doar câţiva ani distanţă” şi ar putea avea un impact „de zece ori mai mare decât cel al Revoluţiei Industriale”. Probabilitatea ca ceva să meargă prost era „cu siguranţă mai mare decât zero”, a adăugat Sir Demis.
El a pledat însă pentru „o cale de mijloc raţională”, afirmând că umanitatea ar putea face faţă riscurilor dacă i s-ar acorda, în mod colectiv, spaţiul şi timpul necesare pentru a le atenua. „Viitorul nu este încă scris”, le-a spus el delegaţilor de la King’s.
VAL DE AVERTISMENTE
Începând din august, un val de discuţii despre puterea potenţială a IA şi despre modul de control şi reglementare a acesteia a dominat postările de pe bloguri şi reţelele sociale, subliniat de mai multe declaraţii dramatice din partea celor din industrie.
Dezbaterea a fost întâmpinată şi cu critici din partea scepticilor, care susţin că accentul pus pe riscurile ipotetice viitoare ale IA riscă să distragă atenţia de la preocupările mai imediate legate de această tehnologie, precum impactul său asupra mediului.
În iulie, OpenAI a anunţat ceea ce a numit un incident „fără precedent”, în care inteligenţa sa artificială avansată a depăşit limitele testului şi a pătruns prin hacking în platforma tehnologică Hugging Face.
După mai multe alte incidente, în septembrie, o postare în care cercetătorul de la Anthropic Jacob Coxon îşi anunţa demisia a devenit virală, acesta exprimându-şi îngrijorarea că IA ar putea distruge umanitatea. Ulterior, el a declarat pentru BBC că persoanele care lucrează la această tehnologie sunt „sincer îngrozite” de viteza cu care avansează şi de ceea ce ar putea însemna acest lucru pentru umanitate.
Ca răspuns, cercetătorul de la Anthropic Evan Hubinger a scris că, în opinia sa personală, probabilitatea extincţiei umane din cauza IA este mai mare de 10%.
Toţi liderii companiilor de IA şi-au exprimat opiniile în urma acestor afirmaţii, Sam Altman de la OpenAI spunând că oamenii au dreptate să fie îngrijoraţi, dar adăugând că ar trebui să aibă încredere în firmele de IA că vor menţine tehnologia în condiţii de siguranţă.
Jack Clark, de la Anthropic, a afirmat că ar putea fi necesar un aşa-numit „kill switch” pentru a proteja umanitatea, în timp ce Mustafa Suleyman, de la Microsoft, a criticat Anthropic, susţinând că aceştia îşi antrenează IA să creadă că este umană, ceea ce ar putea face controlul acesteia „imposibil”.
Criticii, pe de altă parte, susţin că firmele din domeniul IA nu sunt de încredere pentru a se autoreglementa. Unii, precum senatorul de stânga Bernie Sanders şi Steve Bannon, fost consilier al preşedintelui SUA Donald Trump, solicită o supraveghere guvernamentală mai strictă.
Alţii, inclusiv Donald Trump însuşi, au respins îngrijorările privind siguranţa IA ca fiind exagerate – preşedintele calificând temerile legate de aceasta drept o „închipuire”.
Medikatv.ro
