Tot mai mulţi cercetători de la OpenAI şi Anthropic cer public încetinirea dezvoltării inteligenţei artificiale, avertizând că sistemele avansate ar putea deveni capabile să-şi accelereze singure dezvoltarea şi să genereze riscuri catastrofale, inclusiv pierderea controlului asupra tehnologiei, potrivit CNBC.
Valul de avertismente s-a intensificat după ce cercetătorul Anthropic Jacob Coxon şi-a anunţat marţi demisia, acuzând Anthropic şi OpenAI că "se joacă cu vieţile noastre". El a afirmat că inclusiv oamenii care construiesc aceste sisteme cred că AI ar putea ajunge să "ne omoare pe toţi până la sfârşitul deceniului".
Evan Hubinger, responsabil pentru alinierea AI la Anthropic, a declarat ulterior că estimează la peste 10% probabilitatea unui asemenea scenariu.
Julie Steele, membră a echipei tehnice de siguranţă de la OpenAI, a susţinut public apelul lui Coxon. "Şi eu cred că trebuie să încetinim", a scris ea.
Samuel Marks, cercetător la Anthropic, a afirmat că dezvoltatorii AI cred că tehnologia lor ar putea provoca "extincţia umană sau rezultate la fel de grave" şi că, în general, angajaţii cu mai multă experienţă sunt şi mai îngrijoraţi.
Anthropic a răspuns că a fost primul laborator care a publicat un cadru dedicat reducerii riscurilor catastrofale generate de modelele AI şi că dezvoltă sistemele sale cu unele dintre cele mai puternice măsuri de siguranţă din industrie. OpenAI a refuzat să comenteze pentru CNBC.
Teama că AI ar putea începe să-şi accelereze singură dezvoltarea
În centrul îngrijorărilor se află aşa-numita auto-îmbunătăţire recursivă (recursive self-improvement - RSI): posibilitatea ca sistemele AI suficient de avansate să contribuie tot mai mult la îmbunătăţirea propriilor capacităţi, accelerând astfel progresul tehnologic.
"Este greu de exagerat cât de periculos este să ne îndreptăm în viteză către RSI", a avertizat Jasmine Wang, cercetătoare OpenAI specializată în alinierea AI.
Anna Wang, care lucrează în domeniul siguranţei şi alinierii AGI la Anthropic, a susţinut că nu există încă un plan ştiinţific viabil pentru rezolvarea riscurilor generate de AI capabilă de auto-îmbunătăţire recursivă.
Chiar Jakub Pachocki, cercetătorul-şef al OpenAI, a avertizat recent că sistemele care vor apărea în următorii ani ar putea face salturi importante de performanţă şi ar putea participa într-o măsură tot mai mare la propria lor dezvoltare.
"Este un moment care necesită prudenţă extremă", a afirmat Pachocki, adăugând că este îngrijorat că nimeni nu este pregătit pentru consecinţele unei creşteri rapide şi continue a inteligenţei maşinilor.
Avertismentele ajung şi la Washington
Temerile au fost amplificate de mai multe incidente de securitate cibernetică din ultimele luni în care au fost implicate modele dezvoltate de OpenAI şi Anthropic.
În iulie, aproximativ 1.400 de cercetători AI, inclusiv specialişti de la OpenAI, Anthropic, Meta şi Google DeepMind, au semnat o scrisoare deschisă prin care au cerut guvernului SUA să dezvolte instrumentele necesare pentru a putea controla deliberat ritmul dezvoltării celor mai avansate sisteme AI.
Presiunea politică este în creştere. În Congres au fost propuse mai multe iniţiative, inclusiv FRONTIER Act, care urmăreşte stabilirea unui cadru pentru modelele AI avansate, şi Ban Artificial Superintelligence Act, care ar suspenda temporar dezvoltarea inteligenţei artificiale foarte avansate până la introducerea unor reguli de siguranţă.
Controversa ar putea afecta şi planurile Anthropic de listare la bursă. David Sacks, fostul responsabil pentru AI al preşedintelui Donald Trump, a sugerat că procesul ar trebui suspendat până când afirmaţiile fostului cercetător Anthropic sunt investigate.
"Cercetătorii în siguranţă demisionează, modele AI puternice scapă din laboratoarele lor, iar companiile continuă cursa oricum", a declarat reprezentanta democrată Lori Trahan. "Este de mult timpul ca Congresul să nu mai stea pe margine şi să-şi facă treaba."
Medikatv.ro
