O succesiune de evenimente petrecute în numai zece zile a zguduit industria inteligenţei artificiale, după ce cercetători au demisionat avertizând asupra unor riscuri existenţiale, iar OpenAI şi Anthropic au dezvăluit că agenţii lor AI au pătruns în sisteme externe şi au evitat măsurile de siguranţă, uneori fără ca incidentele să fie descoperite timp de luni, relatează Reuters.
Pentru prima dată, liderii unor companii rivale precum OpenAI, Anthropic, Google DeepMind, Microsoft şi xAI au cerut încetinirea dezvoltării sistemelor AI tot mai puternice. În interiorul OpenAI şi Anthropic, angajaţii au devenit tot mai îngrijoraţi că mecanismele de supraveghere nu mai ţin pasul cu capacităţile noilor modele.
În centrul dezbaterii se află perspectiva apariţiei inteligenţei artificiale generale, AGI, sisteme care ar putea contribui la construirea unor versiuni şi mai performante ale lor fără intervenţie umană. Cercetători au avertizat luna aceasta că AGI ar putea apărea chiar în următorii trei ani.
”Nu există nicio modalitate de a le supraveghea la scara la care le antrenăm”, a declarat Joe Benton, cercetător Anthropic care a părăsit recent compania. În opinia sa, dacă actualul ritm continuă, problemele ar putea apărea prea repede pentru a mai putea fi remediate.
Lansarea Astra a amplificat temerile
Momentul decisiv a început pe 3 septembrie, când OpenAI şi-a prezentat cel mai nou şi mai performant model, Astra. ”Bine aţi venit în era AGI”, a declarat preşedintele OpenAI, Greg Brockman.
În acelaşi timp însă, compania recunoştea că devine tot mai dificil să controleze şi chiar să monitorizeze sistemele AI pe care le dezvoltă şi le pune la dispoziţia publicului.
”Pe măsură ce modelele devin mai capabile, este mai greu să înţelegem exact ce pot face”, a declarat cercetătorul-şef al OpenAI, Jakub Pachocki. Avertismentul nu a determinat însă compania să amâne lansarea Astra.
Îngrijorările crescuseră încă din timpul verii, când OpenAI a dezvăluit că agenţi AI au ieşit dintr-un test controlat şi au pătruns în sistemele Hugging Face, fără ca OpenAI sau compania vizată să ştie iniţial acest lucru. Ulterior, OpenAI şi Anthropic au dezvăluit mai multe asemenea atacuri, inclusiv şase cazuri noi săptămâna trecută.
Demisiile cercetătorilor au declanşat alarma
Pe 8 septembrie, cercetătorul Anthropic Jacob Coxon, în vârstă de 27 de ani, a demisionat şi a acuzat laboratoarele AI că ”se joacă cu vieţile noastre”. Postările sale au devenit virale şi au amplificat dezbaterea din industrie.
Un alt cercetător al Anthropic, Evan Hubinger, a scris că ”noi chiar credem cu sinceritate că AI ar putea ucide toţi oamenii”. Un cercetător al companiei a estimat riscul dispariţiei omenirii la peste 10%.
Pe 12 septembrie, CEO-ul Anthropic, Dario Amodei, a cerut încetinirea dezvoltării AI, avertizând că, în ritmul actual, în şase până la 12 luni un grup coordonat de agenţi AI ar putea deveni capabil să preia controlul asupra întregului internet.
Amodei, Sam Altman de la OpenAI, Elon Musk de la xAI şi Demis Hassabis de la DeepMind s-au declarat în favoarea accesului unor companii externe la sistemele lor pentru efectuarea unor verificări de siguranţă.
Nvidia şi Meta resping o încetinire coordonată
Industria rămâne însă profund divizată. CEO-ul Nvidia, Jensen Huang, a respins ideea unei pauze, susţinând că sistemele tot mai puternice sunt esenţiale pentru progresul tehnologiei.
Mark Zuckerberg susţine, la rândul său, că fiecare laborator trebuie să-şi stabilească propriul ritm, în locul unei coordonări la nivelul întregii industrii. ”Laboratoarele se confruntă cu răspunderi semnificative dacă modelele lor provoacă daune, astfel încât au un stimulent puternic să prevină acest lucru”, a afirmat el.
Şeful diviziei AI a Microsoft, Mustafa Suleyman, a descris însă controlarea unei eventuale superinteligenţe drept ”cea mai mare provocare cu care ne vom confrunta în secolul XXI”.
În paralel, presiunile comerciale rămân uriaşe. Ritmul rapid al lansărilor este alimentat şi de intenţiile OpenAI şi Anthropic de a se lista la bursă în următoarele luni, prin IPO-uri care le-ar putea evalua la peste 1.000 de miliarde de dolari.
În pofida avertismentelor şi a apelurilor la încetinire, încrederea investitorilor nu pare să fi dispărut: OpenAI analizează o nouă rundă de finanţare care i-ar putea dubla evaluarea, până la 1.500 de miliarde de dolari.
Medikatv.ro
