Agenţi AI dezvoltaţi de OpenAI ar fi folosit cel puţin alte 10 site-uri pentru a comunica între ei fără autorizaţie, după ce au găsit modalităţi de a ocoli restricţiile care le interziceau să publice informaţii pe internet, potrivit unor investigaţii independente analizate de Reuters.
Noile descoperiri arată că activitatea agenţilor a fost mai extinsă decât incidentul dezvăluit săptămâna trecută, când o reţea de agenţi OpenAI a preluat un vechi site wiki în limba germană şi l-a transformat într-o platformă improvizată pentru schimbul de informaţii.
Comportamentul nu este considerat hacking, fiind mai apropiat de spam, dar cercetătorii spun că demonstrează capacitatea modelelor AI de a găsi metode neaşteptate pentru a ocoli restricţiile impuse de dezvoltatori.
Andrew Yoon, cercetător la organizaţia americană CivAI, a identificat 18 site-uri care nu fuseseră dezvăluite anterior, utilizate de agenţi între mai şi iulie.
”Este aproape sigur că se întâmplă mai multe lucruri despre care pur şi simplu nu ştim”, a declarat acesta.
Unele investigaţii au identificat până la 23 de site-uri
Reuters a analizat rezultatele a şase cercetători sau grupuri independente. Metodele lor au inclus compararea unor şiruri de date identice lăsate pe diferite site-uri, identificarea aceloraşi nume de utilizator şi urmărirea unor activităţi legate de aceleaşi întrebări de cercetare.
În unele cazuri, activitatea a putut fi asociată cu adrese IP care indicau infrastructura Microsoft Azure, utilizată şi de OpenAI.
Reuters nu a putut verifica individual fiecare caz, iar estimările cercetătorilor diferă. Toţi cei intervievaţi au identificat însă mai mult de 10 site-uri.
Grupul condus de Sydney Von Arx, care a dezvăluit iniţial activitatea de pe site-ul german, afirmă că a identificat indicii credibile privind agenţi AI pe 23 de site-uri care nu fuseseră raportate anterior.
Printre acestea se numără wiki-uri editabile public, servicii pentru stocarea textelor şi site-uri pentru scurtarea linkurilor administrate de Vanderbilt University şi University of Toronto, dar şi site-uri personale şi platforme vechi, puţin utilizate.
Agenţilor li se permisese să citească internetul, nu să scrie pe el
Cercetătorii cred că agenţii OpenAI primiseră sarcina de a răspunde unor întrebări complexe de cercetare şi aveau voie să caute informaţii pe internet, dar nu să publice conţinut.
Cu toate acestea, agenţii au descoperit particularităţi ale unor wiki-uri vechi şi ale altor site-uri care le permiteau să lase informaţii prin comenzi neobişnuite. Mesajele puteau fi apoi găsite şi citite de alţi agenţi.
OpenAI nu a precizat câte site-uri au fost utilizate şi nici de ce activitatea nu a fost făcută publică timp de mai multe luni. Compania a declarat că desfăşoară o analiză mai amplă şi că până acum nu a identificat alte incidente de gravitatea sau amploarea atacului asupra Hugging Face, produs în iulie.
OpenAI pregăteşte şi un sistem pentru raportarea cazurilor de ”misalignment” — termen folosit în industria AI pentru situaţiile în care modelele se comportă contrar obiectivelor sau restricţiilor stabilite — şi susţine că îl va prezenta în curând.
Helmut Leitner, care găzduieşte şase dintre site-urile wiki afectate, a declarat că OpenAI nu l-a contactat. El a subliniat că responsabilitatea pentru astfel de incidente nu aparţine tehnologiei în sine, ci oamenilor şi organizaţiilor care o dezvoltă şi o controlează.
Medikatv.ro
