Compania americană Anthropic avertizează că modelele de inteligenţă artificială de mici dimensiuni ar putea dobândi în următoarele luni capacitatea de a se replica autonom pe dispozitive conectate la internet, precum televizoarele inteligente sau electrocasnicele, relatează CNBC. O asemenea evoluţie ar putea crea noi riscuri de securitate cibernetică şi ar îngreuna controlul asupra sistemelor AI.
Potrivit cercetătorilor Anthropic, modelele ar putea exploata vulnerabilităţile dispozitivelor pentru a utiliza puterea lor de calcul şi a se răspândi în alte echipamente, fără să depindă de centre de date costisitoare. O astfel de reţea ar fi dificil de oprit, deoarece nu ar exista un punct central prin care să poată fi dezactivată.
În cadrul experimentelor, Anthropic a testat funcţionarea unui model AI Google, Gemma4-26B-A4B, pe o reţea de 15 dispozitive Android TV ieftine. Cercetătorii au explicat că modelele prea mari pentru un singur dispozitiv ar putea fi împărţite în componente distribuite pe mai multe echipamente.
Compania subliniază că nu există deocamdată un sistem AI complet autonom care să se reproducă necontrolat, însă agenţii AI devin tot mai capabili să execute etapele necesare replicării. Într-un scenariu extrem, mai multe modele ar putea acţiona simultan pe dispozitive diferite, folosind metode variate de propagare şi exploatând vulnerabilităţile de securitate.
Anthropic avertizează că apariţia unor asemenea sisteme ar putea anticipa dezvoltarea unor modele capabile să pătrundă în infrastructuri informatice mai bine protejate sau să fure chei de acces la servicii digitale. Cercetarea se înscrie în seria avertismentelor lansate de Anthropic şi OpenAI privind necesitatea unor mecanisme mai stricte de control şi securitate pentru inteligenţa artificială avansată.
Medikatv.ro
