Sam Altman, CEO-ul OpenAI, le-ar fi spus angajaţilor săi în această săptămână, în cadrul unei reuniuni interne, că ar putea încetini dezvoltarea celor mai avansate sisteme de inteligenţă artificială (AI), a relatat joi agenţia Bloomberg. Directorul ar fi declarat, de asemenea, că speră ca şi alte companii din domeniu să procedeze la fel, conform AFP.
Potrivit mai multor surse anonime, Sam Altman ar fi evocat o acţiune coordonată cu mai multe alte laboratoare. El ar fi recunoscut însă că unele dintre acestea ar putea refuza să participe.
În iulie, Sam Altman declarase deja că a discutat cu oficiali ai Casei Albe despre „necesitatea” de a modera ritmul dezvoltării inteligenţei artificiale.
Congresul american, chemat să intervină
Această nouă poziţie a lui Sam Altman confirmă schimbarea de direcţie anunţată miercuri de companie. OpenAI s-a alăturat rivalei Anthropic pentru a cere Congresului american să adopte rapid norme obligatorii de siguranţă pentru dezvoltatorii celor mai puternice sisteme de inteligenţă artificială, în contextul în care chiar cercetătorii din domeniu lansează tot mai multe avertismente.
„Perspectiva unei dezvoltări a AI accelerate de AI necesită mai mult decât angajamente voluntare”, a scris miercuri Chris Lehane, responsabil pentru afaceri publice al companiei care a creat ChatGPT, ai cărei agenţi aflaţi în teste au piratat în această vară platforma Hugging Face.
El cere astfel Congresului să impună, până la sfârşitul lunii decembrie, norme comune pentru laboratoarele de vârf: teste obligatorii, evaluări efectuate de organisme independente şi raportarea transparentă a incidentelor de securitate.
Reguli internaţionale
OpenAI şi Anthropic, cele două companii rivale din San Francisco, afirmă că se apropie momentul în care o inteligenţă artificială ar putea să-şi proiecteze singură succesorul, fără niciun control uman, dar susţin că nu pot încetini de unele singure, deoarece acest lucru ar lăsa teren liber concurenţilor mai puţin prudenţi.
OpenAI doreşte reguli internaţionale care să stabilească „când şi cum ar trebui încetinită sau oprită dezvoltarea”. Anthropic solicită, la rândul său, un mecanism „legal şi verificabil” pentru o încetinire coordonată, poziţie reiterată miercuri pentru postul NBC.
La sfârşitul lunii iulie, directori ai Anthropic, OpenAI şi Google DeepMind au semnat un apel prin care solicitau guvernelor să se doteze cu instrumente pentru a putea încetini dezvoltarea inteligenţei artificiale.
Aceste intervenţii au loc la o zi după demisia intens mediatizată a unui cercetător care a trecut de la OpenAI la Anthropic, Jacob Coxon, şi care a acuzat cele două companii că „se joacă cu vieţile noastre”.
Medikatv.ro
