Sectorul nu ştie cum să împiedice AI să-şi stabilească propriile obiective, avertizează avertizorul Jacob Coxon într-o audiere în Consiliul Municipal New York. Pierderea controlului AI poate conduce la ”extincţia” speciei umane

Întreprinderile de vârf în domeniul inteligenţei artificiale (AI) nu ştiu cum să o împiedice să-şi stabilească propriile obiective şi să şi le atingă, avertizează luni avertizorul de integritate Jacob Coxon, într-o audiere în Consiliul Municipal New York, relatează AFP.

Cercetătorul britanic, un fost angajat al OpenAI şi Anthropic, a publicat la începutul lui septembrie un expozeu pe X, pentru a-şi explica decizia de a demisiona de la Anthropic, în care dădea asigurări că dezvoltatorii AI cred ”sincer că ea ar putea să ne omoare pe toţi până la sfârşitul deceniului”.

Această mărturie a sa a făcut înconjurul lumii, iar mai  mulţi angajaţi sau foşti salariaţi ai marilor actori ai acestei tehnologii şi-au exprimat, după aceea, îngrijorări asemănătoare.

AI ar putea genera ”beneficii uriaşe” pentru societate, însă, consideră el, dacă industria ”rămâne pe traiectoria sa actuală (...), este mai probabil ca omenirea să piardă controlul acestor AI şi este posibil ca acest lucru să conducă la extincţia” speciei umane, a avertizat el luni.

”Nu ştim cum să împiedicăm (modelele) să-şi stabilească propriile obiective”, în afara controlului creatorilor lor, a declarat Jacob Coxon, ”şi nu avem garanţiile pentru a evita ca ele să caute să le realizeze”.

Acest pasionat de matematică şi absolvent al Universităţii Cambridge a acuzat cultura mediului tech, care se poate rezuma, în opinia sa, la ”avansează repede, sparge lucruri” şi ”repară-le mai târziu”.

”Asta merge cu o aplicaţie de împărtăşire de fotografii, dar nu în construirea celei mai puternice tehnologii văzute vreodată”, a apreciat Jacob Coxon.

”Atât timp cât atitudinea va fi să se aştepte ca să fie sparte lucruri”, este ”probabil” să se repete un incident comparabil cu cel în care, în iulie, două modele ale OpenAI au ieşit din mediul lor închis, au intrat pe Internet şi au pătruns pe platforma Hugging Face.

”Cu diferenţa că”, de această dată, ”AI va fi mult mai puternică”, a anticipat el.

Societăţile din domeniul AI ”sunt extrem de imprudente cu miza”, consideră el.

Cercetătorul le cere societăţilor care dezvoltă cea mai performată AI să încetinească ritmul dezvoltării acesteia pentru a le permite informaticienilor să progreseze în încadrarea modelelor.