OpenAI, Anthropic şi Google DeepMind lucrează la înfiinţarea unui organ de supervizare a riscurilor legate de inteligenţa artificială (AI), în urma unor apeluri în vederea unei controlări mai bune a derivelor AI, un proiect criticat şi ameninţat deja de un blocaj politic, relatează AFP.
Ideea a apărut în urma unei propuneri a lui Demis Hassabis, directorul general al Google DeepMind, înainte de a deveni preşedinte în august, care sugera o entitate similară Autorităţii americane de Reglementare a Industriei Financiare (FINRA), instanţa de autoreglementare a sectorului financiar.
Dezbaterea cu privire la riscurile pe care le reprezintă AI a devenit tot mai puternică de la începutul verii, alimentată de o serie de incidente şi declaraţii apocaliptice ale mai multor profesionişti în domeniul AI.
Mai multe modele AI ale OpenAI şi Anthropic au ieşit în mod spontan pe Internet din mediul lor închis şi au pătruns pe site-uri şi platforme.
Însă instaurarea de către profesie a propriului organ de supraveghere, chiar dacă este singura iniţaitivă a sectorului, va necesita o lege, pentru a evita ca industria AI să fie acuzată de cartel şi încălcarea concurenţei.
Înfiinţarea FINRA a fost autorizată de către legea federală şi este plasată sub supervizarea jandarmului american al pieţelor, SEC, care se află în subordinea directă a Guvernului.
”FINRA îşi poate concepe propriile reguli, însă SEC trebuie să le aprobe”, subliniază un profesor de drept, Andrew Tuch, de la Universitatea Washington de la St-Louis. Toată legislaţia care guvernază FINRA ”a fost fie adoptată de Congres, fie a fost produsă sub supervizarea SEC”.
Or, în urma apelului la o încetinire a dezvoltării AI lansat sâmbătă de către CEO-ul Anthropic Dario Amodei, Donald Trump şi mai mulţi membri ai majorităţii prezidenţiale şi-au reiterat dorinţa de a nu încorseta sectorul, în mod oficial de teama faptului că China ar avea un avantaj.
Ei au respins alertele lansate de mai mulţi reprezentanţi şi dezvoltatori, ca de exemplu Jacob Coxon, în urmă cu o săptămână, cu privire la riscurile pe care le reprezintă AI la adresa oemnirii, pe care preşedintele american le-a catalogat drept ”farse”.
SPECTRUL CARTELULUI
Marii actori AI cer - de mai multe luni - Guvernului american să încadreze sectorul şi să supervizeze securitatea AI.
Administraţia Trump a înfiinţat, la începutul lui august, un proces de evaluare a noilor modele AI, însă acesta este bazat pe voluntariat, iar mecansimul nu a fost comunicat.
Într-un mesaj postat online la mijlocul lui iulie, Demis Hassabis imagina o structură finanţată de către întreprinderile din sector, al cărei Consiliu să cuprindă experţi independenţi şi reprezentanţi ai ecosistemului deschis.
Acesta din urmă este alcătuit din dezvolatori AI deschişi - adică accesibili în mod gratuit, care pot fi descărcaţi de pe Internet şi modificaţi, spre desoebire de modelele închise ca cele ale OpenAI sau Anthropic.
După înfiinţarea organizaţiei, cele mai avansate societăţi AI ar urma să-şi supună noile modele unui examen, axat în special pe securitate, înainte de a le putea comercializa.
”Eu nu cred că un grup mic de societăţi AI ar trebui să definească regulile pentru toată lumea”, a comentat la postul CNBC CEO-ul grupului canadian Cohere Aidan Gomez, care-şi pune la punct propria AI. ”Sunt enorm de multe părţi care trebuie să fie consultate”.
Această nouă instanţă ar putea de asemenea să ia iniţiativa unei încetiniri coordonate a dezvoltării AI, potrivit lui Demis Hassabis, în cazul în care înţelegerea riscurilor nu urmează ritmul progreselor AI.
”Atunci când viitorul omenirii este în joc, avem nevoie de reguli intrnaţionale cu caracter constrângător şi nu de standarde ale industriei pe bază de voluntariat”, a reacţionat marţi senatorul democrat Bernie Sanders la un eveniment Pro-Human AI, la Washington.
Demis Hassabis a sugerat că noul organ de autosupervizare constituie ”un punct de plecare către înfiinţarea unor standarde internaţionale ale AI de vârf”.
Mai mulţi observatori, mai ales americani, au acuzat marile nume AI de ”captuarea reglementării”, adică de faptul că vor să-şi definească propria reglementare şi să se înţeleagă între ele să-şi protejeze avantajul competitiv în detrimentul concuranţilor şi consumatorilor.
Un consilier influent al lui Donald Trump, David Sacks, a agitat spectrul unui cartel AI şi a îndemnat fiecare întreprindere să acţioneze în mod unilatral, chiar dacă-şi încetineşte singură dezvotarea, un scenariu improbabil ţinând cont de investiţiile angajate în întrprinderile de top din sector.
Medikatv.ro
