Marţi, 30 septembrie 2025, se desfăşoară, la Bucureşti, lucrările primei ediţii (inaugurale) a Conferinţei Naţionale de Dreptul Inteligenţei Artificiale, având ca temă: AI Act – cadru juridic european şi model mondial de reglementare a Inteligenţei Artificiale. Iniţiată de Universitatea Ecologică din Bucureşti (UEB) şi organizată în parteneriat cu Editura Universul Juridic, în seria de reuniuni anuale specializate consacrate dezbaterii problemelor de actualitate ale diferitelor ramuri de drept, manifestarea contribuie la fundamentarea teoretică a unei noi discipline juridice în România – dreptul IA – şi la cunoaşterea unei reglementări unional-europene de avangardă în materia noilor tehnologii, Regulamentul (UE) 2024/1689 din 13 iunie 2024 de stabilire a unor norme armonizate privind inteligenţa artificială (AI Act, Regulamentul sau RIA).
Această conferinţă naţională se adaugă celei de drept al mediului, un alt domeniu de leadership de cercetare ştiinţifică şi universitar asumat de UEB în ţara noastră. Manifestarea reuneşte reprezentanţi ai autorităţilor publice [Parlamentului, Ministerului Justiţiei, Hub-ului Român de IA (HRIA)] şi ai lumii universitare şi de cercetare ştiinţifică, iar subiectele abordate vor viza aspecte esenţiale ale cadrului juridic european în materie de IA, în conexiuni tematico-normative cu diferitele ramuri de drept intern/român (drept public, drept privat, drept penal, dreptul mediului, drept comercial, dreptul consumului ş.a.). Pentru a prefaţa evenimentul ştiinţific ne-am adresat principalului artizan al acestuia, prof. univ. dr. Mircea Duţu, Preşedintele UEB şi fondatorul dreptului IA în România.
Ovidiu Predescu: Conferinţa naţională inaugurală are ca temă modelul european de reglementare a inteligenţei artificiale, în frunte cu AI Act. Aşadar, pentru început aş dori domnule profesor să aflu cum s-a format acesta, de ce în cadrul UE şi în ce măsură se exprimă el la acest moment?
13 octombrie - Oraşul meu acasă şi la birou (ediţia a IV-a)
Mircea Duţu: Apărută, cel puţin în spaţiul public, de curând şi în mod fulminant, îndeosebi odată cu forma sa generativă (2022), IA a cunoscut şi o încadrare juridică în ritm alert şi cât mai adecvată. Într-adevăr, modelele de IA au început să se dezvolte din anul 2017, fără ca nimeni să fie la curent cu implicaţiile lor. Puţini puteau să-şi imagineze atunci o atare desfăşurare tehnologică şi o asemenea punere la dispoziţia publicului a aplicaţiilor sale. Odată apărută şi pătrunsă treptat în viaţa socială, se aştepta şi o reacţie în plan juridic, dar pentru aceasta era nevoie de un anumit timp. Iar o atare cerinţă înseamnă în drept răbdare, prudenţă, reţineri şi câştigarea unei anumite experienţe. El nu poate interveni decât la chemarea unei nevoi sociale acute şi consistente şi în reglarea unei disfuncţionalităţi ce se impune a fi corectată. Din această perspectivă dreptul e şi rămâne şi în această privinţă o materie vie, care reglementează viaţa fiinţelor umane. Prin esenţa şi finalităţile sale se situează într-o oarecare întârziere în raport cu mişcarea competenţelor tehnologice şi mai ales în situaţia societăţii accelerate. În plus, dacă ar reprima o anumită conduită înainte chiar ca ea să existe ne-am putea teme de domnia arbitrarului. Cu atari premise putem spune că legislatorul unional-european a intervenit într-un termen rezonabil. Apariţia publică a ChatGPT s-a produs în noiembrie 2022 şi la mai puţin de 2 ani de la aceasta, respectiv 13 iunie 2024, era adoptat Regulamentul (UE) nr. 2024/1689 privind IA. În plus, actul legislativ prevedea mai multe etape (termene) de punere a sa în aplicare, ultimul fiind la 2 august 2027, ceea ce permite întreprinderilor un răstimp de conformare corespunzătoare la prescripţiile sale. În acelaşi timp, evoluţia rapidă a realităţilor tehnologice şi turbulenţele survenite în datele contextului socioeconomic şi chiar geopolitic au reclamat ajustări din mers în cadrul procesului de aprobare a sa, iar ulterior în dezvoltarea şi adaptarea multiplelor reglementări subsidiare, de detaliere şi de operaţionalizare a măsurilor preconizate. Pe un asemenea „nisip mişcător” al competiţiei tehnologice mondiale, nici acum nu avem certitudini asupra deplinelor contururi reglementare ale modelului european în materie, sperând în rezilienţa şi capacitatea sa de regenerare.
Ovidiu Predescu: După o atare „odisee” tehnico-reglementară, consider firesc să vă întreb cum aţi caracteriza, în termeni generali, corpusul normativ care guvernează în prezent materia IA la nivel european, generat de UE şi de Consiliul Europei?
Mircea Duţu: Să începem prin a preciza că RIA reprezintă primul text orizontal care are vocaţie de a răspunde la mizele şi riscurile suscitate de o atare nouă tehnologie. Desigur, nu e vorba de o reglementare perfectă ci, mai degrabă, de una permanent perfectibilă, şi aceasta mai ales având în vedere că ea a făcut obiectul unui enorm lobbying, date fiind imensele interese aflate în joc, pe care le-au denunţat chiar parlamentari europeni la timpul potrivit. Dincolo de limitele sale, el are marele merit de a aborda subiectul şi a-i aduce o primă rezolvare (juridică) globală, luând în calcul un echilibru între nevoia favorizării inovării şi imperativul protecţiei masei consumatorilor. Regulamentul a fost însoţit în cadrul european mai larg şi într-un anumit fel ca un complement necesar, de adoptarea aproape simultană, sub auspiciile Consiliului Europei, a Convenţiei-cadru privind inteligenţa artificială şi drepturile omului, democraţia şi statul de drept (19 mai 2024). Pe lângă cele 46 de state membre ale organizaţiei au fost asociate la discutarea tratatului şi unele nemembre, îndeosebi SUA şi China, protagoniştii principali ai domeniului, care astfel a devenit deja unul geostrategic, în deplinătatea semnificaţiilor termenului. Cele două texte europene au unele aspecte diferite în abordare, dar rămân complementare în multe privinţe, ceea ce le permite să se conecteze şi să se integreze în elemente definitorii ale unui model continental de reglementare a IA, cu o evidentă vocaţie universală. Aşadar, Regulamentul emană de la Uniunea Europeană, a cărei primă vocaţie devine aceea de a regla piaţa aferentă. De altfel, intervenţia pe calea unui act legislativ de acest tip e justificată prin prevederile art. 114 al Tratatului privind Funcţionarea UE (TFUE), care priveşte construirea pieţei unice. Convenţia-cadru provenită din partea Consiliului Europei e un text internaţional cu un caracter codificator şi adaptativ, iar în aplicarea sa statele-părţi vor trebui să adopte măsuri corespunzătoare, de naturi diferite şi poartă în primul rând asupra drepturilor fundamentale. Putem conchide deci că, într-o viziune (oarecum) reciproc completatoare, mizele de piaţă sunt abordate de Regulament, iar cele aferente drepturilor fundamentale ale persoanelor, democraţiei şi statului de drept de către convenţia Consiliului Europei. Nu putem ignora nici faptul că şi RIA ţine seama, sub anumite aspecte, şi el, de problematica drepturilor umane. Rezultă astfel un corpus de norme, cu juridicitate variabilă şi conţinut majoritar concordant şi complementar ce tinde să se constituie într-un model de reglementare în materie.
Ovidiu Predescu: Într-o continuare ideatică obiectivă, având în vedere tema conferinţei şi în contextul specific unui interviu, cum s-ar putea rezuma conţinutul lui AI Act?
Mircea Duţu: Putem considera că RIA tinde să răspundă unui anumit număr de obiective anterior invocate la general, prin intermediul unei abordări bazate pe riscuri. Este o perspectivă foarte modernă, care se manifestă în cadrul unei ecuaţii de conciliere a reglementării (juridice) şi a inovării (tehnologice). Cu cât riscurile aduse asupra drepturilor umane, exigenţelor statului de drept şi securităţii sunt mai consistente, cu atât constrângerea normativă se resimte mai mult. O asemenea abordare e reprezentată adesea sub forma unei piramide a riscurilor. La vârful său ultim se află „riscurile inacceptabile”: manipularea comportamentelor, supravegherea de masă în mod direct în spaţiul public, scoring social. Respectivele sisteme de IA sunt pur şi simplu interzise în UE, întrucât nu corespund valorilor promovate de aceasta. Urmează imediat în ierarhia astfel prefigurată categoria de „risc înalt”, cea mai preocupantă, care face obiectul mai multor mari articole ale Regulamentului. Aici, riscurile sunt importante pentru drepturi, securitate şi sănătate, de exemplu, în sectorul justiţiei, cel al formării, al migraţiei ori chiar al infracţiunilor. În această privinţă, obligaţiile pertinente sunt impuse în termenii documentării, securităţii şi supervizării umane, cu ajutorul unei proceduri de conformare înainte de introducerea pe piaţă şi al unui marcaj corespunzător. La un nivel şi mai jos există o categorie de „risc limitat” care vizează, între altele, generarea de imagini sau chatbots-urile. La nivelul cel mai de jos, atunci când riscurile sunt minime, RIA nu are vocaţia de a adăuga reguli suplimentare celor care deja există în corpusul normativ european; e preferat şi promovat numai un angajament etic (cod de conduită, cartă ş.a.). Se instituie în acest mod o responsabilitate graduală şi progresivă a actorilor IA în funcţie de riscul generat de SIA introduse pe piaţa unional-europeană.
De remarcat şi faptul că unele reguli componente au apărut tardiv în procesul normativ al textului, sub presiunea evoluţiei realităţilor tehnologice, în special apariţia inteligenţei artificiale generative, mai exact aferente modelelor de IA de uz general care dau loc aplicaţiilor sale. Aceste instrumente beneficiază de dispoziţii specifice, privind cu precădere drepturile de autor şi drepturile conexe acestuia. Ele au fost adoptate, sub o oarecare criză de timp, în decembrie 2023, de aceea ne apar ca parţial incomplete şi chiar imperfecte, au generat nemulţumiri din partea autorilor şi au provocat iniţiative de completare şi precizare.
Ovidiu Predescu: Pentru că aţi invocat situaţia generată de apariţia inteligenţei artificiale generative şi impactul aplicaţiilor sale, vă propun în continuare să vă referiţi şi la problemele specifice pe care le ridică aceasta şi în raport cu cadrul european pertinent.
Mircea Duţu: Aşa cum am arătat, AI Act vorbeşte de „modele” şi le are în vedere în reglementarea pe care o instituie. Pentru crearea lor este indispensabilă o etapă de antrenament asupra maselor de date pertinente. Numai că acestea din urmă pot să fie protejate de reglementările privind proprietatea intelectuală, să fie cu caracter personal sau nerezervate. Sistemul „va învăţa” asemenea conţinuturi într-un demers intuitiv şi va putea apoi genera un rezultat, o tendinţă, o corelare sau un conţinut. Constrângerea normativă depinde în plus şi de anumite criterii problemă: modelul se află ori nu în sursă deschisă (open source)? Prezintă sau nu un risc sistemic? Acest din urmă criteriu există când modelul poate avea o incidenţă semnificativă, la scară mare, pe piaţa unional-europeană şi, prin urmare, eventuale efecte asupra securităţii şi a drepturilor fundamentale. Ea urcă în funcţie de gradul de risc. Afară de asta e ştiut faptul că, indiferent dacă modelul e din sursă deschisă sau nu, cu risc sistemic sau cu absenţa acestuia, sunt întotdeauna exigenţe legate de drepturile de autor şi de cele conexe. Din perspectiva IA se impun două obligaţii fundamentale furnizorilor de IA (în principal fabricanţilor săi). Pe de o parte, aceştia trebuie să integreze o politică de conformitate dreptului de autor şi celor conexe; se impune stabilirea de dispoziţii, de măsuri tehnice operaţionale şi arhitecturale (proiectare) care să permită respectarea acestor drepturi, în special a „opt out”, adică a refuzului titularului de drepturi ca respectivele conţinuturi ce-i aparţin să fie folosite la antrenarea modelului. Această obligaţie e detaliată în codul de practici publicat de curând. Pe de altă parte, furnizorii de IA sunt ţinuţi să producă un „rezumat suficient de detaliat” al conţinuturilor utilizate pentru antrenamentul modelelor lor; un atare model a fost făcut public deja de Oficiul pentru IA. Numai că cele două documente complementare nu satisfac reprezentanţii sectorului culturii, care se opun la nivel european unei serii de interpretări date de instanţele unional-europene, pe care le consideră minimaliste.
Ovidiu Predescu: Aşadar, conflictul între drepturile de autor şi utilizatorii de IA rămâne deschis şi e în căutare de soluţii durabile. Există însă şi posibilitatea unei rezolvări în sens radical a dilemei?
Mircea Duţu: Pentru soluţionarea tensiunilor dintre autori şi persoanele îndreptăţite, pe de o parte, şi furnizorii de SIA, pe de alta, s-au propus deja şi se încearcă, în parte, să se aplice mai multe căi. Aşa, de exemplu, Franţa a înaintat, pe baza concluziilor unei misiuni speciale de cercetare a problemei o serie de propuneri Comisiei Europene menite să întărească transparenţa asupra datelor utilizate de furnizori, subsumată promovării unui model de rezumat capabil să armonizeze secretul afacerilor şi dreptul de dispoziţie al autorilor. S-au mai avansat ca posibile remedieri remunerarea conţinuturilor utilizate de sistemele de IA, promovarea unei serii de măsuri juridice incitative care să permită crearea unei pieţe etice şi competitive, respectuoase cu lanţul de valoare şi deci cu remunerarea datelor introduse care fac obiectul unui monopol. Printre măsurile juridice suplimentare propuse în acest context se numără instituirea unui mediator al IA, stabilirea unei prezumţii legale de utilizare a conţinuturilor atunci când există indicii pertinente (dar judecătorul ar putea ridica, la rându-i, o prezumţie judiciară în materie), consacrarea unei injoncţiuni de divulgare de elemente de probă (la modul procedurii americane discovery) ş.a. Am impresia însă că, în cele din urmă, disputa se va rezolva tot prin prisma avansului tehnologic şi în acelaşi sens al victoriei treptate, dar sigure a inteligenţei artificiale şi a aplicaţiilor sale inovatoare. Din ce în ce mai mult conţinuturile sunt generate de inteligenţa artificială, inclusiv pe reţelele sociale. Or, furnizorii de IA antrenează modele fie plecând de la un set de date pus la dispoziţie fără autorizare, fie recurgând la recuperarea datelor de pe internet ori la datele sintetice, care sunt din ce în ce mai prezente. Din acest punct de vedere s-a demonstrat că atunci când un model se antrenează plecând numai de la date generate de IA el se prăbuşeşte rapid. Datele umane sunt necesare în acest sens pentru a menţine şi a amplifica performanţele lor. De asemenea, şi datele culturale sunt binefăcătoare pentru aplicaţiile noilor tehnologii. Totuşi, tendinţa sărăcirii datelor umane în bagajul utilizat în procedurile de antrenare, completate cu perfecţionarea şi sporirea capacităţilor cognitive ale maşinii, ar putea conduce, într-un viitor nu prea îndepărtat, la eliminarea practic a datului uman din acest cadru. Desigur, nu fără importante pierderi la capitolul progresului creativ, dar cu un impact utilitarist suplimentar.
Ovidiu Predescu: Din această perspectivă, care este rolul şi locul modelului juridic european în materie de IA în cadrul guvernanţei mondiale a domeniului? Va fi unul dominant ori unul alternativ?
Mircea Duţu: Aşa cum se întâmplă deja în cazul internetului e posibil ca să nu se ajungă la o guvernanţă centralizată şi universală a IA, ci la una plurală, în funcţie de mizele şi subiectele abordate, de la certificarea algoritmilor, la infrastructura fizică a cyberspaţiului trecând prin libertatea de expresie şi viitorul conflictualităţii tehnologice. În acest context, modelul european reprezintă unul alternativ, viabil şi reprezentativ pentru tradiţiile sale juridice şi particularităţile economico-tehnologice aferente. Cu o abordare bazată pe riscuri şi având ca busolă o IA „demnă de încredere”, UE prefigurează un viitor potenţial bulversat de inedita tehnologie, căutând totodată să-şi consolideze statutul/rolul de putere normativă în domeniul guvernanţei. Cu toate acestea, pentru a se manifesta cu adevărat precum o referinţă în privinţa reglementării IA şi a viza o formă de prioritate tehnologică, ea are nevoie de eforturi suplimentare, mai ales de ordin investiţional. Dacă unele din aspectele sale pot avea o influenţă variabilă asupra pieţelor mondiale, demersurile reglementare ale Europei nu sunt suficiente – şi nu vor fi – spre a stabili singură standardele internaţionale aferente.
Regulamentul privind IA ilustrează capacitatea de acţiune a Bruxellesului în materie de tehnologii zise critice, care elevă o abordare aferentă unei „suveranităţi tehnologice”. Fiecare etapă de punere în aplicare a diferitelor capitole ale textului a ridicat probleme, suscitat discuţii şi dezbateri şi a adus nuanţări de explicare, sub impactul evoluţiilor contextuale. Rezilienţa dovedită până acum la presiunile venite mai ales de peste ocean, pe fondul unei concurenţe geostrategice tehnologice fără precedent e promiţătoare. Cea de-a treia cale, afirmată la Summitul de la Paris privind IA (februarie 2025) în care UE şi-a asumat rolul de leadership, îi permite să depăşească riscul fragmentării pe care îl observăm la nivel internaţional, efectul de model îi consolidează semnificaţiile, iar succesele ce se aşteaptă în orizontul cercetării şi inovării îi va asigura acreditarea definitivă ca reper global. Se conturează astfel un model aferent unei a treia căi de percepere, abordare şi dezvoltare a IA, cu o certă vocaţie universală.
Este ştiut faptul că Administraţia D. Trump se opune în general reglementării IA, asimilate unei limitări a libertăţii de expresie, promovării „wokism”-ului şi unei cenzuri a vocilor conservatoare. Preşedintele SUA a ameninţat, în mai multe rânduri şi chiar recent, cu represalii împotriva statelor ce reglementează IA ori răspunsurile sale, precum UE cu AI Act ori Digital Service Act. Dar, la fel ca reţelele sociale înaintea lor, întreprinderile nu fac economie în a dezbate şi căuta soluţii în privinţa încadrării mai largi a instrumentelor lor, cărora li s-ar putea reproşa, în viitor, problema de atingere a vieţii private, de uzurpare a identităţii, adicţia, incitarea la comportamente periculoase, prejudecăţi discriminatorii, erori medicale, dezinformări în perioade electorale. Chiar E. Musk a anunţat, în iulie 2025, măsuri pentru a evita ca asistentul digital gratuit Grok, conceput de xAI, să nu posteze „discursuri de ură” după ce IA a avut unele derapaje inadmisibile în această privinţă.
Ovidiu Predescu: În pofida crizei cronice a multilateralismului, a ofensivei unei lumi multipolare şi în condiţiile în care competiţia tehnologică, în frunte cu cea aferentă dezvoltării IA a dobândit dimensiuni geostrategice, mai este posibilă o veritabilă guvernanţă internaţională a problemei?
Mircea Duţu: Chiar dacă demersurile ONU rămân palide, mai ales prin efectele lor, implicarea sa în promovarea problematicii IA se dovedeşte una meritorie. Fie şi numai pentru că aduce în atenţia comunităţii internaţionale nevoia cooperării în vederea gestionării sale durabile şi în sens umanist trebuie aplaudată.
Printre progresele înregistrate în acest sens să menţionăm că, potrivit unui comunicat oficial, Adunarea generală a ONU a creat, la 26 august a.c., un grup de experţi ştiinţifici privind inteligenţa artificială, care va fi însărcinat ca, prin analizele şi concluziile sale, să ajute comunitatea internaţională să adopte decizii informate, adecvate şi eficiente asupra acestui subiect sensibil, dar din ce în ce mai important al întregii societăţi. Preocupată de dezvoltarea rapidă a unei atari tehnologii revoluţionare, care ar putea ameninţa democraţia şi drepturile umane, statele membre ale organizaţiei mondiale s-au angajat, în septembrie 2024, în cadrul „Pactului pentru viitor” să stabilească un asemenea organism menit să contribuie la lămurirea dialogului internaţional dintre guverne şi ceilalţi actori ai domeniului. Printr-o rezoluţie aprobată în acest sens se înfiinţează Grupul ştiinţific internaţional independent al inteligenţei artificiale, care va trebui să furnizeze „evaluări ştiinţifice fondate pe date probante, în care vor fi sintetizate şi analizate studiile existente privind promisiunile, riscurile şi repercusiunile inteligenţei artificiale”. Raportul său de sinteză anual „va servi la lămurirea luării deciziilor, fără ca totuşi să fie prescriptiv”, precizează textul onusian.
Mandatat de Adunare, secretarul general al ONU, care a salutat crearea unui „pod crucial între cercetarea de vârf privind IA şi elaborarea politicilor”, a lansat un apel la candidaturi pentru a identifica pe cei 40 viitori membri ai grupului, care vor fi desemnaţi pentru un mandat de 3 ani.
Într-adevăr, IA se dezvoltă într-un ritm şi la o scară ce afectează toate ţările şi de aceea reglementarea sa corespunzătoare reprezintă o prioritate majoră. Preluarea acestei iniţiative exprimă o atare realitate şi reflectă rolul central ce revine ONU în garantarea utilizării acestei noi tehnologii în serviciul umanităţii. Este de domeniul evidenţei că, furnizând evaluări ştiinţifice riguroase şi independente, respectiva structură va sprijini comunitatea internaţională să anticipeze provocările emergente şi să adopte deciziile informate privind modul de a guverna această tehnologie transformatoare.
După modelul guvernanţei onusiene privind schimbarea climatică, în privinţa căreia în 1988 s-a instituit Grupul interguvernamental privind evoluţia climei (IPPC) şi pe baza rapoartelor periodice şi speciale ale căruia s-a constituit treptat dreptul climei, se prefigurează astfel contururile cadrului instituţional menit să ofere cunoştinţele ştiinţifice generale, acceptate şi acreditate ca atare, pe baza cărora să se construiască acţiunea globală şi să se cristalizeze reglementarea internaţională pertinentă. Un pas important, aşadar, în demersurile anevoioase, dar indispensabile care să creeze premisele viitorului drept global al IA.
Ovidiu Predescu: Revenind la pretextul (formal şi ideatic) al discuţiei noastre, ediţia I (inaugurală) a Conferinţei naţionale de dreptul inteligenţei artificiale, care sunt celelalte gânduri prefaţatoare ale iniţiatorului său?
Mircea Duţu: Conferinţa naţională se înscrie în mod firesc cercului de preocupări aferent rolului asumat de UEB, de „pol” naţional al cercetării şi învăţării (formării) dreptului inteligenţei artificiale. După dezvoltarea unei filiere de excelenţă universitară în materie – licenţă, master (primul de DIA din ţara noastră!) şi doctorat – şi a unui centru de cercetări de profil şi în completarea acestora, reuniunea de faţă reprezintă una din formele de valorificare şi diseminare potrivite a rezultatelor obţinute. Suntem în stadiu avansat de stabilire a unor legături de cooperare pertinente cu alte structuri universitare şi de cercetare ştiinţifică din străinătate, spre a amplifica cooperarea internaţională şi a ne conecta ferm la dialogul european şi mondial de idei, aferent domeniului. Dreptul IA se naşte îndeosebi în Europa, se răspândeşte în întreaga lume şi avem datoria de a oferi o contribuţie românească relevantă la afirmarea şi, prin aceasta, la acreditarea ca nouă ramură de drept şi inedită disciplină ştiinţifică. Ecologia şi noile tehnologii, inclusiv din perspective juridice, după cum şi tranziţia ecologică şi cea digitală, găsesc la UEB un veritabil cadru de excelenţă universitară!
Conținutul acestui comunicat de presă este în întregime responsabilitatea autorului său. News.ro nu își asumă în niciun fel responsabilitatea pentru acuratețea informațiilor prezentate sau a modului de redactare a comunicatului.
