Noua lege europeană a inteligenței artificiale reglementează modul în care companiile care folosesc algoritmi online pentru diverse servicii le vor putea utiliza de acum încolo. Fiecare țară, inclusiv România, va trebui să aibă o autoritate unde oamenii să reclame dacă au fost discriminați în diverse situații, din cauza algoritmilor.
Raportor pentru legea inteligenței artificiale în Parlamentul European, Dragoș Tudorache este unul din autorii acestei legi. El spune că, din 2026, fiecare cetățean va putea să reclame orice încălcare a legii la autoritatea națională pe care fiecare stat din Uniunea Europeană are obligația să o înființeze sau va desemna o agenție guvernamentală deja existentă să se ocupe și de aplicarea acestei legi.
„În România, cel mai probabil va fi ANCOM (Autoritatea Națională pentru Administrare și Reglementare în Comunicații).
„E o decizie pe care fiecare guvern o ia cu privire la cui dă aceste noi competențe, dacă le dă unei autorități de reglementare existentă sau dacă va crea una nouă”, spune europarlamentarul Dragoș Tudorache în interviul pentru Europa Liberă.
Prin noua lege este interzisă folosirea sistemelor de identificare biometrică de către organele de aplicare a legii, cu excepţia unor situaţii enumerate în mod exhaustiv şi definite în mod strict. De exemplu, acestea vor putea fi folosite pentru a căuta o persoană dispărută sau pentru a preveni un atac terorist.
1.Europa Liberă: Parlamentul European a adoptat Legea Inteligenței Artificiale. De ce era nevoie de o astfel de lege?
Dragoș Tudorache: Pe de o parte, pentru că e o tehnologie care are un impact mai mare decât orice altă revoluție tehnologică pe care am avut-o până acum în istoria umanității, aș putea să spun. Pentru că schimbă tot sau va schimba tot.
Începe de la lanțurile valorice în economie, până la modul în care foarte multe dintre locurile de muncă din acest moment vor arăta, la felul în care educația va arăta și la felul în care interacțiunea socială va arăta.
Deci, practic schimbă cumva fibra societății și economiilor noastre.
Impactul acesta nu poate să te lase pe tine, ca legiuitor sau ca responsabil politic, indiferent, pentru că îți dorești să încadrezi această transformare cu niște reguli clare, să te protejeze pe tine, ca societate, ca economie, de impactul acestei tehnologii.
Pe de altă parte, pentru că, uitându-ne un pic înapoi în ultimii 20 de ani la ceea ce a însemnat apariția acestui nou sector industrial, și anume digitalul, chiar mai larg decât inteligența artificială, și uitându-e la ceea ce a însemnat un spațiu fără reguli, constatarea noastră la nivelul Uniunii Europene a fost că să te bazezi doar pe buna disciplină a companiilor, să respecte ele însele niște precepte morale, etice în tehnologie nu este suficient.
Noi am spus că principiile nu mai sunt suficiente. E nevoie de reguli clare, standarde clare care să ne și ajute pe noi să ne protejăm ca cetățeni, dar și ca societatea să dea zonei de industrie o predictibilitate despre ce anume au de făcut.
Deci, cam astea au fost motivațiile principale pentru care am decis să facem legea.
Dragos Tudorache a fost raportul pentru legea inteligenței artficiale.
2.Europa Liberă: Care sunt avantajele legii pentru utilizatorii europeni?
Dragoș Tudorache: Noi, ca cetățeni, chiar dacă nu ne dăm seama, am început deja să interacționăm în viața noastră de zi cu zi cu algoritmii de inteligență artificială.
Când mergem la bancă și cerem un credit, noi nu știm dar, undeva în spate, e un algoritm care, pe baza unor instrucțiuni și a unor seturi de date cu care a fost antrenat, ia niște decizii, îi face niște recomandări ofițerului de credit, dacă să ne dea sau să nu ne dea credit, sau dacă să dea la o anumită rată sau la altă rată.
La fel, dacă inspectoratul școlar sau Ministerul Sănătății folosește un algoritm pentru a determina alocarea în licee a copiilor. Sau dacă mergem la doctor și doctorul folosește un scanner sau un RMN care are un algoritm în spate, bazat pe diagnostice precedente.
În toate aceste situații, noi interacționăm fără să ne dăm seama cu un algoritm de IA ( Inteligență Artificială). Și în acest moment, în lipsa unor reguli clare, nu avem niciun fel de protecție noi, ca cetățeni, pentru eventuale discriminări.
Pentru că, în funcționarea acestor algoritmi, care acum sunt niște cutii negre, nu știm cum au fost antrenați, nu știm ce instrucțiuni li s-au dat, nu știm de ce ajung să ia o decizie sau alta, nu știm de ce ne dă o bancă 6% dobândă la credit.
Și tocmai asta facem noi prin lege. Forțăm cumva o transparență și o responsabilitate a celor care folosesc astfel de algoritmi, în așa fel încât noi să știm de ce algoritmul respectiv a luat decizia pe care a luat-o, să ne asigurăm că nu a fost luată pe baza unor date care să ne prejudicieze.
Uitându-ne în ultimii ani, de când au început să fie folosiți algoritmii, s-a dovedit că dacă, de exemplu, introduci seturi de date care conțin deja niște elemente de discriminare, algoritmul nu face decât să le preia și chiar să le amplifice.
S-a dovedit în zona de recrutare în care întotdeauna algoritmii recomandau, de exemplu, mai degrabă bărbați decât femei, sau mai degrabă albi decât negri.
3.Europa Liberă: Și cum vor fi eliminate aceste discriminări? De către cine?
Dragoș Tudorache: Dacă tu nu îți asumi responsabilitatea, tu, ca dezvoltator care pui algoritmul pe piață, să cureți acele seturi de date de eventuale discriminări, atunci apar situații grave.
Și asta este ce facem noi acum, le cerem prin lege companiilor să se asigure că și-au curățat seturile de date.
Deci, practic, sunt niște responsabilități pe care le producem în lege care cer celor care pun astfel de algoritmi să nu îi pună pe piață fără să știe și fără să-și asume un fel de răspundere pentru recomandările sau deciziile pe care le iau.
4.Europa Liberă: Cum spuneați, multe dintre companii deja folosesc aceste motoare și componente de inteligență artificială. Sunt studii care arată că oamenii ar putea să rămână fără joburi în următorii ani dacă firmele folosesc aceste soluții de inteligență artificială.
Există vreo protecție pentru locurile de muncă sau v-ați gândit și la așa ceva?
Dragoș Tudorache: Din păcate, nu este o chestiune pe care o rezolvi prin lege. Toate chestiunile care țin de piața muncii nu fac parte din competențele Uniunii, sunt chestiuni de competență națională.
Însă, dacă ne întrebăm dacă inteligența artificială va avea impact asupra locurilor de muncă, sigur că va avea impact.
E o tehnologie care va prelua foarte multe dintre operațiunile, procesele din interiorul fiecărei întreprinderi.
Dar acum, pentru prima oară în istorie, această revoluție industrială bazată pe IA afectează aproape nu numai munca manuală, cum se întâmpla în trecut cu noile tehnologii.
Va afecta munca intelectuală.
Deci practic nu vor mai fi anumite categorii profesionale care să scape de impact, așa cum s-a întâmplat în istorie cu alte transformări.
Dar asta nu înseamnă că trebuie să ne speriem de momentul ăsta.
Dragos Tudorache face parte din grupul Renew Europe.
5.Europa Liberă: Cum vor fi reduse pericolele IA prin această lege? Cum vom fi protejați?
Dragoș Tudorache: Ce face legea este să identifice toate zonele considerate cu potențial risc, începând de la cele pentru care riscul este atât de mare încât îl considerăm de neacceptat în societățile, în economiile noastre, și atunci le interzicem prin lege.
De exemplu, alocarea de scoruri sociale, ceea ce face statul chinez față de proprii cetățeni. Folosirea identificării biometrice faciale în spațiul public în timp real, folosirea softurilor de recunoaștere a stării emoționale în educație sau la locul de muncă.
Deci, acestea sunt zone în care noi am considerat, prin lege, că nu are loc deloc inteligența artificială, pentru că aduci un prejudiciu mult prea mare.
Sunt zone unde e considerat că utilizarea inteligenței artificiale, cum este de exemplu gestiunea de resurse umane, aduce riscuri și atunci sunt introduse obligații pe care cei ce dezvoltă astfel de algoritmi sau cei care îi folosesc sunt obligați să le respecte, tocmai pentru a ne da nouă, cetățenilor, încrederea că ok.
6.Europa Liberă: Dar ați văzut că sunt tot mai multe înșelăciuni făcute cu ajutorul IA. Cui se pot adresa consumatorii pentru reclamații, pentru încălcări ale legii? Ce amenzi ar putea fi aplicate?
Dragoș Tudorache: Toate interacțiunile astea, care până acum erau lăsate la mila și la latitudinea platformei și tu nu aveai niciun fel de remediu, se schimbă fundamental prin legislație și prin regulamentul privind serviciile digitale, pentru că se introduce un mecanism de raportare prin care fiecare cetățean, fiecare utilizator își poate căuta dreptatea nu doar la companie, ci mai departe.
Dacă compania nu îi dă un răspuns satisfăcător, atunci poate să meargă la autoritatea competentă care se creează acum prin această lege.
7.Europa Liberă: Cine se va ocupa de implementarea legii?
Dragoș Tudorache: Legea prevede că se creează o autoritate competentă la nivel național care va gestiona partea de implementare a acestor legi.
În România, cel mai probabil va fi ANCOM (Autoritatea Națională pentru Administrare și Reglementare în Comunicații).
E o decizie pe care fiecare guvernul o ia cu privire la cui dă aceste noi competențe, dacă le dă unei autorități de reglementare existente sau dacă creează una nouă.
E o implementare în faze.
Într-o primă fază, în șase luni de zile de acum intră în vigoare interdicțiile.
Apoi partea de lege care ține de reglementarea modelelor mari, gen ChatGPT și deci, practic, de operatorii mari, este preluată exclusiv la nivel european de către acest nou birou european care se creează prin lege. Acesta are un an la dispoziție să se pună la punct și să preia aceste responsabilități.
Restul, cele care țin de operatorul național, de competențe naționale și de cele care privesc aceste zone de risc la care făceam referire – că e bancă, că e asigurare - ele intră în vigoare în doi ani de la momentul adoptării, deci în 2026.
Și de la acel moment, fiecare cetățean va putea să reclame orice încălcare a legii.
8.Europa Liberă: Cum vedeți situația din România? Ce are de făcut?
Dragoș Tudorache: Legislativ nu mai e nimic de făcut, pentru este regulament, nu este directivă.
Calendarul de implementare este același pentru toate statele europene, inclusiv pentru România.
9.Europa Liberă: Cum vor fi reglementare rețelele de socializare precum Facebook, unde vedem că apar „deepfakes", apar informații care păcălesc utilizatorii?
Dragoș Tudorache: În baza legii, au și ele obligații.
Sunt obligații foarte clare, care țin de transparență. Practic, vor trebui să introducă modalități tehnice prin care conținutul generat de inteligență artificială să poată fi identificat de către utilizator, de către consumator.
Că e în format video, audio, text - nu contează, el trebuie să fie identificat cu etichetă virtuală care să nu poată fi scoasă.
Sau dacă se intervine pe el să poată fi văzut istoricul de intervenție pe piața respectivă. Deci, dacă acuma cineva încearcă să modifice un video, să poți să vezi cine a făcut-o, în așa fel încât să existe o responsabilitate foarte clară cu privire la cei care sunt responsabili de conținutul respectiv generat de IA.
Asta ne asigură nouă faptul că știm când interacționăm și când vedem un video produs de IA.
Și în același timp, prin lege, introducem și o responsabilizare a celor care dezvoltă modelele astea cu privire la transparență în general, inclusiv transparență cu privire la datele protejate de drepturi de autor, care sunt introduse și sunt folosite în antrenarea algoritmilor în așa fel încât și creatorii, dacă munca lor a fost folosită de astfel de algoritmi, să poată să își ceară drepturile.
10. Europa Liberă: Există excepții de la această lege? În ce condiții vor putea folosi IA armata, serviciile de informații, autoritățile de anchetă?
Dragoș Tudorache: Zona de apărare și zona de securitate națională nu sunt în competența Uniunii Europene și legea face această clarificare de la bun început.
Ceea ce nu înseamnă că nu va trebui să existe o preocupare din partea statelor membre și pe această zonă.
Deja la nivel NATO se discută. De fapt, a fost o discuție aproape în paralel cu procesul nostru legislativ, tocmai recunoscând impactul și importanța inteligenței artificiale și în zona de apărare, mai ales în sistemele acestea autonome pe care le vedem acum și în Ucraina, atât de relevante în noul context și noul model de război.
Vor trebui și acolo să existe niște principii și reguli foarte clare, dar nu e o chestiune de care să se ocupe Uniunea Europeană, ci e o chestiune care se va reglementa la nivel NATO.
Îți mai recomandăm UE, acord de referință privind reglementarea inteligenței artificialeEuropa Liberă România e pe Google News. Abonați-vă AICI.