Legea interzice anumite aplicații IA care amenință drepturile cetățenilor, inclusiv sistemele biometrice de clasificare sau extragerea imaginilor de pe internet sau a înregistrărilor CCTV, cu scopul de a crea baze de date de recunoaștere facială.
De asemenea, legea interzice folosirea aplicațiilor de IA pentru recunoașterea emoțiilor la locul de muncă și în școli, evaluarea socială, anumite activități polițienești, dar și aplicațiile care manipulează comportamentul uman sau exploatează vulnerabilitățile oamenilor.
Utilizarea sistemelor de identificare biometrică de către autoritățile de aplicare a legii este interzisă în principiu, cu excepția situațiilor specificate clar în lege și strict definite.
Identificarea biometrică a persoanelor „în timp real” poate fi aplicată numai dacă sunt îndeplinite garanții stricte, de exemplu, utilizarea sa este limitată în timp și poate viza doar un anume spațiu geografic. În plus, are nevoie de o autorizare judiciară sau administrativă.
Utilizările permise includ, de exemplu, eforturile de căutare a unor persoane dispărute sau prevenirea unui atac terorist. Utilizarea identificării biometrice după producerea unor evenimente are, de asemenea, nevoie de autorizare judiciară.
În lege sunt prevăzute obligații clare pentru alte sisteme de IA care au un grad ridicat de risc la adresa sănătății, securității, drepturilor fundamentale, mediului, democrației și statului de drept.
Printre exemplele de utilizări ale IA cu grad ridicat de risc menționate de lege sunt cele din domenii ca infrastructura, educația, angajarea forței de muncă, serviciile publice și private esențiale, migrația și gestionarea frontierelor, justiția și procesele democratice, de exemplu, influențarea alegerilor.
În aceste domenii sunt impuse restricții și condiții suplimentare. Astfel de sisteme trebuie să evalueze și să reducă riscurile, să mențină jurnalele de utilizare, să fie transparente și exacte și să fie supravegheate de oameni. Cetățenii vor avea dreptul să depună plângeri cu privire la sistemele de IA și să primească explicații pentru deciziile bazate pe sisteme de IA cu grad ridicat de risc care le-ar putea afecta drepturile.
„Astăzi este din nou o zi istorică pe drumul nostru lung către reglementarea AI”, a declarat Brando Benifei, parlamentarul italian care a promovat textul în PE împreună cu europarlamentarul român Dragoș Tudorache.
„Aceasta este prima reglementare din lume care pune o cale clară către o dezvoltare sigură și centrată pe om a Inteligenței Artificiale”, a spus el.
Pentru a intra în vigoare, Legea adoptată de Parlamentul European trebuie să fie aprobată și de Consiliul European, instituție formată din șefii de stat și de guverne din statele membre UE.
Probabil că aprobarea va avea loc în mai, potrivit procedurilor decizionale ale UE. Legea urmează să fie aplicată pe deplin la 24 de luni de la intrarea în vigoare, cu unele excepții:
- interdicțiilor privind practicile interzise se vor aplica la șase luni de la data intrării în vigoare;
- coduri de practică se vor aplica la nouă luni de la intrarea în vigoare;
- normele IA de uz general, inclusiv guvernanța se vor aplica la 12 luni de la intrarea în vigoare);
- obligațiile pentru sistemele cu grad ridicat de risc se vor aplica la 36 de luni.
Actorii din sectorul tehnologic au primit legea cu precauție.
„Multe dintre aceste noi reguli rămân neclare și ar putea încetini dezvoltarea și implementarea aplicațiilor inovatoare”, a declarat Boniface de Champris, șeful Europei la CCIA (Computer and Communications Industry Association) de la Burxelles, un reprezentant al lobby-ului industriei.
La rândul lor, organizații care supraveghează activitățile de lobby, transmit că multe detalii ale Legii IA rămân deschise și trebuie clarificate (...) , de exemplu în ceea ce privește standardele, sau obligațiile de transparență.
Aceleași organizații au spus că firmele precum start-up-ului francez Mistral AI și Aleph Alpha din Germania, sau giganții tehnologici Google și Microsoft, au avut o influență puternică în timpul negocierilor privind prevederile legii.
Lobby recunoscut și de inițiatorul Dragoș Tudorache, care a spus însă că legea este una echilibrată și apără interesele cetățenilor europeni, lăsând loc și pentru dezvoltarea sectorului.
Legea adoptată în Parlamentul European vine pe fondul temerilor globale tot mai mari că dezvoltarea foarte rapidă a sectorului Inteligenței Artificiale aduce riscuri semnificative pentru drepturile omului și sistemele democratice.
