Parlamentul European a adoptat miercuri cu o largă majoritate - 523 de voturi pentru, 46 împotrivă și 49 de abțineri - un text de lege care reglementează utilizarea inteligenței artificiale, o legislație unică în lume.
Legea privind inteligența artificială, care este un regulament convenit în decembrie 2023 cu statele membre, își propune să garanteze siguranța și respectarea drepturilor fundamentale și să stimuleze inovația, scrie Agerpres.
Textul de lege urmărește să protejeze drepturile fundamentale, democrația, statul de drept și sustenabilitatea mediului în fața sistemelor de IA cu grad ridicat de risc. Actul legislativ vizează și să încurajeze inovația și să asigure un rol de lider în domeniu pentru Europa. Regulamentul impune obligații în cazul inteligenței artificiale, în funcție de riscurile sale potențiale și de impactul preconizat, se menționează într-un comunicat al PE.
Noile norme interzic anumite utilizări ale inteligenței artificiale care amenință drepturile cetățenilor, inclusiv sistemele biometrice de clasificare bazate pe caracteristicile sensibile ale persoanelor. Extragerea fără scop precis a imaginilor faciale de pe internet ori din înregistrările camerelor video cu circuit închis pentru a crea baze de date de recunoaștere facială se numără și ea printre utilizările interzise. Nu vor fi permise nici recunoașterea emoțiilor la locul de muncă și în școli, atribuirea unui punctaj social, sistemele de poliție predictivă – când acestea se bazează doar pe stabilirea profilului unei persoane sau pe analizarea caracteristicilor sale – și IA care manipulează comportamentul uman sau exploatează vulnerabilitățile oamenilor.
Folosirea sistemelor de identificare biometrică de către organele de aplicare a legii este în principiu interzisă, cu excepția unor situații enumerate în mod exhaustiv și definite în mod strict. Sistemele de identificare biometrică „în timp real” pot fi instalate doar dacă se respectă garanții stricte, de exemplu, dacă folosirea lor este limitată în timp și geografic și este aprobată în prealabil de o autoritate judiciară sau de un organ administrativ. Ele pot fi folosite, de pildă, pentru a căuta o persoană dispărută sau pentru a preveni un atac terorist. Folosirea acestor sisteme post-facto, respectiv sistemele de identificare biometrică „ulterioară”, este considerată un caz de utilizare cu grad ridicat de risc și este posibilă doar în virtutea emiterii unei autorizații judiciare legate de o infracțiune penală.
Textul prevede și obligații clare pentru alte sisteme de IA cu grad ridicat de risc, din cauza potențialului lor ridicat de a afecta negativ sănătatea, siguranța, drepturile fundamentale, mediul, democrația și statul de drept.
Câteva exemple de utilizări ale IA care prezintă un grad ridicat de risc sunt infrastructura critică, educația și formarea profesională, serviciile publice și private esențiale (sănătatea, serviciile bancare etc.), unele sisteme folosite de organele de aplicare a legii, migrația și gestionarea frontierelor, justiția și procesele democratice (de exemplu, pentru a preveni influențarea alegerilor).
Aceste sisteme trebuie să evalueze și să reducă riscurile, să mențină așa-numite „fișiere de jurnalizare” care permit înregistrarea automată a evenimentelor, să fie transparente și precise și să facă obiectul supravegherii umane. Cetățenii vor avea dreptul să depună plângeri în legătură cu sistemele de IA și să primească explicații despre deciziile bazate pe sisteme de IA cu grad ridicat de risc care le afectează drepturile.
Sistemele de inteligență artificială de uz general și modelele de IA de uz general pe care se bazează acestea trebuie să respecte anumite cerințe în materie de transparență, inclusiv legislația UE în domeniul drepturilor de autor și publicarea unor rezumate detaliate ale conținutului utilizat la antrenarea modelelor de IA. Modelele mai puternice pentru sistemele IA de uz general care ar putea prezenta riscuri sistemice vor trebui să respecte cerințe suplimentare, inclusiv privind evaluarea modelelor, evaluarea și reducerea riscurilor sistemice și raportarea incidentelor.
În plus, imaginile și conținuturile audio și video artificiale sau manipulate (de tip „deepfake”) trebuie să fie etichetate clar ca atare.
La nivel național va fi obligatoriu să se creeze spații de testare în materie de reglementare și să se organizeze testări în condiții reale. IMM-urile și companiile nou-înființate vor trebui să aibă acces la aceste instrumente pentru a dezvolta și antrena IA inovatoare, înainte de introducerea lor pe piață.
„În sfârșit, avem prima lege obligatorie din lume privind inteligența artificială, pentru a reduce riscurile, a crea oportunități, a combate discriminarea și a aduce transparență. Datorită Parlamentului, practicile inacceptabile în domeniul IA vor fi interzise în Europa, iar drepturile lucrătorilor și ale cetățenilor vor fi protejate. Oficiul pentru IA va fi acum înființat pentru a sprijini companiile să înceapă să respecte normele înainte ca acestea să intre în vigoare”, a declarat coraportorul Brando Benifei, din grupul S&D, în cadrul dezbaterii de marți.
Eurodeputatul Dragoș Tudorache, coraportor pentru acest dosar, a spus că legea se va aplica în toate statele membre, inclusiv în România.
„Aș spune că și legea deepfake-ului din Parlamentul României poate ar putea să mai aștepte, pentru că de fapt, prin IA Act reglementăm inclusiv această zonă a responsabilității pentru deepfake. Deci, practic, o dată nu e o opțiune. Legea așa cum va veni ea de la nivel european va fi implementată în România sau va trebui să fie implementată. Cât de dificil va fi, repet, depinde de capacitatea pe care statul român o va avea să atragă oameni potriviți pentru rolul recunoscut de lege pentru aceste autorități (…)”, a declarat Tudorache înaintea votului pentru jurnaliști români la Strasbourg.
„Nu spun că va fi simplu, pentru că vă spun, deja, uitându-mă la experiența la nivel european, și nu doar, sunt în discuție de foarte mult timp cu Statele Unite, cu Marea Britanie, cu toate celelalte mari jurisdicții globale, toți au dificultăți, acum, toți încep să-și creeze aceste structuri de guvernanță privind inteligența artificială și toți au dificultăți de a trage din zona privată talentul, competența necesară pentru a popula structurile publice, acești noi reglementatori de piață care apar, cu nivelul de competență necesar pentru a reglementa o piață în continuă dezvoltare și foarte complexă. Deci nu e simplu pentru salariile publice în sistemul românesc”, a adăugat el.
El a precizat că noua lege prevede amenzi foarte mari, „de până la 7% din venitul global” și că are „dinți suficient de ascuțiți încât să convingă pe cei care ar putea să încerce eludarea ei”.
Tudorache a explicat că vor exista două niveluri de guvernanță în supervizarea aplicării legii. „E unul național, deci cel care e descentralizat pentru aceste autorități naționale de care vorbim. Dar atunci când e vorba de companiile mari, deci de actorii, giganții globali digitali, Google etc, competența revine reglementatorului european. Se creează acest nou oficiu internațional”, a spus eurodeputatul Renew.
Regulamentul adoptat miercuri este în prezent verificat de juriștii-lingviști și se preconizează că va fi adoptat înainte de sfârșitul legislaturii. Legislația mai trebuie adoptată oficial și de Consiliul UE.
Ea va intra în vigoare la 20 de zile după publicarea în Jurnalul Oficial și va fi pe deplin aplicabilă la 24 de luni după intrarea în vigoare, cu excepția interdicțiilor referitoare la practicile interzise, care se aplică începând cu șase luni de la data intrării în vigoare, a codurilor de bune practici (nouă luni de la data intrării în vigoare) și a normelor privind sistemele de IA de uz general, inclusiv guvernanța (12 luni de la data intrării în vigoare) și respectiv a obligațiilor pentru sistemele cu grad ridicat de risc (36 de luni).
