Utilizarea malițioasă a tehnologiei prin realizarea și difuzarea în mass-media și pe platforme online de conținut tip deepfake este interzisă dacă acel conținut nu este însoțit de un avertismentul ”Acest material conține ipostaze imaginare”, prevede un proiect de lege care ar urma să fie adoptat în perioada următoare în Parlamentul de la București. În cazul nerespectării noilor norme, materialele respective vor fi oprite de la difuzare de către Consiliul Național al Audiovizualului (CNA), realizarea conținutului tip deepfake va fi considerată infracțiune și se va pedepsi cu închisoare de până la 2 ani, iar distribuirea conținutului deepfake, cu bună știință, va fi amendată cu până la 90.000 lei, conform actului normativ analizat de Profit.ro.
Înainte de a fi prezentată aici, informația a fost anunțată pe Profit Insider
De ce este important: Cum a relatat repetat Profit.ro, în ultima perioadă, tot mai des, imaginile mai multor demnitari au fost utilizate în materiale video cu scop pecuniar. Astfel, un deepfake a fost lansat cu BNR și guvernatorul Mugur Isărescu promova o pretinsă platformă de investiții. Și premierul Ciolacu a ajuns victimă a unei manipulări video-audio deepfake, parte a unei tentative de fraudă online ce constă în promovează pe rețelele de socializare a unei false scheme de investiții. De asemenea, ministrul Energiei, Sebastian Burduja, a depus plângere penală, acuzând că a fost victima unei manipulări video deepfake în care era prezentat ca promovând pe rețelele de socializare o falsă schemă de investiții Enel.
După cum a relatat Profit.ro, PSD a inițiat proiectul legislativ pentru restricționarea conținuturilor de tip imagine, înregistrare audio sau înregistrare video create, cu ajutorul Inteligenței Artificiale (IA), și care crează aparența că o persoană a spus sau a făcut lucruri care, în realitate, nu au fost spuse, respectiv nu au fost făcute de acea persoană.
Inițiatorii arată că au în vedere ceea ce specialiștii în domeniu numesc deepfake și consideră că este mult mai periculos și are un impact mult mai puternic decât știrile false din ultimii ani, deoarece cuprinde toate elementele unui produs de media respectiv text, fotografie, video, audio.
”Imaginile, înregistrările audio și video de tip Deepfake (Fals Sever) pot cauza prejudicii enorme atât în ceea ce privește imaginea, reputația sau demnitatea unei persoane, cât și asupra unor organizații publice, private sau chiar instituții ale statului. Realizarea și distribuirea unor imagini, înregistrări audio sau video de tip Deepfake (Fals Server) pot prejudicia, în funcție de conținutul lor și de contextul în care sunt gestionate, inclusiv interesul social, politic sau de securitate națională a României, pot să erodeze încrederea în instituții ale statului, pot aduce prejudicii de imagine unei persoane”, arată autorii proiectului.
Ei adaugă că tehnologia deepfake-ului a evoluat pentru a fi din ce în ce mai convingătoare și disponibilă publicului, permițând totodată perturbarea industriilor de media, divertisment și în ultimul timp a putut duce și la fraudă financiară considerabilă.
Inițiatorii proiectului mai susțin că este imperativă crearea unui cadru legal și în țara noastră pentru utilizarea acestor tehnologii astfel încât ele să fie permise și notificate ca atare doar atunci când scopul lor este legitim, comercial, identificabil și asumat, respectiv să fie interzise în lipsa acestor notificări, în situația în care ele sunt concepute și difuzate în scop malițios.
Cu prilejul adoptării în Senat, în iunie anul trecut, proiectul a suferit o serie de modificări, una din cele mai importante fiind eliminarea pedepsei cu închisoarea.
Conform altor completări aduse anterior în comisiile de specialitate ale Senatului, Consiliul Național al Audiovizualului va avea în atribiuții verificarea noilor reglementări, urmând să dispună în acest caz amenzi cuprinse între 10.000 și 200.000 lei.
Deputații au stabilit însă, în comisiile de specialitate, forma finală a proiectului, reintroducând pedeapsa cu închisoarea și modificând limitele amenzilor.
Prevederile proiectului
Conform formei proiectului rezultate din comisii, sunt reglementate ”realizarea, difuzarea în mass-media, precum şi distribuirea pe platforme online a oricărui conținut vizual şi/sau audio generat sau manipulat, prin utilizarea tehnologiei în contextul fenomenului deepfake, cu scopul inducerii în eroare a opiniei publice cu privire la autenticitatea mesajului transmis”.
Deepfake este definit drept ”orice conținut de tip imagine, audio și/sau video realizat de regulă cu ajutorul inteligenței artificiale sau realității virtuale, astfel încât să creeze aparența că o persoană a spus sau a făcut lucruri care în realitate nu au fost spuse sau făcute de acea persoană”
Prin utilizarea malițioasă a tehnologiei ese înțeleasă ”acțiunea intenționată de inducere în eroare, cu scopul de a crea dezinformare și/sau haos informațional prin manipularea comportamentului uman și/sau exploatarea vulnerabilităților”.
”Utilizarea malițioasă a tehnologiei prin realizarea, difuzarea în mass-media, precum și distribuirea pe platforme online de conținut tip deepfake este interzisă dacă acel conținut nu este însoțit de un avertisment redat pe cel puţin 10% din suprafața expunerii şi pe toată durata difuzării respectivului conținut vizual sau de un mesaj sonor la începutul şi la finalul conținutului audio: „Acest material conține ipostaze imaginare” ”, stabilește forma adoptată în comisii a proiectului. (În forma anterioară, proiectul incrimina ”distribuirea pe internet şi/sau difuzarea în mass- media de conţinut tip deepfake”.)
Consiliul Național al Audiovizualului va verifica dacă sunt încălcate aceste dispoziții, iar în cazul în care constată nerespectarea lor, solicită platformei online să suspende provizoriu distribuirea materialului în cauză.
Suspendarea va fi menținută sau ridicată prin hotărârea instanței judecătorești competente a se pronunța dacă a fost săvârșită o infracțiune.
Instituțiile cu atribuții în domeniile mass-media, internet, vor dispune prin decizie oprirea de la difuzarea în mass-media sau blocarea distribuirii pe internet a conținutului de tip deepfake neînsoțit de avertisment sau mesaj sonor şi obligă autorul conținutului să îl elimine, mai stabilește proiectul.
Încălcarea noilor norme va constitui infracțiune și se va sancțione după cum urmează:
a) crearea/realizarea conținutului tip deepfake se pedepsește cu închisoare de la 6 luni la 2 ani;
b) difuzarea/distribuirea conținutului tip deepfake, cunoscând natura falsă a conținutului, se pedepsește cu amendă între 60 şi 180 de zile - amendă.
Suma corespunzătoare unei zile-amendă este cuprinsă între 10 lei şi 500 lei și se înmulţeşte cu numărul zilelor-amendă, astfel că amenda minimă rezultată poate fi de 600 lei, iar cea maximă, de 90.000 lei.
În termen de maxim 60 de zile de la data intrării în vigoare a prezentei legi, Consiliul Național al Audiovizualului va inființa o structură responsabilă de aplicarea noilor prevederi legale.
Deputații, care au votul final asupra proiectului, au întocmit în comisiile de specialitate un raport de adoptare, cu toate prevederile de mai sus, dar în plenul Camerei Deputaților nu au avut loc decât dezbateri generale, fără a se discuta și pe articole și a se da votul asupra proiectului.
Reprezentanții opoziției au solicitat retrimiterea proiectului la comisii, pentru a se aduce noi modificări acestuia, dar puterea a respins propunerea.
Opoziția a acuzat faptul că potrivit noilor prevederi fi pedepsiți astfel chiar artiști care crează opere de artă fără a urmări vreo fraudă și se încalcă, prin urmare, și dreptul la liberă exprimare.
Membrii puterii susțin însă că formularea actuală respectă propunerea de Regulament al Parlamentului European și al Consiliului de stabilire a unor norme armonizate privind inteligența artificială, care reglementează următoarele: ”Utilizatorii unui sistem de IA care generează sau manipulează imagini, conținuturi audio sau video care seamănă în mod considerabil cu persoane, obiecte, locuri sau alte entități sau evenimente existenteși care ar crea unei persoane impresia falsă că sunt autentice sau adevărate („deepfake”), trebuie să facă cunoscut faptul că respectivul conținut a fost generat sau manipulat artificial”.
Conform regulamentului, acestte prevederi ”nu se aplică în cazul în care utilizarea este autorizată prin lege pentru a detecta, a preveni, a investiga și a urmări penal infracțiunile sau este necesară pentru exercitarea dreptului la libertatea de exprimare și a dreptului la libertatea artelor și științelor garantate în Carta drepturilor fundamentale a UE și sub rezerva unor garanții adecvate pentru drepturile și libertățile terților”.
Prin urmare, una din excepțiile de la obligația de a face cunoscut faptul că respectivul conținut a fost generat sau manipulat artificial se referă la necesitatea exercitării dreptului la libera exprimare, rspectiv utilizarea tehnologiei deepfake să se poată face în scop de divertisment, îngrădirile existând doar în cazul în care această tehnologie este utilizată cu scopul de a manipula și dezinforma.
Dacă puterea consideră că astfel de excepții sunt acoperite de textul actual al proiectului, opoziția reclamă că excepțiile nu sunt bine definite în proiect și pot da naștere la abuzuri.
Votul final asupra proiectului ar urma să aibă loc în următorea ședință de vot a deputaților.
