Un text scris de Prof. univ. dr. Mircea Duțu, Director emerit al Institutului de Cercetări Juridice al Academiei Române, Președintele Universității Ecologice din București.
Utilizarea inteligenței artificiale (IA) în procedura penală naște provocări inedite și în privința autenticității și a fiabilității probei. Dacă noua tehnologie este un puternic instrument de investigație în special pentru analiza de mari volume de date, capacitatea sa de a genera falsuri (deepfakes) și conținuturi sintetice impune un control tehnic și juridic strict, adecvat și eficient. „Democratizarea” IA generative fragilizează principiul tradițional al libertății probelor în dreptul penal. Proliferarea falsurilor (deepfakes), alterarea ori absența trasabilității marchează tot mai mult administrarea, analiza și valorificarea lor în realizarea obiectului și scopului procesului penal. Principalele provocări sunt, astfel, detectarea deepfakes, transparența algoritmilor în fața drepturilor apărării, menținerea nemijlocirii probei de-a lungul întregului lanț al conservării sale. Probarea autenticității unei date digitale devine esențială. Jurisdicțiile trebuie să se sprijine de acum înainte pe instrumente de criminalistică digitală și algoritmi de hash pentru a autentifica fișierele. Interdicția de delegare a judecății (IA nu poate în niciun caz să înlocuiască intima convingere și liberul arbitru al magistratului) și exigențele prezumției de nevinovăție (forța probantă a rapoartelor generate de softuri trebuie să fie relativizată și supusă dezbaterii contradictorii a părților) sunt garanțiile absolute ale echității procesuale, care marchează tot mai mult modelul de referință în materie.
O schimbare de natură a probei. O mutație profundă e evidentă: proba nu mai e în mod necesar urma unui eveniment, ci poate deveni producția autonomă a unui sistem algoritmic. Se introduce, totodată și astfel, o logică nouă: ea tinde să treacă de la un model fondat pe certitudine la unul marcat de statistică și probabilitate. Riscul major ține atunci de o formă de supra-încredere tehnologică. Pentru că IA produce un rezultat coerent, detaliat, uneori în aparență „științific”, rezultatul poate să fie perceput ca fiind mai fiabil decât o probă tradițională, chiar atunci când se bazează pe opțiuni tehnice, de prejudecată, aproximații sau erori. Pericolul nu e atât acela că IA produce elemente în mod manifest false, cât unele plauzibile și dificil de verificat, a căror contestare impune competențe specializate.
O atare evoluție are o consecință procedurală imediată: contenciosul se deplasează către o logică de credibilizare. Acolo unde judecătorul putea să aprecieze o piesă prin coerența, originea sa și confruntarea cu alte elemente, IA impune să se discute sursa, trasabilitatea și lanțul de conservare. Valoarea probantă depinde atunci de date precum metadatele, condițiile de producere, existența unui istoric fiabil, ori chiar a posibilității de a audita documentul. Instanța nu va mai aprecia deci numai faptele, ci, de asemenea, și sistemele.
Această transformare privește deopotrivă și sarcina probei. O piesă rezultată din IA nu poate produce un efect probatoriu puternic, la punctul de a deplasa, în mod implicit, povara contestării asupra părții adverse. Sarcina probei devine dificil de „răsturnat”, nu pentru că aceasta e perfectă juridic, ci întrucât infirmarea ei e costisitoare, complexă și pretențioasă din punct de vedere tehnic. Ar apărea astfel un risc de inversare a sarcinii probatorii, în detrimentul egalității de arme.
Un asemenea pericol e deosebit de pregnant în privința deepfakes, a căror forță probantă aparentă poate fi considerabilă, întrucât imaginea și vocea rămân asociate în mod spontan ideii realității. În fața acestei amenințări, legislatorii încep să ofere răspunsuri concrete de etapă, binevenite, dar care se plasează într-o manifestare accelerată a evoluțiilor. În definitiv, e de domeniul evidenței că IA generativă slăbește forța probantă a probelor, instaurând un paradox: ea produce elemente mai convingătoare, făcând totodată mai incerte garanțiile tradiționale de fiabilitate. Această basculare presupune o diligență amplificată în desfășurarea procedurii în temeiul codului și de adaptare stringentă la noile date ale realității judiciar-tehnologice.
Și aceasta cu atât mai mult cu cât transformările aferente sunt atât de profunde, încât se pune în discuție însuși modelul inchizitorial tradițional al procesului penal, vorbindu-se de o evoluție a sa, sub impactul noilor tehnologii, spre unul acuzatorial atenuat, particularizat, cu implicații multiple, mixt (Jean-Baptiste Perrier, Intelligence artificielle et justice pénale: vers un modelé accusatoire?, „Recueil Dalloz”, 29 mai 2026).
Dilema implicării IA. În cadrul reflecțiilor, precum cea citată mai sus, și deja în cel al experiențelor practice, concrete privind metodele de lucru ale magistraților, avocaților și altor actori judiciari angrenați în desfășurarea procedurii penale apare cu o tot mai mare insistență și relevanță dilema consecințelor implicării inteligenței artificiale în stabilirea adevărului (judiciar) și, din această perspectivă, posibilele evoluții ale modelului actual de justiție penală. Cel european dominant, zis „mixt”, respectiv inchizitorial, dar temperat prin împrumuturi „acuzatoriale”, marcat de rolul important al judecătorului și de implicarea părților în producerea de probe și aprecierea acestora din urmă, se bazează pe o presupunere fundamentală: magistratul de scaun e în măsură să evalueze valoarea probantă a elementelor de probă ce îi sunt supuse atenției. Cu referire la Codul de procedură penală român, să amintim că, potrivit art. 5, „aflarea adevărului pe bază de probe” constituie un principiu dominant, iar prevederile art. 97 alin. (2) lit. f) admit și „orice alt mijloc de probă care nu e interzis prin lege”. Această latitudine conferită instanței în aprecierea probatorului a fost concepută însă într-un univers în care proba materială (înregistrarea, fotografia, documentul) prezenta o rezistență naturală la manipulare ori cel puțin la o trasabilitate a acesteia.
Astăzi, dezvoltarea accelerată a tehnologiilor de IA generativă și posibilitățile pe care le oferă aceasta (deepfakes audiovizuale, voci clonate, imagini și video alterate) vin să arunce în aer o atare presupunere în chiar fundamentele sale. Difuzarea modelelor permite de acum înainte producerea de conținuturi audiovizuale de o asemenea fidelitate încât înșală percepția umană într-o proporție foarte ridicată. Studiile întreprinse în privința capacităților de detectare umană a deepfakes converg spre o rată de eșec considerabilă. Corespondențele, facturile ori releveele bancare pot să fie produse în mod artificial cu o prezentare stilistică cu adevărat coerentă și sunt, deci, indetectabile. În fața unor asemenea riscuri, răspunsul apare, în orice caz, insuficient, întrucât expertiza judiciară în informatica criminalistică, chiar dacă reprezintă instrumentul cel mai pertinent, suferă de mai multe limitări cumulative. Mijloacele tehnice de detectare a deepfakes se găsesc astfel angajate într-o veritabilă cursă de urmărire asimetrică cu instrumentele de generare. De altfel, în plus, expertiza e costisitoare, lentă, dificil generalizabilă și nu poate fi implementată la ansamblul probelor de la dosar, iar raportul expertului poate să exprime diverse grade de probabilitate, în orice caz, nu o certitudine.
Așadar, o concluzie se impune cu rapiditate: judecătorul penal nu se va mai putea sprijini în tot mai multe cazuri pe intima sa convingere privind certitudinea autenticității probelor materiale. Atunci când o piesă a dosarului judiciar a fost produsă, modificată ori integral fabricată de un sistem de IA fără ca o atare manipulare să fie decelabilă cu ochiul liber, nici măcar în anumite cazuri, prin instrumente de analiză (expertiză) criminalistică, o atare îndoială există, întrucât de acum înainte toate probele produse de părțile private ar putea să fi fost modificate ori alterate, judecătorul penal se găsește confruntat cu o dificultate: cum pretinde să stabilească un adevăr, fie el și judiciar, atâta timp cât nu se poate întemeia pe sinceritatea probelor materiale?
Exemplul judiciar istoric. La 15 octombrie 2025, Camera penală a Curții de apel din Esquel (o provincie a Argentinei) a pronunțat o hotărâre (decizie) de pionierat privind utilizarea abuzivă a inteligenței artificiale de o instanță penală în cadrul judecării pe fond a unei cauze, privind inclusiv aprecierea probelor.
În fapt, o persoană a fost condamnată, în primă instanță, la o pedeapsă de 2 ani și 6 luni de închisoare cu executare pentru săvârșirea infracțiunii de furt. S-a făcut apel împotriva sentinței, invocându-se o evaluare arbitrară a probelor, nulitatea unei expertize pe videocamera de securitate și erori în interpretarea textului legii penale. În timpul examinării judecății de fond, instanța de apel a detectat fraza următoare în respectiva rezoluție: „Aici, aveți punctul IV reeditat, fără citare și gata pentru copy-paste”. Această expresie a relevat faptul că judecătorul a utilizat în mod clar un asistent de IA generativă pentru redactarea unei părți substanțiale a hotărârii în discuție, mai precis, cea care făcea referință la validitatea anumitor probe de acuzare pertinente (video și expertiza criminalistică). Hotărârea atacată nu precizează ce instrument de IA generativă a utilizat judecătorul (ChatGPT, Gemini AI, Claude AI, Jasper AI, Perplexity AI ori Deepseek AI), nici ce instrucțiuni (prompts) a dat inteligenței artificiale în privința hotărârii respective. Instanța de apel, având în vedere cele astfel constatate a considerat că:
– s-a încălcat principiul unui judecător natural, delegându-se funcția jurisdicțională unui sistem de IA;
– s-a nerespectat procedura obișnuită, încorporându-se un text scris de o IA, fără control și fără comunicare către părți;
– s-a omis să se protejeze confidențialitatea persoanelor, incluzând adevăratele nume în textul asistat;
– s-a ignorat trasabilitatea și fundamentul logic și juridic cerute de Constituția Argentinei și Codul de procedură penală corespondent.
În consecință, s-a decis: declararea ca nulă a sentinței penale atacate, dispunerea rejudecării cauzei, evident de către un alt complet de primă instanță și sesizarea Înaltei Curți de Justiție a Argentinei pentru anchetarea utilizării abuzive a IA de către judecătorul în cauză.
Așadar, pe lângă, practic și cel puțin parțial, substituirea judecătorului „natural” cu un „impostor” artificial, problema a vizat și modul în care a fost interpretat și valorificat ansamblul probator în contextul ofensivei noilor tehnologii și al valorizării celor obținute cu implicarea IA.
Un altfel de adevăr judiciar. Desigur, în esența sa ideatică o atare problemă nu e nouă, amintind astfel de distincția între adevărul judiciar și cel istoric, dar, de această dată, distincția va fi legată nu de insuficiența probelor, ci de posibilitatea alterării lor. Nu e vorba de o chestiune pur tehnică, ea suscită, de asemenea, chiar o reflecție de fond asupra modelului însuși de justiție penală deosebit de răspândit, cel inchizitorial, prezent și la noi. El se bazează pe ideea că instanța, apreciind probele administrate și mobilizând toate mijloacele de investigare aflate la dispoziția sa poate parveni la o cunoaștere suficient de fiabilă a stării de fapt spre a-și fonda hotărârea sa. Convingerea intimă nu e una arbitrară, ea e rezultatul unui demers rațional de evaluare a probelor. Or, dacă judecătorul nu mai poate ști cu certitudine dacă probele care îi sunt supuse analizei sunt autentice, nu mai poate pretinde să acceadă, nici măcar să se apropie de veritatea factuală prin intermediul lor. Se va găsi astfel și atunci în postura unui arbitru confruntat cu două versiuni exprese, de acuzare și, respectiv, de apărare, susținute prin piese pe care el va trebui să le evalueze valoarea probantă fără a fi întotdeauna sigur de autenticitatea lor. Decizia dată nu va mai fi retranscrierea unui adevăr perceput ca atare de magistrat, ci rezultatul unei aprecieri a tezelor concurente; așadar, nu va fi adevărul obiectiv căutat de judecător care va fundamenta hotărârea, ci aprecierea credibilității tezei susținute de acuzare și, eventual, după caz, a mijloacelor/apărărilor produse de apărare, în urma dezbaterilor contradictorii.
Afectarea gravă a modelului inchizitorial. Fără îndoială, atari considerații ne conduc la reflecția asupra incidenței dezvoltării IA ca instrument de falsificare probatorie și a presiunii pe care aceasta o exercită în privința unei alunecări a modelului inchizitorial spre unul acuzatorial în care judecătorul, recunoscându-se incapabil de a certifica autenticitatea probelor se recentrează spre o funcție de arbitru între tezele adverse, pentru a deveni un arbitru al credibilului/probabilului mai degrabă decât al adevărului. Această transformare, care ar modifica în profunzime raportarea procesului penal la adevăr, cere o reflecție asupra condițiilor sale de legitimitate și a garanțiilor pe care le oferă. Absența unui regim juridic specific al probelor digitale în procedura penală reprezintă o lacună ce trebuie rapid înlăturată, având în vedere accelerarea evoluțiilor tehnologice și implicațiile sale. Regulamentul (UE) 2024/1689 din 13 iunie 2024 (AI Act) de stabilire a unor norme armonizate privind inteligența artificială impune anumite exigențe de transparență sistemelor de IA cu grad ridicat de risc (și uzul unui sistem de inteligență artificială în scop de represiune e vizat în anexa III 6), încercându-se, totodată, schițarea unui cadru pentru răspunderea legată de sistemele generative, dar nu se tratează în mod direct problema valorii probatorii a conținuturilor generate ori modificate de IA în procesul penal. O reformă a dispozițiilor procedurale ar putea avea în vedere tocmai condiționarea valorii probatorii a unei probe electronice ori produse pe cale electronică de condițiile identificării autorului și de integritatea documentului.
În plus, și spre a nu importa derivele modelului acuzatorial american și a evita un prea mare dezechilibru între părțile procesului penal, ar fi necesar să se prevadă un acces echitabil la instrumentele de identificare. Dacă rolul judecătorului penal ar trebui să evolueze spre unul de arbitru, respectându-se schema prezumției de nevinovăție, respectiv a evalua mai întâi teza susținută de acuzație și, atunci când aceasta e credibilă, a aprecia elementele produse în susținerea tezei apărării, discuția asupra autenticității probelor ar trebui să se poată efectua cu respectarea principiului egalității de arme ceea ce ar conduce la regândirea finanțării ajutorului jurisdicțional, la dezvoltarea expertizei judiciare specializate în IA, punându-se la dispoziție instrumentele utile publice și independente de analiză, chiar a crea o structură publică de autentificare a probelor digitale la dispoziția instanțelor penale, după modelul institutelor medico-legale ori al laboratoarelor de criminalistică.
O concluzie generală și mai multe implicații procedurale. Dar, în cele din urmă, poate că provocarea cea mai profundă rămâne una de natură, să-i spunem, filosofică. Justiția penală își trage o parte din legitimitatea sa din (nobila) pretenție de a stabili adevărul. Dacă judecătorul și-ar asuma în mod public că el nu se pronunță asupra adevărului, ci a probabilității, un atare fundament se clatină, dacă nu chiar se prăbușește. Respectarea prezumției de nevinovăție, care ea însăși nu se întemeiază pe o logică de probabilitate, ci aparține unei garanții absolut necesare, presupune că instanța ar putea fi sigură că probele produse de acuzare sunt suficiente pentru a fundamenta o condamnare.
Dezvoltarea IA și redefinirea rolului judecătorului la care ar putea conduce, nu ar implica, cu toate acestea, abandonarea unei atari pretenții de adevăr, ci formularea sa. Adevărul judiciar a fost întotdeauna o construcție procedurală, nu o realitate istorică: procedura penală cere ca acest adevăr să fie stabilit urmând reguli legale și legitime. Dincolo de aspectele relative la statutul probei digitale și la reechilibrarea mijloacelor oferite părților pentru autentificarea probelor, IA ar impune întărirea acestor garanții procesuale ce conferă legitimitate hotărârii judecătorești. Justiția care nu ar mai putea fi certă de adevăr, va trebui, mai mult ca oricând, să fie sigură de echitatea procedurii sale.
Dincolo de aprecierile teoretice, abstracte, principiale, există certe garanții în privința unei generalizări a utilizării inteligenței artificiale în procesul penal. Prevederile AI Act stabilesc repere juridice ferme relevante și în acest domeniu. La rândul său, Recomandarea CM/Rec (2024) 5 a Comitetului Miniștrilor al Consiliului Europei, din 9 octombrie 2024, privind aspectele etice și organizaționale ale inteligenței artificiale și a tehnologiilor digitale asociate de serviciile penitenciare și de probațiune întregește demersul european pertinent, vizând a evita predicțiile de periculozitate astfel prezentate. Preocupările care persistă sunt numeroase. Mai întâi, a insista exagerat asupra promovării inteligenței artificiale precum un instrument de neînlăturat în procedura penală, riscă să ajungă la denaturarea rațiunii de a fi a formalismului procedural. Acesta din urmă e, înainte de toate, garantul protecției drepturilor și libertăților, așa încât formalismul nu e un simplu conformism; marile principii care prezidează elaborarea disciplinei se găsesc puternic slăbite într-un sistem de altfel total proceduralizat, din punct de vedere juridic și informatic.
Apoi și mai ales pentru că e de înțeles că dacă IA are „vânt în pupă”, aceasta nu e atât pentru că ar fi un instrument indispensabil pentru a aduce proba infracțiunilor, ci mai ales întrucât a devenit un mijloc util spre a detecta, preveni, chiar a prezice comportamente. Or, în utilizările sale declarat preventive ale delincvenței, IA nu vine a verifica ori contraexamina suspiciunile judiciare preexistente, pentru a confirma ori infirma soliditatea. Ea intervine în amonte de trecerea la act și orientează supravegherea, ori controlul spre persoane care ar putea suscita un interes în termeni de anchetă. Aceste persoane nu sunt suspecți, dar devin „suspecți probabili”. Dar atunci ne putem întreba: mai rămân ele total prezumate ca inocente?
În orice caz, în mod evident, incontestabil și procedura penală se transformă în era inteligenței artificiale. Fie că privește criminalitatea în general sau pe cea organizațională în special, ea e mai mult dreptul suspecților decât cel al oamenilor onești. Fără grija păstrării proporțiilor și asigurării echilibrelor cuvenite, riscăm ca o extindere prea importantă a utilizării inteligenței artificiale să transforme procedura penală, în ansamblul său, într-una mai preventivă decât represivă.
Teme de reflecție pentru semnificațiile de azi și, mai ales, pentru implicațiile de mâine.
Un material Legal Marketing
