Marile beneficii pe care inteligența artificială le aduce în general în zona de ecosistem economic și social și nu numai provin din faptul că eficientizează radical performanța oricărei entități, spune, la emisiunea Academia de Guvernanță de la PROFIT NEWS TV, Carmen Micu, CEO și fondator ENVISIA – Boards of Elite, prima școală de afaceri din Europa Centrală și de Est, care oferă educație de ultimă generație, servicii de mentorat și de consultanță pentru membrii consiliilor de administrație (președinți, membri non-executivi, membri executivi) profesioniști de nivel C-Suite și profesioniști de mare calibru, prin intermediul unor parteneriate prestigioase.
“Acest lucru va duce la creșterea (GDP) PIB, o experiență a clienților mai bună, vorbește foarte mult despre capacitatea noastră și a companiei să estimeze potențialul de dezvoltare a afacerilor și lansări de produse noi etc..”, spune aceasta.
Cel mai mare impact al inteligenței artificiale se reflectă în ceea ce privește transparentizarea proceselor. Inteligența artificială nu este însă nelipsită de riscuri.
24 septembrie - Eveniment News.ro – ROINVEST - Ediția a V-a. Parteneri: ACUE, ARB, CEC Bank, ROCA, TeraPlast
30 septembrie - Eveniment Profit.ro e-commerce – Provocările creșterii pe o piață cu concurență tot mai dură - Ediția a V-a. Parteneri: ARB, CEC Bank, ContentSpeed
7 octombrie - Eveniment Profit Energy.forum - Ediția a VIII-al Parteneri: ACUE, Raiffeisen Bank
5 noiembrie - Gala Profit – Povești cu Profit... Made in Romania. Parteneri: ARB, CEC Bank, Garanti BBVA, Raiffeisen Bank, Philip Morris Romania
„Riscurile vin mai ales din zona eticii în afaceri, cu întrebări legate de cine și ce informații sunt încărcate în baza de date a AI. Ne aducem cu toții aminte de celebrul scandal legat de algoritmul lui Google care avea evident preconcepția direcționată înspre bărbați, albi, pe un anumit segment de vârstă.
Evident că toate lucrurile acestea au dus la recuperarea și repararea algoritmilor, dar nu vorbim numai despre acest tip de preconcepție, vorbim și despre care sunt interesele celor care pun informațiile în baza de date și ce fel de ideologie folosește. Există, de asemenea, un fenomen foarte interesant, care se numește halucinația AI - și anume că, dacă nu e bine structurată și supravegheată, AI poate să și fabuleze în felul ei, bazată pe scenariile anterior create de noi.
Un alt factor cu potențial de risc major este influența din partea unor entități care pot dori să manipuleze AI într-o direcție sau alta”, precizează Carmen Micu.
Vitalie Tătaru, fondator și CEO AC Tech, atrage atenția, la rândul lui, că la baza inteligenței artificiale stă o infrastructură de date, iar dacă aceste date sunt intenționat incluse în sistem într-un mod eronat, atunci pot să apară efecte foarte neplăcute. De aici apare și necesitatea de reglementare și de conformitate a utilizării soluțiilor și platformelor de inteligență artificială.
„Pentru a evita și diminua riscurile apărute este nevoie de un întreg cadru de management al rezilienței digitale și al inteligenței artificiale, din mai multe componente, precum partea de securitate cibernetică, un mecanism de identificare și evaluare a riscului, măsuri, proceduri, implementare de sisteme de identificare și mitigare a acestor riscuri”, este arătat.
De exemplu, un sistem de prevenire a intruziunilor, un sistem tehnic și, mai departe, aplicarea unor proceduri și măsuri susținute și supravegheate de personalul companiilor, pentru a verifica intruziunea și modificarea intenționată sau furtul datelor, subliniază Vitalie Tătaru.
Pentru administrarea corectă a implementării sistemelor de inteligență artificială, adaugă Carmen Micu, un consiliu de administrație este responsabil să creeze politicile care vor avea în vedere această administrare. Iar în baza acestor politici pe care board-ul le creează, executivul va construi procedurile.
„Un alt lucru foarte important este că se vor crea, tot la inițiativa board-ului, structurile de guvernanță necesare care să administreze existența AI în cadrul unei companii. Practica actuală recomandă crearea unui comitet responsabil care răspunde board-ului pentru administrarea AI.
Pe măsură ce compania devine mai mare, situațiile sunt mai complexe, ecosistemul economic-social și politic devine mai complex, multe entități apelează la astfel de structuri, respectiv un comitet de supraveghere a AI și, nu în ultimul rând, vorbim de acea transparentizare pe care aplicarea AI o aduce și care la rândul ei creează și cere expansiunea mandatului unui membru în CA.
Și ajungem la al doilea punct ca importanță în ceea ce privește implementarea AI în cadrul oricărei entități - educația. Avem nevoie pentru membrii CA de ridicarea acelui nivel de conștientizare, de cunoștințe și cunoaștere, necesare în ceea ce privește ce înseamnă implicarea AI cu adevărat în ecosistemele noastre interne, unde ne poate duce, care sunt riscurile, cum le putem mitiga, și pentru asta avem nevoie să ne întoarcem, din nou la educație, explică fondatoarea Envisia.
Bunele practici în guvernanța corporativă recomandă de altfel numirea unui membru de board responsabil în administrarea inteligenței artificiale.
„Zona aceasta este un teritoriu mai puțin valorificat și mai puțin urmărit. Aceasta este provocarea actuală. Un comitet și / sau o persoană desemnată din cadrul board-ului va avea grijă și, poate, și o atenție mai mare, cu un grad de specializare sau de expertiză mai mare în domeniu, de zona aceasta de provocări cu privire la viitor și care sunt legate de zona de guvernanță în general. Menționez aici faptul că pot fi penetrate baze de date și vizate documente secrete care conțin strategiile pe termen lung și a căror deconspirare poate avea impact negativ asupra dezvoltării ulterioare a companiei.
Un astfel de comitet este responsabil pentru trasarea direcțiilor strategice, stabilirea priorităților, desemnarea cadrului formal, în sensul stabilirii limitărilor și prerogativelor comitetului. Pentru aceasta este nevoie de prezența în bord a unor specialiști în domeniu”, spune Carmen Micu.
Pentru adresarea provocărilor ridicate de inteligența artificială, Uniunea Europeană va impune țărilor membre implementarea Digital Operational Resilience Act (DORA), începând cu luna ianuarie a anului următor.
„Consiliul de administrație este, de fapt, cheia pentru factorul de decizie în care, în conformitate cu DORA, să fie pus în aplicare. E un întreg cadru de politici, soluții, tehnici care să fie aplicate pentru identificarea riscurilor, gestionarea acestora, apoi și de reglementare. Mai e nevoie de conștientizare și educație. DORA nu se referă numai la membrii consiliul de administrație, ci inclusiv pentru a fi implementat în toată compania.
Intervin apoi monitorizarea, evaluarea continuă și colaborarea cu partenerii terți. Companiile devin tot mai interdependente prin tehnologiile digitale și, dacă partenerii tăi nu sunt conformi, mai ales în domeniul financiar - care e o industrie foarte senzitivă la date și la reglementări - atunci este un risc foarte mare, pe care multe companii pot să-l evite sau să-l scape din vedere.
Dacă îl omit, atunci ai un risc foarte mare de intruziune și, în ultimă instanță, poți să ai de fapt un canal de pătrundere în infrastructura companiei și ăsta e unul dintre cele mai mari riscuri”, precizează Vitalie Tătaru.
Printre principalele provocări ale membrilor consiliilor de administrație în ceea ce privește înțelegerea și implementarea DORA, adaugă el, sunt lipsa viziunilor și a cunoștințelor tehnice și conștientizarea riscurilor legate inclusiv de AI și partea de reglementare.
„Au fost foarte multe cazuri în care riscurile AI nu au fost luate în considerare. Apoi, mai e conformitatea la DORA, luând în considerare practicile interioare. Mi-e greu să cred că toți se vor conforma din prima zi cu DORA.
Altă provocare este educația și formarea viziunii începând cu consiliul de administrație, care va juca un rol cheie în acest domeniu. Când consiliul de administrație înțelege și promovează aceste politici și echilibrează inovarea cu conformitatea, acesta cred că ar fi cel mai bun exemplu pentru companii”, explică Vitalie Tătaru.
Importanța educației la nivelul consiliilor de administrație este subliniată și de Carmen Micu.
„La nivel de board, principalele 3 atribuții sunt de supraveghere, monitorizare și mentorat pentru executivi. Și, începând de la primele 2, ne uităm în paralel la ce ar putea face AI pentru noi și care sunt competențele pe care avem nevoie să le dezvoltăm. Dacă pentru zona de monitorizare e cumva intuitiv că AI ne poate ajuta, iar mentoratul este exclusiv legat de om, în zona de supraveghere este impactul AI în zona actului decizional”.
Board-ul are nevoie de un mecanism corect de luare a deciziilor. Aici, AI poate să ajute, însă pentru un membru în consiliul de administrație este necesar să înțeleagă nu numai cum funcționează, cum poate să administreze zona aceasta de utilizare a AI, dar și zona de administrare a riscurilor, iar în acest sens să aibă în vedere dezvoltarea continuă a gândirii critice, a independenței în gândire, pentru că informațiile puse la dispoziție de către Board Intelligence System (sistemul de analiza și raportare alimentat de AI) pot să aibă un grad mare de părtinire și /sau de manipulare, depinzând de cine și cum le-a introdus și de cum sunt ele analizate”, explică Carmen Micu, adăugând că este necesar a fi dezvoltat un grup de competențe specifice de AI, pe lângă cele de bază ale board-ului.
Envisia își propune să lanseze un parteneriat cu DATABORN și Vitalie Tătaru - va pune la dispoziția membrilor în consilii de administrație, începând cu luna noiembrie, un nou program destinat dezvoltării competentelor de AI pentru membrii de board.
„E o premieră în zona consiliilor de administrație și a guvernanței. Este un program de o zi, în care ne dorim să facem acest transfer de cunoaștere și cunoștințe în baza cărora Comitetul de Supraveghere AI să poată fi înființat, și board-ul în general, să capteze ideile principale și conceptele tehnice legate de impactul implementării AI”, precizează Carmen Micu.
Envisia oferă programe și cursuri pentru dezvoltarea competențelor de board și abilităților de leadership, servicii de dezvoltare a boardurilor, coaching & mentoring la nivel de consiliu de administrație.
Envisia are parteneriate educaționale de prestigiu cu universități, organisme de reglementare și asociații profesionale internaționale și naționale.
