Chatbot bazat pe Chat GPT pentru site-ul ANAF? Ministerul Finanțelor a discutat cu firme specializate despre viitorul chatbot al Fiscului și a solicitat informații despre utilizarea și costurile Chat GPT

Specialiști ai Ministerului Finanțelor au avut recent consultări cu reprezentanți ai mai multor firme, discuțiile vizând și dezvoltarea unui chatbot mai bun pentru site-ul ANAF. Propunerea cel mai intens dezbătută a fost un chatbot care să folosească Chat GPT pentru a genera răspunsuri la întrebări, o soluție care ar putea genera unele costuri pentru ANAF, dar ar fi mult superioară în ce privește calitatea informațiilor oferite, conform datelor Profit.ro.

VEZI AICI ȘI EXCLUSIV UiPath se va implica în digitalizarea ANAF

În timp ce reprezentanții Finanțelor pornesc de la ideea unui chatbot bazat pe NLP (procesarea limbajului natural), discuțiile s-au concentrat pe oportunitatea implementării unui chatbot care să folosească Chat GPT, pe securitatea necesară în acest caz, pe costurile pe care le-ar genera, dar și pe beneficiile pe care le-ar aduce contribuabililor. În caietul de sarcini transmis acum spre consultare pieței, Ministerul Finanțelor a precizat că a solicitat o variantă de chatbot pe bază de NLP. Caietul de sarcini în forma definitivă va ține cont și de informațiile primite în etapa de consultare.

Fiecare dintre cele două variante prezintă avantaje, în funcție de scopul, locul, modul și momentul utilizării, a declarat pentru Profit.ro Theodor Stănescu, advisory IT architect / project manager la EY Romania (EY nu se numără printre firmele implicate în consultarea de piață derulată de MF). Soluțiile bazate pe chatbot conversațional (chatbot NLP) sunt mai bine adaptate pentru un dialog structurat cu solicitantul de servicii de support, în timp ce soluțiile bazate de AI generativ (cazul Chat GPT) sunt mai eficiente pentru sintetizarea unor răspunsuri mai clare, mai documentate.

De ce este important: Ministerul Finanțelor are în prezent în derulare un număr mare de proiecte pentru digitalizarea ANAF, cu fonduri consistente prevăzute în PNRR. Deși unele soluții par îndrăznețe dacă ne raportăm la actualul nivel, ANAF are acum o șansă, cu care nu se va mai întâlni prea curând, de a se moderniza și de a furniza servicii de calitate ridicată plătitorilor de taxe și impozite. Astfel, soluția pentru care ar opta instituția ar trebui să fie cea mai bună pentru sprijinirea contribuabililor.

Discuțiile dintre Ministerul Finanțelor și firme au avut loc în etapa de consultare publică, care are ca scop obținerea de informații/recomandări cât mai relevante cu privire la cerințele minime din caietul de sarcini în vederea îmbunătățirii acestora/soluția tehnică optimă. De asemenea, consultările de acest tip au ca scop și obținerea de informații referitoare la valoarea estimată a achiziției.

CITEȘTE ȘI Ciolacu: O să vin cu o modificare. A venit timpul ca toată lumea să plătească impozit

"Chatbot-ul va încerca să răspundă pe baza anumitor documente, cu care îl antrenăm. Precizarea este că un chatbot, oricât de bun ar fi, înțelege datele până la un anumit nivel, chat GPT le înțelege 100%, deci va fi o diferență de performanță. Va fi experiență de nota 8,5 în loc de 10, însă trebuie luat în calcul și bugetul disponibil", potrivit uneia dintre firmele care au discutat cu reprezentanții Finanțelor.

Specialiștii celor două părți au discutat inclusiv costurile pe care le-ar putea genera utilizarea serviciilor Chat GPT pentru chatbotul ANAF, dar și cum ar putea fi reduse aceste costuri prin direcționarea doar a solicitărilor mai complexe către Chat GPT.

Întrebat despre costurile lunare pentru varianta chat GPT, reprezentantul unei firme a răspuns:

"2-5 cenți până la 1 euro (în variantele în care nu este implementat corect), ține de volum și în ce momente apelăm acest chat GPT. În mod normal, ar trebui să nu se apeleze pentru orice, ci doar în anumite flow-uri, când nu recunoaște intenția utilizatorului. În caz contrar, la un volum de 10.000 de interogări/zi se poate ajunge la costuri de 5.000 euro/lună. Dar ar trebui optimizat astfel încât să nu se facă apel la GPT întotdeauna și interogările să fie cât mai scurte, pentru că se plătește în funcție de numărul de cuvinte din perechea întrebare – răspuns. În cel mai optimist caz se poate ajunge de la 200-300 până la 1.000 euro/lună."

"S-au prezentat argumente pentru chat GPT: este o soluție capabilă să răspundă și la informații din site, din surse multiple, din .pdf-uri, pe când o soluție obișnuită nu o face la același nivel. Ideal ar fi dacă ne-am putea folosi, într-un mediu securizat, și de capacitatea chat GPT, dar acest lucru presupune costuri suplimentare pentru volum. Un chat enterprise cu motor de NLP nu va fi la nivelul unui chat GPT. Cu mai mult antrenament, cu mai multă muncă de mentenanță, ar putea fi adus la un nivel mai ridicat, dar nu va ajunge la nivelul de calitate al unui chat GPT. Chat GPT se utlizează pe volum (costă fiecare întrebare și fiecare replică). Rolul unei soluții enterprise este să folosească chat GPT doar cât este nevoie ca aceste interogări să fie cât mai puține (doar acolo unde este nevoie, pentru a extrage datele din documente, pentru a putea răspunde la întrebări)."

CITEȘTE ȘI Ciolacu susține că de anul viitor vrea să înceapă scăderea impozitării muncii pentru persoanele cu salariul minim pe economie

Variantele de chatbot descrise în consultări sunt următoarele:

1. Chat GPT folosește un motor LLM (large language model), necesită cantități foarte mari de date și o capacitate de procesare foarte mare.
2. Chatbot enterprise - caută cel mai apropiat răspuns pe bază de NLP.
3. Chatbot simplu – se pot seta anumite răspunsuri standard la anumite întrebări preconfigurate.

Un dezavantaj în cazul utilizării chat GPT este că trebuie mediată interacțiunea cu cloud-ul (nu poate fi instalat pe un server al AC), ceea ce implică riscuri de securitate. Astfel, a fi necesară o „curățare” a datelor cu caracter personal, astfel încât interogarea să fie cât mai „curată”.

Chatbot NLP și ChatGPT - avantaje în funcție de ce are nevoie ANAF

Întrebat de către Profit.ro, Theodor Stănescu, advisory IT architect / project manager la EY Romania, a explicat că soluțiile pe care le au la dispoziție Ministerul Finanțelor și ANAF au fiecare avantaje, în funcție de ce urmăresc autoritățile să obțină:

"Soluțiile informatice inovative bazate de inteligență artificială atrag mult intres din partea administrație publice și a sectorului comercial pentru optimizarea interacțiunilor în centrele de suport pentru cetățeni, mediul de afaceri sau autorități publice, la automatizarea proceselor din centrele de apel.

În principal două soluții constructiv diferite sunt luate în considerare:

• Chatbot conversațional bazat pe recunoașterea și procesarea limbajului natural (Chatbot NLP – Naturale Language Processing)
• Sistem bazat pe inteligență artificială de tip generativ (de exemplu ChatGBT, Bing Chat Enterprise, EY.ai. sau altele asemenea)

Fiecare soluție este mai avantajoasă în funcție de scopul, locul, modul și momentul utilizării – astfel soluțiile bazate pe chatbot conversațional sunt mai bine adaptate pentru un dialog structurat cu solicitantul de servicii de support, prin utilizarea unor scenarii bazate pe întrebări convergente cu care sunt colectate informații de la solicitant pentru a pre-completa fișele de contact utilizate in centrul de apel ÎNAINTE de începerea unei conversații cu agentul care deservește solicitarea, cu realizarea de economii de timp și pentru solicitant și pentru agent, cu reducerea sarcinilor adminsitrative de rutină.

Soluțiile bazate de AI generativ sunt mai eficiente pentru sintetizarea unor răspunsuri mai clare, mai documentate și cu aparență mai empatică folosind bazele de cunoștințe ale administrație publice sau ale operatorilor economici care oferă suport prin call center.

Utilizarea scenariiilor și modelelor statice de întrebări și răspunsuri este mai eficace al culegerea de informații – folosind Chatbot NLP, față de răspunsurile mai sofisticate – rezultatul utilizărilor tehnicilor de generative AI."