Avertismentul a fost lansat de Nell Norman, cercetătoare în domeniul inteligenței artificiale care a lucrat la Raportul privind starea inteligenței artificiale din 2025.
Aceasta explică pentru Financial Times că, până acum, crearea unui sistem AI care să poată susține o conversație la telefon era o sarcină laborioasă.
Un astfel de sistem necesita mai multe programe combinate, dar acum oricine poate crea în câteva minute o voce artificială care sună uman, folosind coduri publice disponibile online. Astfel, atacurile de tip voice phishing (sau vishing) – în care infractorii se dau drept reprezentanți ai unor instituții – au devenit un pericol zilnic, explică Norman, potrivit BiziDay.
Aceste piedici în crearea unui sistem care să acționeze în timp real au fost depășite datorită apariției modelelor de inteligență artificială “speech-native”, care pot susține conversații fluente, adaptându-și răspunsurile instantaneu. Un astfel de exemplu este RealTime, de la OpenAI.
Aceasta este o tehnologie lansată în 2024 care permite comunicarea cu un model de inteligență artificială în timp real, prin voce — adică AI-ul te poate asculta, gândi și răspunde instant, aproape ca o persoană într-o conversație telefonică. Acesta permite mai multor softuri să comunice între ele și să facă schimb de date.
Astfel, un sistem care în trecut avea nevoie de mai multe componente poate acum să le reunească în doar câteva minute și să acționeze.
Sistemul poate fi conectat la o linie telefonică și să discute cu oamenii ca și cum ar fi o persoană reală. Conform lui Nell Norman, modelul de inteligență artificială ascultă, gândește și răspunde instantaneu.
Rezultatul este o voce sintetică care poate conversa fluent, poate improviza într-un mod natural și poate susține un dialog într-un mod care pare uman.
În plus, aceste sisteme au devenit ușor de utilizat de către oricine.
Evoluția în domeniu este majoră dacă avem în vedere faptul că, în anii trecuți, un astfel de lucru nu era posibil. De atunci, însă, aceste modificări au făcut și o serie de victime importante.
În ultimul an, compania britanică Arup a fost înșelată cu 25 de milioane de dolari într-o fraudă bazată pe o voce falsă generată de AI, iar compania Cisco a fost fraudată într-un atac de tip vishing, în urma căruia au fost extrase informații dintr-un sistem de gestionare a relațiilor cu clienții bazat pe cloudul pe care îl folosea.
Ambele atacuri implică folosirea inteligenței artificiale pentru a clona identitatea unor entități și pentru a obține încrederea victimelor.
Platforme precum ElevenLabs sau Cartesia pot clona voci reale cu doar câteva secunde de înregistrare audio, iar autoritățile americane, inclusiv FBI, avertizează că oficiali publici au fost deja imitați în astfel de atacuri. Sistemele care pot fi folosite în convorbiri telefonice astfel au fost create pentru a oferi suport în diverse domenii, cum ar fi asistența medicală sau serviciul de relații cu clienții. Totuși, a fost găsită rapid și o întrebuințare malițioasă a sistemului, care poate inclusiv să preia vocile persoanelor publice cunoscute, folosind înregistrări, și să le utilizeze pentru fraude.
Datele din baza MIT Risk Repository arată că, în ultimii cinci ani, proporția incidentelor de fraudă asociate AI a crescut de la 9% la aproape 48%. Acest lucru înseamnă că sistemele care până acum îi protejau pe consumatori nu mai sunt eficiente.
În astfel de condiții, Nell Norman atrage atenția că ”Vocea de la celălalt capăt al firului nu mai este o dovadă a identității cuiva. Așa cum am învățat să privim cu suspiciune e-mailurile, trebuie să învățăm acum să ne îndoim și de vocile care sună uman”.
