Mii de angajați și contractori externi din întreaga lume ai gigantului american Amazon, printre care și unii care lucrează la centrul de dezvoltare deschis anul trecut de cel mai mare retailer online în România, în complexul de birouri Globalworth Campus din Pipera, ascultă înregistrări audio efectuate în locuințele utilizatorilor difuzorului inteligent Echo Dot prin intermediul asistentului digital Alexa, scrie Bloomberg.
Centrul de dezvoltare al Amazon din Pipera, cu o suprafață de 13.000 mp și inaugurat în mai 2018, se ocupă și cu dezvoltarea abilităților lingvistice ale asistentului Alexa, respectiv cu construirea limbajului din spatele dispozitivului.
28 noiembrie - Profit Financial.forum
"Zeci de milioane de oameni folosesc difuzoare inteligente și sisteme software activate vocal pentru a juca jocuri, a găsi muzică și a găsi răspunsuri la întrebări de cultură generală. Și mai mulți însă sunt reticenți în a face asta de teamă că cineva ar putea să asculte ce vorbesc prin intermediul acestor dispozitive și a microfoanelor performante cu care sunt echipate acestea. Uneori, într-adevăr, cineva ascultă", notează Bloomberg.
În ianuarie, Amazon a anunțat că asistentul său digital Alexa există în 100 de milioane de dispozitive vândute. Nu se știe câte dintre cele 100 de milioane de dispozitive cu Alexa sunt produse de Amazon și câte sunt ale altor producători. În plus, volumul vânzărilor de dispozitive nu este un indicator clar al utilizării asistentului digital. Faptul că au fost vândute 100 de milioane de produse cu Alexa nu înseamnă că asistentul are 100 de milioane de utilizatori.
Potrivit Bloomberg, mii de oameni angajați de Amazon în întreaga lume lucrează la îmbunătățirea performanțelor asistentului digital Alexa. Aceștia ascultă înregistrări vocale efectuate în locuințele și birourile utilizatorilor Echo. Înregistrările sunt transcrise, adnotate și reinserate în software ca parte a unui demers de eliminare a blocajelor de înțelegere a limbajului uman ale Alexa și de îmbunătățire a capacității sale de a răspunde la comenzi.
Procesul de analiză și optimizare a abilităților lingvistice ale Alexa, din care face parte și această operațiune de interceptare și ascultare a convorbirilor clienților, scoate în evidență implicarea umană în "trainingul" algoritmilor software. Deși marketingul Amazon susține că "Alexa trăiește în cloud și devine tot timpul mai inteligentă", și asistentul digital, precum multe alte dispozitive programate să învețe din experiență, are parte de "profesori" umani.
Echipa globală care se ocupă de asta include angajați full time și contractori externi care lucrează în locuri precum Boston, Costa Rica, India sau România. Ei muncesc 9 ore pe zi și fiecare dintre ei analizează până la 1.000 de înregistrări audio zilnic, potrivit declarațiilor făcute pentru Bloomberg de doi angajați ai centrului Amazon de la București, care au dorit să-și păstreze anonimatul întrucât au semnat acorduri de confidențialitate care le interzic să vorbească public despre acest program.
Un lucrător din Boston spune că a "minat" date vocale cu privire la diferite modalități de pronunție a succesiunii de cuvinte "Taylor Swift" și le-a adnotat pentru a indica faptul că utilizatorii care o rostesc se referă la cântăreața respectivă și caută melodii de-ale ei. Uneori sunt interceptate și elemente pe care clienții ar prefera să le păstreze private: o femeie care cântă extrem de fals la duș sau un copil care țipă după ajutor. Echipa folosește camere interne de chat pentru a face schimb de fișiere, de exemplu când nu se înțelege un cuvânt dintr-o înregistrare sau când cineva dă peste una amuzantă.
Însă unele înregistrări sunt sensibile și chiar îngrijorătoare. Două persoane intervievate de Bloomberg au susținut că au interceptat ceva ce părea să semnaleze o agresiune sexuală. Când apar astfel de situații, fișierele pot fi distribuite prin camerele interne de chat celorlalți membri ai echipei, inclusiv ca modalitate de eliberare a stresului. Amazon spune că a pus la punct proceduri de urmat atunci când apar înregistrări de acest tip, însă doi dintre cei care lucrează la centrul din Pipera au declarat că, după ce au cerut îndrumare într-o astfel de situație, li s-a spus că nu e treaba Amazon să intervină.
"Luăm foarte în serios securitatea și confidențialitatea informațiilor personale ale clienților noștri. Adnotăm doar mostre extrem de scurte de înregistrări audio Alexa pentru a îmbunătăți experiența utilizatorilor. Avem reguli tehnice și operaționale stricte în acest scop și o politică de toleranță zero față de abuzuri. Angajații nu au acces direct la informații prin care ar putea identifica persoanele sau conturile. Toate informațiile sunt tratate la cel mai înalt nivel de confidențialitate și folosim modalități de autentificare multifactor de restricționare a accesului, sisteme de încriptare și audituri ale procedurilor de control pentru a proteja această confidențialitate", a declarat un purtător de cuvânt al Amazon.
Setările de confidențialitate ale Alexa prevăd opțiunea de dezactivare a înregistărilor vocale folosite la dezvoltarea de noi aplicații. Însă un screenshot văzut de Bloomberg a arătat că înregistrările trimise echipei de analiști Amazon, deși nu conțin numele și adresele complete ale utilizatorilor, sunt totuși asociate cu numere de cont și dezvăluie numele mici ale acestora, precum și seriile device-urilor care au făcut înregistrările.
Amazon a lansat recent un anunț de job disponibil, pentru postul de manager de asigurare a calității la Alexa Data Services din București. Acesta descrie rolul jucat de oameni în îmbunătățirea abilităților de comunicare ale asistentului digital: "În fiecare zi, ea ascultă mii de oameni care îi vorbesc despre diferite subiecte și în diferite limbi și are nevoie de ajutor pentru a înțelege. Este vorba de analiză big data cum n-ai mai văzut până acum. Creăm, etichetăm, selectăm și analizăm mari cantități de discurs zilnic".
Analiza începe cu Alexa care selectează la modul random o mică mostră din înregistrările conținând vocea utilizatorului și trimite fișierele audio echipei de analiști răspândiți în întreaga lume. Unii dintre aceștia transcriu comenzile utilizatorilor, compară înregistrările cu transcrierile automate ale Alexa sau adnotează interacțiunea dintre utilizator și robot. Ce a cerut persoana respectivă? Răspunsul Alexei a fost mulțumitor?
Alții notează tot ce înregistrează difuzorul inteligent, inclusiv conversații de fundal și chiar și atunci când cei care vorbesc sunt copii. Uneori sunt interceptate detalii care ar trebui să rămână private, cum ar fi nume sunt informații bancare. În astfel de cazuri, analiștii trebuie să marcheze fișierul cu eticheta "date critice".
Potrivit site-ului Amazon, nicio înregistrare audio nu este stocată până când Echo nu este activat vocal sau prin apăsarea unui buton. Însă uneori Alexa pare să înceapă să înregistreze fără nici un fel de comandă, iar fișierile audio trimise de ea încep cu zgomote ininteligibile sau cu sunete provenite de la televizoare deschise în locuințele respective. Chiar dacă activarea se face din greșeală, analiștii trebuie să transcrie înregistrările. Sursele Bloomberg spun că analiștii transcriu fiecare zilnic și 100 de înregistrări făcute fără ca Alexa să fi primit vreo comandă.
Potrivit celor intervievați, în locuințe din întreaga lume, utilizatorii Echo speculează sau glumesc despre faptul că sunt interceptați: "Alexa, lucrezi pentru NSA (serviciul de informații al Pentagonului – n.r.)? Alexa, mai ascultă cineva ce vorbim?".
Amazon a inaugurat centrul de dezvoltare din Pipera în primăvara anului trecut. "Amazon a intrat în România în 2005 și am ajuns la peste 1.000 de angajați și investiții de 100 milioane de euro. Vrem să angajăm în continuare. Fără a avea un termen, vrem să angajăm circa 650 de persoane. Căutăm specialiști în lingvistică și ingineri software", declara, cu această ocazie, Lucian Vornicu, managing director Amazon România.
