Alphabet, compania mamă a Google, și-a avertizat angajații cu privire la modul în care folosesc chatboturile, inclusiv propriul său Bard, în timp ce promovează programul în întreaga lume, au declarat patru persoane familiarizate cu problema, transmite Reuters.
Grupul și-a sfătuit angajații să nu introducă materialele sale confidențiale în chatboturile AI, au spus persoanele, iar compania a confirmat, invocând politica de lungă durată privind protecția informațiilor, scrie News.ro.
Chatboturile, printre care Bard și ChatGPT, sunt programe care imită inteligența umană, care folosesc așa-numita inteligență artificială generativă pentru a purta conversații cu utilizatorii și a răspunde la nenumărate solicitări.
Evaluatorii umani pot citi chaturile, iar cercetătorii au descoperit că AI similară ar putea reproduce datele pe care le-a absorbit în timpul antrenamentului, creând un risc de scurgere.
Alphabet și-a avertizat, de asemenea, inginerii să evite utilizarea directă a codului de computer pe care chatbotul îl poate genera, au spus unii dintre oameni.
Solicitată pentru comentarii, compania a spus că Bard poate face sugestii de cod nedorite, dar totuși îi ajută pe programatori.
Google a mai spus că își propune să fie transparent cu privire la limitările tehnologiei sale.
Preocupările arată modul în care Google dorește să evite prejudiciera afacerii din cauza software-ului pe care l-a lansat în concurență cu ChatGPT.
Miza în cursa Google împotriva susținătorilor ChatGPT OpenAI și Microsoft sunt investiții de miliarde de dolari și venituri din publicitate și din cloud din noile programe AI.
Avertizarea Google reflectă, de asemenea, ceea ce devine un standard de securitate pentru corporații, și anume avertizarea personalului cu privire la utilizarea programelor de chat disponibile public.
Un număr tot mai mare de companii din întreaga lume au instalat protecții față de chatbot-urile AI, printre acestea fiind Samsung, Amazon.com și Deutsche Bank, au declarat companiile pentru Reuters.
Apple, care nu a rîspuns cererilor de comentarii, se pare că a făcut-o de asemenea.
Aproximativ 43% dintre profesioniști au folosit ChatGPT sau alte instrumente de inteligență artificială începând cu luna ianuarie, adesea fără să spună șefilor, conform unui sondaj efectuat de site-ul de rețea Fishbowl, în rândul a aproape 12.000 de respondenți, inclusiv de la companii de top din SUA.
Până în februarie, Google a spus personalului care testa Bard înainte de lansare să nu-i ofere informații interne, a raportat Insider.
Acum, Google lansează Bard în peste 180 de țări și în 40 de limbi, ca o rampă de lansare pentru creativitate, iar avertismentele sale se extind la sugestiile sale de cod.
Google a declarat pentru Reuters că a avut conversații detaliate cu Comisia pentru Protecția Datelor din Irlanda și că abordează întrebările autorităților de reglementare, după un raport Politico de marți conform căruia compania a amânat lansarea Bard în UE săptămâna aceasta, în așteptarea mai multor informații despre impactul chatbotului asupra confidențialității.
Îngrijorări legate de informațiile sensibile
O astfel de tehnologie poate redacta e-mailuri, documente, chiar și software-ul în sine, promițând să accelereze considerabil sarcinile.
Cu toate acestea, în acest conținut pot fi dezinformări, date sensibile sau chiar pasaje cu drepturi de autor dintr-un roman ”Harry Potter”.
O notificare de confidențialitate Google actualizată la 1 iunie mai spune: ”Nu includeți informații confidențiale sau sensibile în conversațiile dvs. cu Bard”.
Unele companii au dezvoltat software pentru a răspunde unor astfel de preocupări. De exemplu, Cloudflare, care apără site-urile web împotriva atacurilor cibernetice și oferă alte servicii cloud, comercializează o capacitate pentru companii de a eticheta și de a restricționa unele date de la fluxul extern.
Google și Microsoft oferă, de asemenea, instrumente de conversație clienților de afaceri care vor veni cu un preț mai mare, dar se abțin de la absorbția datelor în modelele publice de AI.
Setarea implicită în Bard și ChatGPT este de a salva istoricul conversațiilor utilizatorilor, pe care utilizatorii îl pot șterge.
”Este logic” ca companiile să nu vrea ca personalul lor să folosească chatboturi publice pentru muncă, a declarat Yusuf Mehdi, directorul de marketing pentru consumatori al Microsoft.
”Companiile adoptă un punct de vedere conservator”, a spus Mehdi, explicând cum se compară chatbotul gratuit Bing de la Microsoft cu software-ul său pentru întreprinderi.
”Acolo, politicile noastre sunt mult mai stricte”, a arătat acesta.
Microsoft a refuzat să comenteze dacă are o interdicție generală pentru ca personalul să introducă informații confidențiale în programele publice de inteligență artificială, inclusiv în programele sale, deși un alt director de acolo a declarat pentru Reuters că și-a restricționat personal utilizarea.
Matthew Prince, CEO al Cloudflare, a spus că introducerea unor chestiuni confidențiale în chatbot-uri a fost ca ”a pierde o grămadă de doctoranzi în toate înregistrările tale private”.
