Este vorba despre o anchetă penală privind chatbotul Grok AI, a anunțat Parchetul din Paris într-o postare pe X.
Raidul este legat de o anchetă privind suspiciuni de abuz de algoritmi și extragere frauduloasă de date de către X sau directorii săi, scrie Hotnews.ro.
Într-o declarație, Parchetul din Paris a afirmat însă că extinde ancheta în urma plângerilor privind funcționarea chatbotului Grok, bazat pe inteligență artificială, al companiei X.
Ancheta va investiga acum și presupusa complicitate la reținerea și difuzarea de imagini cu caracter pornografic infantil și încălcarea drepturilor de imagine ale unei persoane cu imagini deepfake sexuale explicite, printre alte potențiale infracțiuni.
Anterior, procurorii investigau de asemenea acuzațiile privind negarea crimelor împotriva umanității (negarea Holocaustului), după o serie de izbucniri antisemite ale chatbotului Grok AI.
Parchetul a anunțat că proprietarul X, Elon Musk, și fosta directoare generală Linda Yaccarino au fost citați pentru „interviuri voluntare” pe 20 aprilie, a anunțat Parchetul într-un comunicat de presă.
„O abordare constructivă”
„În acest stadiu, desfășurarea acestei anchete face parte dintr-o abordare constructivă, cu scopul de a asigura, în ultimă instanță, că platforma X respectă legislația franceză, în măsura în care operează pe teritoriul național”, se arată în comunicat.
Procuratura din Paris a declarat că a lansat ancheta după ce a fost contactată de un parlamentar care susținea că algoritmii părtinitori din X ar fi putut distorsiona funcționarea unui sistem automatizat de prelucrare a datelor.
Procuratura a mai declarat că părăsește platforma X și că, de acum înainte, va comunica pe LinkedIn și Instagram. LinkedIn aparține Microsoft, iar Instagram aparține Meta.
Milioane de imagini sexualizate, dintre care 23.000 cu copii
Un studiu recent a estimat că Grok ar fi produs până la trei milioane de imagini sexualizate, dintre care 23.000 cu copii, într-o perioadă de în 11 zile, în ianuarie.
Comisia Europeană a deschis, de asemenea, o nouă anchetă în conformitate cu regulamentul UE privind platformele online și a declarat că explorează posibilitatea interzicerii aplicațiilor în conformitate cu legea privind IA.
Parchetul din Paris a declarat că percheziția de marți a fost efectuată de unitatea sa de combatere a criminalității informatice, împreună cu agenția de aplicare a legii a UE, Europol.
Ancheta vizează de la deepfake-uri cu conținut sexual explicit, care facilitează distribuirea de materiale cu abuzuri sexuale asupra copiilor, până la diseminarea de conținut care neagă Holocaustul, a declarat parchetul.
AI-ul Grok nu mai dezbracă decât bărbați
După săptămâni de critici din toate părțile, inclusiv de la autoritățile de reglementare ale mai multor țări, AI-ul lui Elon Musk pare să fi rezolvat parțial problema, în sensul că nu mai dezbracă femei și copii, dar continuă să dezbrace bărbați.
La începutul anului, pe X, platforma socială a lui Elon Musk, se viralizau cu mare viteză numeroase imagini cu femei, chiar și cu copii, dezbrăcați artificial de Grok, chatbot-ul dezvoltat de X.
Imaginile, generate fără acordul persoanelor care apăreau în ele, au determinat autoritățile din mai multe regiuni fie să înceapă investigații, fie să blocheze temporar accesul la Grok.
Ca răspuns, inițial, xAI a decis să limiteze accesul la funcția de dezbrăcare, care nu mai putea fi folosită de orice utilizator, ci doar de abonați.
Ulterior, compania a anunțat că a restricționat această facilitate, pentru a nu mai putea fi folosită de absolut nimeni. În realitate, abia după mai multe zile a devenit imposibilă dezbrăcarea femeilor și copiilor.
La o lună după izbucnirea scandalului, xAI nu a blocat nici acum complet dezbrăcarea oamenilor, aceasta fiind încă posibilă în cazul bărbaților.
Comenzile banale nu mai pot fi folosite pentru a crea imagini explicite, dar, cu puțină creativitate, utilizatorii încă mai pot păcăli limitările impuse de companie pentru a dezbrăca oameni cu Grok.
Comisia Europeană a deschis o anchetă împotriva X
X este anchetată de Comisia Europeană pentru că nu a împiedicat chatbotul Grok AI să răspândească imagini deepfake „ce pot constitui material susceptibil de abuz sexual asupra copiilor”.
Scandalul imaginilor generate de Grok a avut un impact mondial de la începutul acestui an. Pornind de la simpla comandă „Grok, pune-o în bikini”, mii de utilizatori ai rețelei sociale X au dezbrăcat fără consimțământul lor femei, adolescente și chiar copii, grație inteligenței artificiale integrate în platformă.
Comisia Europeană a declarat că ancheta, care riscă să atragă un nou val de critici din partea Casei Albe, va verifica dacă platforma socială a evaluat și a atenuat în mod corespunzător riscurile asociate cu implementarea Grok în X în cele 27 de țări ale UE.
„Deepfake-urile sexuale neconsensuale cu femei și copii sunt o formă violentă și inacceptabilă de degradare”, a declarat comisarul european pentru tehnologie, Henna Virkkunen. Cazul intră sub incidența regulamentului blocului european privind conținutul online, Legea serviciilor digitale, care impune restricții asupra materialelor dăunătoare și ilegale de pe internet.
În conformitate cu DSA, care a intrat în vigoare în 2023, UE poate aplica platformelor online amenzi de până la 6% din veniturile lor globale anuale pentru că nu au combătut conținutul ilegal și dezinformarea sau nu au respectat regulile de transparență.
