Startupul xAI al lui Elon Musk a introdus restricții asupra funcției de generare și editare de imagini a chatbotului Grok pe platforma de social media X, după ce utilizarea inteligenței artificiale pentru crearea și publicarea de imagini sexualizate a provocat un val de critici, relatează Reuters.
Anterior, utilizatorii puteau solicita direct lui Grok, pe X, să editeze fotografii ale unor persoane – inclusiv să elimine articole de îmbrăcăminte sau să le plaseze în ipostaze sexualizate – adesea fără consimțământul celor vizați. Imaginile generate erau apoi publicate automat ca răspunsuri pe platformă, scrie News.ro.
Grok i-a informat pe utilizatori că funcțiile de generare și editare de imagini sunt disponibile doar pentru abonații plătitori ai X. Măsura pare să fi blocat generarea și publicarea automată a unor astfel de imagini ca răspuns la postări sau comentarii.
Totuși, utilizatorii pot în continuare să creeze imagini sexualizate din fila dedicată Grok, unde interacționează direct cu chatbotul, și să le posteze ulterior manual pe X. De asemenea, aplicația Grok separată de X permite în continuare generarea de imagini fără abonament.
xAI a răspuns solicitărilor Reuters pentru comentarii cu un mesaj automat: „Legacy Media Lies”. Platforma X nu a oferit un răspuns oficial.
Elon Musk a declarat săptămâna trecută că oricine folosește Grok pentru a crea conținut ilegal va fi sancționat la fel ca în cazul încărcării directe a unui astfel de material. Într-un test realizat vineri, un reporter Reuters a cerut lui Grok pe X să modifice o fotografie pentru a-l reprezenta purtând un costum de baie; chatbotul a refuzat și a indicat că funcția este disponibilă doar abonaților plătitori.
Comisia Europeană, care a calificat imaginile cu femei și copii dezbrăcați distribuite pe X drept ilegale și revoltătoare, a declarat că restricțiile introduse nu răspund preocupărilor sale.
”Limitarea generării de imagini la abonați plătitori nu schimbă problema de fond. Nu vrem să vedem astfel de imagini, indiferent dacă utilizatorii plătesc sau nu”, a spus un purtător de cuvânt al Comisiei.
Și alte guverne și autorități de reglementare au condamnat fenomenul, unele deschizând investigații privind conținutul explicit generat de Grok pe X, crescând presiunea asupra platformei pentru a demonstra cum previne și elimină materialele ilegale. Ministrul german al culturii și mass-media, Wolfram Weimer, a descris avalanșa de imagini semi-nude drept „industrializarea hărțuirii sexuale”.
