Este „copilul lui Dumnezeu”? Anthropic s-a întâlnit cu un grup de lideri religioși, încercând să deslușească cum trebuie plasat un chatbot din punct de vedere moral și spiritual

15 lideri creștini ai bisericilor catolice și protestante, din mediul academic și lumea afacerilor au participat la un summit de două zile organizat de Anthropic cu cercetători antropologi.

Reprezentanții companiei au cerut sfatul liderilor religioși cu privire la intersecția dintre inteligența artificială și religie, în încercarea de a crea direcția morală și spirituală a chatbot-ului Claude.

CITEȘTE ȘI Chatboții dau un diagnostic greșit în 80% din cazurile medicale inițiale - studiu

Printre temele abordate s-au numărat felul în care chatbot-ul ar trebui să răspundă unui utilizator care jelește pierderea unor apropiați și dacă Claude poate fi considerat sau nu unul dintre „copiii lui Dumnezeu”.

„Cresc ceva despre care nu știu exact cum va ieși” a spus pentru Washington Post preotul catolic Brendan McGuire, aflat printre participanții la discuții. Acesta crede că „trebuie integrată gândirea etică în mașină, astfel încât aceasta să se poată adapta dinamic”.

Fără să vorbească despre concluziile discuțiilor, Anthropic spune că este important să înțeleagă punctele de vedere ale diferitelor grupuri care formează societatea, în contextul în care AI-ul va avea un impact major asupra acesteia.

CITEȘTE ȘI WhatsApp vine cu o schimbare importantă: vei putea primi mesaje fără să îți mai arăți numărul de telefon

Claude are deja la bază o „Constituție” de 29.000 de cuvinte scrisă de filosoful Amanda Askell, care-i ghidează personalitatea și comportamentul.

Morala a devenit în ultima vreme important element de branding pentru Anthropic, după ce compania a refuzat să permită Pentagonului folosirea Claude pentru dezvoltarea armelor autonome și supravegherea în masă a oamenilor.

Anthropic se bucură de o creștere neașteptată a numărului de abonați, conform unor estimări independente, venită și pe fondul opoziției făcute de companie guvernului Trump.

Pe de altă parte, chiar acum a fost arătat că chatboții dau un diagnostic greșit în 80% din cazurile medicale inițiale.

Recent, un judecător federal a admis cererea Anthropic de blocare a deciziei administrației Trump de a pune compania pe lista neagră a entităților în care nu se poate avea încredere.

CITEȘTE ȘI Sony anunță concedieri

Deși este doar o decizie preliminară, care întrerupe aplicarea deciziei guvernamentale, aceasta reprezintă o primă luptă câștigată de Anthropic și dă speranțe companiei într-o decizie finală similară.

Anthropic a cerut întreruperea aplicării pentru a preveni efectele negative financiare și de imagine care puteau afecta companie pe durata procesului.

Rita Lin a considerat că pedepsirea Anthropic pentru faptul că a adus în atenția publică modul în care guvernul vrea să folosească inteligența artificială este un caz clasic de încălcare a Primului Amendament.

„Nimic din statutul aplicabil nu susține noțiunea orwelliană conform căreia o companie americană poate fi etichetată drept potențial adversar și sabotor al SUA pentru exprimarea dezacordului față de guvern” scrie judecătoarea în justificarea deciziei.

CITEȘTE ȘI România, asediată de hackeri. Instituțiile guvernamentale se confruntă zilnic cu mii de tentative de atac cibernetic - ministru

Administrația Trump a inclus Anthropic pe lista neagră a companiilor, după ce aceasta nu a fost de acord cu folosirea AI-ului Claude pentru dezvoltarea armelor automate și procesarea datelor pentru supraveghere în masă.

Din cauza introducerii pe lista neagră, nicio instituție guvernamentală și nicio companie care lucrează cu guvernul american nu mai avea voie să aibă legături cu producătorul Claude.

Anthropic este prima companie americană adăugată vreodată pe lista neagră de guvernul american.

O decizie finală în acest caz este așteptată peste mai multe luni.