Tehnologia avansează până în punctul în care AI va face munca umană de mii de ori mai eficientă sau chiar o va înlocui, creând un nou set de riscuri, a declarat compania într-o lungă postare pe blog, semnată de cofondatorul Jack Clark și de Marina Favaro, directoarea Institutului Anthropic.
AI ar putea începe să se îmbunătățească și să-și construiască propriii succesori în următorii ani, diminuând rolul oamenilor, au scris Clark și Favaro în postarea intitulată “Când AI se construiește singură”, citați de Bloomberg.
“Această coliziune, în care inteligența recursivă care se construiește din ce în ce mai rapid întâlnește lumea oamenilor, a relațiilor și a guvernării, este o altă parte pe care n-o putem prezice a acestui viitor”, potrivit companiei.
Anthropic a comparat propunerea de reglementare a dezvoltării inteligenței artificiale cu reglementarea internațională a armelor nucleare, subliniind că orice mecanism care ar întrerupe procesul de dezvoltare a AI ar trebui, de asemenea, să se asigure că laboratoarele de AI mai puțin scrupuloase nu continuă să lucreze în secret pentru a avansa tehnologia.
Compania intenționează să organizeze conversații cu factori de decizie politică, cercetători și alte companii de inteligență artificială în următoarele luni, pentru a discuta o structură de “coordonare și deliberare” și va publica rezultatele, conform postării.
Nu este prima dată când companiile de cercetare în AI de frontieră solicită o pauză în dezvoltarea tehnologiei.
În 2023, Future of Life Institute, o organizație non-profit axată pe atenuarea riscurilor tehnologice, a solicitat o pauză de cel puțin șase luni pentru a pune bariere în calea inteligenței artificiale, avertizând cu privire la efectele potențial catastrofale.
Acordul de fost semnat de peste 1.000 de cercetători și directori de companii, printre care și miliardarul american Elon Musk.
Solicitarea a fost primită cu critici, opozanții argumentând că oprirea dezvoltării ar împiedica inutil inovația și că firmele americane care acceptă să frâneze ar oferi un avantaj altor țări.
Fostul director executiv al Google, Eric Schmidt, a avertizat că această pauză ar oferi un avantaj concurenților din China, care este angajată într-un război comercial tehnologic cu SUA.
Anthropic însăși a continuat să lanseze modele și instrumente avansate de AI, cum ar fi popularul său asistent Claude și noul model Mythos, despre care spune că poate detecta și exploata defectele de securitate cibernetică cu o viteză remarcabilă.
Compania se pregătește, de asemenea, pentru o ofertă publică inițială.
Anthropic a primit o evaluare de 965 de miliarde de dolari la cea mai recentă rundă de finanțare, depășind în premieră OpenAI, principalul său rival.
Autorii postării au admis că un “control al armelor” pentru inteligența artificială este mai dificil de realizat decât pentru alte tehnologii, însă au atras atenția că lumea nu poate aștepta decenii pentru a crea un astfel de mecanism.
“O încetinire sau o întrerupere semnificativă [a dezvoltării AI] ar necesita mai multe laboratoare cu resurse bune la frontieră sau în apropierea ei, în mai multe țări, care să fie de acord să se oprească în aceleași condiții. De asemenea, ar necesita ca fiecare să poată verifica dacă celelalte s-au oprit efectiv (…)
Nimic din toate acestea nu este neapărat imposibil în principiu - lumea a construit regimuri de verificare pentru alte tehnologii complexe (de exemplu, Tratatul Forțelor Nucleare cu Rază Intermediară de Acțiune) - dar aceste regimuri au necesitat decenii pentru a construi atât infrastructura, cât și încrederea. Nu avem atât de mult timp la dispoziție”, potrivit acestora.
